{"id":14868,"date":"2024-02-19T23:17:26","date_gmt":"2024-02-19T22:17:26","guid":{"rendered":"https:\/\/largeur.com\/?p=14868"},"modified":"2024-02-07T16:53:51","modified_gmt":"2024-02-07T15:53:51","slug":"ethique-3","status":"publish","type":"post","link":"https:\/\/largeur.com\/?p=14868","title":{"rendered":"\u00abNous avons constamment un temps de retard sur l\u2019IA\u00bb"},"content":{"rendered":"

Une version de cet article r\u00e9alis\u00e9 par Large Network est parue dans\u00a0PME<\/a>.<\/p>\n

_______<\/p>\n

\u00abAucune intelligence artificielle n\u2019est neutre. Toutes ont \u00e9t\u00e9 cr\u00e9\u00e9es selon un mod\u00e8le, un but, un int\u00e9r\u00eat.\u00bb Anna Jobin est sociologue et sp\u00e9cialiste en \u00e9thique de l\u2019intelligence artificielle (IA). Chercheuse \u00e0 l’Institut Human-IST de l\u2019Universit\u00e9 de Fribourg et collaboratrice \u00e0 l’Institut Humboldt pour Internet et la soci\u00e9t\u00e9 de Berlin en Allemagne, elle s\u2019int\u00e9resse notamment aux enjeux et aux r\u00e9percussions sociales des nouvelles technologies. Anna Jobin a aussi travaill\u00e9 sur le sujet des chartes \u00e9thiques de l\u2019IA.<\/p>\n

De notre \u00e9coute de musique aux g\u00e9n\u00e9rateurs en ligne, l\u2019IA est aujourd\u2019hui omnipr\u00e9sente dans nos soci\u00e9t\u00e9s. Mais \u00e0 quel prix? La protection des donn\u00e9es personnelles se heurte au d\u00e9veloppement d\u2019IA plus compl\u00e8tes, une \u00e9tape pourtant n\u00e9cessaire pour \u00e9liminer les discriminations algorithmiques \u2013 qui reproduisent des st\u00e9r\u00e9otypes sociaux et culturels. La r\u00e9gulation politique appara\u00eet quant \u00e0 elle indispensable.<\/p>\n

Pourquoi faut-il int\u00e9grer l\u2019\u00e9thique \u00e0 l\u2019intelligence artificielle?<\/strong><\/p>\n

Anna Jobin:<\/strong> Toute technologie s\u2019inscrit dans un contexte donn\u00e9 et n\u2019est donc jamais neutre. Une IA ne pense pas par elle-m\u00eame: elle est programm\u00e9e, d\u00e9ploy\u00e9e et utilis\u00e9e par des humains qui y int\u00e8grent leur mode de pens\u00e9e. S’ajoutent les int\u00e9r\u00eats particuliers des grandes entreprises multinationales, les \u00abbig tech\u00bb, tr\u00e8s actives dans le domaine. Chaque IA est donc normative, puisqu\u2019elle fonctionne selon des principes choisis, qu\u2019elle propage.<\/p>\n

Ces nouvelles technologies sont de plus en plus pr\u00e9sentes et agissent sur tous les domaines d\u2019activit\u00e9s. Quelles sont les valeurs qu\u2019elles v\u00e9hiculent? Que sommes-nous pr\u00eats \u00e0 accepter? Ces questions sont essentielles. L\u2019\u00e9thique doit \u00eatre int\u00e9gr\u00e9e d\u00e8s le d\u00e9veloppement de l\u2019IA.<\/p>\n

Vous avez \u00e9tudi\u00e9 les chartes \u00e9thiques en mati\u00e8re d\u2019IA, quels en sont les grands enseignements?<\/strong><\/p>\n

En 2019, avec deux coll\u00e8gues chercheurs de l\u2019EPFZ, nous avons analys\u00e9 84 chartes \u00e9thiques provenant d\u2019organismes publics, d\u2019ONG ou d\u2019entreprises. L\u2019objectif consistait \u00e0 identifier les lignes principales de ces chartes. R\u00e9sultat: quatre th\u00e8mes cristallisent le d\u00e9bat, \u00e0 savoir la transparence, la justice et l\u2019\u00e9quit\u00e9, la non-malfaisance et la responsabilit\u00e9. Ces principes \u00e9thiques se retrouvent en effet dans plus de deux tiers des documents. Chaque charte dispose n\u00e9anmoins d\u2019une interpr\u00e9tation et d\u2019obligations particuli\u00e8res pour ces diff\u00e9rents principes, ce qui illustre bien la difficult\u00e9 de passer de la th\u00e9orie \u00e0 la pratique.<\/p>\n

Certains organismes donnent des exemples d\u2019application concrets concernant la ligne rouge \u00e0 ne pas franchir. Mais ces chartes pr\u00e9sentent aussi des contradictions non \u00e9lucid\u00e9es, comme par exemple le fait de vouloir d\u00e9velopper des logiciels moins discriminatoires qui n\u00e9cessitent une plus grande quantit\u00e9 de donn\u00e9es, tout en souhaitant en parall\u00e8le de respecter la vie priv\u00e9e en limitant la collection d\u2019information.<\/p>\n

Les chartes \u00e9thiques sont-elles de v\u00e9ritables am\u00e9liorations ou plut\u00f4t des outils d\u2019\u201cethic washing<\/em>\u201d?<\/strong><\/p>\n

Ces chartes constituent une approche int\u00e9ressante mais ce n’est qu’une \u00e9tape. Aucun principe \u00e9thique n\u2019est suffisant. Il faut aller plus loin, le pr\u00e9ciser, l’approfondir. Ces principes peuvent n\u00e9anmoins servir de premier pas afin de d\u00e9velopper des mesures concr\u00e8tes. Ce sont ces efforts de recherche et d\u2019impl\u00e9mentation au quotidien de l\u2019entreprise qui distinguent les am\u00e9liorations v\u00e9ritables de l\u2019\u201cethic washing<\/em>\u201d, autrement dit la publication de chartes creuses qui visent seulement \u00e0 donner une bonne image.<\/p>\n

Cette probl\u00e9matique n’a pas commenc\u00e9 avec l’IA. Elle s’inscrit plus largement dans les questions li\u00e9es la responsabilit\u00e9 sociale des entreprises. De la m\u00eame mani\u00e8re que les entreprises devraient se soucier de leur impact social et environnemental, elles devraient \u00e9galement s\u2019inqui\u00e9ter de leur responsabilit\u00e9 en mati\u00e8re de collecte et de traitement des donn\u00e9es. Les chartes \u00e9thiques pour l’IA forcent \u00e0 r\u00e9fl\u00e9chir \u00e0 un cadre adapt\u00e9 pour le contexte num\u00e9rique.<\/p>\n

Par ailleurs, les principes \u00e9thiques repr\u00e9sentent aussi des leviers de mobilisation pour les employ\u00e9s, comme dans le cas de Google. \u00c0 l\u2019origine, Google revendiquait la devise \u00abdon\u2019t be evil\u00bb, soit \u00abne soyons pas malveillants\u00bb. Or, lorsqu\u2019en mars 2018, Google rendait public son implication dans un projet militaire du Pentagone \u2013 projet qui consistait \u00e0 appuyer l\u2019arm\u00e9e am\u00e9ricaine dans le traitement des donn\u00e9es r\u00e9colt\u00e9es par ses drones \u2013, certains employ\u00e9s ont protest\u00e9 en s’appuyant sur ce principe \u00e9thique de non-malveillance de la firme. La formule a finalement chang\u00e9 depuis pour devenir \u00abdo the right thing\u00bb (\u00abfaites ce qui est juste\u00bb).<\/p>\n

\"\"<\/p>\n

Comment s\u2019assurer qu\u2019une IA soit d\u00e9velopp\u00e9e de mani\u00e8re transparente?<\/strong><\/p>\n

Les r\u00e9gulations politiques sont indispensables. L\u2019Union europ\u00e9enne a d\u00e9j\u00e0 mis en place son R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es (RGPD) en 2018. Dans les faits, cette l\u00e9gislation concerne pratiquement toutes les entreprises car elle s’adresse \u00e0 toute organisation visant un march\u00e9 ou m\u00eame des citoyens individuels de l’UE. La Suisse a \u00e9galement instaur\u00e9 une nouvelle loi sur la protection des donn\u00e9es (nLPD), entr\u00e9e en vigueur en septembre 2023. Entretemps, fin 2023, l’UE a \u00e9labor\u00e9 une nouvelle loi sur l’IA qui devrait \u00eatre prochainement ratifi\u00e9e. Cette derni\u00e8re vise \u00e0 am\u00e9liorer la gestion des risques pos\u00e9s par le d\u00e9ploiement des outils IA et \u00e9galement \u00e0 augmenter les exigences de transparence.<\/p>\n

La transparence est cruciale car elle sert de base d’action. Mais encore faut-il pouvoir agir. Les utilisateurs et les PME sont un peu les derniers maillons de la chaine, \u00e0 qui on demande d’agir et de s’adapter, alors que leur marge de man\u0153uvre reste limit\u00e9e. D\u2019un c\u00f4t\u00e9, les entreprises ont davantage d’outils \u00e0 disposition, mais de l’autre, elles d\u00e9pendent de plus en plus des fournisseurs et n’ont pas leur mot \u00e0 dire sur leur d\u00e9veloppement. Id\u00e9alement, les questions de gouvernance iront donc plus loin que la seule transparence. Elles devraient par exemple \u00e9galement impliquer des aspects d’inclusion, d’\u00e9quit\u00e9, de s\u00e9curit\u00e9 ou encore de durabilit\u00e9.<\/p>\n

La Suisse est-elle bien plac\u00e9e en la mati\u00e8re?<\/strong><\/p>\n

Le fait qu\u2019on discute de ces questions aujourd\u2019hui est d\u00e9j\u00e0 positif. La probl\u00e9matique est devenue plus \u00e9conomique et sociale qu’informatique, ce qui permet au d\u00e9bat de sortir des cercles sp\u00e9cialis\u00e9s pour entrer dans le domaine public. Le pays compte aussi d\u2019excellentes universit\u00e9s et centres de recherche, \u00e0 la fois techniques mais aussi sp\u00e9cialis\u00e9s dans les aspects politiques et sociaux des innovations. Au niveau de la protection des utilisateurs, la nLPD est une avanc\u00e9e. Mais Il reste encore beaucoup \u00e0 faire, notamment en mati\u00e8re de pr\u00e9vention des dommages collectifs, de soutien aux PME ou de sensibilisation du grand public.<\/p>\n

Comment d\u00e9terminer la responsabilit\u00e9 en cas de d\u00e9rive?<\/strong><\/p>\n

Il faudrait commencer par faire respecter la situation juridique actuelle, ce que l’\u00e8re num\u00e9rique, avec sa d\u00e9mat\u00e9rialisation et son internationalisation, ne facilite pas. En effet, la collecte et l\u2019utilisation des donn\u00e9es num\u00e9riques sont souvent invisibles. La responsabilit\u00e9 est donc souvent difficile \u00e0 d\u00e9terminer, entre l\u2019entreprise qui cr\u00e9e les produits num\u00e9riques, celle qui les publie ou encore ceux qui la rediffusent. Tout est imbriqu\u00e9.<\/p>\n

Il faut d\u2019abord assurer un cadre l\u00e9gal clair afin d\u2019\u00e9viter de renvoyer la responsabilit\u00e9 des grandes entreprises et des plateformes sur les utilisateurs. Cette responsabilit\u00e9 concerne autant le d\u00e9veloppement des IA que leurs utilisations connexes. En effet, le terme IA regroupe une multitude de technologies et de champs d’applications. Il s\u2019agit donc \u00e0 la fois de prot\u00e9ger les victimes de deepfake<\/em> pornographiques, de pr\u00e9venir les discriminations algorithmiques ou encore d’assurer une \u00e9quit\u00e9 dans la distribution des b\u00e9n\u00e9fices li\u00e9s \u00e0 l\u2019IA.<\/p>\n

Un autre enjeu majeur se trouve au niveau de l\u2019information, notamment en ce qui concerne les images g\u00e9n\u00e9r\u00e9es par intelligence artificielle. Celles-ci devraient \u00eatre marqu\u00e9es afin d\u2019\u00eatre facilement identifiables. Concr\u00e8tement, cela pourrait consister \u00e0 la fois en une information suppl\u00e9mentaire dans le fichier m\u00eame \u2013 ce qu\u2019on appelle les metadonn\u00e9es \u2013, associ\u00e9 \u00e0 un marqueur rapidement visible \u00e0 l\u2019\u0153il humain, par exemple.<\/p>\n

Comment pr\u00e9venir la reproduction des st\u00e9r\u00e9otypes sociaux et culturels par les IA?<\/strong><\/p>\n

Les IA fonctionnent avec des calculs probabilistes, donc les discriminations algorithmiques ne sont pas surprenantes en soi! Pour le dire simplement: les IA ont \u00e9t\u00e9 entra\u00een\u00e9es sur des donn\u00e9es majoritairement g\u00e9n\u00e9r\u00e9es en Occident et reprennent donc les repr\u00e9sentations collectives num\u00e9riques de nos soci\u00e9t\u00e9s, avec leurs st\u00e9r\u00e9otypes. Elles sont en outre bas\u00e9es sur le pass\u00e9. Leurs mod\u00e8les sont en effet cr\u00e9\u00e9s \u00e0 partir des donn\u00e9es existantes, qui produisent donc des r\u00e9sultats selon des choix politiques anciens. Les IA ont ainsi tendance \u00e0 reproduire des mod\u00e8les st\u00e9r\u00e9otyp\u00e9s, qui risquent en outre de se renforcer.<\/p>\n

Pour contrer cette tendance, il faut d\u00e9j\u00e0 \u00eatre conscient de ces m\u00e9canismes de reproduction des clich\u00e9s, et, par exemple, \u00e9largir les sources des donn\u00e9es pour avoir un contenu plus diversifi\u00e9. Il faudrait \u00e9galement tester les mod\u00e8les des algorithmes pour contrer ces biais. Je suis toujours surprise quand je vois des produits IA lanc\u00e9s et vendus sans que les garde-fous \u00e9thiques les plus \u00e9vidents soient mis en place. Difficile d’imaginer \u00e7a pour d’autre types de produits r\u00e9pondants \u00e0 des crit\u00e8res de qualit\u00e9.<\/p>\n

Les PME devraient-elles utiliser davantage des intelligences artificielles, \u00e0 l\u2019instar de ChatGPT?<\/strong><\/p>\n

Un peu d’exp\u00e9rimentation ne fait pas de mal si elle se fait de mani\u00e8re \u00e9clair\u00e9e. Il s\u2019agit d\u2019utiliser un outil IA en connaissance de cause. Comme pour toute autre solution num\u00e9rique, certains crit\u00e8res peuvent aider \u00e0 se d\u00e9cider: il faut qu’elle soit pertinente pour l’entreprise et sa strat\u00e9gie, qu’elle soit int\u00e9grable et qu’elle repr\u00e9sente un r\u00e9el ajout.<\/p>\n

L\u2019IA consomme \u00e9norm\u00e9ment d\u2019\u00e9nergie, comment \u00e9valuer son impact sur l\u2019environnement?<\/strong><\/p>\n

Il est difficile de chiffrer l’empreinte environnementale des IA puisqu\u2019il n\u2019existe pas de standards de mesure. L\u2019impact d\u00e9pendra notamment de la mani\u00e8re dont est produite l’\u00e9lectricit\u00e9, utilis\u00e9e \u00e0 la fois pour entrainer le mod\u00e8le de base et pour l’utilisation concr\u00e8te. Bien qu’il y ait des utilisations d’IA b\u00e9n\u00e9fiques pour l’environnement, comme par exemple l’optimisation de l’efficacit\u00e9 \u00e9nerg\u00e9tique, ce n’est clairement pas le cas pour une majorit\u00e9 des usages.<\/p>\n

_______<\/strong><\/p>\n

Bio express<\/strong><\/p>\n

1982<\/strong>: Naissance \u00e0 Belp (BE)<\/p>\n

2012<\/strong>: D\u00e9buts dans le monde de la recherche au DHLAB de l’EPFL<\/p>\n

2016<\/strong>: D\u00e9part pour les \u00c9tats-Unis, en tant que chercheuse invit\u00e9e \u00e0 l’Universit\u00e9 de Cornell<\/p>\n

2019<\/strong>: Publication de l’article de r\u00e9f\u00e9rence \u00abThe global landscape of AI ethics guidelines\u00bb dans la revue Nature Machine Intelligence<\/em><\/p>\n

2021<\/strong>: Pr\u00e9sidente de la Commission f\u00e9d\u00e9rale pour les m\u00e9dias (membre depuis 2020)<\/p>\n

2021<\/strong>: Nomination parmi les \u00ab100 brilliant women in AI ethics\u00bb, classement annuel de l\u2019organisation internationale Women in AI Ethics<\/p>\n

2023<\/strong>: Chercheuse \u00e0 l’Universit\u00e9 de Fribourg, cr\u00e9ation du master Digital Society<\/p>\n","protected":false},"excerpt":{"rendered":"

Entre les discriminations algorithmiques, la protection des donn\u00e9es et l\u2019int\u00e9r\u00eat des chartes \u00e9thiques, l\u2019IA soul\u00e8ve de nombreuses questions morales. Les r\u00e9ponses d\u2019Anna Jobin, sociologue sp\u00e9cialiste de l\u2019\u00e9thique des algorithmes et de l\u2019intelligence artificielle.<\/p>\n","protected":false},"author":20256,"featured_media":14869,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-14868","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kapital","kapital"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/posts\/14868","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/users\/20256"}],"replies":[{"embeddable":true,"href":"https:\/\/largeur.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=14868"}],"version-history":[{"count":2,"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/posts\/14868\/revisions"}],"predecessor-version":[{"id":14871,"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/posts\/14868\/revisions\/14871"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/largeur.com\/index.php?rest_route=\/wp\/v2\/media\/14869"}],"wp:attachment":[{"href":"https:\/\/largeur.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=14868"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/largeur.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=14868"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/largeur.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=14868"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}