Risques de l’IA

Autant l’IA peut créer de nouveaux emplois, autant elle risque d’en éliminer. La crainte de se faire remplacer par l’IA est de plus en plus répandue dans la population. À cet effet, 36 % de la population mondiale pense que l’IA va remplacer son emploi d’ici cinq ans [1]. Certaines catégories d’emploi sont particulièrement vulnérables, ce qui pourrait aggraver les inégalités économiques et sociales : l’écart risque de se creuser entre les pays capables d’investir massivement en IA et les pays moins nantis [2].

De plus en plus d’agents d’IA sont utilisés pour collecter et analyser des données personnelles. Ces opérations se font parfois en violation de la vie privée. Par exemple, les réseaux sociaux, les assistants vocaux, les caméras de surveillance et les dispositifs de reconnaissance faciale peuvent recueillir des informations sensibles sans consentement explicite des personnes concernées. Cela augmente les risques d’une surveillance intrusive [3]. Dans certains pays, l’utilisation de la surveillance par l’IA a été critiquée pour son atteinte à la vie privée et à la liberté de la population.

L’IA repose sur des modèles pouvant contenir des biais . Un biais dans un ensemble de données est une sous-représentation ou une surreprésentation de certaines données. Par exemple, si les données d’entrainement d’un modèle d’IA contiennent des biais historiques ou sociaux, ces biais peuvent être reproduits et même amplifiés par les agents d’IA. Cela peut se traduire par des discriminations dans des processus d’embauche, des évaluations de crédit ou l’accès à la propriété, par exemple.

L’intégration de l’IA au sein d’une organisation peut entrainer des changements importants. Par exemple, une entreprise qui souhaite automatiser une partie de son service à la clientèle doit potentiellement rehausser son infrastructure technologique, entrainer et maintenir un modèle d’IA, gérer de la résistance au changement, repenser une partie de ses processus, revoir les rôles et responsabilités des gens, former du personnel à utiliser la nouvelle technologie, etc.

Les agents d’IA peuvent être la cible de cyberattaques sophistiquées. Des pirates informatiques peuvent exploiter des failles de sécurité pour voler des informations sensibles ou manipuler des algorithmes pour amener les agents automatisés à prendre de mauvaises décisions [4]. Par exemple, une attaque contre un agent d’IA qui gère des stocks pourrait entrainer des perturbations majeures dans la chaine d’approvisionnement d’une entreprise, faire grimper ses couts et nuire à sa réputation.

La fiabilité des agents d’IA est une préoccupation importante. Des erreurs dans les algorithmes peuvent engendrer des décisions erronées. Dans certains domaines, comme en médecine, ces erreurs pourraient être lourdes de conséquences. À qui revient alors l’imputabilité? À l’IA? Aux personnes qui l’ont développée?  À l’humain qui l’utilise? La Loi demeure floue sur l’encadrement des technologies émergentes.  Les défis juridiques et éthiques sont considérables.

Une dépendance élevée à l’IA peut rendre une organisation vulnérable aux pannes, aux défaillances technologiques et aux erreurs algorithmiques. Une organisation qui dépend de l’IA de façon importante pourrait peiner à fonctionner sans cette technologie.

L’utilisation de l’IA dans des situations délicates, comme dans des enquêtes policières, peut éroder la confiance du public envers les institutions [5]. Similairement, la possibilité de générer du contenu parfois erroné ou fallacieux, comme de fausses nouvelles et des hypertrucages , réduit la confiance du public en l’information et rend plus difficile la distinction du vrai du faux.

Attention! Le préfixe « hyper » est généralement soudé à l’élément qui le suit. L’élément « hyper » vient du grec « huper », qui signifie « au-dessus, au-delà ». Il entre dans la composition de noms et d’adjectifs des domaines scientifique et technique. Le terme « hypertrucage » peut désigner autant le procédé que son résultat. (Vitrine linguistique)

L’IA peut exacerber, volontairement ou involontairement, des divisions sociales. Par exemple, les algorithmes de recommandation des réseaux sociaux vous présentent des contenus conformes à vos préférences. Cette méthode est avantageuse d’un point de vue du marketing, mais polarise, fausse les perceptions ou désinforme sur le plan politique. Des scandales comme le cas de Cambridge Analytica [6] ont démontré que les algorithmes de certains réseaux sociaux peuvent manipuler l’opinion publique.

L’entrainement des grands modèles d’IA nécessite une énorme puissance de calcul qui se traduit par une consommation énergétique élevée. Des chercheurs danois ont estimé que l’entrainement du modèle GPT-3, utilisé dans une version antérieure de ChatGPT, « équivaut à la consommation d’électricité de 126 maisons danoises en un an » ou à « la quantité de CO2 émise [par] 700 000 km de conduite automobile » [7]. Les modèles GPT 4 et GPT 4o de OpenAI nécessitent des quantités d’énergie encore plus élevées. Parallèlement, les centres de données où ces modèles sont hébergés requièrent un refroidissement constant, ce qui entraine une forte consommation d’énergie et d’eau, et aggrave les changements climatiques.