Parcours
Quels sont les enjeux de l’IA?
Vers une IA responsable
Les investissements et la recherche en IA progressent rapidement et l’engouement qui l’entoure grandit sans cesse. Tout porte à croire que la présence de l’IA dans nos vies personnelles et professionnelles va croitre à un rythme exponentiel dans les prochaines années. Autant nous profiterons de ses avantages, autant nous risquons d’être témoins des risques qui lui sont inhérents.
Une course contre la montre
Deux tiers de la population mondiale anticipent des changements importants dans leur vie liés à l’IA [1]. Au niveau mondial, 54 % des gens – 38 % au Canada – perçoivent davantage de bénéfices que de risques dans les produits et services qu’elle offre. Une proportion presque égale de la population, soit 52 % des personnes sondées, se dit nerveuse face à ses produits et services. Depuis l’avènement de l’agent conversationnel ChatGPT, l’inconfort est en hausse de 13 % par rapport à l’année précédente.
Il y a quelques années, la plupart des agents d’IA peinaient à reconnaitre une image, à comprendre un texte, ou à le traduire. Aujourd’hui, la plupart des agents d’IA dédiés à une tâche, par exemple jouer aux échecs ou reconnaitre une image, dépassent les capacités humaines dans leur exécution. À ce rythme, on peut tout à fait imaginer que des agents d’IA généralistes, tels que des voitures autonomes ou des agents conversationnels, puissent aussi dépasser les capacités humaines dans la prochaine décennie [2].
Ces avancées rapides représentent une véritable course contre la montre : si nous souhaitons individuellement et collectivement bénéficier de l’IA, nous devons comprendre cette technologie, ses bénéfices et ses risques, et encadrer son utilisation de manière responsable.
Les tensions reliées à l’IA
Pierre-Majorique Léger, professeur titulaire du Département de technologies de l’information à HEC Montréal.
Cadres de réflexion
Depuis quelques années, plusieurs organisations mondiales, dont des entreprises d’IA, des centres de recherche et des organismes à but non lucratif (OBNL) ont proposé des cadres de réflexion pour soutenir le développement et l’utilisation responsable de l’IA.
Parmi ces cadres, la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle [2] se distingue par son approche holistique et inclusive, axée sur les citoyens et les citoyennes. Son objectif est de « mettre le développement de l’IA au service du bien-être de tout un chacun et d’orienter le changement social en élaborant des recommandations ayant une forte légitimité démocratique. » [3]
La Déclaration de Montréal énonce dix principes visant le développement d’une IA responsable. Ces principes agissent comme « une boussole éthique qui permet d’orienter le développement de l’intelligence artificielle vers des finalités moralement et socialement désirables ». [2] Ils s’adressent aux organisations et aux individus intéressés à développer et à utiliser des solutions d’IA éthiquement, culturellement et juridiquement responsables.
Les voici :
Les agents d’IA doivent rendre la vie des gens meilleure, en réduisant le stress et l’anxiété causés par la technologie. Par exemple, une clinique médicale peut utiliser un assistant virtuel pour envoyer des rappels de rendez-vous et gérer les suivis de traitements, ce qui amoindrit le stress lié à l’oubli pour les bénéficiaires.
Les agents d’IA doivent aider les gens à atteindre leurs objectifs personnels sans les surveiller constamment ni leur imposer de comportements. Par exemple, une école peut offrir une plateforme d’apprentissage personnalisée qui adapte les cours en fonction des besoins des classes sans imposer un curriculum standard.
Les agents d’IA doivent protéger la vie privée des gens et leur donner la possibilité de se déconnecter, tout en assurant la confidentialité de leurs données. Par exemple, une banque peut utiliser un système pour gérer la confidentialité des transactions bancaires, mais doit aussi offrir à sa clientèle la possibilité de désactiver les suivis et lui assurer que ses données financières sont protégées.
Les agents d’IA doivent favoriser les relations humaines et aider à réduire l’isolement. Par exemple, une organisation médicale peut utiliser un agent conversationnel qui simule l’empathie pour faciliter des interactions avec les bénéficiaires.
Les agents d’IA doivent être compréhensibles et permettre aux gens de participer aux décisions les concernant. Par exemple, une mairie peut utiliser un système de consultation publique où la population influence les décisions par l’intermédiaire de sondages qui seront traités par l’IA.
Les agents d’IA doivent être conçus pour aider à réduire les inégalités sociales et économiques et éviter la discrimination. Par exemple, un département de ressources humaines peut utiliser un outil de sélection qui anonymise les CV pour prévenir les biais basés sur le genre, l’âge ou l’origine ethnique.
Les agents d’IA doivent respecter et promouvoir la diversité culturelle et sociale. Par exemple, un média peut utiliser une plateforme de diffusion numérique qui recommande des contenus variés afin d’éviter la polarisation des intérêts et des opinions.
En développant l’IA, il est important d’anticiper les conséquences négatives potentielles en prenant des mesures appropriées. Par exemple, une entreprise du secteur de la sécurité peut utiliser un système qui détecte et prévient les abus, comme la surveillance excessive ou l’utilisation malveillante des données.
Les décisions importantes basées sur des recommandations d’IA doivent toujours être prises par des humains responsables. Par exemple, un cabinet juridique peut utiliser l’IA pour obtenir des recommandations et des résolutions de cas, mais des juristes doivent prendre la décision définitive et en assumer la responsabilité.
Les agents d’IA doivent être conçus pour minimiser leur impact environnemental. À cet effet, de plus en plus d’individus et d’organisations choisissent volontairement de limiter ou de réduire leur utilisation de certains agents d’IA dont l’empreinte carbone est élevée. Nous assistons d’ailleurs à une tendance émergente en matière de développement de modèles d’IA : des modèles dont l’entrainement et l’utilisation sont moins énergivores, mais dont la performance est aussi élevée.
La production de confiance en IA
Simon Dermarkar, CPA auditeur, professeur agrégé du Département des sciences comptables à HEC Montréal.
Termes vus dans cette page
[1] Ipsos (2023). Global Views on A.I. 2023: How people across the world feel about artificial intelligence and expect it will impact their life.
[2] Yoshua Bengio et al. (2024). « Managing extreme AI risks amid rapid progress », Science.
[3] Marc-Antoine Dilhac et al. (2024). La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, Université de Montréal.