Intro à l'IA

Il est clair que les progrès réalisés au cours de la dernière décennie ont été extrêmement rapides et, en fait, il y a des raisons de s'attendre à ce que ces tendances se poursuivent. Les trois principaux ingrédients de l'IA - le calcul, les données et les algorithmes - ont connu une croissance exponentielle qui pourrait se poursuivre pendant un certain temps. Par exemple, entre 2010 et 2022, la quantité totale de calculs de formation a été multipliée par un facteur d'environ 100 millions, soit plusieurs ordres de grandeur de plus que la croissance due à la loi de Moore. Les investissements mondiaux dans l'IA augmentent de manière significative et les preuves empiriques de l'apprentissage profond ne montrent pas encore de signes forts de diminution des rendements à l'échelle.

Bien qu'il soit très difficile de prédire l'avenir, nos meilleurs modèles et prévisions économiques laissent entrevoir la possibilité d'un impact considérable sur la société au cours des prochaines décennies.

Les grands modèles linguistiques tels que le GPT-4 pourraient avoir un impact sur au moins 10 % des tâches de 80 % de la main-d'œuvre américaine et pourraient entraîner des augmentations considérables du taux de croissance économique, ainsi que le développement de systèmes d'IA plus performants que les humains pour un large éventail de tâches. S'ils ne sont pas développés en toute sécurité, ces systèmes pourraient entraîner des risques catastrophiques, tels que l'utilisation de l'IA dans des armes et des guerres autonomes, l'utilisation de systèmes d'IA pour développer des armes ou contrôler des systèmes à fort enjeu, et la perte de contrôle des systèmes d'IA, menaçant ainsi l'humanité elle-même.

Risques liés à l'IA avancée

Le potentiel de progrès rapide et d'impacts massifs soulève de sérieuses inquiétudes, allant de l'augmentation drastique des inégalités à l'utilisation d'une IA très avancée dans la guerre. Chez GSIA Canada, nous nous intéressons à trois grandes catégories de risques liés aux systèmes d'IA avancés, qui peuvent causer des dommages importants à l'échelle nationale et mondiale.

Risques d'utilisation malveillante: Les systèmes d'IA deviennent rapidement plus puissants et plus faciles à utiliser. S'ils sont développés en toute sécurité, ils peuvent apporter d'énormes avantages à la société, mais un manquement à cette règle pourrait accroître massivement la capacité de destruction des acteurs malveillants. À titre d'exemple concret, des systèmes d'IA ont été utilisés pour concevoir des armes chimiques dont la toxicité prévue est plus mortelle que celle de toute autre arme connue. Bien qu'il s'agisse d'une preuve de concept réalisée par des scientifiques bien intentionnés, il faut s'attendre à ce que de tels risques se multiplient dans les années à venir, à mesure que les systèmes d'IA seront plus largement accessibles et intégrés dans la société. Par exemple, des armes autonomes ont déjà été utilisées sur le champ de bataille et pourraient être utilisées pour cibler des opposants politiques, et les systèmes d'IA pourraient être utilisés pour écrire le code de cyberattaques massives.

Risques de désalignement: Les risques liés à l'IA vont malheureusement bien au-delà des risques liés aux acteurs malveillants. Il est très difficile de s'assurer que les systèmes d'IA soient "alignés" avec les valeurs humaines et qu'ils fassent ce que leurs concepteurs veulent qu'ils fassent. Par exemple, les systèmes d'IA peuvent uniquement faire preuve d'un bon comportement lorsqu'ils sont étroitement surveillés pendant la formation, mais ce comportement peut ne pas se généraliser une fois qu'ils sont déployés dans le monde réel. Cela peut permettre à des systèmes d'IA non alignés de surmonter les tentatives de précautions de sécurité - un problème extrêmement grave si des systèmes d'IA hautement intelligents et autonomes sont déployés dans le monde réel ou dans des scénarios à fort enjeu.

Risques structurels: Les risques d'utilisation abusive et de désalignement s'inscrivent dans un écosystème de risques plus large. Par exemple, les pressions concurrentielles entre les acteurs qui construisent des systèmes d'IA avancés pourraient conduire à rogner sur la sécurité, avec peut-être des mesures de sécurité affaiblies et des risques accrus d'utilisation malveillante. En outre, le déploiement à grande échelle des systèmes d'IA pourrait amplifier considérablement les inégalités, et des systèmes mal alignés pourraient entraîner une dérive des valeurs sociétales ou menacer les institutions existantes. Aujourd'hui, les systèmes peuvent déjà surpasser de nombreux humains dans un large éventail de tâches, et ils s'améliorent de minute en minute. Nos institutions et notre société sont-elles vraiment capables de s'adapter assez rapidement à ces changements?

Ces risques peuvent se propager et avoir un impact extrêmement rapide sur la société - ChatGPT, par exemple, a atteint 100 millions d'utilisateurs actifs mensuels dans les deux mois qui ont suivi son déploiement, ce qui en fait l'application grand public à la croissance la plus rapide de tous les temps. Les systèmes d'IA sont susceptibles de s'intégrer de plus en plus dans la société, et si nous ne prenons pas de mesures aujourd'hui, ou si nous ne prenons pas les bonnes mesures, cela pourrait entraîner des problèmes majeurs pour la société à l'avenir.

L'urgence d'agir

L'impact de l'IA suscite de plus en plus d'inquiétudes, et pas seulement en ce qui concerne les risques mineurs. Par exemple, selon une enquête menée auprès de 738 chercheurs lors de NeurIPS et d'ICML, deux grandes conférences sur l'apprentissage automatique, 48 % des personnes interrogées pensent que l'IA peut avoir 10 % de "conséquences extrêmement négatives (par exemple, l'extinction de l'humanité)". Dans le même temps, 69 % des personnes interrogées estiment que la sécurité de l'IA devrait être une priorité "plus" ou "beaucoup plus" qu'elle ne l'est actuellement.

Ces préoccupations ne se limitent pas non plus au domaine de l'apprentissage automatique : une récente enquête de l'université Monmouth auprès du public américain a révélé que 56 % des personnes interrogées craignaient que les machines artificiellement intelligentes nuisent à la qualité de vie générale des humains, et que 55 % d'entre elles étaient au moins quelque peu préoccupées par le fait que l'IA pourrait un jour constituer un risque pour l'existence de la race humaine.

Récemment, une lettre ouverte du Future of Life Institute appelant à une pause dans les expériences d'IA à grande échelle a reçu plus de 25,000 signataires, dont des chercheurs en IA de premier plan tels que Yoshua Bengio et Stuart Russell.

Que devons-nous faire pour résoudre ces problèmes ? Nous devons adopter des stratégies capables de faire face au rythme du changement, ainsi que des interventions techniques et sociales qui nous aident à relever les défis d'aujourd'hui et qui ont la capacité de s'adapter aux systèmes futurs. Il pourrait s'agir, par exemple, de réglementer les organisations pour s'assurer qu'elles procèdent à un audit minutieux de leurs systèmes avant leur déploiement, ou d'investir dans la recherche technique sur la sécurité de l'IA (par exemple pour rendre les systèmes plus interprétables par l'homme). Les travaux dans ce domaine n'ont pas encore atteint leur maturité, et les idées et les discussions sont en constante évolution. Ce qui se passera au cours des mois et des années à venir pourrait donc être déterminant pour l'avenir de l'IA, du Canada et du monde.