Le Comité permanent de l’industrie et de la technologie de la Chambre des communes du Canada invite actuellement des experts à témoigner sur le projet de loi C-27, qui comprend la Loi sur l’intelligence artificielle et les données (AIDA).
S’appuyant sur le livre blanc et les recommandations initiales de GSIA Canada sur le projet de loi C-27, L’Allié a présenté des arguments convaincants pour expliquer pourquoi une législation sur l’IA comme le projet de loi C-27 est nécessaire, et comment elle peut être améliorée pour répondre aux besoins des Canadiens.
L’intégralité de l’audience et des témoignages traduits peut être visionnée sur ParlVu (à partir de 11:20:35).
Texte complet de la déclaration d’ouverture :
“Monsieur le président, mesdames et messieurs les membres du comité, je vous remercie de l’honneur de m’avoir invité.
Gouvernance et sécurité de l’IA Canada est un organisme à but non lucratif multipartite et une communauté de personnes à travers le pays. Notre point de départ est la question “Que pouvons-nous faire au Canada, et à partir du Canada, pour s’assurer que l’avenir créé par l’IA soit bénéfique?”.
En novembre nous avons déposé un mémoire avec des recommandations détaillées pour la loi sur l’IA et les données, et nous préparons présentement un deuxième mémoire en réponse aux amendements du ministre.
Les témoins des séances précédentes ont déjà discuté des risques liés aux systèmes actuels, je vais donc orienter mes remarques aujourd’hui vers les enjeux sécuritaires et économiques de l’IA à venir, ainsi que les contraintes de temps auxquelles nous faisons face pour nous y préparer, et ce que tout cela veut dire pour la LIAD.
Permettez-moi de commencer par énoncer une évidence : l’intelligence humaine restant à peu près la même et l’IA s’améliorant de jour en jour, ce n’est qu’une question de temps avant que l’IA ne nous surpasse dans tous les domaines. Cela inclut des domaines tels que le raisonnement, la prise en charge des personnes et la gestion de la complexité du monde réel, dans lesquels nous détenons actuellement un net avantage. Construire ce niveau d’IA est l’objectif explicite de laboratoires d’avant-garde comme OpenAI, Google DeepMind et, plus récemment, Meta.
La première implication majeure d’une IA plus intelligente que l’homme concerne la sécurité publique, en raison des problèmes d’armement et de contrôle.
Le problème de l’armement est simple. Si un être humain peut concevoir ou utiliser des armes de destruction massive, alors un système d’IA plus intelligent que l’homme le peut aussi. Cela signifie qu’entre les mains de personnes mal intentionnées, des systèmes d’IA plus intelligents que l’homme pourraient être utilisés pour causer des dommages sans précédent.
Le problème du contrôle vient du fait qu’un système plus intelligent que nous est par définition capable de nous surpasser. Cela signifie que si un système d’IA avancé, par accident ou en raison d’une mauvaise conception, commence à interpréter les êtres humains comme une menace et à prendre des mesures contre nous, nous ne serons pas en mesure de l’arrêter. En outre, de plus en plus de preuves, étayées par des recherches menées dans les meilleurs laboratoires d’IA du monde, suggèrent que, sans précautions de sécurité appropriées, les systèmes d’IA dépassant un certain seuil d’intelligence peuvent se comporter de manière hostile par défaut. C’est pourquoi des centaines d’éminents spécialistes de l’IA ont signé l’an dernier une déclaration selon laquelle l’atténuation du risque d’extinction dû à l’IA devrait être une priorité mondiale.
La deuxième implication majeure concerne le travail. À mesure que l’IA s’approchera du point où elle pourra faire tout ce que nous pouvons faire, mais en mieux, y compris concevoir des robots capables de nous surpasser physiquement, notre travail sera de moins en moins utile. Les pressions économiques sont telles qu’une entreprise qui ne remplace pas à terme son PDG, son conseil d’administration et ses employés par des systèmes d’IA et de robotique plus intelligents que l’homme sera probablement une entreprise perdante par rapport à d’autres qui le feront. Si nous ne gérons pas ces évolutions avec sagesse, un nombre croissant de personnes seront laissées pour compte.
Je tiens toutefois à préciser que l’IA est également une force très positive. Le monde que nous créerons grâce à l’IA avancée pourrait être bien plus pacifique, prospère et équitable que celui que nous connaissons actuellement. Toutefois, comme nous l’avons vu jusqu’à présent, l’IA - et en particulier l’IA plus intelligente que l’homme - représente un tsunami de changements, et il y a beaucoup de choses que nous devons faire correctement.
De combien de temps disposons-nous ? En réalité, nous sommes déjà en retard. Même l’IA rudimentaire dont nous disposons aujourd’hui pose des problèmes dans tous les domaines, qu’il s’agisse de décisions d’emploi biaisées, de cybercriminalité ou de diffusion de fausses informations. Mais les plus grands risques proviennent d’une IA qui est plus intelligente que nous, et cette IA pourrait arriver bientôt. De nombreux experts s’attendent à ce que l’IA devienne humaine d’ici deux à cinq ans seulement, et les ingénieurs des laboratoires pionniers avec lesquels nous nous sommes entretenus affirment qu’il y a même 5 à 10 % de chances qu’elle soit construite en 2024. Bien qu’il soit impossible de faire des prédictions précises sur l’avenir, les tendances sont suffisamment claires pour qu’un gouvernement responsable doive se tenir prêt.
Que pouvons-nous donc faire ? Dans notre livre blanc intitulé Gouverner l’IA : un plan pour le Canada, nous décrivons cinq catégories d’actions nécessaires de la part du gouvernement, notamment la création d’une agence centrale de l’IA, l’investissement dans la gouvernance de l’IA et la recherche sur la sécurité, la promotion de pourparlers mondiaux et le lancement d’un dialogue national sur l’IA. L’action législative est le cinquième pilier essentiel.
Les principales raisons pour lesquelles le Canada a besoin d’une loi sur l’IA et les données sont les suivantes :
- Limiter les préjudices actuels et futurs en interdisant ou en réglementant les cas d’utilisation et les capacités à haut risque
- Créer une culture de l’éthique, de la sécurité et de la responsabilité dans les secteurs public et privé qui peut s’étendre à mesure que la technologie de l’IA progresse
- Donner au gouvernement la capacité, l’agilité et la surveillance nécessaires pour protéger adéquatement les Canadiens et répondre aux développements dans le domaine au fur et à mesure qu’ils surviennent.
Les amendements du ministre constituent un pas dans la bonne direction, et il me fera plaisir de vous faire part de mes commentaires à ce sujet.
En conclusion, bien que les défis auxquels nous sommes confrontés avec l’IA soient redoutables et que les délais pour les relever soient très courts, il est possible de prendre des mesures constructives pour gérer les risques et exploiter les possibilités, et des projets de loi comme le C-27 sont une pièce essentielle du puzzle.
Alors que les roues de l’histoire tournent autour de nous, une chose est claire : le succès de cette question mondiale exigera que tous les pays relèvent le défi - et le Canada est à notre charge.
Thank you. Merci. Il me fera plaisir de répondre à vos questions.”