Ressources - GSIA Canada

Orientation professionnelle

Êtes-vous curieux de savoir comment vous pouvez réduire les risques liés à l'IA? La GSIA est là pour vous aider.

Comment poursuivre une carrière dans l'alignement technique de l'IA par Charlie Rogers-Smith (article écrit en anglais, temps de lecture estimé à 47 minutes)

Guide pour travailler dans la politique et la stratégie de l'IA par Miles Brundage (article écrit en anglais, temps de lecture estimé à 20 minutes)

Une banque de ressources de formation de AI Safety Support (une série d'événements et d'opportunités, orientés vers ceux qui sont plus avancés sur leur chemin pour travailler dans la sécurité de l'IA - contenu en anglais).

Vous souhaitez vous impliquer directement avec la GSIA? Rejoignez notre plateforme Slack, ou envoyez-nous un courriel avec vos vos compétences et vos intérêts.

Autres organisations en IA

Vous voulez savoir qui d'autre travaille sur la gouvernance et la sécurité de l'IA ? Voici quelques organisations au Canada et à l'étranger.

Organismes canadiens

Organisations mondiales axées sur la sécurité de l'IA:

Recueil d'organisations axées sur la sécurité de l'IA de AI Safety Fundamentals (en anglais).

Liens utiles

Voici quelques ressources pour ceux qui souhaitent approfondir la questions (disponibles en anglais seulement).

Vous connaissez de bonnes ressources francophones sur le sujet? SVP nous les partager par courriel.

Ressources générales
- Apart Research Recommended Reading
- AI Safety Fundamentals (12-week, part-time course)
- ML Safety Scholars: Intro to ML Safety
- Jacob Hilton’s Deep Learning Curriculum (very technical)
- AI Tracker (track the latest AI models)
Sécurité technique de l'IA et alignement
- Introductions
  - Intro to AI Safety – Rob Miles
  - The case for taking AI seriously as a threat to humanity – Kelsey Piper
- Techniques
  - The alignment problem from a deep learning perspective – Ngo et al.
  - Without specific countermeasures, the easiest path to transformative AI likely leads to AI takeover – Ajeya Cotra
  - Unsolved problems in ML safety – Dan Hendrycks et al
Gouvernance et politique en matière d'IA
- AI Governance Curriculum – AGI Safety Fundamentals
- AI Strategy, Policy, and Governance – Allan Dafoe
- The Brussels Effect and Artificial Intelligence – Siegmann and Anderljung
- The Offense-Defense Balance of Scientific Knowledge: Does Publishing AI Research Reduce Misuse? – Shevlane and Dafoe
Prévisions et économie de l'IA
- Introductions
  - Forecasting transformative AI: what's the burden of proof? – Holden Karnofsky
  - Phil Trammell on Economic Growth under Transformative AI – Hear This Idea podcast (see also the associated paper)
- Techniques
  - Literature review of Transformative Artificial Intelligence timelines – Wynroe et al
  - Bioanchors report – Ajeya Cotra
  - Collection of blog posts on trends in Machine Learning – Epoch
Infolettres
- Infolettre GSIA (Archives disponibles ici)
- Alignment Newsletter – Rohin Shah et al
- ML Safety Newsletter – Dan Hendrycks et al
- Import AI – Jack Clark
- Policy.ai – Center for Security and Emerging Technology
- ChinAI – Jeffrey Ding
Balados