On parle souvent des risques » classiques » de l’IA, pertes d’emplois, biais, erreurs à grande échelle. Mais d’autres scénarios, bien plus sombres, passionnent la science-fiction : perte d’autonomie humaine, contrôle social, dérives sécuritaires. Pour s’en faire une idée raisonnable, distinguons l’alerte utile du sensationnalisme et plongeons ensemble dans le sujet.Selon une étude de 2022, près de la moitié des chercheurs en IA estiment à 10% ou plus le risque qu’un échec dans le contrôle de l’intelligence artificielle pouvant provoquer une catastrophe existentielle, incluant potentiellement l’extinction humaine. Cette préoccupation, longtemps reléguée au domaine de la science-fiction, est aujourd’hui prise au sérieux par les plus éminents spécialistes du domaine, des institutions de recherche prestigieuses et des décideurs politiques à l’échelle mondiale.
1. Cadre théorique et définitions
1. Risque existentiel et superintelligence
Un risque existentiel désigne un événement ou un
