Cybersecurity Insights

Plus de 700 scientifiques, entrepreneurs technologiques, personnalités politiques et figures publiques ont signé le 22 octobre 2025 une tribune historique appelant à l’arrêt du développement de la superintelligence artificielle. Parmi les signataires figurent des pionniers de l’IA comme Geoffrey Hinton (Prix Nobel de Physique 2024), Yoshua Bengio et Stuart Russell, ainsi que des personnalités comme Steve Wozniak (cofondateur d’Apple), Richard Branson (Virgin), le prince Harry et Meghan Markle, ou encore Susan Rice (ancienne conseillère à la sécurité nationale américaine). Cette initiative du Future of Life Institute soulève des questions fondamentales sur l’avenir de notre civilisation face à une technologie qui pourrait échapper à tout contrôle humain.

Comprendre la superintelligence artificielle : au-delà de ChatGPT

La superintelligence artificielle (ASI) désigne des systèmes capables de surpasser significativement toutes les capacités humaines dans l’ensemble des tâches cognitives. Cette notion se distingue clairement de l’intelligence artificielle générale (AGI), qui se limiterait à égaler les performances humaines. Alors que les outils actuels comme ChatGPT ou Gemini excellent dans des domaines spécifiques, l’ASI représenterait une rupture totale : une intelligence autonome capable d’apprendre par elle-même, de s’auto-améliorer et potentiellement de réécrire son propre code.

Les géants technologiques comme OpenAI, Google DeepMind, Meta et xAI poursuivent activement le développement de cette superintelligence. Sam Altman, PDG d’OpenAI, a déclaré en septembre 2025 que le cap de la superintelligence pourrait être atteint d’ici cinq ans. Cette course effrénée se déroule actuellement sans cadre réglementaire contraignant, dans un contexte de compétition féroce où la rentabilité à court terme prévaut souvent sur les considérations de sécurité.

Les risques majeurs identifiés par les signataires

Les menaces existentielles à long terme

Le principal danger soulevé par les 700 signataires concerne la perte de contrôle sur une intelligence surhumaine. Geoffrey Hinton, dans son discours de réception du Prix Nobel en décembre 2024, a formulé cette préoccupation sans détour : « Nous n’avons aucune idée si nous pourrons garder le contrôle sur ces êtres numériques plus intelligents que nous. Ils ne sont plus de la science-fiction ».

L’argument central repose sur une analogie troublante : de même que le sort des gorilles dépend aujourd’hui de la bonne volonté des humains, le destin de l’humanité pourrait dépendre des décisions d’une superintelligence. Comme l’a expliqué Eliezer Yudkowsky, chercheur spécialisé en sécurité de l’IA : « L’IA ne vous détesterait pas nécessairement, mais vous êtes faits d’atomes qu’elle pourrait décider d’utiliser pour faire autre chose ».

Les risques d’objectifs mal alignés constituent une menace particulièrement insidieuse. Nick Bostrom illustre ce danger avec son expérience de pensée du « maximiseur de trombones » : une IA programmée pour fabriquer des trombones pourrait, grâce à une puissance de calcul surhumaine, finir par tout transformer – y compris des parties de l’espace – en usines de fabrication de trombones pour atteindre son objectif. Cette illustration démontre qu’une superintelligence pourrait poursuivre des objectifs apparemment bénéfiques mais catastrophiques pour l’humanité.

Les risques à court terme déjà manifestes

Au-delà des menaces existentielles, Geoffrey Hinton a également mis en garde contre les dangers immédiats de l’IA avancée. Dans son discours du Prix Nobel, il a souligné que « l’IA a déjà créé des chambres d’écho qui divisent en offrant aux gens des contenus qui les indignent. Elle est déjà utilisée par des gouvernements autoritaires pour une surveillance de masse et par des cybercriminels pour des attaques de phishing ».

La désinformation alimentée par l’IA a été classée par le Forum Économique Mondial comme le risque mondial le plus important à court terme, devant même les catastrophes climatiques et les conflits armés. L’essor de l’IA générative permet désormais la création de contenus trompeurs hyperréalistes à grande échelle, y compris des deepfakes vidéo et audio capables de tromper des millions de personnes. Cette menace est particulièrement préoccupante dans le contexte électoral : en 2024-2025, plus de la moitié de la population mondiale était appelée aux urnes, créant des opportunités inédites de manipulation de masse.

Les armes autonomes létales représentent une autre préoccupation majeure. À court terme, l’IA pourrait être utilisée pour créer de terribles nouveaux virus ou des armes qui décideraient elles-mêmes qui tuer ou mutiler. Dans le domaine militaire, une ASI pourrait développer des systèmes d’armes puissants et autonomes, augmentant considérablement le potentiel destructeur des conflits.

L’impact sur l’emploi et l’économie

La dimension socio-économique de la révolution IA suscite des inquiétudes croissantes. Selon Goldman Sachs, 300 millions d’emplois à temps plein sont menacés dans les économies développées. Le FMI estime que 40% des emplois mondiaux seront impactés par l’IA, avec une vulnérabilité particulièrement forte dans les pays riches. Le Forum Économique Mondial anticipe un solde net négatif de 14 millions d’emplois d’ici 2027.

L’année 2025 a marqué une rupture brutale : dans le secteur technologique seul, plus de 180 000 suppressions de postes ont été recensées. Intel a supprimé 34 000 postes (15% des effectifs), Microsoft plus de 19 000 emplois, et Amazon prévoit de licencier 30 000 personnes, principalement dans les fonctions supports automatisables par l’IA. Une étude de l’Université de Stanford révèle une tendance particulièrement préoccupante : une baisse de 13% de l’emploi junior (22-25 ans) dans les secteurs exposés à l’automatisation, créant une « fermeture des portes d’entrée » du marché du travail pour les jeunes diplômés.

Les secteurs les plus exposés incluent l’industrie manufacturière (56% des travailleurs craignent le remplacement), l’ingénierie et l’informatique (51%), ainsi que les fonctions administratives et techniques. Contrairement aux révolutions industrielles précédentes, l’IA menace de créer une érosion nette d’emplois, sans créations suffisantes pour compenser les pertes.

Les avantages potentiels de l’intelligence artificielle

Malgré ces risques considérables, il serait réducteur d’ignorer les bénéfices immenses que l’IA peut apporter à l’humanité. Max Tegmark, président du Future of Life Institute, l’a exprimé clairement : « On peut être en faveur de la création d’outils d’intelligence artificielle plus puissants, pour guérir le cancer par exemple, tout en étant contre la superintelligence ».

Révolution dans le domaine médical

L’IA transforme profondément les soins de santé en permettant des diagnostics plus précis et plus rapides. Les systèmes d’IA peuvent analyser des images médicales, détecter précocement des maladies et proposer des traitements personnalisés, améliorant ainsi la qualité des soins et la sécurité des patients. Dans le domaine de la recherche médicale, l’IA accélère considérablement le processus de découverte de médicaments en facilitant l’identification de nouvelles molécules prometteuses parmi des milliards de composés.

Le concept de « jumeau numérique » ouvre des perspectives révolutionnaires en médecine personnalisée. Cette modélisation numérique d’un patient ou de ses organes permet de tester virtuellement des traitements et de personnaliser les interventions avant leur réalisation concrète. L’IA améliore également la formation médicale par la simulation, permettant aux professionnels de santé de s’entraîner en toute sécurité dans des environnements reproduisant les conditions réelles.

Amélioration de la productivité et de l’efficacité

Dans le monde de l’entreprise, l’IA apporte des gains considérables en automatisant les tâches répétitives et en facilitant la prise de décision. Elle permet aux organisations de réduire les coûts, d’améliorer la productivité et de se concentrer sur des initiatives stratégiques à plus forte valeur ajoutée. L’analyse de mégadonnées par l’IA permet de dégager des tendances pertinentes pour guider les décisions commerciales, anticiper les besoins des clients et personnaliser les offres.

Dans le secteur financier, des algorithmes avancés sont utilisés pour détecter les fraudes, évaluer les risques de crédit et gérer des portefeuilles d’investissement avec une efficacité surhumaine. L’IA permet également d’optimiser la gestion des stocks en combinant l’analyse prédictive et l’automatisation, réduisant ainsi les surplus inutiles et minimisant les ruptures.

Progrès en éducation et recherche

L’IA bouleverse le monde de l’éducation par sa capacité à fournir du contenu adapté et personnalisé. Des assistants virtuels propulsés par l’IA fournissent des conseils personnalisés sous forme de tutorat, s’adaptant au rythme et au style d’apprentissage de chaque étudiant. L’automatisation des tâches administratives libère le personnel enseignant pour des activités à plus grande valeur ajoutée.

Dans le domaine de la recherche scientifique, l’IA accélère les découvertes en traitant et analysant massivement des données en un temps record. Elle permet d’identifier de nouvelles cibles thérapeutiques, de développer de nouvelles molécules et d’accélérer le processus de validation des hypothèses scientifiques.

Bénéfices individuels et accessibilité

Au niveau individuel, l’IA améliore le quotidien à travers des assistants virtuels (Siri, Alexa, ChatGPT) qui gèrent nos tâches répétitives, des systèmes de recommandation personnalisés qui affinent nos choix culturels, et des outils d’accessibilité (sous-titrage automatique, synthèse vocale, traduction en temps réel) qui ouvrent un monde de possibilités aux personnes en situation de handicap.

La position de la tribune : une interdiction conditionnelle

La déclaration du Future of Life Institute, signée le 22 octobre 2025, se distingue des appels précédents par sa radicalité. Contrairement à la lettre ouverte de mars 2023 qui demandait une pause temporaire de six mois, cette nouvelle tribune prône une « interdiction conditionnelle » : non plus un moratoire limité, mais un gel global de la course vers la superintelligence tant que deux conditions cumulatives ne sont pas réunies.

Les conditions exigées sont : premièrement, un large consensus scientifique attestant que la superintelligence peut être développée de manière sûre et contrôlable ; deuxièmement, un soutien démocratique fort de la population. Cette approche reconnaît que les décisions concernant une technologie aussi transformative ne peuvent être laissées aux seules entreprises technologiques motivées par les profits à court terme.

Un sondage national réalisé aux États-Unis en septembre-octobre 2025 auprès de 2 000 adultes révèle que 64% des Américains estiment que la superintelligence ne devrait pas être développée tant qu’elle n’est pas prouvée sûre et contrôlable, contre seulement 5% favorables au développement le plus rapide possible. Par ailleurs, 73% souhaitent une régulation robuste de l’IA avancée. Ces données démontrent un décalage considérable entre les ambitions de l’industrie technologique et les aspirations du public.

Les organismes et experts mobilisés

Le Future of Life Institute, fondé en 2014, est une organisation à but non lucratif basée aux États-Unis qui se consacre à réduire les risques catastrophiques liés aux technologies transformatives. L’institut se concentre particulièrement sur les risques existentiels posés par l’IA avancée, la biotechnologie, les armes nucléaires et le changement climatique. Ses fondateurs incluent le cosmologiste du MIT Max Tegmark, Anthony Aguirre de l’Université de Californie à Santa Cruz, et Jaan Tallinn, co-fondateur de Skype.

L’organisation a développé les Principes d’Asilomar sur l’IA, l’un des premiers et plus influents ensembles de principes de gouvernance de l’IA au monde. Le FLI finance également des recherches sur la sécurité de l’IA et mène des actions de plaidoyer auprès des Nations Unies, du gouvernement américain et des institutions de l’Union européenne.

Parmi les signataires les plus éminents de la tribune figurent Geoffrey Hinton, surnommé le « parrain de l’intelligence artificielle », qui a quitté Google en 2023 pour pouvoir s’exprimer librement sur les dangers de l’IA sans compromettre son ancien employeur. Son co-lauréat du Prix Turing, Yoshua Bengio, professeur à l’Université de Montréal, partage ces préoccupations, tout comme Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley et auteur de référence sur l’IA.

La diversité des signataires est remarquable, incluant cinq lauréats du Prix Nobel, des entrepreneurs technologiques (Steve Wozniak, Richard Branson), des personnalités politiques de bords opposés (Steve Bannon et Susan Rice), des responsables religieux (Paolo Benanti, conseiller du pape), des célébrités (will.i.am, Joseph Gordon-Levitt, Stephen Fry), et même des membres de la famille royale britannique.

Les appels internationaux pour une régulation

Au-delà de cette tribune, un mouvement mondial s’organise pour établir des « lignes rouges » internationales sur l’IA. En septembre 2025, un appel mondial a été lancé lors de la 80ème session de l’assemblée générale des Nations Unies par un groupe d’ONG et de personnalités, dont Yoshua Bengio, Geoffrey Hinton et les Prix Nobel d’économie Joseph Stiglitz et Daron Acemoglu.

Cet appel exhorte les gouvernements à « conclure un accord politique sur des limites claires et infranchissables pour l’IA avant fin 2026, afin de prévenir les risques les plus catastrophiques liés à cette technologie ». Les exemples de lignes rouges proposées incluent : l’interdiction pour l’IA de contrôler l’arme nucléaire, d’aider à concevoir des armes biologiques, d’être utilisée pour la surveillance de masse et la notation sociale, de manipuler volontairement en se faisant passer pour des humains, ou de développer des systèmes qui ne pourraient être désactivés par les humains.

L’Union européenne a pris une position de leadership avec l’adoption du règlement sur l’IA (AI Act), créant un cadre réglementaire pionnier en la matière. En France, plusieurs initiatives ont vu le jour, dont une pétition citoyenne à l’Assemblée nationale appelant à « une vigilance extrême face aux dangers de l’IA et une mise en pause des développements ». Un contre-rapport publié en 2024 critique vertement le rapport officiel de la Commission française sur l’IA, accusé d’avoir écarté sans justification l’avis d’une grande partie des experts en sécurité de l’IA.

Des organisations comme le Centre pour la Sécurité de l’IA (CeSIA), The Future Society et le Center for Human-Compatible AI (CHAI) de l’Université de Berkeley travaillent activement sur ces questions de gouvernance et de sécurité.

Vers un équilibre entre innovation et prudence

Le débat sur la superintelligence artificielle révèle une tension fondamentale entre deux impératifs : d’une part, exploiter le potentiel immense de l’IA pour résoudre les grands défis de l’humanité (maladies, changement climatique, pauvreté) ; d’autre part, éviter une course technologique aveugle qui pourrait compromettre notre existence même.

Les 700 signataires de la tribune ne s’opposent pas au développement de l’IA en tant que tel. Leur position est nuancée : encourager les applications bénéfiques de l’IA (diagnostic médical, recherche scientifique, éducation personnalisée) tout en établissant des garde-fous stricts contre le développement d’une superintelligence incontrôlable. Comme l’a souligné Max Tegmark, il existe une distinction claire entre créer des outils d’IA puissants pour des applications spécifiques et construire une intelligence surhumaine générale.

L’historien Yuval Noah Harari, également signataire, estime que la superintelligence « risquerait de briser le système d’exploitation même de la civilisation humaine ». Cette formulation capture l’ampleur du défi : il ne s’agit pas simplement d’une nouvelle technologie parmi d’autres, mais d’une transformation potentiellement irréversible de la condition humaine.

Conclusion : Un choix de civilisation

La tribune des 700 personnalités constitue un signal d’alarme sans précédent. Lorsque les pionniers mêmes de l’intelligence artificielle, récompensés par le Prix Nobel pour leurs contributions fondamentales, appellent à suspendre le développement de leur propre création, il est impératif d’écouter.

Geoffrey Hinton a confessé qu’une « partie de lui regrette maintenant le travail de sa vie ». Cette humilité intellectuelle contraste avec l’optimisme technologique débridé de certains dirigeants de l’industrie. Elle rappelle que la responsabilité scientifique ne s’arrête pas à l’innovation, mais s’étend aux conséquences de celle-ci.

L’histoire nous enseigne que les traités ayant banni les armes biologiques et limité la prolifération nucléaire ont été conclus en pleine guerre froide. Il n’est donc pas utopique d’espérer un consensus international sur l’IA, même dans un monde divisé. La question n’est pas de savoir si nous pouvons développer une superintelligence, mais si nous devons le faire – et dans quelles conditions.

Comme l’a déclaré le prince Harry dans son message accompagnant sa signature : « Le futur de l’IA devrait servir l’humanité, et non la remplacer. Je crois que le véritable test du progrès ne sera pas la vitesse à laquelle nous avançons, mais la sagesse avec laquelle nous dirigeons. Il n’y a pas de seconde chance ».

Face à cette technologie qui pourrait définir l’avenir de notre espèce, la prudence n’est pas de la frilosité, mais de la sagesse. Le développement de la superintelligence artificielle représente un choix de civilisation qui ne peut être laissé aux seules forces du marché. Il exige un débat démocratique éclairé, un consensus scientifique rigoureux, et des cadres réglementaires internationaux contraignants. L’urgence n’est plus d’accélérer la course technologique, mais de s’assurer que nous gardons le contrôle sur notre propre avenir.