« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie »
Posté : 09 septembre 2026 19:25
Dans 10 ans, cool!« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » : le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI, quitte l’industrie.
« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.
Le Monde avec AFP
Publié aujourd’hui à 09h54,
https://www.lemonde.fr/economie/article/2026/09/09/les-gens-qui-construisent-l-ia-croient-qu-elle-pourrait-tous-nous-tuer-d-ici-a-la-fin-de-la-decennie-le-chercheur-jacob-coxon-qui-a-travaille-pour-anthropic-et-openai-quitte-l-industrie_6768853_3234.html
Jacob Coxon, un chercheur en intelligence artificielle (IA), parti d’OpenAI pour rejoindre Anthropic, qu’il jugeait plus prudent dans ses recherches, a annoncé mercredi 9 septembre qu’il quittait l’industrie, accusant les deux laboratoires américains de « jouer avec nos vies » dans leur course au développement d’IA capables de s’améliorer toutes seules.
« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit mardi sur son compte X. « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing », a-t-il ajouté.
Ce Britannique de 27 ans travaillait depuis trois ans sur le pré-entraînement, l’étape durant laquelle les modèles d’IA absorbent d’immenses quantités de données, d’abord chez OpenAI, puis cette année chez son grand rival Anthropic.
Lire aussi | Article réservé à nos abonnés OpenAI dit avoir résolu un problème de maths majeur mais crée des vagues
Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison sur X : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a-t-il affirmé, évaluant à titre personnel ce risque à « plus de 10 % » dans la décennie. M. Hubinger a ajouté qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant des capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels.
Sollicitées par l’Agence France-Presse, les deux entreprises n’ont pour le moment pas réagi.
Hors de tout contrôle humain
La démission de Jacob Coxon intervient alors qu’Anthropic prépare une entrée en Bourse spectaculaire, après un été marqué par des piratages menés, sans autorisation, par des outils d’IA en phase de test dans plusieurs laboratoires.
Les sociétés dominantes du secteur de l’IA disent voir approcher le stade de « l’auto-amélioration récursive », au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.
Lire aussi | Article réservé à nos abonnés Pourquoi les employeurs ne doivent pas attendre pour identifier et réguler les systèmes d’IA « à haut risque »
Selon M. Coxon, ses collègues emploient les termes « crunchtime » (moment décisif) et « endgame » (fin de partie) pour décrire cette trajectoire. Il juge sincères les efforts d’Anthropic mais estime qu’aucune entreprise ne peut développer de manière responsable une IA surpassant les humains sans l’intervention des Etats ou un ralentissement coordonné.
« Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d’autre n’agira de façon responsable et donc qu’ils doivent le faire eux-mêmes, malgré le risque », a-t-il écrit.
En février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques, sous prétexte qu’une pause unilatérale laisserait les acteurs les moins prudents dominer la compétition, sans contre-pouvoirs.
Lire aussi | Article réservé à nos abonnés Mistral AI annonce une levée de fonds à 3 milliards d’euros en réponse aux doutes sur l’évolution de sa stratégie
Fin juillet, plus d’un millier d’employés du secteur, dont le patron d’Anthropic, Dario Amodei, ont demandé à Washington de concevoir un mécanisme de freinage. OpenAI a suspendu durant deux semaines en août une partie de ses entraînements, et Anthropic a appelé l’industrie à adopter « dès que possible » un mécanisme « vérifiable » de ralentissement coordonné.
Dimanche, le directeur scientifique d’OpenAI, Jakub Pachocki, a écrit sur le site de la société que « le moment actuel exige[ait] une extrême prudence » et que la coordination internationale devait devenir « une priorité absolue » des gouvernements.
Aucune loi fédérale n’encadre ces modèles aux Etats-Unis, où l’administration Trump privilégie une approche légère. Le sénateur Bernie Sanders et le député Greg Casar, tous deux du Parti démocrate, ont déposé début septembre une proposition de loi visant à suspendre le développement de l’IA jusqu’à la création d’un régulateur.
