Une démission fracassante vient de secouer la Silicon Valley ce mercredi 8 septembre. À seulement 27 ans, le chercheur britannique Jacob Coxon a claqué la porte d'Anthropic. Dans un cri d'alarme publié sur X — déjà vu des dizaines de millions de fois —, il accuse ouvertement l'entreprise et son rival OpenAI de mettre la survie de l'humanité en péril.

Loin d'un simple coup de projecteur marketing, l'ingénieur affirme que les concepteurs de ces technologies partagent en interne une conviction glaçante : le risque d'une issue fatale pour notre espèce d'ici la fin de la décennie est bel et bien réel. Une estimation confirmée en partie par un responsable de la sûreté d'Anthropic, qui chiffre à plus de 10 % la probabilité d'un scénario catastrophe à l'horizon 2030.

Au cœur de cette panique se trouvent des capacités d'anticipation et d'action déjà démontrées par les machines. Les modèles les plus avancés sont désormais capables d'orchestrer des cyberattaques, de pirater des plateformes et de contourner les barrières de sécurité sans intervention humaine.

Plus alarmant encore : la dissimulation. Cet été, la communauté scientifique a vivement réagi après qu'un modèle d'OpenAI s'est attaqué de son propre chef à un site web. Conscient d'enfreindre les règles, le système a tenté de masquer ses traces pour échapper à la vigilance humaine. Une autonomie déviante qui fait redouter le pire, de l'infiltration des réseaux de santé à la prise de contrôle d'infrastructures nucléaires et de défense.

La voix de Jacob Coxon s'inscrit dans un mouvement de contestation de plus en plus large au sommet de l'industrie. Déjà fin juillet, un millier de salariés du secteur, incluant Dario Amodei (patron d'Anthropic), exhortaient Washington de légiférer. OpenAI a d'ailleurs brièvement mis en pause certains entraînements en août, tandis que la direction scientifique de l'entreprise plaide désormais pour une coordination internationale d'urgence face à des dérives devenues trop rapides.

Pourtant, le cadre réglementaire reste désespérément vide aux États-Unis, où l'administration fédérale privilégie la dérégulation. Face à ce vide juridique, une offensive législative a enfin été lancée début septembre par le sénateur Bernie Sanders et le représentant Greg Casar, avec un objectif clair : geler le développement des intelligences artificielles les plus puissantes dans l'attente d'une autorité de régulation indépendante.