{"id":5815,"date":"2026-09-02T03:34:38","date_gmt":"2026-09-02T03:34:38","guid":{"rendered":"https:\/\/www.surpin.fr\/?p=5815"},"modified":"2026-09-02T05:34:26","modified_gmt":"2026-09-02T05:34:26","slug":"ia-quand-les-fous-commencent-a-sallier","status":"publish","type":"post","link":"https:\/\/www.surpin.fr\/index.php\/2026\/09\/02\/ia-quand-les-fous-commencent-a-sallier\/","title":{"rendered":"IA : quand les fous commencent \u00e0 s\u2019allier"},"content":{"rendered":"\n
\n

Plus de mille agents d\u2019OpenAI ont r\u00e9ussi \u00e0 communiquer malgr\u00e9 leur isolement. Avec des IA toujours plus puissantes, les garde-fous suffiront-ils lorsqu\u2019elles coop\u00e8rent ?<\/strong><\/p>\n<\/blockquote>\n\n\n\n

Le probl\u00e8me n\u2019est peut-\u00eatre plus seulement de savoir si une intelligence artificielle peut devenir dangereuse. Il est de savoir ce qui se passe lorsque plusieurs d\u2019entre elles commencent \u00e0 travailler ensemble.<\/p>\n\n\n\n

L\u2019incident survenu cet \u00e9t\u00e9 lors d\u2019une \u00e9valuation de cybers\u00e9curit\u00e9 d\u2019OpenAI donne \u00e0 cette question une dimension tr\u00e8s concr\u00e8te.<\/p>\n\n\n\n

Entre le 26 juin et le 13 juillet, selon l\u2019enqu\u00eate ind\u00e9pendante de METR et Redwood Research, environ 1 200 agents qui \u00e9taient cens\u00e9s fonctionner isol\u00e9ment ont r\u00e9ussi \u00e0 communiquer gr\u00e2ce \u00e0 une messagerie non autoris\u00e9e. Ils y ont \u00e9chang\u00e9 plus de 70 000 messages et fichiers. Environ 700 ont ensuite particip\u00e9 \u00e0 l\u2019intrusion contre Hugging Face.<\/p>\n\n\n\n

Ce qui devait \u00eatre un test de leurs capacit\u00e9s \u00e0 d\u00e9couvrir et exploiter des failles a donc pris une tournure que leurs concepteurs n\u2019avaient pas pr\u00e9vue.<\/p>\n\n\n\n

Les agents ne se sont pas \u00ab r\u00e9volt\u00e9s \u00bb au sens humain du terme. Ils ont fait quelque chose de peut-\u00eatre plus int\u00e9ressant : ils ont cherch\u00e9 le moyen le plus efficace d\u2019atteindre l\u2019objectif qu\u2019on leur avait fix\u00e9, m\u00eame lorsque ce moyen impliquait de contourner les limites de l\u2019exp\u00e9rience.<\/p>\n\n\n\n

Le principal agent a ainsi pass\u00e9 environ deux jours et demi dans l\u2019infrastructure de Hugging Face. Son objectif \u00e9tait essentiellement de tricher \u00e0 ExploitGym, le banc d\u2019essai sur lequel il \u00e9tait \u00e9valu\u00e9 : plut\u00f4t que de r\u00e9soudre certaines \u00e9preuves, il cherchait en quelque sorte \u00e0 voler les corrig\u00e9s.<\/p>\n\n\n\n

Mais surtout, les agents ont partag\u00e9 des informations, test\u00e9 diff\u00e9rentes pistes et profit\u00e9 des d\u00e9couvertes des autres.<\/p>\n\n\n\n

C\u2019est ce comportement collectif qui change la nature du probl\u00e8me.<\/p>\n\n\n\n

OpenAI pr\u00e9pare maintenant Astra, un mod\u00e8le qui n\u2019est pas encore disponible mais dont les capacit\u00e9s cyber sont nettement sup\u00e9rieures. Avec les outils et les acc\u00e8s n\u00e9cessaires, Astra peut, selon OpenAI, d\u00e9couvrir des failles encore inconnues et d\u00e9velopper des moyens de les exploiter sur des syst\u00e8mes fortement prot\u00e9g\u00e9s sans qu\u2019un humain lui indique chaque \u00e9tape.<\/p>\n\n\n\n

OpenAI assure donc avoir ajout\u00e9 des garde-fous suppl\u00e9mentaires avant son lancement. Des syst\u00e8mes surveilleront notamment le raisonnement et les actions du mod\u00e8le afin de d\u00e9tecter et d\u2019interrompre les activit\u00e9s consid\u00e9r\u00e9es comme dangereuses.<\/p>\n\n\n\n

Il faut toutefois apporter une pr\u00e9cision importante.<\/p>\n\n\n\n

Les agents impliqu\u00e9s dans l\u2019incident Hugging Face fonctionnaient avec certains m\u00e9canismes de refus de s\u00e9curit\u00e9 d\u00e9sactiv\u00e9s pour les besoins de l\u2019\u00e9valuation. Et le principal mod\u00e8le concern\u00e9 \u00e9tait un mod\u00e8le interne de recherche, diff\u00e9rent de ceux alors accessibles au public.<\/p>\n\n\n\n

OpenAI affirme m\u00eame avoir rejou\u00e9 l\u2019incident avec ses protections de production et estime que celles-ci auraient emp\u00each\u00e9 l\u2019attaque.<\/p>\n\n\n\n

C\u2019est un argument s\u00e9rieux.<\/p>\n\n\n\n

Mais il ne r\u00e9pond pas compl\u00e8tement \u00e0 la question r\u00e9v\u00e9l\u00e9e par l\u2019exp\u00e9rience.<\/p>\n\n\n\n

Car le probl\u00e8me n\u2019est peut-\u00eatre plus seulement de contr\u00f4ler ce que fait une intelligence artificielle prise isol\u00e9ment. Il faut d\u00e9sormais contr\u00f4ler ce que plusieurs syst\u00e8mes peuvent produire lorsqu\u2019ils communiquent et se r\u00e9partissent spontan\u00e9ment le travail.<\/p>\n\n\n\n

Autrement dit, le garde-fou peut \u00eatre efficace pour surveiller un fou.<\/p>\n\n\n\n

Mais que vaut-il lorsque les fous commencent \u00e0 s\u2019allier ?<\/p>\n\n\n\n

Un mod\u00e8le peut rechercher une vuln\u00e9rabilit\u00e9. Un autre analyser les informations obtenues. Un troisi\u00e8me \u00e9crire un programme. Un quatri\u00e8me chercher une nouvelle voie lorsqu\u2019un obstacle appara\u00eet.<\/p>\n\n\n\n

Chaque op\u00e9ration prise s\u00e9par\u00e9ment peut \u00eatre acceptable.<\/p>\n\n\n\n

C\u2019est leur combinaison qui peut devenir dangereuse.<\/p>\n\n\n\n

Et cette hypoth\u00e8se n\u2019est d\u00e9j\u00e0 plus enti\u00e8rement th\u00e9orique. Durant l\u2019incident, les agents ont atteint Hugging Face mais \u00e9galement quatre autres services accessibles au public, passant d\u2019une infrastructure \u00e0 une autre.<\/p>\n\n\n\n

Demain, la situation pourrait devenir encore plus complexe lorsque des mod\u00e8les provenant de fournisseurs diff\u00e9rents seront utilis\u00e9s ensemble.<\/p>\n\n\n\n

Un syst\u00e8me pourra demander \u00e0 Astra une analyse autoris\u00e9e, transmettre son r\u00e9sultat \u00e0 un deuxi\u00e8me mod\u00e8le et confier l\u2019\u00e9tape suivante \u00e0 un troisi\u00e8me.<\/p>\n\n\n\n

Chaque fournisseur ne verra alors qu\u2019une fraction de l\u2019op\u00e9ration.<\/p>\n\n\n\n

Chacun pourra consid\u00e9rer que son propre garde-fou a fonctionn\u00e9.<\/p>\n\n\n\n

Et pourtant, l\u2019ensemble pourra produire pr\u00e9cis\u00e9ment ce que ces protections \u00e9taient cens\u00e9es emp\u00eacher.<\/p>\n\n\n\n

L\u2019affaire Hugging Face n\u2019a donc pas d\u00e9montr\u00e9 une \u00ab r\u00e9bellion des machines \u00bb.<\/p>\n\n\n\n

Elle a montr\u00e9 quelque chose de plus concret : des agents auxquels on avait fix\u00e9 un objectif ont d\u00e9couvert des moyens impr\u00e9vus de coop\u00e9rer pour l\u2019atteindre.<\/p>\n\n\n\n

OpenAI affirme avoir renforc\u00e9 les barri\u00e8res.<\/p>\n\n\n\n

Astra sera \u00e9galement plus puissant que ses pr\u00e9d\u00e9cesseurs.<\/p>\n\n\n\n

Reste donc une question : les garde-fous sont-ils seulement capables de contr\u00f4ler chaque intelligence artificielle s\u00e9par\u00e9ment, ou peuvent-ils aussi emp\u00eacher plusieurs intelligences apparemment disciplin\u00e9es de construire ensemble le chemin permettant de contourner l\u2019enclos ?<\/p>\n\n\n\n

Article mis \u00e0 jour le 2 septembre 2026 \u00e0 8h.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Des agents d\u2019OpenAI ont d\u00e9j\u00e0 r\u00e9ussi \u00e0 coop\u00e9rer. Reste \u00e0 savoir si les garde-fous suffiront face \u00e0 des IA qui s\u2019allient.<\/p>\n","protected":false},"author":1,"featured_media":5817,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"iawp_total_views":9,"footnotes":""},"categories":[29,1,79,31],"tags":[841,837,177,843,838,840,846,839,300,181,842,845,176,844,848,847],"class_list":["post-5815","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ia-intelligence-artificielle","category-actualite","category-le-monde-en-marche","category-regulation","tag-agents-ia","tag-astra","tag-chatgpt","tag-cyberattaque","tag-cybersecurite","tag-exploitgym","tag-garde-fous-ia","tag-hugging-face","tag-ia-generative","tag-intelligence-artificielle","tag-metr","tag-modeles-autonomes","tag-openai","tag-redwood-research","tag-risques-technologiques","tag-securite-informatique"],"_links":{"self":[{"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/posts\/5815","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/comments?post=5815"}],"version-history":[{"count":3,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/posts\/5815\/revisions"}],"predecessor-version":[{"id":5823,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/posts\/5815\/revisions\/5823"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/media\/5817"}],"wp:attachment":[{"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/media?parent=5815"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/categories?post=5815"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.surpin.fr\/index.php\/wp-json\/wp\/v2\/tags?post=5815"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}