A quel point ce mod\u00e8le est-il puissant ? La question est, en r\u00e9alit\u00e9, toujours d\u00e9battue. Un laboratoire britannique ind\u00e9pendant a confirm\u00e9 ses tr\u00e8s bonnes facult\u00e9s cyber : le mod\u00e8le est parfois capable de r\u00e9aliser chaque \u00e9tape menant \u00e0 une prise en main compl\u00e8te d\u2019un r\u00e9seau d\u2019entreprises. Une prouesse jusqu\u2019ici exclusivement r\u00e9serv\u00e9e aux humains experts. Mais d\u2019autres tests, comme ceux de la soci\u00e9t\u00e9 Aisle, ont prouv\u00e9 que d\u2019autres mod\u00e8les d\u00e9j\u00e0 sur le march\u00e9 sont tout aussi capables de trouver de multiples br\u00e8ches. Y compris celles d\u00e9nich\u00e9es par Mythos. “A quel point ces vuln\u00e9rabilit\u00e9s sont r\u00e9elles, exploitables et graves ? Tout cela n’est pas clair “, a vivement critiqu\u00e9 le c\u00e9l\u00e8bre site sp\u00e9cialis\u00e9 Tom’s Hardware<\/i><\/a>. Retenu en cage, Mythos n\u2019est \u00e0 ce jour partag\u00e9 qu\u2019\u00e0 une poign\u00e9e de grandes entreprises et d\u2019organisations (la plupart am\u00e9ricaines), dans le cadre du myst\u00e9rieux projet “Glasswind”.<\/p>\n Autre \u00e9l\u00e9ment \u00e0 prendre en compte : ce n\u2019est pas la premi\u00e8re fois qu\u2019Anthropic agite le chiffon rouge d’une apocalypse IA. “L\u2019humanit\u00e9 est sur le point de se voir confier un pouvoir presque inimaginable et il est tr\u00e8s difficile de savoir si nos syst\u00e8mes sociaux, politiques et technologiques ont la maturit\u00e9 n\u00e9cessaire pour l\u2019exercer”, a \u00e9crit son patron Dario Amodei dans un essai lyrique d\u00e9but janvier. Ce dernier multiplie aussi les sorties mena\u00e7antes sur l\u2019emploi. Selon lui, l\u2019IA fera dispara\u00eetre 50 % des cols blancs qui arrivent sur le march\u00e9 ces cinq prochaines ann\u00e9es. La perspective d’un ch\u00f4mage de masse, \u00e0 toute vitesse. Ce que contredisent plusieurs sp\u00e9cialistes.<\/p>\n Cette tendance \u00e0 l\u2019hyperbole n’est pas r\u00e9cente, dans la Silicon Valley. “On est en train d’invoquer le d\u00e9mon”, disait Elon Musk d\u00e8s 2014 \u00e0 propos de l\u2019IA, rappelle le journaliste am\u00e9ricain Casey Newton dans sa derni\u00e8re infolettre. “Je pense que l\u2019IA m\u00e8nera probablement tr\u00e8s probablement \u00e0 la fin du monde”, affirmait quant \u00e0 lui Sam Altman, le p\u00e8re de ChatGPT, \u00e0 peine un an apr\u00e8s. En 2019, le mod\u00e8le GPT-2 de son entreprise OpenAI avait d\u00e9j\u00e0 \u00e9t\u00e9 pr\u00e9sent\u00e9 comme trop puissant pour \u00eatre ouvert au grand public.<\/p>\n Derri\u00e8re ce “marketing de la peur” se trouvent de forts int\u00e9r\u00eats \u00e9conomiques. “Je suis toujours surpris que leurs strat\u00e9gies soient prises pour des proph\u00e9ties. Ils sont \u00e0 la fois juges et parties”, nous confiait r\u00e9cemment l\u2019expert Jean-Baptiste Bouzige, de la soci\u00e9t\u00e9 de conseil en IA Ekimetrics. Quand Dario Amodei se montre cataclysmique au sujet de l\u2019emploi, rappelons que le monde professionnel est la principale cible de ses outils. Et que la cybers\u00e9curit\u00e9 repr\u00e9sente un sous-secteur prometteur, o\u00f9 les valorisations explosent, notamment gr\u00e2ce… \u00e0 l’intelligence artificielle. Affirmer avec une mise en sc\u00e8ne quasi hollywoodienne que son mod\u00e8le fonctionne si bien qu’il provoque du ch\u00f4mage ou qu’il ne doit pas \u00eatre diffus\u00e9 au grand public constitue une strat\u00e9gie marketing d\u00e9guis\u00e9e en pr\u00e9occupations soci\u00e9tales. Et cela paye. Le chiffre d\u2019affaires annuel d’Anthropic cro\u00eet fortement en ce moment, \u00e0 environ 30 milliards de dollars. Ce qui lui octroie la place de leader. M\u00eame les agences f\u00e9d\u00e9rales et les responsables gouvernementaux am\u00e9ricains, interdits de collaboration avec Anthropic depuis la brouille avec le Pentagone, d\u00e9fient les directives, selon les r\u00e9v\u00e9lations de Politico<\/i><\/a>. La peur de passer \u00e0 c\u00f4t\u00e9 de quelque chose.<\/p>\n Cette posture est un brin cynique. En d\u00e9pit de leurs grands discours et de leurs promesses, les compagnies technologiques am\u00e9ricaines se montrent souvent r\u00e9tives \u00e0 toute r\u00e9gulation s\u00e9rieuse. Le fait que le partage au compte-goutte d’informations sur Mythos se fasse au b\u00e9n\u00e9fice de soci\u00e9t\u00e9s am\u00e9ricaines et exclut quasiment les r\u00e9gulateurs europ\u00e9ens ne dit pas autre chose. Anthropic et OpenAI ne sont pas les meilleurs contributeurs au mouvement open source. Un gage de transparence afin de faire avancer la recherche commune sur la s\u00e9curit\u00e9.<\/p>\n Jouer sur la peur a ses limites. Plus de la moiti\u00e9 des Am\u00e9ricains interrog\u00e9s dans le dernier IA Index, un rapport de r\u00e9f\u00e9rence publi\u00e9 annuellement par l’Universit\u00e9 Stanford, affirme que l’IA les rend nerveux. La strat\u00e9gie semble n\u00e9anmoins avoir encore de beaux jours devant elle. Hier encore, OpenAI a annonc\u00e9 un nouveau mod\u00e8le capable de fulgurances dans le domaine de la cybers\u00e9curit\u00e9. En pr\u00e9cisant que son acc\u00e8s sera limit\u00e9 \u00e0 un certain nombre de partenaires tri\u00e9s sur le volet. Comme un certain Mythos.<\/p>\n<\/div>\n“On invoque le d\u00e9mon”<\/h2>\n
Nervosit\u00e9 face \u00e0 l’IA<\/h2>\n