Anthropic a annoncé un déploiement très non conventionnel pour son dernier modèle d’IA, Mythos. Plutôt qu’une large diffusion publique, le Frontier AI Lab restreint l’accès à un groupe sélectionné de grandes entreprises et de fournisseurs d’infrastructures critiques, notamment Amazon Web Services et JPMorgan Chase.
La raison officielle ? Sécurité. Anthropic affirme que Mythos est si compétent dans l’identification des exploits de sécurité logicielle qu’une version publique pourrait fournir aux mauvais acteurs un outil puissant pour compromettre l’infrastructure numérique mondiale.
Le dilemme de la cybersécurité
Le cœur du problème réside dans la nature à double usage des grands modèles linguistiques avancés (LLM). Un modèle capable de détecter une vulnérabilité « zero-day » (une faille logicielle jusqu’alors inconnue) est une mine d’or pour les défenseurs, mais une arme pour les attaquants.
En fournissant Mythos uniquement aux grandes entreprises, Anthropic vise à créer une « longueur d’avance défensive », permettant aux entreprises de corriger les vulnérabilités avant que les pirates informatiques ne puissent les exploiter. Cependant, les experts du secteur suggèrent que l’utilité réelle de ces modèles pourrait être plus nuancée :
- Exploitabilité vs découverte : Dan Lahav, PDG du laboratoire de cybersécurité IA Irregular, note que trouver un bug n’est pas la même chose que trouver un exploit fonctionnel. La véritable valeur d’un outil d’IA dépend de sa capacité à détecter des vulnérabilités pouvant être enchaînées pour créer une attaque significative.
- La question d’efficacité : La startup Aisle affirme que des modèles spécialisés, plus petits et à poids ouvert peuvent souvent reproduire les succès en matière de cybersécurité de modèles massifs comme Mythos. Cela suggère que le modèle de « force brute » n’est peut-être pas la seule voie vers une cyberdéfense efficace.
Le facteur « distillation » : protéger les résultats
Bien que l’argument de sécurité soit convaincant, les observateurs de l’industrie suggèrent un motif plus commercial derrière la diffusion restreinte : empêcher la distillation modèle.
La distillation est un processus dans lequel des modèles plus petits et moins chers sont formés à l’aide des résultats de modèles massifs et haut de gamme. Cela permet aux petits laboratoires d’« imiter » les capacités des modèles pionniers sans les coûts astronomiques d’une formation originale. Pour des entreprises comme Anthropic, OpenAI et Google, la distillation représente une menace directe pour leur avantage concurrentiel et leurs modèles de revenus.
Selon David Crawshaw, PDG d’exe.dev, la stratégie de publication sélective peut servir deux objectifs stratégiques :
1. Créer un volant d’inertie d’entreprise : En gardant les versions les plus avancées exclusives aux grandes entreprises, les laboratoires garantissent un flux continu de contrats d’entreprise de grande valeur.
2. Concurrents affamés : Au moment où un modèle est rendu public ou destiné aux petits laboratoires, une version plus récente, encore plus puissante, est déjà protégée par des accords d’entreprise, maintenant ainsi les petits acteurs dans un état perpétuel de rattrapage.
Une guerre froide croissante dans le développement de l’IA
Cette décision reflète une tendance plus large dans l’écosystème de l’IA. Il y a une course qui s’intensifie entre :
* Frontier Labs : investir des milliards pour construire les modèles les plus grands et les plus performants et défendre de manière agressive leur propriété intellectuelle.
* Concurrents agiles : Utiliser des modèles open source et des techniques de distillation, souvent liés à des entreprises chinoises, pour atteindre rapidement la parité économique et technologique.
Les rapports indiquent qu’Anthropic, Google et OpenAI collaborent de plus en plus pour identifier et bloquer les entités engagées dans la distillation non autorisée, la considérant comme une menace importante pour leurs modèles commerciaux.
La décision d’ouvrir Mythos est peut-être un coup de maître d’une stratégie à « double objectif » : elle assume une véritable responsabilité de protection de la sécurité d’Internet tout en renforçant simultanément la domination commerciale des laboratoires contre la distillation.
Conclusion
Reste à savoir si Mythos constitue un véritable risque de sécurité ou une décision commerciale stratégique. Cependant, le déploiement d’Anthropic met en évidence l’intersection complexe de la cybersécurité mondiale et de la bataille aux enjeux élevés pour la suprématie du marché de l’IA.
