Afficher le sommaire Masquer le sommaire
Anthropic a coupé l’accès à cinq utilisateurs de ses modèles d’intelligence artificielle qui préparaient des travaux de laboratoire susceptibles de mener à des armes biologiques. L’entreprise américaine, éditrice de l’agent conversationnel Claude, l’a détaillé cette semaine dans son quatrième rapport de menaces. Elle y décrit « les jugements que nous devons porter lorsque nous évaluons si un usage biologique donné est dangereux ».
A LIRE AUSSI
IA : la première dose était gratuite
Ce qu’Anthropic sait de ses utilisateurs
Sur les chapitres consacrés à la cybersécurité, aux armes conventionnelles et aux opérations d’influence, l’entreprise attribue. Elle désigne des groupes soutenus par des États, des bandes mafieuses, des individus mus par des motivations politiques.
Tous les cas datent de cette année. Ils ont été menés avec des modèles antérieurs aux derniers nés de la famille Fable ou Mythos, dont les garde-fous plus sophistiqués rendent en principe l’usage malveillant difficile.
Sur le volet biologique, Anthropic ne nomme personne. Les cinq requêtes venaient de pays où elle ne commercialise pas ses services. Leurs auteurs avaient atteint le modèle par des revendeurs ou de faux comptes, sans laisser d’identité exploitable.
Une demande de bourse sur le chikungunya
Un scientifique a demandé à Claude de l’aider à rédiger une demande de bourse pour étudier le virus chikungunya, transmis par les moustiques. Anthropic a bloqué les échanges en constatant qu’ils provenaient d’un institut de recherche militaire. La localisation a pesé davantage que le contenu.
Le chercheur voulait concevoir des mutations rendant le virus plus nocif au fil d’infections répétées sur des animaux vivants. « Ce type de recherche pourrait être employé pour développer de meilleurs vaccins et traitements contre le virus, mais il pourrait aussi être utilisé pour rendre le pathogène plus dangereux », indique le rapport.
Rendre la grippe aviaire plus contagieuse : une autre série de requêtes poursuivait cet objectif. Ailleurs, un utilisateur cherchait à analyser la souche du virus de la variole la plus résistante au système immunitaire. Le dernier cas porte sur un catalogue de toxines d’animaux venimeux, matière première de nouveaux médicaments comme d’armes. Aucune de ces demandes n’est illégitime en soi.
Dans le nord du Yemen, un groupe terroriste a sollicité Claude pour concevoir trois armes. La première est « une roquette guidée utilisant comme ordinateur de vol une puce de téléphone portable ». Les deux autres sont des missiles, dont l’un d’une portée supérieure à 2 000 kilomètres. L’appropriation de ces outils par des groupes terroristes compte parmi les dangers les plus fréquemment cités.
La veille, un salarié claquait la porte
Le document est paru au lendemain de la démission d’un ingénieur d’Anthropic, qui a averti sur le réseau social X que l’intelligence artificielle pouvait provoquer une extinction civilisationnelle dans les prochaines années. L’usage malveillant des modèles par des humains figure parmi les scénarios qu’il citait, et c’est celui que son employeur dit avoir intercepté cinq fois.
Facebook et d’autres réseaux sociaux publiaient il y a quelques années des bilans du même genre sur les opérations clandestines menées depuis leurs plateformes contre les institutions et les processus démocratiques. Ces bilans portaient sur des messages. Celui d’Anthropic porte sur des virus rendus plus dangereux, et sur la capacité d’une entreprise privée à décider seule quand une expérience cesse d’être de la science.
