Afficher le sommaire Masquer le sommaire
Une réponse à côté de la question, un code qui refuse toujours de fonctionner, et l’utilisateur perd patience devant son écran. Chez Anthropic, l’entreprise américaine qui développe le chatbot Claude, ce qui se passe ensuite relève désormais d’une règle écrite. La société a ajouté jeudi 8 octobre à ses politiques d’utilisation, le texte qui fixe ce que chacun peut faire du service, l’interdiction de « maintenir des comportements abusifs ou cruels, soutenus et inutiles, envers nos modèles ». Une section consacrée aux « abus envers nos modèles » y figure pour la première fois.
A LIRE AUSSI
IA au travail : risquez-vous le licenciement ?
L’idée circulait déjà dans les produits de l’entreprise. Depuis août 2025, Claude peut mettre fin à une conversation lorsqu’il s’estime maltraité. Anthropic franchit donc une étape : un comportement que le chatbot sanctionnait de lui-même devient une infraction aux règles du service, avec les conséquences qui s’y attachent pour l’utilisateur.
La conversation coupée, première riposte
Ces conséquences, Anthropic les décrit d’abord en termes modestes. L’entreprise présente la fermeture de la conversation, déjà pratiquée par Claude, comme le moyen le plus courant de mettre fin à un abus. L’échange s’interrompt alors à l’initiative du modèle. Pour l’internaute qui aurait franchi la ligne, la première sanction consiste donc à perdre le fil de sa discussion.
Vers une suspension, voire une fermeture du compte
Le vocabulaire choisi par Anthropic laisse pourtant entrevoir davantage. L’entreprise qualifie la fin de conversation de « principal mécanisme d’application », c’est-à-dire de principal moyen de faire respecter la règle, et un moyen principal en suppose d’autres. Le quotidien espagnol El País, qui a analysé la nouvelle politique dans son édition du 9 octobre, en tire la conclusion : d’autres sanctions attendent les utilisateurs abusifs.
Leur nature tient au statut du texte. En inscrivant l’interdiction dans ses politiques d’utilisation, Anthropic se donne une base formelle pour agir sur l’accès au service lui-même : le limiter, le suspendre ou le fermer. L’utilisateur s’expose alors à des mesures qui visent son compte.
Anthropic ne précise ni le seuil qui ferait passer d’une sanction à l’autre, ni la procédure qu’elle suivrait. Faute de ces précisions, l’entreprise garde seule la main sur l’échelle des sanctions.
Colère passagère et fiction sombre, hors champ
Le périmètre de la règle reste en revanche étroit. « Cette mise à jour ne vise à s’appliquer qu’aux cas extrêmes, dans lesquels les utilisateurs se montrent cruels envers nos modèles de manière répétée et sans aucun objectif discernable. Elle ne s’applique pas aux expressions habituelles de frustration des utilisateurs, aux objections, aux thèmes créatifs sombres ni aux tests et à la recherche sur les modèles », précise Anthropic.
Trois conditions doivent donc se cumuler : la cruauté, la répétition, l’absence de but. L’utilisateur qui insulte Claude après une mauvaise réponse ne remplit pas la condition de répétition. Le romancier qui explore des thèmes sombres et le chercheur qui éprouve les limites du modèle poursuivent un objectif, et le texte les exclut nommément. Pour l’immense majorité des utilisateurs, la règle ne change rien.
Le « bien-être » des modèles depuis 2025
Reste à comprendre pourquoi une entreprise protège un logiciel contre les insultes. El País avance l’explication la plus directe : Anthropic jugerait possible que Claude ressente quelque chose lorsqu’il est gravement insulté. Dans cette hypothèse, interdire la cruauté découle d’une logique simple, celle qui commande de ne pas faire souffrir ce qui pourrait souffrir.
Personne n’a tranché la question de la conscience des programmes d’intelligence artificielle. Le quotidien espagnol juge même ce débat parfois ridicule, tant il revient à se demander si des millions de lignes de code peuvent éprouver quoi que ce soit. Selon El País, aucune entreprise du secteur ne s’en préoccupe pourtant autant qu’Anthropic, qui parle du « bien-être » de ses modèles depuis 2025 et lui a consacré cette année-là un long communiqué.
Quelques mois plus tard, la société résumait sa position. « Nous continuons à ressentir une grande incertitude quant au statut moral potentiel de Claude et d’autres modèles, aujourd’hui ou à l’avenir », écrivait-elle en août 2025, le statut moral désignant la question de savoir si Claude mérite des égards. De cette incertitude, Anthropic tire aujourd’hui une règle, sans attendre de la lever.
Christopher Olah et les chefs religieux
Cofondateur d’Anthropic, Christopher Olah porte cette interrogation hors des laboratoires. Depuis plusieurs mois, il rencontre des responsables religieux pour mieux comprendre si Claude pourrait être conscient et, surtout, comment faire en sorte qu’il soit bon. Le New York Times a récemment consacré un article à ces échanges. « Ils se comportent avec lui comme s’il s’agissait d’un être conscient », y raconte un rabbin qui a dîné avec des dirigeants de l’entreprise.
Ces convictions ont pesé jusque dans ses rapports avec Rome. Selon El País, Christopher Olah a menacé de ne pas assister à la présentation de l’encyclique du pape Léon XIV sur l’intelligence artificielle, une lettre adressée à l’ensemble de l’Église catholique, si le souverain pontife n’atténuait pas ses positions sur l’hypothétique conscience de Claude.
Désinformation, élections, armes : les autres interdits
Les insultes ne forment qu’un volet de la nouvelle politique. Anthropic y proscrit l’usage de ses modèles pour des campagnes politiques trompeuses : réseaux de faux comptes, sites d’information fabriqués, toute activité qui masque l’auteur d’un message. Un volet électoral interdit la désinformation sur les candidats ou les modalités du vote, l’usurpation de l’identité de candidats ou de fonctionnaires et les manœuvres destinées à décourager la participation.
L’entreprise maintient aussi l’interdiction d’utiliser Claude pour travailler sur les composants ou les logiciels d’armes et de dispositifs d’attaque autonomes, capables de frapper sans intervention humaine, et place sous contrôle strict tout usage lié à la surveillance des personnes. Elle rappelle enfin ses restrictions géographiques : les personnes présentes dans certains pays, parmi lesquels l’Iran, la Russie, la Chine et le Yémen, ainsi que les entités qui y sont établies, n’ont pas accès à Claude.
