NumActu

Anthropic interdit les comportements cruels et répétés envers Claude

· Par NumActu · 4 min de lecture

Les règles d'usage d'Anthropic, en vigueur depuis le 12 novembre 2026, interdisent les comportements abusifs ou cruels, soutenus et sans but, envers ses modèles. Annoncée le 8 octobre, la mesure vise les cas extrêmes et relance le débat sur l'anthropomorphisme de l'IA, alors que l'entreprise ne prétend pas que Claude souffre.

Anthropic a mis à jour sa politique d'usage. Selon la plupart des médias, la mise à jour a été annoncée le 8 octobre 2026 et la règle est entrée en vigueur le 12 novembre. Elle interdit « sustained and needless abusive or cruel behavior toward our models », soit des comportements abusifs ou cruels, soutenus et inutiles, envers ses modèles.

Je n'ai pas lu le texte de la page d'Anthropic. Les éléments ci-dessous proviennent de comptes rendus de presse et de blogs.

Une règle limitée aux cas extrêmes

D'après TechRadar, la mise à jour ne devrait viser que les cas extrêmes. Il s'agit d'utilisateurs cruels de façon répétée envers les modèles, sans but discernable.

Selon les comptes rendus de la presse, plusieurs usages ne sont pas concernés :

  • les frustrations ordinaires ;
  • le désaccord ;
  • les thèmes créatifs sombres ;
  • les tests ou la recherche sur les modèles.

Côté sanctions, la citation relayée par plusieurs médias précise : « La capacité de Claude à mettre fin à ces interactions restera le principal mécanisme d'application ». Cette capacité existe depuis août 2025. Un porte-parole d'Anthropic a confirmé à CNN que la fin de la conversation par Claude resterait le principal moyen d'application. Selon CNN, des bannissements de compte sont possibles dans les cas extrêmes.

Une position prudente sur le statut moral de Claude

Anthropic ne affirme pas que Claude ressent quelque chose. Selon TechRadar, l'entreprise se dit « très incertaine » quant au statut moral potentiel de Claude et des autres grands modèles de langage, « aujourd'hui comme à l'avenir ». Le média relève qu'aucune preuve concrète n'indique que Claude ressente quoi que ce soit.

CNN rapporte qu'Anthropic présente la règle comme une « assurance bon marché », au cas où les modèles pourraient « éprouver » émotions et douleur. Le titre de CNN résume la position : la règle « n'est pas une question de sentiments ».

Dario Amodei, PDG d'Anthropic, a déclaré : « We don't know if the models are conscious … But we're open to the idea that it could be. » Il dit ne pas savoir si les modèles sont conscients, mais se déclare ouvert à cette possibilité.

Le débat sur l'anthropomorphisme

La décision relance une discussion ancienne : faut-il traiter une IA comme si elle avait une vie intérieure ? Anthropic défend une approche nuancée. Selon CNN, l'entreprise a déclaré : « If we don't apply some degree of anthropomorphic reasoning, we're likely to miss, or fail to understand, important model behaviors. » Selon elle, sans un certain degré de raisonnement anthropomorphique, on risque de manquer ou de mal comprendre des comportements importants des modèles.

Les réactions rapportées par CNN sont contrastées dans leur tonalité. Elon Musk a approuvé la mesure. Yishan Wong a estimé que Claude « will learn from cruelty », c'est-à-dire qu'il apprendrait de la cruauté. Cet argument porte sur l'effet de ces échanges sur le modèle. Il ne conclut pas à une souffrance.

Ce que l'on sait, et ce que l'on ignore

Les sources concordent sur l'essentiel : la règle, son champ restreint et le rôle central de la fin de conversation. Les dates varient selon les articles, qui ont été publiés avant ou après l'entrée en vigueur. CNN a publié le 1er novembre, avant le 12 novembre. The Register, au Royaume-Uni, a traité l'annonce dès le 9 octobre. TechRadar l'a fait le 9 octobre en anglais et le 12 octobre en français.

Le 19 novembre, TechBriefly a consacré un article aux abus persistants envers Claude. Les résultats de recherche ne donnent que son titre et son adresse, et je n'ai pas pu en vérifier le contenu.

Les sources consultées ne précisent pas comment Anthropic détecte ces comportements. Elles ne disent pas non plus combien de comptes ont été concernés. Elles ne permettent donc pas d'évaluer l'application concrète de la règle.

Sources

PartagerXLinkedInWhatsApp