Distillation : Anthropic durcit ses défenses, et certains développeurs devront s’adapter
Pour empêcher qu’on copie Claude à grande échelle, Anthropic filtre les tentatives d’extraction et facture désormais les requêtes bloquées.
Le 12 octobre, Anthropic a détaillé ses mesures contre la distillation : des campagnes menées via des réseaux de faux comptes pour extraire les capacités de Claude, en particulier son raisonnement, et les reproduire dans un autre modèle. Trois leviers : contrôler où circule ce raisonnement, bloquer les tentatives avec un classificateur dont le taux de faux positifs est annoncé sous 0,1 %, et sanctionner les récidivistes. Anthropic annonce 90 à 99 % de données récoltées en moins et des dizaines de milliers de comptes bannis. Pour les clients honnêtes, deux conséquences : certains développeurs doivent adapter leurs intégrations, et depuis le 24 septembre, une requête bloquée est facturée.
