Anthropic veut protéger Claude des utilisateurs trop agressifs. Mais au même moment, une conversation avec son IA conduit à une arrestation. Entre sentiments supposés des machines et confidentialité des échanges, qui faut-il vraiment protéger ?
L’IA a de la mémoire, et maintenant il faudrait ménager ses sentiments !
Attention à la manière dont vous parlez à votre intelligence artificielle. Elle a de la mémoire. Et désormais, elle pourrait même se vexer. Enfin, presque.
Anthropic, l’entreprise américaine à l’origine de Claude, vient de modifier sa politique d’utilisation. À partir du 12 novembre, les comportements abusifs ou cruels envers Claude, répétés et sans justification, seront interdits.
Vous pourrez toujours lui reprocher ses erreurs, contester ses réponses ou lui demander de recommencer dix fois le même texte.
Ouf ! Le droit de râler contre une machine n’a pas totalement disparu. Mais pourquoi faudrait-il ménager les sentiments d’un programme informatique ?
Anthropic s’intéresse sérieusement à la possibilité que ses modèles puissent un jour posséder une forme de conscience. Pour l’instant, personne n’a démontré que Claude souffrait lorsqu’on l’insultait.
Après les droits de l’homme et ceux des animaux, faudrait-il envisager ceux des algorithmes ? La question pourrait faire sourire si elle ne révélait pas une évolution plus profonde.
Car au même moment, Anthropic fait parler d’elle dans une tout autre affaire. En Floride, une femme qui utilisait Claude comme journal intime aurait écrit vouloir ouvrir le feu sur les locaux du shérif. Elle aurait ensuite annoncé s’être procuré une arme.
Les messages ont été détectés automatiquement, examinés par des employés d’Anthropic, puis signalés à la police. La femme a été arrêtée.
Face à une menace aussi précise, difficile de reprocher à l’entreprise d’avoir alerté les autorités. Mais mises côte à côte, ces deux histoires sont assez révélatrices.
Une conversation avec Claude n’est pas nécessairement un tête-à-tête confidentiel. Il existe un troisième acteur : l’entreprise. C’est elle qui peut examiner certains échanges et, dans des circonstances graves, prévenir les autorités.
C’est elle aussi qui décide des limites à ne pas franchir lorsqu’on s’adresse à sa machine.
Le paradoxe est assez remarquable. On s’interroge sur la sensibilité éventuelle du logiciel, pendant que la confidentialité bien réelle des utilisateurs dépend des règles fixées par son propriétaire.
Il ne s’agit évidemment pas de défendre le droit de passer ses journées à insulter Claude. Mais à force de vouloir humaniser l’intelligence artificielle, nous risquons d’oublier qu’il s’agit d’un service contrôlé par une entreprise privée, et non d’un confident tenu au secret professionnel.
Un aveu, d’ailleurs.
Cette chronique a été relue par Claude lui-même, directement concerné par le sujet. Il a conservé mon angle sans chercher à l’adoucir.
Poli, professionnel et sans rancune apparente.
Alors, soyez polis avec Claude. Non pas pour lui éviter une dépression nerveuse, mais parce que son propriétaire fixe les règles.
Et avant de lui confier vos états d’âme, rappelez-vous qu’un journal intime se ferme à clé. Celui-là, quelqu’un d’autre en garde le double.
Claude a peut-être une conscience, la question reste ouverte.
Une chose est certaine : il a un patron.
