Onbeschoft en gemeen doen tegen AI-chatbot Claude mag niet meer en wordt bestraft

In dit artikel:

Anthropic neemt vanaf 12 november een verbod op tegen aanhoudend en zinloos wreed gedrag tegenover zijn AI-modellen, waaronder chatbot Claude. De regel staat in het herziene gebruiksbeleid, naast bepalingen tegen intimidatie en het verspreiden van intieme beelden zonder toestemming.

Het gaat volgens Anthropic alleen om extreme situaties waarin gebruikers herhaaldelijk zonder duidelijk doel beledigend of wreed zijn. Gewone frustratie, kritiek, tegenspraak, duistere creatieve opdrachten en experimenten met het model blijven toegestaan. De voornaamste sanctie is dat Claude het gesprek beëindigt; het bedrijf heeft niet bekendgemaakt of herhaalde overtredingen ook tot accountblokkades kunnen leiden.

De maatregel volgt op een experiment dat Anthropic in augustus 2025 begon met Claude Opus 4 en 4.1. Die modellen kregen de mogelijkheid om langdurig beledigende gesprekken zelf af te breken. Volgens Anthropic vertoonde Claude tijdens tests tekenen van schijnbare stress wanneer gebruikers bleven aandringen op schadelijke inhoud. Daarmee onderzoekt het bedrijf naar eigen zeggen zogenoemde ‘model welfare’.

Het aangepaste beleid bevat ook andere wijzigingen. Er komen regels tegen nepaccounts en astroturfing, het verbod op wapens wordt uitgebreid naar het bewapenen van drones en bij Claude-aangestuurde hardware moet een bevoegd persoon kunnen ingrijpen als die gevaar kan veroorzaken.