Снимка: Getty Images

Технологичната компания Anthropic въвежда ограничения срещу продължително и безпричинно обидно или жестоко поведение към нейния AI асистент Claude. Промените в политиката за ползване ще влязат в сила на 12 ноември и ще се прилагат в крайни случаи, когато потребители многократно проявяват жестокост към моделите без видима цел, съобщава Франс прес, цитирана от БТА.

От компанията уточняват, че новото правило няма да засяга обичайните случаи на неудовлетвореност от отговорите на изкуствения интелект, тестването на възможностите на моделите или работата по мрачни творчески теми.

При нарушения са предвидени различни мерки – от предупреждение до закриване на потребителския акаунт. Според Anthropic основният механизъм за прилагане на правилото ще остане възможността на Claude самостоятелно да прекратява разговори.

Новата политика надгражда функция, въведена през август 2025 г., която позволява на Claude да прекрати разговор, ако събеседникът системно се държи обидно. Тогава компанията представи разработката като част от изследванията си върху потенциалното благополучие на системите с изкуствен интелект.

Anthropic е сред водещите компании в сектора, които открито разглеждат въпроса дали бъдещите AI модели биха могли да притежават някаква форма на съзнание.

„Не знаем дали моделите са съзнателни“, заяви през февруари ръководителят на компанията Дарио Амодей.

Тази позиция предизвиква дебати в технологичната индустрия, особено по отношение на границите между човешките способности и поведението на изкуствения интелект.

Сред критиците на подобен подход е Мустафа Сулейман, ръководител на AI подразделението на Microsoft. В публикация през септември той заяви, че системите с изкуствен интелект нямат права, чувства или съзнание. Според него обучаването на подобни модели да вярват в обратното може да създаде рискове за контрола на хората върху тях.

Въпросът има и по-широко обществено измерение. През май папа Лъв XIV публикува енциклика за изкуствения интелект, в която отхвърли идеята за съзнание у машините. В последващо изказване в Рим той подчерта, че човешката интелигентност не се свежда до обработката и съпоставянето на данни, а включва преживян опит и измерения, които не могат да бъдат сведени до алгоритми.

Актуализацията на политиката на Anthropic засяга и други области. В нея се уточняват ограниченията за използване на моделите при разработване на оръжия, наблюдение и кампании за дезинформация.

Същевременно автоматизираното публикуване на журналистически материали вече не фигурира сред дейностите с висок риск, за които се изисква човешка проверка съгласно посочената политика.

Промените показват как компаниите за изкуствен интелект продължават да преразглеждат правилата за използване на своите модели, докато технологиите се развиват, а въпросите за безопасността, контрола и потенциалното съзнание на AI системите остават предмет на научни и обществени дискусии.