Снимка: iStock by Getty Images

Американската компания за изкуствен интелект „Антропик“ (Anthropic) съобщи, че новите защитни мерки за моделите ѝ „Клод“ (Claude) са намалили с 90 до 99% количеството данни, извличани при т.нар. атаки чрез дестилация, предаде Ройтерс, цитирана от БТА.

Дестилацията е метод, при който разработчици използват резултатите от по-усъвършенствани модели, за да възпроизведат част от техните способности в собствени системи. Така конкурентите могат да съкратят времето и разходите за разработване на технологии за изкуствен интелект.

Вчера „Антропик“ обяви, че е предприела допълнителни мерки за ограничаване на подобни практики. Компанията е затруднила достъпа до защитените процеси на разсъждение на „Клод“ чрез прокси мрежи и е блокирала десетки хиляди акаунти, за които има данни, че са били използвани за извличане на информация.

Сред посочените от компанията примери е китайският стартъп Z.ai, известен и като „Чжъпу“ (Zhipu). Според „Антропик“ фирмата е направила опити да копира възможностите на „Клод“ при разработването на собствения си модел GLM-5.3.

От „Антропик“ определят дестилацията от страна на конкурентни компании като потенциален риск за националната сигурност. Предупреждението идва на фона на засилващото се технологично съперничество между САЩ и Китай в областта на изкуствения интелект.

Към момента на публикацията Z.ai не е отговорила на запитването на Ройтерс за коментар.