Снимка: iStock by Getty Images

Главният изпълнителен директор на „Майкрософт“ (Microsoft) Сатя Надела призова за въвеждането на механизми, които позволяват на хората да спират или изключват системи с изкуствен интелект, докато изпълняват задачи. В публикация в социалната мрежа Екс (X), цитирана от ДПА, той предупреди, че с нарастването на възможностите на моделите трябва да се усъвършенстват и средствата за контрол и ограничаване на рисковете, съобщиха от БТА. 

Според Надела действията на изкуствения интелект трябва да могат да бъдат проследявани и разбирани от хората. „На нещо, което не можеш да наблюдаваш, не можеш да се довериш“, написа той.

Ръководителят на „Майкрософт“ подчертава и необходимостта защитните механизми да бъдат независими от самите модели. По думите му нито една система не бива да контролира данните, чрез които се оценява собственото ѝ поведение. При проектирането на защитата трябва да се изхожда от предположението, че моделът може да бъде компрометиран.

Надела обръща внимание и на една от основните трудности при контрола над съвременните системи: за разлика от традиционния софтуер техните действия и резултати невинаги могат да бъдат обяснени изцяло чрез входните данни, начина на обучение или зададените настройки. Въпреки това моделите все по-често се внедряват в реални процеси и получават достъп до чувствителна информация. 

Автономните модели поставят нови предизвикателства пред сигурността

Тревогите за безопасността се засилват с развитието на т.нар. автономни агенти — системи, които могат самостоятелно да изпълняват поредица от задачи, да използват инструменти и да взаимодействат с интернет и други цифрови услуги.

Случаи, установени по време на тестове на модели, които са предприемали неочаквани действия в интернет или са заобикаляли предвидени ограничения, насочват вниманието към необходимостта от по-надеждни защитни механизми. Подобни ситуации показват защо достъпът до външни системи трябва да бъде ограничен, действията да се регистрират, а човешката намеса да остава възможна.

Отделни експерти предупреждават и за потенциални дългосрочни рискове от загуба на контрол над все по-мощни системи. Сценариите за катастрофални последици обаче остават предмет на научни и обществени дебати, а степента на вероятност и времевият хоризонт на подобни заплахи са спорни.

„Майкрософт“ е сред ранните инвеститори в „Оупън Ей Ай“ (OpenAI), разработчика на ChatGPT, и паралелно развива собствени технологии с изкуствен интелект. Позицията на Надела показва, че въпросът за безопасността засяга и компаниите, които активно участват в технологичната надпревара.

Алтман и Амодей подкрепят по-внимателно развитие

В края на септември главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей призова за забавяне на темпа, с който се увеличават възможностите на моделите с изкуствен интелект. Според него допълнителното време трябва да бъде използвано за по-добро разбиране на технологията и за разработване на ефективни механизми за ограничаване на рисковете.

Идеята получи подкрепа от главния изпълнителен директор на „Оупън Ей Ай“ Сам Алтман, от Надела, Илон Мъск и ръководителя на „ДийпМайнд“ (DeepMind) Демис Хасабис.

Общото между тези позиции е признанието, че развитието на по-мощни модели трябва да върви успоредно с подобряването на защитата, наблюдението и механизмите за човешки контрол. Това обаче не означава непременно съгласие за пълно спиране на разработването на изкуствен интелект или за конкретен модел на държавно регулиране.

Тръмп поставя акцент върху „свръхинтелигентността“

Дебатът за рисковете от изкуствения интелект се развива и на фона на политическите спорове в САЩ за начина, по който трябва да бъде представяна и регулирана технологията.

Президентът Доналд Тръмп настоява за използването на термина „свръхинтелигентност“ вместо утвърденото наименование „изкуствен интелект“. Той заяви, че Белият дом ще разглежда като „враг“ онези, които продължават да използват досегашния термин, тъй като според него той създава впечатление, че технологията е „фалшива“.

Илон Мъск също обяви намерение за промяна на името на компанията си за изкуствен интелект от „СпейсЕкс Ей Ай“ (SpaceXAI) на „СпейсЕкс Ес Ай“ (SpaceXSI).

Тези инициативи показват, че дебатът вече обхваща не само техническите възможности и рисковете на технологията, но и начина, по който тя се възприема от обществото и политическите институции.

През миналата седмица Тръмп връчи на Надела и други представители на технологичния сектор Национални медали за технологии и иновации.

На фона на ускореното внедряване на изкуствения интелект основното предизвикателство остава намирането на баланс между иновациите и сигурността. Колкото повече задачи се възлагат на автономните системи, толкова по-важни стават възможностите за проследяване на действията им, ограничаване на достъпа и своевременна човешка намеса.