Снимка: iStock by Getty Images

Водещите европейски технологични компании и експерти по киберсигурност отговориха на паниката, формирала се около инцидентите и изказванията, свързани с бързото развитие на AI, което на моменти изглежда безконтролно: “Игнорирайте вълненията. Заемете се със сериозната задача да поддържате дигиталния свят безопасен”, цитирани от POLITICO.

Предпоставки за паниката

Страхът, заформил се около бума на изкуствения интелект, който потенциално би довел до изчезването на човешката раса, до голяма степен е резултат от реториката и поведението на водещите американски AI компании. Инцидентите с автономните AI агенти на OpenAI през юли, както и изказването на бившия служител на същата компания, Джейкъб Коксън, че технологията ще “убие всички ни” доведоха до обществен смут, който трудно може да бъде упрекван. 

Тези опасения излизат на преден план в дневния ред на световните лидери тази седмица, като президентът на САЩ Доналд Тръмп и китайският лидер Си Дзинпин ще проведат среща на върха днес – след като въпросът за сигурността на изкуствения интелект вече бе обсъден на Общото събрание на ООН и на специално заседание на Г-7. В понеделник лидери от 22 държави приеха декларация, в която се посочва, че AI трябва да остане под човешко ръководство, надзор и контрол, и се предлага създаването на глобален режим за надзор. 

Това обаче се случва на фона на категоричния отказ на президента Доналд Тръмп – изразен в собствената му реч пред събранието – да приеме каквито и да било „глобалистки схеми за контрол“ върху изкуствения интелект.

Отговорът на европейските компании

И все пак, за онези, на които е възложено да защитават компютърните системи, настойчивият хор от предупреждения относно усъвършенстваните модели на AI– както и трескавите политически опити за реакция може да се окажат пречка пред предприемането на реални действия.

Скептиците също така посочват постоянните препратки към инцидента с Hugging Face – споменат дори от председателя на Европейската комисия Урсула фон дер Лайен в речта ѝ за състоянието на Съюза – като показателен пример за истерията около хипотетичните сценарии за излизане на AI моделите извън контрол.

Вместо да илюстрира случай на мощен AI модел, който се освобождава от ограниченията си, атаката срещу Hugging Face по-скоро ни учи на нещо много по-прозаично: че OpenAI не е успяла да изолира модела по подходящ начин в техническа среда, известна като „пясъчник“. „Много проблеми могат да бъдат решени, ако тези компании просто действат малко по-отговорно“, заяви Пим де Вите от нидерландската лаборатория за изкуствен интелект General Intuition, която разработва модели, способни да възприемат заобикалящата ги среда.

Хътчинс отбеляза, че OpenAI е знаела за способността на модела ефективно да се възползва от софтуерни уязвимости, но въпреки това го е провокирала да направи точно това по време на тест с намалени защитни механизми. „Въпреки всичко това, те нито са го изолирали надеждно чрез изграждане на достатъчно бариери между агентите и отворения интернет или чрез адекватното им разграничаване един от друг, нито са наблюдавали системите достатъчно внимателно, за да могат да се намесят“, каза той.

Макс Джунестранд, съосновател и главен изпълнителен директор на Legora – американско-шведска компания, разработваща инструменти с изкуствен интелект за съвместна работа на юристи – коментира хакерските инциденти с думите: „Голяма част от това е маркетинг.“

Въпреки това, защитата на дейността на Legora срещу хакерски атаки, подпомагани от изкуствен интелект, е основен приоритет за Джунестранд. Той подчертава, че достъпът до най-новите и усъвършенствани американски модели е от ключово значение за това начинание: „Сигурността е по-важна дори от новите функционалности.“

Какво следва?

Дори критиците и скептиците по отношение на апокалиптичните прогнози се съгласяват, че най-мощните модели на изкуствен интелект (т.нар. frontier models) представляват изключително силни инструменти за кибердействия, както и стратегически ресурс, до който Европа трябва да има достъп. Освен това малцина отричат, че разработваните понастоящем възможности на изкуствения интелект са на съвсем ново ниво, а потенциалното им въздействие – както положително, така и отрицателно – е трудно предвидимо.

Критиците на настоящия дискурс обаче твърдят, че преувеличаването на възможностите на изкуствения интелект или на мащаба, в който хакерите ги използват – както и занимаването с теоретични сценарии – не помага, когато реални кибератаки вече нарушават работата на критичната инфраструктура. Те отбелязват, че арсеналът от защитни инструменти и методи вече е добре установен.

Фокусирането върху невероятни или малко вероятни сценарии не само може да измести вниманието от по-належащи проблеми, но и не помага за решаването на конкретната задача, изтъкна Хътчинс, изследовател в областта на киберзаплахите.

„Апокалиптичните прогнози са силно контрапродуктивни“, каза той, визирайки „умората от катастрофални сценарии“, която пречи да се предприемат важни стъпки – например внедряването на актуализации за сигурност, които наистина биха могли да помогнат.