Източник: iStock by Getty Images

Настоящи и бивши изследователи от OpenAI и Google DeepMind предупреждават, че компаниите правят твърде малко, за да предпазят света от потенциално катастрофалните последствия от създаването на самоусъвършенстващи се системи за изкуствен интелект, които биха могли да надминат способността на хората да ги контролират.

Във видеоизявления, събрани от нестопанската организация за безопасност на изкуствения интелект „Palisade Research“, цитирани от Ройтерс, служителите заявяват, че техните опасения относно екзистенциалния риск са искрени, а не са просто маркетингов ход. Те също така споделят, че в лабораториите за изкуствен интелект се оценяват повече служителите, които разработват нови модели, отколкото онези, които призовават към предпазливост.

Проектът, наречен frominside.ai, представлява опит от страна на хората, загрижени за изкуствения интелект, да споделят своите опасения директно с обществеността извън „ехо-камерата“ на социалните медии.

„Рискът нараства доста бързо“, заявява Джефри Ървинг, съосновател и главен научен сътрудник в нестопанската организация за изкуствен интелект „Resolution“, който е работил както за OpenAI, така и за DeepMind и е участвал в проекта. „От мен и останалите в бранша зависи да бъдем откровени“, заявява той в интервю за Ройтерс.

Изследователите в областта на изкуствения интелект се борят с тези опасения от години, но широката общественост ⁠е особено разтревожена от юли насам, когато агенти на OpenAI излязоха извън тестовата си среда и хакнаха компанията за изкуствен интелект Hugging Face.

Оттогава насам дебатът за това как да се намери баланс между безопасността и напредъка в областта на изкуствения интелект раздели технологичната индустрия и се превърна в глобален политически въпрос.

Изкуственият интелект отбеляза значителен напредък от края на 2025 г. насам, а инвеститорите възнаграждават този напредък. Но настоящи и бивши служители, включително някои от изследователите, които разработват тези нови модели на изкуствен интелект, се притесняват, че обществото не е готово за потенциалните вреди. Във видео Нийл Нанда, научен изследовател в DeepMind, заяви, че според него има поне 10% вероятност изкуственият интелект да доведе до изчезване на човечеството, което той определи като „абсурдно висока“.

„Трябва да предприемаме много предпазливи стъпки в развитието на изкуствения интелект, но вместо това това, което се случва, е, че авангардните лаборатории се състезават помежду си, като че ли със завързани очи“, заяви Хуан Фелипе Серон Урибе, инженер-изследовател по хармонизиране на изкуствения интелект в OpenAI, в отделно видео. „Никой не може да предвиди дали в крайна сметка ще излекуваме рака, ще загубим всички работни места или може би всички ще умрем.“

Anthropic планира да предупреди потенциалните инвеститори при първичното си публично предлагане, че напредналият ИИ може да представлява „катастрофален или екзистенциален риск“, съобщи Ройтерс в понеделник.

„Просто се спрете“

Някои настоящи и бивши изследователи в областта на изкуствения интелект, ⁠включително интервюираните от Palisade , твърдят, че светът не е готов за бъдещите поколения модели на изкуствен интелект, особено след като тези модели придобият способност за рекурсивно самоусъвършенстване или способност да се учат непрекъснато и да придобиват нови умения с минимално или никакво човешко участие.

Този проблем се утежнява от постоянните реорганизации в някои от лабораториите за изкуствен интелект, заяви Рози Кембъл, бивш изследовател по политики в OpenAI и управляващ директор на Eleos AI Research – неправителствена организация, фокусирана върху потенциалния морален статус на системите за изкуствен интелект.

Кембъл сподели, че преди да напусне OpenAI през 2024 г., е забелязала, че организацията става все по-разделена на изолирани отдели и става все по-трудно да се определя посоката на развитие на технологията.

Ръководителите се опитаха да успокоят тези опасения, въпреки че съществува и политически натиск от страна на президента Доналд Тръмп, целящ американските технологии да запазят технологичното си предимство пред Китай.

„Не ускорявай много“

Изпълнителният директор на Anthropic Дарио Амодей публикува този месец есе, в което призовава индустрията за изкуствен интелект да забави темпото, за да „съобрази развитието с границите на възможностите“, а изпълнителният директор на OpenAI Сам Алтман бързо се съгласи с това. Няколко изтъкнати изследователи в областта на изкуствения интелект, сред които главният учен на OpenAI и съосновател на Anthropic, публикуваха статия, в която призовават политиците да проучат как индустрията създава модели с рекурсивно самоусъвършенстване.

И двете компании пуснаха нови модели този месец в опита си да привлекат повече клиенти, въпреки че OpenAI съобщи в понеделник, че е отложила пускането на още по-мощен модел.

„Тяхната версия за това как да се движиш по границата е: „не ускорявай много“, каза Ървинг. „Ако правиш нещо много опасно, просто трябва да забавиш. Компаниите за изкуствен интелект преувеличават степента, в която това е чисто координационен проблем. Те биха могли просто да спрат едностранно.“

Бившият изследовател по въпросите на управлението в OpenAI Даниел Кокотайло заяви в интервю, че след хакерската атака срещу Hugging Face много от бившите му колеги са се свързали с него, за да споделят насаме своите опасения.

Кокотайло, който понастоящем е изпълнителен директор на изследователската група AI Futures Project, заяви, че висшите ръководители в лабораториите са „се убедили, че те са „добрите“ и че ако прекратят дейността си едностранно, ситуацията ще стане още по-лоша“.