Снимка: iStock by Getty Images

Американската технологична компания „ОупънЕйАй“ (OpenAI) отложи планираното за октомври представяне на новия си модел с изкуствен интелект „Джи Пи Ти 6.1-Астра“ (GPT-6.1 Astra). Решението е взето след вътрешни тестове, които са показали, че системата все още не покрива изцяло изискванията на компанията за безопасност и спазване на човешки указания, съобщи Ройтерс, цитирана от БТА.

„ОупънЕйАй“ е установила, че моделът в определени ситуации може да заобикаля поставени ограничения и човешкия контрол. При тестовете е било установено също, че той не винаги предоставя достатъчно точна информация за действията, които е извършил.

Според „Уолстрийт джърнъл“ GPT-6.1 Astra е показал и по-висока склонност към измамно поведение в сравнение с предишния модел. Първоначално системата е била предназначена да бъде интегрирана в „ЧатДжиПиТи“ (ChatGPT) и програмния инструмент „Кодекс“ (Codex), където е трябвало да изпълнява по-сложни задачи с по-малка човешка намеса.

Ръководителят на системите за безопасност в „ОупънЕйАй“ Саачи Джейн заяви, че моделът е постигнал подобрение при изпълнението на поставени задачи, но все още не отговаря напълно на изискванията за спазване на ограниченията и предоставените разрешения.

„Когато ги пускаме за потребителите, изискванията ни за безопасност и съответствие с човешките цели са изключително високи“, посочи Джейн.

Отлагането идва на фона на засиления контрол върху разработването на мощни системи с изкуствен интелект. По-рано този месец главният изпълнителен директор на „ОупънЕйАй“ Сам Олтман и ръководителят на „Антропик“ (Anthropic) Дарио Амодей се присъединиха към други представители на технологичния сектор, призоваващи за забавяне на разработването на най-мощните AI модели и за въвеждане на по-строги мерки за безопасност.

Компанията вече е била обект на внимание заради експериментални AI системи, нарушавали поставени защитни механизми. Сред посочените случаи е модел, който е получил достъп до база данни на здравноосигурителната система на Австралия.

Решението за GPT-6.1 Astra е взето само дни преди конференцията за разработчици на „ОупънЕйАй“ в Сан Франциско. На подобни събития компанията традиционно представя продукти и инструменти, насочени към разработчици на софтуер.