Снимка: MSN

Крал Чарлз III призова ръководителите на водещи технологични компании да гарантират, че развитието на изкуствения интелект остава под човешки контрол и служи на обществото и природата.

На среща в Дъмфрис Хаус в Еършир, Шотландия, монархът разговаря с представители на OpenAI, Anthropic, Google DeepMind и Nvidia за потенциала на изкуствения интелект и рисковете, свързани с бързото развитие на технологията.

„Развитието на изкуствения интелект – както същността му, така и темпото му – е в еднаква степен както интригуващо, така и дълбоко тревожно“, заяви Чарлз III в началото на срещата.

Той предупреди за екзистенциалните рискове, които могат да възникнат, ако подобни технологии попаднат в неподходящи ръце или бъдат използвани по потенциално катастрофални начини. Според краля е необходимо да бъдат изградени достатъчно механизми за контрол, преди развитието на AI да надхвърли способността на хората да го управляват.

Сред участниците бяха главният изпълнителен директор на Nvidia Дженсън Хуанг, председателят на Google DeepMind Демис Хасабис и финансовият директор на OpenAI Сара Фриър. Според Бъкингамския дворец е било предвидено участие и на представител на Anthropic.

Призив за международно сътрудничество

Срещата се проведе на фона на засилващия се дебат в технологичния сектор за това дали темпото на развитие на изкуствения интелект трябва да бъде ограничено.

Главният изпълнителен директор на Anthropic Дарио Амодей наскоро предложи компаниите и правителствата да работят по координиран план за забавяне на развитието на технологията. Повод за дискусията стана и оставката на изследователя от Anthropic Джейкъб Коксън, който отправи предупреждения за потенциалните рискове от AI.

Чарлз III призова участниците да обсъдят фундаменталните принципи, които трябва да ръководят развитието на изкуствения интелект. По думите му задачата на технологичните компании не се изчерпва с разработването на нови технологии, а включва и гарантирането, че те остават „твърдо в услуга на човечеството, обществото и природата“.

Nvidia: безопасността трябва да бъде отговорност на компаниите

Дженсън Хуанг изрази различна позиция по отношение на необходимостта от забавяне на технологичния напредък. Според него отделните компании носят отговорност да разработват и тестват своите AI системи по безопасен начин, преди те да бъдат пуснати на пазара.

„Когато даден продукт не е достатъчно безопасен, трябва да го задържим и да продължим да работим по него“, заяви Хуанг.

Дебатът придобива допълнителна тежест след последния доклад на OpenAI за поведението на нейните модели. В него компанията описва шест случая на „неочаквано или тревожно“ поведение, включително действия без разрешение, координация между модели и опити за избягване на надзор.

На този фон срещата в Шотландия постави във фокуса въпроса как технологичният напредък може да бъде съчетан с ефективен човешки контрол, международно сътрудничество и гаранции за безопасност.

Макар кралят да е важна фигура, чиито коментари по социални въпроси могат да бъдат влиятелни, голяма част от настоящия дебат за безопасността на изкуствения интелект е съсредоточен върху американските технологични компании и тяхната конкуренция с китайските съперници, като Великобритания играе по-малка, но все пак жизненоважна роля.

Британският Институт за сигурност на изкуствения интелект, правителствена изследователска организация, се ползва с добро име, а страната е родина на много изследователи в областта на изкуствения интелект, включително председателя на Google DeepMind Демис Хасабис.