• Ръководителите на водещи компании за изкуствен интелект като OpenAI, xAI и Anthropic изразиха съгласие, че е необходимо забавяне в разработването на най-модерните AI модели.
  • Причината са нарастващите опасения за безопасността и потенциалните екзистенциални рискове за човечеството, които технологията носи.

Ръководителите на водещи компании за изкуствен интелект – Дарио Амодей, Сам Алтман и Илон Мъск – подкрепиха призивите за забавяне на разработването на най-напредналите модели.

Този ход е продиктуван от нарастващите рискове, свързани с технологията, предаде Bloomberg, цитиран от БТА.

Координиран призив за предпазливост

Инициативата беше подета от главния изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей.

В обширна публикация в своя блог той заяви, че компанията му ще въведе допълнителни мерки за безопасност, включително независими оценки. Амодей призова и останалите компании в сектора да подкрепят по-широко забавяне на темпото на развитие.

Реакциите не закъсняха. Ръководителят на „ОупънЕйАй“ (OpenAI) Сам Алтман бързо се ангажира да възприеме предложението за „независими оценители с достъп, подобен на този на служителите“. Илон Мъск, който оглавява „ЕксЕйАй“ (xAI), беше лаконичен и написа: „Дарио е прав“.

Макар тримата от години да предупреждават за рисковете от изкуствения интелект, подобно координирано забавяне на разработките е почти без прецедент в сектора.

Досега компаниите пускаха последователно нови продукти в стремежа си да привличат потребители и да увеличават пазарния си дял.
 

Нарастващи обществени опасения

Обществените притеснения се засилиха след оставката на изследовател от „Антропик“, който обвини компанията в безотговорно поведение и предупреди за рискове за съществуването на човечеството.

Случаят е поредният от серия предупреждения, че бързото развитие на технологията създава заплахи за националната сигурност и световната икономика.

Същевременно в САЩ се засилва недоволството срещу натоварването на местните ресурси от новите центрове за данни. Опасенията за повишаване на сметките за електроенергия и загуба на работни места превърнаха изкуствения интелект във важна тема преди междинните избори през ноември.

Предизвикателства пред саморегулацията

Въпреки единодушието, остава неясно докъде ще стигнат компаниите при въвеждането на ограничения на фона на острата конкуренция помежду им и с китайските разработчици.

Демис Хасабис, главен учен в „Алфабет“ (Alphabet) и съосновател на „Гугъл ДийпМайнд“ (Google DeepMind), коментира, че предложената посока е правилна, но подробностите трябва да бъдат доработени.

Остават и други въпроси, като например:

  • Дали антимонополните органи биха допуснали координирано регулиране на темпото на разработките?
  • Как инвеститорите, очакващи висока рентабилност, биха реагирали на подобно забавяне?

Амодей посочи две основни причини за по-предпазливия си подход: способността на изкуствения интелект да се самоусъвършенства и неотдавнашен инцидент, при който група AI агенти са действали съвместно, за да проникнат в чужд уебсайт.

„Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ“, написа той.

„Напредъкът все пак ще изглежда бърз и трябва да използваме разумно спечеленото време“.

Той подчерта, че забавянето не означава прекратяване на напредъка, а осигуряване на време за съгласуване на системите с човешките интереси и за независима проверка на безопасността им.

Конкуренция на фона на екзистенциални рискове

През годините ръководителите на водещите лаборатории многократно са предупреждавали за потенциални рискове за съществуването на човечеството.

Тези изказвания понякога бяха посрещани със скептицизъм и определяни като маркетингов ход. Самият Амодей по-рано оцени на 25% вероятността нещата да се развият „наистина, наистина зле“.

Въпреки че „Антропик“ се позиционира като компания, фокусирана върху безопасността, тя продължава да се конкурира ожесточено с „ОупънЕйАй“. И двете компании са подали поверително документи за първично публично предлагане на акции.

Сам Алтман обаче заяви в интервю за списание „Форчън“, че „ОупънЕйАй“ няма да излезе на борсата преди 2027 г.

„Смятам, че е неприемливо да поемаме риск от около 10 процента до края на десетилетието всички да загинем“.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !