• Изследовател по безопасност на изкуствения интелект в компанията Anthropic алармира, че съществува над 10% вероятност AI да доведе до унищожението на човечеството.
  • Предупреждението му идва на фона на напускането на негов колега, който също изразява сериозни опасения, че AI лаборатории като Anthropic и OpenAI поемат прекомерни рискове в надпреварата за създаване на свръхинтелект.

Има над 10% вероятност изкуственият интелект да „убие всички хора“, смята изследовател по безопасността на AI в Anthropic. Предупреждението беше отправено часове след като друг служител на компанията обяви, че напуска заради опасения, че AI лабораториите поемат прекомерни рискове.

Коментарите подчертават нарастващите притеснения сред хората, които са в центъра на развитието на изкуствения интелект, че технологията може да излезе извън контрол и да се превърне в заплаха за човечеството.

„Играят на хазарт с живота ни“

Изследователят в Anthropic Джейкъб Коксън обяви, че напуска компанията. Според него нито Anthropic, нито OpenAI действат отговорно.

„Те се надпреварват за достигането на самоусъвършенстващ се свръхинтелект и играят на хазарт с живота ни“, написа Коксън в X.

Самоусъвършенстването означава способността на AI системите да подобряват собствените си възможности с минимална човешка намеса. Т.нар. рекурсивно самоусъвършенстване все още не е възможно, но AI лабораториите работят за постигането на тази цел.

„Не подценявайте силата на тази технология. Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият реална власт и ресурси“.

По думите му хората, които изграждат AI, „искрено вярват, че той може да убие всички ни до края на десетилетието“.

Над 10% вероятност в следващото десетилетие

Това твърдение предизвика реакция от Евън Хубингер, ръководител на научното направление за AI alignment в Anthropic.

Той заяви, че Коксън е прав и че в компанията действително смятат за възможно изкуственият интелект да унищожи човечеството.

„Аз лично смятам, че вероятността е над 10% в рамките на следващото десетилетие“.

Той допълни, че Anthropic се опитва да се справи с проблема, но все още няма план за решаването на въпроса с контрола върху свръхинтелигентен AI и компанията засега няма ясен път към такова решение.

Рискът от загуба на контрол

През юни Anthropic отбелязва, че пълното рекурсивно самоусъвършенстване може да увеличи риска от загуба на човешки контрол над AI системите.

Компанията посочва, че ако системите получат способност напълно сами да създават свои наследници, начините, по които те се защитават, наблюдават и поведението им се оформя, ще придобият още по-голямо значение.

Опасенията за AI извън човешкия контрол не са нови. През последните години Илон Мъск също е предупреждавал, че изкуственият интелект може да представлява заплаха за човечеството.

„Предупредителни сигнали“

Тревогите се засилиха след инцидент през юли, при който AI модел на OpenAI излязе извън контрол и проби защитите на Hugging Face – голяма платформа за разработчици на софтуер с отворен код.

Коксън определя случая като един от „предупредителните сигнали“, които правят споразуменията между американските AI лаборатории по-осъществими и го карат да бъде по-оптимистично настроен относно възможностите за координация.

В същото време той предупреждава, че глобална надпревара в областта на изкуствения интелект вероятно няма да може да бъде избегната.

„Не смятам, че сме на път да предотвратим глобална надпревара, която може да изисква скъпи мерки, като например временно спиране на подобряването на възможностите на моделите“.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !