Изкуственият интелект (AI) може да доведе до изчезване на човечеството, предупредиха експерти, сред които ръководителите на OpenAI и Google Deepmind.

Десетки от тях подкрепиха изявление, публикувано на уебсайта на Центъра за AI безопасност.

"Смекчаването на риска от изчезване на човечеството вследствие на AI би трябвало да бъде глобален приоритет заедно с други рискове от обществено значение, като пандемии и ядрена война", се казва в изявлението.

Според други обаче, тези страхове са преувеличени.

Изявлението беше подкрепено от Сам Алтман, главен изпълнителен директор на създателя на ChatGPT - OpenAI, Демис Хасабис, главен изпълнителен директор на Google DeepMind и Дарио Амодей от Anthropic.

На уебсайта на Центъра за AI безопасност са посочени редица евентуални катастрофални сценарии:

  • Изкуственият интелект може да бъде въоръжен. Някои от инструментите, които в момента се ползват за полезни цели, биха могли да се използват за създаване на химически оръжия
  • Генерирана от AI дезинформация би могла да дестабилизира обществото и да "подкопае колективното вземане на решения"
  • Силата на AI би могла да става все по-концентрирана във все по-малко ръце, което би дало възможност на "режими да налагат тесни ценности чрез всеобхватно следене и потисническа цензура"

Може да се стигне до отслабване на обществото, при което хората стават зависими от AI, "подобно на сценария, който се разиграва във филма УОЛ-И"

Доктор Джефри Хинтън, който преди време отправи предупреждение относно риска от супер интелигентния AI, също подкрепи призива на Центъра за AI безопасност.

Йошуа Бенгио, преподавател по компютърни науки в Университета на Монреал, също е подписал документа.

Хинтън, Бенгио и преподавателят от Нюйоркския университет Ян ЛеКун често са наричани "кръстниците на AI" заради основополагащата си работа в тази сфера, която им донесе наградата Тюринг през 2018 г.

Според професор ЛеКун обаче, който също така работи в Meta, тези апокалиптични предупреждения са преувеличени.  

Много други експерти също смятат, че страховете, че AI може да изтрие човечеството от лицето на Земята са нереалистични и отвличат вниманието от въпроси, като предубедеността в системите, която вече е проблем.

Арвинд Нараянан, който се занимава с компютърни науки в Принстънския университет смята, че научнофантастичните катастрофални сценарии са нереалистични: "В момента способностите на AI са много далече от материализиране на тези рискове. В резултат на това се отвлича вниманието от вредите в краткосрочен план от AI".

Елизабет Рениерис от Оксфордския Институт за етика в AI казва пред BBC, че се опасява повече за рисковете, които са по-близки до настоящето.

"Напредъкът при AI ще увеличи мащаба на автоматизираното вземане на решения, които са предубедени, дискриминиращи, изключващи или несправедливи по друг начин, като същевременно са неразбираеми и неоспорими," казва тя.

Те биха "довели до експоненциално увеличение в обемите и разпространението на дезинформация, което, от своя страна, ще доведе до раздробяване на реалността, подкопаване на общественото доверие и увеличаване на неравенството - най-вече за онези, които остават от грешната страна на дигиталното разделение ".

Медийното отразяване на предполагаемата "екзистенциална" заплаха от страна на AI нарасна значително от март 2023 г., когато експерти, сред които и главният изпълнителен директор на Tesla Илон Мъск, подписаха отворено писмо, призовавайки за спиране на разработването на технологиите за AI от следващо поколение.

В писмото се питаше дали би трябвало да "разработваме нечовешки умове, които може, в крайна сметка, да станат повече от нас, да бъдат по-умни и да ни заменят".

Новата кампания обаче има много кратко изявление, което има за цел да "отвори дискусията".

Изявлението сравнява риска с този от ядрена война. В блогпост от OpenAI наскоро заявиха, че суперинтелектът може да бъде регулиран по същия начин като атомната енергия: "В крайна сметка, ще имаме нужда от нещо като Международната агенция за атомна енергия за случващото се в сферата на суперинтелекта", пишат от компанията.

Сам Алтман и главният изпълнителен директор на Google Сундар Пичай са сред технологичните лидери, които наскоро обсъждаха с политически лидери регулации в сферата на AI.

Страните от Г-7 пък наскоро създадоха работна група за по въпросите на изкуствения интелект.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google