Според съоснователя на американския гигант в областта на изкуствения интелект Anthropic Крис Олах развитието на AI не може да бъде оставено изцяло в ръцете на технологичните компании.

Той призова за по-голям контрол от страна на религиозни лидери, правителства и гражданското общество, предаде Ройтерс, цитиран от БТА.

Говорейки във Ватикана по време на представянето на първата енциклика на папа Лъв Четиринайсети, посветена на изкуствения интелект, Олах каза, че съществува „реална възможност“ AI да измести човешкия труд „в много голям мащаб“.

„Ако това се случи, подкрепата за тези, които ще бъдат засегнати, ще бъде морален императив от историческо значение“.

Външният контрол над AI - изключително важен

Според Олах компании като неговата работят под силен търговски и геополитически натиск, който може да противоречи на по-широките интереси на обществото.

„Всяка лаборатория за изкуствен интелект, работеща в авангарда... функционира в рамките на набор от стимули и ограничения, които понякога могат да влязат в конфликт с правилните действия“, предупреди още той, добавяйки, че дори изследователите с добри намерения остават под подобно влияние.

Олах заяви, че това прави външния контрол на изкуствения интелект изключително важен.

Базираната в САЩ Anthropic разработва инструменти, базирани на изкуствен интелект като чатбота „Клод“ (Claude). Компанията влезе в конфликт с администрацията на президента Доналд Тръмп, тъй като настояваше за ограничения за начина, по който моделите ѝ могат да се използват за военни цели, като например автономно насочване на оръжия или шпионаж на граждани.

Олах приветства ангажираността на Римокатолическата църква с бързо развиващата се технология, като заяви, че етичните въпроси, повдигнати от изкуствения интелект, излизат далеч извън рамките на инженерството.

„Въпросите, повдигнати от изкуствения интелект, са по-важни от самата изследователска общност в тази област“, каза той и призова за „искрени и задълбочени критици“, които да могат да поставят под въпрос действията на компаниите и да помогнат за насочването на мощни нови системи в положителна посока.

Unsplash
Unsplash

Спешно внимание в три области

Съоснователят на Anthropic, който е един от най-богатите хора в Канада, подчерта три области, които според него изискват спешно внимание:

  • рискът от масови съкращения на работни места,
  • необходимостта да се гарантира, че ползите от ИИ се разпространяват в целия свят,
  • както и нерешеният въпрос как да се тълкува все по-сложното и понякога неясно поведение на системите.

„Развитието на ИИ е концентрирано в няколко богати държави. Как можем да гарантираме, че ползите от ИИ се разпределят в световен мащаб?“, подчерта Олах.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google