Правителството на Южна Африка взе решение да оттегли своя проект за национална политика в областта на изкуствения интелект. Причината е скандално разкритие, че част от документа е генерирана от AI и се позовава на напълно измислени академични източници.

Министърът на комуникациите Соли Малатси спря проекта, след като стана ясно, че най-малко 6 от общо 67-те научни цитата в текста са „халюцинации“ на изкуствен интелект – препратки към статии, които никога не са съществували.

Провал, който компрометира доверието

Министър Малатси коментира случая в социалната мрежа X, като призна за сериозността на пропуска.

„Най-вероятното обяснение е, че генерирани от AI цитати са били включени без необходимата проверка. Това не биваше да се случва“, заяви той. „Този провал не е просто технически проблем, а компрометира целостта и доверието в проекта.“


Той допълни, че ще има последствия за отговорните лица и че случаят служи като важен урок.

„Този неприемлив пропуск показва защо е критично важно внимателното човешко наблюдение при използването на изкуствен интелект. Това е урок, който приемаме със смирение“, написа министърът.

Амбициите на оттеглената стратегия

Проектът за национална AI политика беше представен за обществено обсъждане с амбицията да позиционира Южна Африка като лидер в иновациите в тази сфера. Стратегията целеше да адресира етичните, социалните и икономическите предизвикателства, свързани с навлизането на изкуствения интелект.

Основните цели на документа включваха:

  • Създаване на нови институции за надзор върху AI.
  • Формиране на национална комисия по изкуствен интелект.
  • Учредяване на съвет по етика и специализиран регулаторен орган.
  • Въвеждане на данъчни облекчения, грантове и субсидии за насърчаване на сътрудничеството с частния сектор.

Очаква се проектът да бъде изцяло преработен, преди да бъде предложен отново за обществено обсъждане.

Разкриването на фалшивите цитати

Проблемът излезе наяве след разследване на изданието News24, което установи, че поне шест от цитираните източници са нереални. Въпреки че имената на научните списания, към които се препраща, са истински, посочените в тях статии не съществуват.

Редактори от авторитетни издания като South African Journal of Philosophy, AI & Society и Journal of Ethics and Social Philosophy са потвърдили независимо едно от друго, че цитираните публикации са фалшиви.

Нарастващият проблем с AI „халюцинациите“

Случаят в Южна Африка е ярък пример за нарастващия проблем с използването на генеративен AI от учени и администратори. Тези системи, макар и мощни, са склонни да генерират „халюцинации“ – уверено звучащи, но напълно измислени твърдения.

Големите езикови модели като ChatGPT и Gemini са проектирани да предсказват най-вероятната следваща дума в изречението, а не да проверяват истинността на информацията. Когато нямат достатъчно данни по дадена тема, те просто „запълват празнините“ с правдоподобна, но невярна информация. Така се създават препратки, които изглеждат авторитетно, но водят доникъде.

Според проучване, публикувано в списание Nature, се очаква над 2.5% от научните статии през 2025 г. да съдържат поне един потенциално „халюциниран“ цитат. За сравнение, през 2024 г. този дял е бил едва 0.3%. Това означава, че над 110 000 научни публикации може да съдържат невалидни препратки, генерирани от AI, което подчертава критичната нужда от внимателен човешки контрол.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !