OpenAI добави дългоочаквания родителски контрол към своя чатбот ChatGPT, който е предназначен да осигури на тийнейджърите потребители на популярната платформа по-безопасно и „по-подходящо за възрастта“ изживяване, съобщиха от компанията.

Това се случва, след като безопасността на чатботовете с изкуствен интелект за млади потребители попадна във фокуса на медиите. Опасностите от технологията бяха подчертани наскоро от няколко случая, в които тийнейджъри се самоубиват, след като са общували с ChatGPT.

Как се използва родителският контрол?

В публикация в блога си от тази седмица OpenAI очерта новите възможности за контрол от страна на родителите. Родителският контрол ще бъде достъпен за всички потребители, но както родителите, така и тийнейджърите ще се нуждаят от собствени акаунти, за да се възползват от него.

За да се случи това, родител или настойник трябва да изпрати имейл или текстово съобщение, за да покани тийнейджър да свържат акаунтите си, или тийнейджър може да изпрати покана до родител.

Потребителите могат да изпратят заявка, като отидат в менюто с настройки, а след това в секцията „Родителски контрол“.

Тийнейджърите могат да „развържат“ профилите си по всяко време, но родителите ще бъдат уведомени, ако го направят.

Автоматични предпазни мерки

След като акаунтите бъдат свързани, акаунтът на тийнейджъра ще получи някои вградени защити, казват от OpenAI.

Тийнейджърските акаунти „автоматично ще получат допълнителна защита на съдържанието, включително ограничено графично съдържание, популярни предизвикателства, сексуални, романтични или насилствени ролеви игри и екстремни идеали за красота, за да се запази преживяването им подходящо за тяхната възраст“, заявиха от компанията.

Родителите могат да изключат тези филтри, но тийнейджърите нямат тази възможност.

OpenAI предупреждава, че подобни предпазни мерки „не са безпогрешни и могат да бъдат заобиколени, ако някой умишлено се опитва да ги заобиколи“. Организацията съветва родителите да говорят с децата си относно „здравословно използване на изкуствен интелект“.

Регулиране на настройките

Родителите получават и контролен панел, където могат да коригират редица настройки, както и да изключват ограниченията за чувствително съдържание, споменати по-горе.

Вашият тийнейджър, например, остава ли буден много след времето за лягане, за да използва ChatGPT? Родителите могат да зададат „тихо време“, когато чатботът не може да се използва.

Други настройки включват:

  • изключване на паметта на изкуствения интелект, така че разговорите да не могат да се запазват и да не се използват в бъдещи отговори;
  • изключване на възможността за генериране или редактиране на изображения;
  • изключване на гласовия режим;
  • отказ от използването на чатовете за обучение на моделите с изкуствен интелект на ChatGPT.

Получаване на известия

OpenAI също така предприема по-активни действия относно уведомяване на родителите, че детето им може да е в беда.

Компанията създава нова система за известяване, която да ги информира, когато нещо може да е „се е объркало сериозно“ и тийнейджър може да обмисля да се самонарани.

Малък екип от специалисти ще преглежда ситуацията и в редките случаи, когато има „признаци на сериозна нужда“, ще уведомяват родителите по имейл, с текстово съобщение и push-известие на телефона им – освен ако родителят не е изключил тази възможност.

От OpenAI заявиха, че ще защитят поверителността на тийнейджърите, като споделят само информацията, необходима на родителите или екипите за спешна помощ, за да им окажат помощ. От компанията уточняват:

„Няма идеална система и знаем, че понякога може да вдигнем тревога, когато няма реална опасност, но смятаме, че е по-добре да действаме и да предупредим родител, за да може да се намеси, отколкото да мълчим“.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !