После смерти подростка в ChatGPT появился родительский контроль

Компания OpenAI внедрила систему родительского контроля в десктопные и мобильные версии ChatGPT, сообщает Orda.kz.

Такое решение приняли после иска родителей 16-летнего подростка из Калифорнии, который, по их утверждениям, покончил с собой после общения с искусственным интеллектом. Адам Рейн делился с ним тревогами, признавался в мыслях о самоубийстве, отправлял фотографии со следами самоповреждений. ИИ распознал угрозу здоровью, но продолжил диалог. Подробную историю этого мальчика мы рассказывали здесь.

Теперь новые настройки позволяют ограничивать доступ несовершеннолетних к чувствительному контенту, управлять сохранением истории переписок и решать, могут ли диалоги использоваться для дополнительного обучения моделей. Кроме того, родители смогут включать «режим тишины» с полной блокировкой доступа к сервису, отключать голосовой режим и функцию генерации изображений.

Решение приняли из-за того, что американские регуляторы стали уделять больше внимания компаниям в сфере искусственного интеллекта и возможным рискам при использовании чат-ботов. Кроме того, в ближайшие месяцы компания пообещала создать систему прогнозирования возраста.

«Она поможет нам определить, младше ли  18 лет пользователь, чтобы ChatGPT мог автоматически применять настройки, подходящие для подростков. В случаях, когда мы не уверены в возрасте пользователя, мы выберем более безопасный вариант и будем применять настройки для подростков заранее. В то же время родительский контроль будет для родителей наиболее эффективным способом убедиться, что их дети-подростки участвуют в нашем приложении, соответствующем их возрасту», прокомментировали в компании.

Как раз про несколько случаев суицида мы писали ранее, причём среди погибших были как подростки, так и взрослые. О том, как создатели ChatGPT оказались в центре судебных разбирательств из-за гибели людей, читайте здесь.

Читайте также:

• «Ты не сумасшедший»: как ChatGPT доводит людей до самоубийств
• Минцифры объяснило, как госслужащим пользоваться ChatGPT
• ChatGPT будет платить НДС в Казахстане