Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- Ракета «Союз-5» впервые стартовала с «Байтерека»
- ФК «Қыран» не выплатил сотрудникам более 100 млн тенге
- В Алматинской области сгорел склад почти на три тысячи квадратных метров
- Баллы за нарушения: новую систему для водителей тестируют в Казахстане
- Мост через реку Чаган частично обрушился на западе Казахстана
- Молодым врачам в Казахстане разрешат работать без резидентуры
- ОПЕК+ пойдёт на уступки ОАЭ уже без них
- 100 верблюдов за выпотрошенные кишки: сестра погибшего у караоке в Алматы о переговорах вне суда
- За что именно наказали мужчину, нашедшего на свалке герб, объяснили в полиции области Жетысу
- На задержку зарплат в известном лаундж-баре Астаны жалуются в соцсетях
- На территории Qarmet вскрыли махинации с сырьём на миллионы тенге. Видео
- Казахстанец обманул швейцарского инвестора на 3,5 млрд тенге
- «Впритык к больнице»: как в Астане строят ЖК в нескольких метрах от медцентра
- Неизвестные на дорогих авто снимали номера и давили пшеницу под Алматы ради видеоконтента
- В Минтруда объяснили пересмотр методики расчёта порога достаточности
- Мужчина получил огнестрельное ранение в Индерборе: подозреваемых братьев задержали
- У крупных банков обвалилась прибыль, у мелких выросла
- Убийство Нурай: подозреваемого признали вменяемым
- Убийство семьи в посёлке под Астаной: у подозреваемого реактивный психоз
- Что смотреть дома в мае: нуарный Человек-паук, «Очень странные дела» для бумеров и продолжение «Йеллоустоуна»
