Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- За недоделанный ремонт школы подрядчику переплатили 78 млн тенге в Жамбылской области
- Ертысбаев сложил полномочия председателя Народной партии Казахстана
- СИЗО в крепости 1720 года постройки: в Усть-Каменогорске строят новый следственный изолятор
- Пять жизней унесло ночное ДТП на трассе в области Жетысу
- Кабо-Верде с тремя очками и без побед сенсационно выходит в плей-офф ЧМ-2026
- На двое суток перекроют улицу Керей Жанибек хандар в Астане
- Почти пять триллионов на уголь: у Казахстана нет технологий, но есть большие планы
- США и Иран обменялись ударами
- Жара до +41 и грозы — прогноз погоды на 27 июня
- «Не понимала, что делать»: на приставания в метро пожаловалась алматинка
- Помидоры, яйца и огурцы подешевели в Казахстане за неделю
- Более 900 погибших, 50 тысяч пропавших: в Венесуэлу прибывают спасатели со всего мира
- Экс-первая леди Южной Кореи получила семь лет тюрьмы за взятки
- Вывоз говядины из Казахстана снова предлагают ограничить
- В Алматы обсудят экологическую оценку нового Генплана
- Крупную незаконную пристройку известного кафе снесли в Алматы
- В области Абай задержали сотрудников СпецЦОНа по делу о продаже водительских прав
- Фото на память и пустой счёт: о новом виде мошенничества предупредили в Казахстане
- Дефицит бензина в Кыргызстане может повлиять на Казахстан
- У алматинского студента колледжа нашли в метро патроны
