Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- В Казахстане утвердили новую концепцию по сохранению природы до 2035 года: что изменилось
- Казахстан в пятёрке стран с самым высоким ростом цен на продукты. Кто рядом?
- Старейший хлебозавод Актобе остановил производство из-за долга в 170 миллионов тенге
- Задушили и бросили у трассы: в Алматинской области раскрыли убийство 2006 года
- Сколько школ построили на конфискованные у коррупционеров деньги
- Яндекс запретил курьерам трогать клиенток за грудь после скандала с InDrive
- Все на биржу: малый и средний бизнес призовут выходить на фондовый рынок
- На «Байконуре» восстановили повреждённый в 2025 году после запуска комплекс
- Умерла администратор «Центра плова» в Щучинске: число жертв выросло до девяти
- Владельца «Центра плова» задержали после взрыва в Щучинске
- Редкого чёрного волка-меланиста застрелили на Востоке Казахстана
- После жалоб на насилие в отношении детей с аутизмом в Алматы проверяют частный центр
- Как копить в 2026 году, чтобы получить максимальную премию, рассказали в «Отбасы банке»
- Нефть закрепилась выше $80 за баррель
- В Караганде неизвестные стреляли в собак и забирали их тела, бьющиеся в конвульсиях. Видео
- В Иране похоронили 165 погибших после удара по школе для девочек
- Три дримлайнера для Air Astana снова задерживаются
- Казахстан подтвердил нейтральную позицию по конфликту на Ближнем Востоке
- В больнице скончалась восьмая жертва трагедии в Щучинске
- Главное — ребёнок: омбудсмен прокомментировала дело о насилии в отношении школьницы в Актюбинской области
