Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- До 10 сентября закроют для движения часть шоссе Коргалжын в Астане
- Новый пассажирский поезд с интернетом Starlink начал ходить из Астаны в Аркалык
- Казино построят в Алматинской области: местные жители опасаются роста лудомании
- «Как 50 таблеток оказались в камере?»: мать умершей в ИВС девушки отреагировала на освобождение сотрудника
- Фонтаны Алматы не дождались лета: почему городские объекты снова не работают
- «Строительство — это инвестиция в будущее страны»: интервью с Мауленом Айманбетовым
- Госгрант не достался: какие ещё варианты учиться бесплатно есть у абитуриентов Казахстана
- Тридцать лет с печками: почему 17 домов в Молодёжном так и не подключили к центральному отоплению
- Ждали 15 лет, а живут без газа: новосёлы в Актобе пожаловались на квартиры по госпрограмме
- Снова жарко — прогноз погоды на 8 августа
- Украли более шести млрд тенге при реконструкции водовода: в Атырау вынесли приговор
- Баскетбольный клуб «Астана» остался без финансирования — игроки обратились к Токаеву
- Казахстанским учёным упростили работу в странах ЕАЭС
- Где голосовать на выборах в Курултай? Казахстанцы могут проверить свой участок
- «Мы не подтверждаем»: глава КМГ прокомментировал проект с ExxonMobil на 80 млрд долларов
- Общественными работами наказали мужчину в Алматинской области за сталкинг
- Семья Нурай Серикбай потребовала более 10 млрд тенге: как развивается резонансное дело
- Две трагедии за два дня: сотрудники «Казахтелекома» погибли на работе в регионах
- С доставкой из России продавали поддельные госномера по Казахстану
- КНБ и военные избавляются от бесполезных бронежилетов, противогазов и портретов Назарбаева
