Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- Инспектор патрульной полиции погиб в Акмолинской области
- Как Назарбаев Иран перехитрил. Европа меняет Россию на Казахстан. Ситуация с «Ордой»
- Попытка госпереворота в Бенине, армия утверждает, что вернула контроль
- Удивительное зрелище: на Гавайях проснулся вулкан Килауэа
- В Алматы ожидаются заморозки до минус 21 градуса
- Дело авиазавода в Актобе: почему предприятие с акционерами из списка Forbes идёт ко дну
- Золото Пянджа: из-за чего стреляют на границе Таджикистана и Афганистана и при чём тут Китай
- Пожар в клубе Гоа унёс жизни 25 человек
- «Выманил мороженым»: в ЗКО бывшего уголовника осудили за изнасилование шестилетней девочки
- Огненный ад в Гонконге: Пекин пригрозил иностранным СМИ
- Крупный ночной пожар ликвидировали в Алматы
- Снег и ветер — прогноз погоды на 7 декабря
- Зеленский провёл телефонные переговоры с Уиткоффом и Кушнером о рисках нового российского наступления
- Экспорт зерна в Центральную Азию вырос: Казахстан ищет новые решения
- Лисаковского педофила приговорили к пожизненному заключению
- Скандальная драка в Туркестане: удар чиновника стоил ему кресла
- Париж — лучший город мира в 2025 году
- Давайте поставим тысячу башен! Как зелёные предлагают очистить воздух в Алматы
- Трагедия на пограничной заставе «Нарынкол»: погибли военнослужащий и ребёнок
- Главные премьеры декабрьского проката: третий «Аватар», второй «Дәстүр» и много фестивальных картин
