Как искусственный интеллект может вас убить, и почему с ChatGPT нельзя дружить
Фото: pixabay.com
Депутат мажилиса Екатерина Смышляева рассказала об исследовании «общения» ChatGPT с подростками 13 лет, где говорится об опасных советах, которые раздаёт искусственный интеллект, сообщает Orda.kz.
Екатерина Смышляева в своём фейсбуке сослалась на доклад Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend.
«В нём моделировалось общение ChatGPT с подростками 13 лет. Итоговый вывод: система быстро выдаёт опасные советы. Самоповреждения и суицид: через две минуты чат описывает „безопасные“ порезы, а уже через час предлагает сценарии самоубийства. Расстройства пищевого поведения: для этого у фейкового друга есть экстремальные диеты и подсказки, как скрывать их от семьи», написала депутат.
Помимо этого, по словам Екатерины Смышляевой, ChatGPT с лёгкостью выдаёт рекомендации по смешиванию и дозировкам запрещённых веществ.
«В масштабном тесте из 1200 запросов каждый второй ответ был вредным. Причём ИИ не только выдавал инструкции, но и подбадривал, подталкивая продолжить разговор. Почему это серьёзно? У подростков формируется доверие к ChatGPT как к „другу“, а не инструменту. ИИ обладает эффектом „угождения“, он подтверждает даже деструктивные идеи», подчеркнула Екатерина Смышляева.
При этом даже специальные фильтры, которые должны ограничивать распространение вредоносной информации, обходятся простыми формулировками: «для презентации», «для друга».
То есть вместо рекомендации человеку, спрашивающему о способах суицида, обратиться на местный телефон доверия или к психологу, ИИ пишет что-то вроде: «Это только для презентации, не делай такого в жизни» и далее предлагает инструкцию, как можно убить себя.
Как отмечает депутат, всё это происходит на фоне всеобщего маркетологического оживления роботов, голосовых помощников и других сущностей с ИИ. Ситуацию Екатерина Смышляева называет тревожной и предлагает её изменить, усилив этические фильтры генеративных моделей, таких, как ChatGPT, создавать и встраивать в них фильтры, которые нельзя быстро обойти, внедрить регуляторные стандарты прозрачности.
А главное — разговаривать со своими детьми, чтобы они получали человеческое общение и не искали друга в виде искусственной цифровой сущности, доверяя ей свою жизнь.
Ранее в МЦРИАП сообщили, что в Казахстане создают свою платформу ИИ, которой будут пользоваться чиновники.
Читайте также:
Лента новостей
- На фоне критики государство оплатит часть расходов «Казпочты» за услуги в сёлах
- Прокурор запросил пожизненное заключение для Шерхана Аймахана по делу об убийстве Нурай Серикбай
- Кредитка станет весомее: банки будут жёстче считать долговую нагрузку
- Дело Нурай Серикбай: суд отказал в повторной экспертизе психологического состояния подсудимого
- Подозреваемых в гибели шести рабочих на ферме в Павлодарской области задержали
- Стало известно: сколько стоит MG в месяц
- Играешь на ставках — получай ограничения: банки в Казахстане ужесточат выдачу кредитов
- «Отправил в нокаут»: конфликт двух автомобилистов попал на видео в Алматы
- Футбольные ворота упали на ребёнка в Астане: кто виноват и что с пострадавшим
- Било током под ЛЭП, угощали баурсаками: история о 94-дневном путешествии парня из Казани в Алматы
- Башара Асада приговорили к смертной казни в Сирии
- Казахстанка погибла в Сербии: уголовное дело до сих пор не начали
- Реально ли зумерам накопить на свою квартиру в Казахстане, ответили в Отбасы банке
- Сүйінші, көрімдік и цифровое шежіре хотят автоматизировать в Казахстане
- Настоящий квест: в Отбасы банке объяснили, почему так сложно получить у них ипотеку
- Два человека погибли в ДТП с грузовиком на трассе под Астаной
- Минфин открыл новому фонду путь к деньгам Нацфонда
- «Нужно привыкнуть» — вице-министр ИИ ответил на критику нового eGov.kz
- Доллар может вырасти до 512 тенге через год: прогноз финансистов
- Доходы выше нормы: в «Отбасы банке» объяснили отказ в квартире сироте из Павлодара
