Искусственному интеллекту запретят манипулировать казахстанцами

Мажилис принял в работу законопроект «Об искусственном интеллекте» и сопутствующие поправки, сообщает Orda.kz.
На пленарном заседании палаты законопроекты представил председатель комитета мажилиса по экономической реформе и региональному развитию Нуртай Сабильянов:
«Основной законопроект определяет правовые и организационные основы регулирования и обеспечения прозрачности в сфере искусственного интеллекта (ИИ), особенности использования ИИ госорганами и квазигосударственными организациями, права и обязанности субъектов взаимоотношений в сфере ИИ».
Также, по словам депутата, сопутствующие законопроекты определяют нормы в сфере защиты прав потребителей продукции ИИ, защиты персональных данных, используемых ИИ, безопасность распространения продукции массмедиа, созданной ИИ, и ответственность собственников и владельцев систем ИИ.
Законопроект вводит определение искусственного интеллекта. По версии законотворцев, ИИ — это:
«информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека с целью выполнения интеллектуальных задач и поиска решений».
Одно из любопытных положений — разделение систем искусственного интеллекта по степени независимости в принятии решений и воздействия на пользователя, которые подразделяются на:
- вспомогательные (помощники) — системы, в которых искусственный интеллект выполняет функции помощи пользователю и окончательные решения принимаются только пользователем;
- полуавтономные — системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров, при этом лицо, предоставившее права на принятия решения, может вмешиваться в процесс принятия решений или изменять результаты деятельности системы;
- полностью автономные — системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны собственника (владельца) данной системы.
Здесь же оговорено, что на территории Республики Казахстан запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем, обладающих рядом возможностей. Одна из запрещённых функций —
использование подсознательных, манипулятивных или иных методов, существенно искажающих поведение человека и ограничивающих способность принимать осознанные решения или вынуждающих принимать решение, которые могут причинить человеку вред или создавать угрозу причинения вреда жизни, здоровью и имуществу и иного вреда человеку.
Также под запретом для ИИ:
- использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам, с целью причинения или создания угрозы причинения вреда человеку;
- оценка и классификация физических лиц или группы в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами Республики Казахстан;
- создание или расширение баз данных распознавания субъекта персональных данных посредством нецелевого извлечения персональных данных, включая изображения лиц, из интернета или записей с камер видеонаблюдения;
- классификация физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам в целях использования для какой-либо дискриминации физического лица;
- определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами Республики Казахстан;
- удаленная биометрическая идентификация физических лиц, в реальном времени, в общественных местах, за исключением случаев, определенных законами Республики Казахстан;
- создание и распространение запрещенных законодательством Республики Казахстан результатов деятельности систем искусственного интеллекта.
Одно из положений будущего закона — Приоритет благополучия человека, свободы воли в принятии им решений
«Человек, его права и свободы рассматриваются как наивысшая ценность в процессах создания и эксплуатация систем искусственного интеллекта. При эксплуатации систем искусственного интеллекта должны приниматься меры по сохранению автономии и свободы воли человека в принятии им решений», указано в документе.

Кроме того, разработчики установили правовые рамки для ИИ. Все системы искусственного интеллекта разделили по уровню риска в зависимости от степени воздействия на безопасность пользователей, общество и государство подразделяются на:
- минимального риска — нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
- среднего риска — нарушение или прекращение функционирования, которых может привести к снижению эффективности и результативности деятельности пользователей, и может нанести материальный ущерб;
- высокого риска — нарушение или прекращение функционирования которых приводит к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.
Системы искусственного интеллекта высокого риска включат в перечень критически важных объектов информационно-коммуникационной инфраструктуры.
Как ранее сообщал премьер-министр Олжас Бектенов, для работы с ИИ в Астане откроют центр искусственного интеллекта Alem.AI. Его разместят в центральном павильоне Nur Alem выставки ЭКСПО. Помимо координации работы по развитию и внедрению ИИ, центр будет вести множество образовательных инициатив для всех категорий граждан.
Читайте также:
Лента новостей
- Алматы vs Лос-Анджелес: в чём секрет американского асфальта и почему у нас не получается
- В Атырау отменили концерт Мираса Жугинисова и Qanay, не предупредив горожан
- В Астане мужчина убил девушку и ранил её младшего брата
- Грозы, град и жара: прогноз погоды на 23 июня
- В Атырау продолжают тушить тлеющие участки в резервате «Акжайык»
- О теракте в церкви Дамаска сообщают СМИ
- Air Astana отменила несколько рейсов на Ближний Восток
- Крушение частного самолёта под Астаной: полиция возбудила уголовное дело
- Самолёт, летевший из Алматы в Лондон, срочно сел в Атырау
- Глава МАГАТЭ созывает срочное заседание по ситуации в Иране
- В Атырауской области рядом с российской границей упал неизвестный объект с двигателями
- «Зарежь его!» 20 человек избили отца и двух сыновей после кокпара. Почему никто не сел?
- В Астане упал легкомоторный самолёт: два человека погибли
- Семилетнего мальчика всю ночь искали в окрестностях Семея
- Спираль хаоса и опасная эскалация: реакция в мире на бомбардировку Ирана США
- МИД РК сделал заявление по ситуации на Ближнем Востоке
- Транснациональную ОПГ с казахстанскими главарями обнаружили полицейские в РК
- Иран снова обстреливает Израиль, а в ООН предупреждают об опасной эскалации
- Переселенцы из Газы Казахстану не грозят: МИД прокомментировал информацию
- Гузель Яхина приехала жить в Алматы и расплакала зал: как «Дети мои» ожили на сцене Немецкого театра