Искусственному интеллекту запретят манипулировать казахстанцами

Мажилис принял в работу законопроект «Об искусственном интеллекте» и сопутствующие поправки, сообщает Orda.kz.
На пленарном заседании палаты законопроекты представил председатель комитета мажилиса по экономической реформе и региональному развитию Нуртай Сабильянов:
«Основной законопроект определяет правовые и организационные основы регулирования и обеспечения прозрачности в сфере искусственного интеллекта (ИИ), особенности использования ИИ госорганами и квазигосударственными организациями, права и обязанности субъектов взаимоотношений в сфере ИИ».
Также, по словам депутата, сопутствующие законопроекты определяют нормы в сфере защиты прав потребителей продукции ИИ, защиты персональных данных, используемых ИИ, безопасность распространения продукции массмедиа, созданной ИИ, и ответственность собственников и владельцев систем ИИ.
Законопроект вводит определение искусственного интеллекта. По версии законотворцев, ИИ — это:
«информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека с целью выполнения интеллектуальных задач и поиска решений».
Одно из любопытных положений — разделение систем искусственного интеллекта по степени независимости в принятии решений и воздействия на пользователя, которые подразделяются на:
- вспомогательные (помощники) — системы, в которых искусственный интеллект выполняет функции помощи пользователю и окончательные решения принимаются только пользователем;
- полуавтономные — системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров, при этом лицо, предоставившее права на принятия решения, может вмешиваться в процесс принятия решений или изменять результаты деятельности системы;
- полностью автономные — системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны собственника (владельца) данной системы.
Здесь же оговорено, что на территории Республики Казахстан запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем, обладающих рядом возможностей. Одна из запрещённых функций —
использование подсознательных, манипулятивных или иных методов, существенно искажающих поведение человека и ограничивающих способность принимать осознанные решения или вынуждающих принимать решение, которые могут причинить человеку вред или создавать угрозу причинения вреда жизни, здоровью и имуществу и иного вреда человеку.
Также под запретом для ИИ:
- использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам, с целью причинения или создания угрозы причинения вреда человеку;
- оценка и классификация физических лиц или группы в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами Республики Казахстан;
- создание или расширение баз данных распознавания субъекта персональных данных посредством нецелевого извлечения персональных данных, включая изображения лиц, из интернета или записей с камер видеонаблюдения;
- классификация физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам в целях использования для какой-либо дискриминации физического лица;
- определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами Республики Казахстан;
- удаленная биометрическая идентификация физических лиц, в реальном времени, в общественных местах, за исключением случаев, определенных законами Республики Казахстан;
- создание и распространение запрещенных законодательством Республики Казахстан результатов деятельности систем искусственного интеллекта.
Одно из положений будущего закона — Приоритет благополучия человека, свободы воли в принятии им решений
«Человек, его права и свободы рассматриваются как наивысшая ценность в процессах создания и эксплуатация систем искусственного интеллекта. При эксплуатации систем искусственного интеллекта должны приниматься меры по сохранению автономии и свободы воли человека в принятии им решений», указано в документе.

Кроме того, разработчики установили правовые рамки для ИИ. Все системы искусственного интеллекта разделили по уровню риска в зависимости от степени воздействия на безопасность пользователей, общество и государство подразделяются на:
- минимального риска — нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
- среднего риска — нарушение или прекращение функционирования, которых может привести к снижению эффективности и результативности деятельности пользователей, и может нанести материальный ущерб;
- высокого риска — нарушение или прекращение функционирования которых приводит к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.
Системы искусственного интеллекта высокого риска включат в перечень критически важных объектов информационно-коммуникационной инфраструктуры.
Как ранее сообщал премьер-министр Олжас Бектенов, для работы с ИИ в Астане откроют центр искусственного интеллекта Alem.AI. Его разместят в центральном павильоне Nur Alem выставки ЭКСПО. Помимо координации работы по развитию и внедрению ИИ, центр будет вести множество образовательных инициатив для всех категорий граждан.
Читайте также:
Лента новостей
- Мусорные войны: как в Астане сопротивляются увеличению тарифа
- Опасный наркотик изготавливали в Шымкенте — КНБ показал кадры
- Первое судебное заседание по делу Темирлана Енсебека перенесли
- ОСМС в Казахстане — хорошая вещь? Тогда почему государство не платит поликлиникам
- Трагедия на футбольном поле: в Астане на мужчину упали ворота
- США ввели санкции против главного прокурора Международного уголовного суда
- Туман и гололёд — прогноз погоды на 14 февраля
- В Астане прогремел взрыв
- «Неутешительные цифры» — рекордным по числу погибших журналистов стал 2024 год
- Минус три дня за книгу: в Узбекистане предложили сокращать сроки наказания за чтение книг
- Сразу в нескольких регионах ограничили движение на дорогах
- Beeline искусственно завышал цены на домашний интернет — АЗРК
- В Таразе сотрудник центра поддержки детей избил воспитанника
- Микробизнес и малый бизнес полностью освободят от уплаты НДС?
- Токаев подписал указ о призыве в армию
- Сапфировое стекло и белое золото: изъятые у казахстанских олигархов часы продадут на аукционе
- Бишимбаев продолжает судиться с колонией, адвокат экс-министра подал апелляцию
- «Старшие братья»: в Талгарском районе поймали банду вымогателей
- Канадцы будут искать медь на одном из крупнейших месторождений в Казахстане
- Подозреваемого в изнасиловании девочки арестовали в Таразе