Искусственному интеллекту запретят манипулировать казахстанцами

Мажилис принял в работу законопроект «Об искусственном интеллекте» и сопутствующие поправки, сообщает Orda.kz.

На пленарном заседании палаты законопроекты представил председатель комитета мажилиса по экономической реформе и региональному развитию Нуртай Сабильянов:

«Основной законопроект определяет правовые и организационные основы регулирования и обеспечения прозрачности в сфере искусственного интеллекта (ИИ), особенности использования ИИ госорганами и квазигосударственными организациями, права и обязанности субъектов взаимоотношений в сфере ИИ».

Также, по словам депутата, сопутствующие законопроекты определяют нормы в сфере защиты прав потребителей продукции ИИ, защиты персональных данных, используемых ИИ, безопасность распространения продукции массмедиа, созданной ИИ, и ответственность собственников и владельцев систем ИИ.

Законопроект вводит определение искусственного интеллекта. По версии законотворцев, ИИ — это:

«информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека с целью выполнения интеллектуальных задач и поиска решений».

Одно из любопытных положений — разделение систем искусственного интеллекта по степени независимости в принятии решений и воздействия на пользователя, которые подразделяются на:

• вспомогательные (помощники) — системы, в которых искусственный интеллект выполняет функции помощи пользователю и окончательные решения принимаются только пользователем;
• полуавтономные — системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров, при этом лицо, предоставившее права на принятия решения, может вмешиваться в процесс принятия решений или изменять результаты деятельности системы;
• полностью автономные — системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны собственника (владельца) данной системы.

Здесь же оговорено, что на территории Республики Казахстан запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем, обладающих рядом возможностей. Одна из запрещённых функций — 

Также под запретом для ИИ:

• использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам, с целью причинения или создания угрозы причинения вреда человеку;
• оценка и классификация физических лиц или группы в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами Республики Казахстан;
• создание или расширение баз данных распознавания субъекта персональных данных посредством нецелевого извлечения персональных данных, включая изображения лиц, из интернета или записей с камер видеонаблюдения;
• классификация физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам в целях использования для какой-либо дискриминации физического лица;
• определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами Республики Казахстан;
• удаленная биометрическая идентификация физических лиц, в реальном времени, в общественных местах, за исключением случаев, определенных законами Республики Казахстан;
• создание и распространение запрещенных законодательством Республики Казахстан результатов деятельности систем искусственного интеллекта.

Одно из положений будущего закона — Приоритет благополучия человека, свободы воли в принятии им решений

«Человек, его права и свободы рассматриваются как наивысшая ценность в процессах создания и эксплуатация систем искусственного интеллекта. При эксплуатации систем искусственного интеллекта должны приниматься меры по сохранению автономии и свободы воли человека в принятии им решений», указано в документе. 

Кроме того, разработчики установили правовые рамки для ИИ. Все системы искусственного интеллекта разделили по уровню риска в зависимости от степени воздействия на безопасность пользователей, общество и государство подразделяются на:

• минимального риска — нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
• среднего риска — нарушение или прекращение функционирования, которых может привести к снижению эффективности и результативности деятельности пользователей, и может нанести материальный ущерб;
• высокого риска — нарушение или прекращение функционирования которых приводит к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.

Системы искусственного интеллекта высокого риска включат в перечень критически важных объектов информационно-коммуникационной инфраструктуры.

Как ранее сообщал премьер-министр Олжас Бектенов, для работы с ИИ в Астане откроют центр искусственного интеллекта Alem.AI. Его разместят в центральном павильоне Nur Alem выставки ЭКСПО. Помимо координации работы по развитию и внедрению ИИ, центр будет вести множество образовательных инициатив для всех категорий граждан.

Читайте также:

• Человекоподобных роботов будут производить китайцы в Казахстане
• Риск шпионажа: сотни компаний запретили использовать китайскую нейросеть DeepSeek
• Бомбой замедленного действия назвал депутат использование искусственного интеллекта в Казахстане