Бомбой замедленного действия назвал депутат использование искусственного интеллекта в Казахстане

Депутат мажилиса Магеррам Магеррамов обеспокоен повсеместным использованием искусственного интеллекта в Казахстане, сообщает Orda.kz. По его мнению, необходимо запретить такие технологии в образовательных учреждениях.

Кроме того, парламентарий обратил внимание на риски, связанные с применением биометрических данных казахстанцев. По его словам, сбор биометрии происходит в банках, розничных точках продажи, при подключении абонентских номеров связи, в образовательных учреждениях, детских садах, больницах, поликлиниках, а также на пропускных пунктах бизнес-центров. Это вызывает вопросы, поскольку данные граждан фиксируют без их согласия.

«Полученная биометрия бесконтрольно используется по желанию и на усмотрение лиц, в базе данных. Именно на биометрию представители Нацбанка и АРРФР РК возлагают большие надежды как на механизм защиты граждан от мошенников, однако этот инструмент не может послужить декларируемым целям, учитывая, что биометрией любого гражданина может завладеть абсолютно каждый владелец даже самой незначительной торговой точки», сказал он в своём депутатском запросе.

Популярные социальные сети, такие как YouTube и Instagram, изобилуют рекламными роликами финансовых пирамид, где используются изображения и голоса известных личностей. По мнению депутата, это наглядно показывает, что биометрические данные казахстанцев, включая их изображения и голосовые записи, остаются недостаточно защищенными и могут быть использованы в преступных целях без согласия владельцев.

«Сегодня возможности искусственного интеллекта неограниченно велики. Достаточно завладеть одним лишь фотоматериалом, чтобы сгенерировать полностью реалистичную биометрическую картину гражданина. Это обстоятельство — бомба замедленного действия. Сегодня бесконтрольно устанавливаются камеры видеонаблюдения, бесконтрольно хранятся и используются материалы с этих камер. Мы видим, насколько мы беспомощны в вопросах защиты наших граждан в сфере киберпреступлений», добавил депутат.

Магеррам Магеррамов задаётся вопросом: каким образом уполномоченные органы планируют обеспечивать защиту биометрических данных граждан, которые хранятся в бесчисленных базах данных, доступ к которым может иметь неограниченное количество людей?

Отдельное внимание, по его мнению, необходимо уделить бесконтрольному использованию искусственного интеллекта детьми в образовательном процессе. Сегодня всё большую популярность приобретает генеративный ИИ, такой как ChatGPT. Эти технологии способны решать школьные задачи, выполнять упражнения, предоставлять краткие пересказы литературных произведений.

«Как мы все пониманием, такой подход к обучению сводит к нулю способность критически мыслить, резко негативно сказывается на получаемых знаниях и приводит к сложностям в принятии важных решений самостоятельно. Такими темпами мы рискуем потерять огромный интеллектуальный потенциал страны. Мы формируем поколение, которое не будет способно оперативно реагировать и решать сложные задачи, которые встанут на их жизненном пути», считает мажилисмен.

Недавно Европарламент принял закон, ограничивающий использование ИИ. Аналогичные меры принимаются и в других странах. В Австралии, а также в отдельных штатах США, есть правила, устанавливающие возрастные ограничения для социальных сетей.

«Уже сегодня нужно предпринять меры по предупреждению несанкционированного использования биометрических данных граждан и ограничить использование генеративного ИИ в образовательных учреждениях», уверен депутат.

 Магеррам Магеррамов предложил ряд мер для решения озвученных проблем:

• на уровне подзаконного акта регламентировать использование генеративного ИИ в учебных заведениях;
• обеспечить чёткий и прозрачный механизм сбора, обработки и хранения персональных данных, уполномочив лишь ограниченный круг лиц для сбора и обработки персональных данных (биометрии) граждан;
• пресечь незаконные факты передачи базы данных (биометрии) граждан путём проверки субъектов, осуществляющих сбор и хранение биометрии граждан на предмет незаконного использования и передачи данных третьим лицам.

Читайте также:

• Мошенники подделали голос министра с помощью искусственного интеллекта
• Казахский искусственный интеллект будут внедрять по всему тюркскому миру
• Под оком «Большого Брата»: искусственный интеллект будет следить за жителями двух городов Казахстана