Восстание машин: такси без водителя, мошенники с поддельными лицами и кто будет нести ответственность за ошибки ИИ?

В Алматы эксперты поделились видением ближайшего будущего, где авто будут беспилотными, а общаться с клиентами банков будут роботы. О перспективах – в разборе Orda.kz, которая послушала экспертов на VI финтех-форуме Plus-Forum.

В Казахстане пока нет точного определения понятию «искусственный интеллект» (ИИ). Иными словами, с точки зрения закона он пока не существует. В итоге возникает огромное количество разночтений. Косвенно упоминается ИИ только в законе об информатизации и об онлайн-платформах. О необходимости правового регулирования нового явления говорил президент Касым-Жомарт Токаев на форуме Digital Bridge, который недавно прошёл в Астане.

Если понятие ИИ законодательно закрепят, то будут отталкиваться от того, что это некий робот, интеллект, который по своей природе заменит некоторые функции человека. В итоге у компаний появятся дополнительные обязательства, которые будут касаться их ИИ. 

Применение в бизнесе. Всегда ли законно?

Так, например, искусственный интеллект в виде камеры может отслеживать эффективность каждого бариста в кофейне: считать количество чашек кофе, который сделал работник. Юрист компании AEQUITAS Кирилл Грешников уверен, что подобные новации помогут бизнесу избавиться от безответственных сотрудников и лучше вести учёт. При этом спикер поясняет, что нужно сделать, чтобы установка подобной камеры была правомерна.

«Нужно получать согласие сотрудника на это – на видеосъёмку, обработку, и это должно быть урегулировано во внутренней политике организации. То же самое с deepfake – при регистрации пользователя на той или иной платформе необходимо получить прямое и безусловное согласие на обработку его биометрических данных. Это очень важный аспект, в Казахстане за это предусмотрены штрафы, ну а в западных странах штрафы баснословные», – говорит юрист Грешников. 

На этом проблемы правоприменения инновационной технологии не заканчиваются. 

Проблема авторских прав

Кроме того, искусственный интеллект может придумать и создать что-то своё и уникальное – видео, изображение, текст, приложение и т. д. Если у обладателя ИИ возникнет желание запатентовать изобретение своего искусственного детища, то скорее всего не выйдет.

«Говоря про Казахстан, хочу сразу сказать, что наши уполномоченные органы, вероятно, не запатентуют объект, который был создан ИИ. По нашему праву это прерогатива исключительно человека. То есть это не компания, это не ИИ, автор может быть только человеком и точка», – рассказывает юрист.

В других юрисдикциях – Европе, Австралии – ситуация иная. В ЕС запатентовать произведение ИИ можно, но в патенте будет указан человек, а ИИ будет фигурировать на бумагах в качестве инструмента. В Австралии искусственный интеллект признаётся автором. Это вызвало большой резонанс среди юристов. 

В 2021 году в качестве изобретателя искусственного интеллекта под названием DABUS (сокращение от Device for the Autonomous Bootstrapping of Unified Sentience) в заявке указали доктора Стивена Талера. Его изобретение – улучшенный контейнер для хранения продуктов питания. Суд признал патент, хотя и записал его на имя изобретателя, который считается собственником ИИ. Последний отдельным субъектом права в итоге всё же признан не был, но интеллектуальные права получил. 

В США же в этом году суд Нью-Йорка оштрафовал двух адвокатов и их фирму на пять тысяч долларов за ссылки на несуществующие дела, которые сгенерировал чат-бот ChatGPT. По мнению правосудия, адвокаты действовали недобросовестно и сознательно ввели суд в заблуждение. Однако судья отметил, что ничего плохого в использовании нейросетей для помощи нет.  

Главные проблемы использования искусственного интеллекта

Кирилл Грешников наравне с преимуществами использования искусственного интеллекта выделяет восемь основных проблем:

1. Конфиденциальность и безопасность данных
2. Предвзятость и дискриминация
3. Недостоверность информации
4. Недостаток прозрачности алгоритмов
5. Отсутствие человечности
6. Отсутствие новизны
7. Высокая вероятность ошибок
8. Этические проблемы.

«Непонятно, как собирает искусственный интеллект персональные данные, как он ими распорядится, мы не знаем, куда они дальше пойдут. Даже с чат-ботом GPT неясно, что он сделает с информацией, о том, как меня зовут и где я живу», –  рассуждает юрист.

Если в Казахстане дискриминации уделяют не так много внимания, то на Западе за этим смотрят очень внимательно. 

«Искусственный интеллект по определённым, не самым адекватным критериям может отказать в приёме на работу в ходе собеседования», – поясняет Грешников. 

Проблемы и конфликтыне ситуации в ходе применения инновации могут перерасти в судебные дела, считают эксперты. Особенно это касается банков, которые сейчас активно начали использовать ИИ.

Искусственный интеллект внедряют в казахстанских ЦОНах.

«Именно благодаря ему исчезли люди, которые собирали адресные справки и другие документы. Это показывает, что часть людей-профессионалов столкнутся с конкуренцией с искусственным интеллектом», – поясняет Грешников. 

Deepfake – новый способ обмана

Ещё одна угроза, которую несут новые технологии – это deepfake. Так называется методика синтеза изображения или голоса, основанная на искусственном интеллекте. По словам менеджера по развитию банковского сектора VisionLabs Артёма Русакова, ему удалось создать deepfake и его казахстанский партнёр взял кредит на его имя через видеобанкинг, притом, что они совсем не похожи.

И если статистика таких преступлений в Казахстане пока не ведётся, то в Канаде и США за год число подобных мошенничеств увеличилось в два раза, а сумма ущерба для банков составила 500 тысяч долларов. 

По результатам исследования iProov – компании, специализирующейся на биометрической аутентификации, жители США боятся следующих последствий deepfake:

1. Убеждение других лиц в том, что человек сказал то, что не говорил
2. Нанесение ущерба репутации
3. Кража личности с целью воровства денег у знакомых
4. Кража личности с целью открытия банковских счетов и получения кредитов
5. Страх поверить в то, что не соответствует действительности.

Таким образом, deepfake – это вызов для компаний, банков, онлайн-магазинов а также онлайн-сервисов по предоставлению государственных услуг вроде казахстанского egov. 

Такси на автопилоте уже реальность

Не только в западных странах, но и в России на улицах проходят пилотные испытания беспилотных такси. С 2018 года роботакси перевозит пассажиров в спутнике столицы Татарстана – Иннополисе. С 2023 года такси, которым управляет искусственный интеллект, работает даже в некоторых спальных районах Москвы. 

«Сейчас через приложение можно заказать пилотное такси. Законодательство подстраивается под запрос общества и под бизнес. Я думаю, это дело ближайших нескольких лет», – сказал account director Yandex Cloud в СНГ Алексей Калинников.

В марте 2022 в законодательство России были внесены изменения, которые позволяют роботакси выезжать на улицы городов. Оно разрешает два вида эксплуатации: с водителем-испытателем в салоне (на пассажирском сиденье, справа от места водителя), и без водителя-испытателя, с возможностью подключения оператора для удалённой поддержки. При этом стоимость поездки такая же, как на обычном такси. Появятся ли подобные автомобили на улицах Алматы и куда пойдут работать водители  – большой и злободневный вопрос. По прогнозам Калинникова, к 2035 году роботакси станут обычным явлением.

Читайте также:

• Готов ли Казахстан к революции в области искусственного интеллекта?
• У казахстанцев появится возможность отозвать доступ к своим персональным данным