США планируют контролировать искусственный интеллект ради безопасности

Белый дом объявил о пакете мер против потенциальных рисков, связанных с гонкой искусственных интеллектов

Правительство США намерено взять под контроль искусственный интеллект и уже создает специальные институты, на которые выделяется около 140 миллионов долларов. Как пишет ВВС, появится семь новых исследовательских институтов. Их работа будет направлена на координацию усилий всех сфер в отношении ИИ, а также над продвижением систем самого искусственного интеллекта. Но с оговоркой - "соответствующих принципам этики, надёжности и ответственности и направленных на общественное благо".

Такое заявление накануне сделал Белой дом после встречи президента страны Джо Байдена и вице-президента Камалы Харрис с главами крупнейших технологических компаний: Сундар Пичаи из Google, Сатья Наделла из Microsoft и Сэм Олтмен из Open AI - компании, разработавшей популярный чат-бот ChatGPT. Там обсуждался вопрос морального долга по защите общества от опасных сторон развития ИИ.

Политики заявили предпринимателям, что на тех лежит "фундаментальная ответственность": они должны убедиться, что их продукты безопасны, прежде чем обнародовать их и запускать в широкое пользование. Впрочем, предприниматели на встрече даже не спорили и как будто поддержали возможную регуляцию отрасли в будущем. Они также согласились на открытое тестирование своих ИИ-систем на конференции по кибербезопасности DEFCON, которая пройдёт в августе этого года.

Обсуждение возможных рисков, созданных искусственным интеллектом, началось ещё с прошлой недели. Тогда учёный Джеффри Хинтон, известный как "крестный отец ИИ", ушел из компании Google и стал рассказывать об опасности, которую несёт искусственный интеллект. В итоге регуляторы рынка в США и Британии подняли вопрос о законодательных ограничениях индустрии. В Белом доме также отметили, что администрация президента не исключает введения нового законодательства, которое бы регулировало исследования в области ИИ.

Издание отмечает, что в США большинство исследований в области искусственного интеллекта ведутся частными компаниями, и их работа на данный момент не регулируется. При этом эксперты отмечают, что чат-боты и другие  технологии ИИ продолжают развиваться бесконтрольно, это может привести к опасным последствиям для людей: от неуправляемых потоков дезинформации, распространения труднораспознаваемых фейков и нарушений копирайта до масштабного закрытия рабочих мест и даже потери контроля над цивилизацией.