Угроза цивилизации: Илон Маск и ещё более 1000 экспертов призвали приостановить обучение систем искусственного интеллекта

Открытое письмо появилось на платформе Futureoflife. В нём говорится, что гонка в создании «мощных цифровых умов» грозит тем, что они заменят людей. А искусственный интеллект (ИИ) нужно тщательно контролировать

«К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ оказались втянутыми в бесконтрольную гонку за разработкой и внедрением всё более мощных цифровых умов, которые никто – даже их создатели – не может понять, предсказать или надёжно контролировать.

Современные системы ИИ становятся всё более конкурентоспособными.

«Мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые выполняют? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти численностью, перехитрить, устареть и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» - задаются вопросами авторы письма.

По их мнению, мощные системы ИИ следует разрабатывать только тогда, когда есть уверенность, что их эффект будет положительным, а риски управляемыми.

«Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на 6 месяцев подготовку систем искусственного интеллекта, более мощных, чем GPT-4. Эта пауза должна быть публичной и поддающейся проверке и включать всех ключевых участников. Если такая пауза не может быть введена быстро, правительствам следует вмешаться и ввести мораторий», - говорится в письме.

Открытое письмо подписали глава SpaceX, Tesla и Twitter Илон Маск, основатель Apple Стив Возняк и ещё более 1000 авторитетных экспертов и руководителей отрасли по развитию искусственного интеллекта.