ИИ опасен – предупредил его создатель и уволился из Google

Искусственный интеллект несёт в себе опасность, считает один из его разработчиков

Знаменитый учёный-компьютерщик 75-летний Джеффри Хинтон, которого называют "крестным отцом искусственного интеллекта", заявил об уходе из технологического гиганта Google и теперь готов открыто говорить об опасностях. Как пишет ВВС, критика не касается лично компании. А ИИ, по его словам, может стать серьёзным злом, если попадет в руки злоумышленников.

«Они пока ещё не настолько интеллектуально развиты, как мы. По крайней мере, насколько мне известно. Но я думаю, что скоро они могут нас догнать", – сказал Хинтон о ИИ-чат-ботах.

По его словам, людей должно беспокоить, с какой скоростью развивается искусственный интеллект. Он уже может заменить человека в определённых нишах. ИИ вполне рационально рассуждает, но ещё слабоват в логическом мышлении. Правда, по словам Хинтона, это скоро может измениться.

К слову, аналогичные суждения ранее высказывали Илон Маск и сооснователь Apple Стив Возняк. Они считают, что ИИ создаёт риски, начиная от распространения дезинформации и до лишения людей работы, вплоть до потери контроля над цивилизацией.

«А учитывая нынешнюю скорость прогресса, мы ожидаем, что усовершенствование произойдёт довольно быстро. И нас это должно беспокоить… Представьте себе, например, что какой-нибудь злоумышленник вроде Путина решит дать роботам возможность создавать свои собственные подзадачи», – добавил учёный.

На вопрос, почему ИИ учится так быстро, Хинтон объяснил: у компьютерных систем намного больше возможностей учиться, чем у людей.

«Представьте, если бы каждый из 10 тысяч людей узнавал что-то новое, и тут же все 10 тысяч автоматически получали это знание. Вот почему эти чат-боты могут знать намного больше, чем отдельно взятый человек», – подчеркнул учёный.

Сам Хинтон с 1972 года исследует нейросети и искусственный интеллект в университетах Британии, США и Канады. Еще в 2012 году он с двумя студентами в Торонто создал нейросеть, способную идентифицировать некоторые объекты, проанализировав фотографии и различные цифровые данные. Google купила их стартап за 44 млн долларов.