Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- Жара и дожди: прогноз погоды на 12 июля
- «Верните нам землю!»: в Актобе люди требуют остановить строительство двухэтажного торгового дома возле их жилья
- Полицейский стрелял в подчинённых из рогатки? Инцидент в области Абай
- Китайская компания планирует построить современный порт в Актау
- Легковушка врезалась в грузовик на трассе Караганда — Астана, есть погибшие
- Казахстан снял пошлину на галлий, но закрыл вывоз меди и алюминия
- Пузырь на KASE? Миллиардер Булат Утемуратов за две недели «разбогател» на семь миллиардов долларов
- Вечные проблемы Алаколя: бизнес жалуется на свет, связь и дороги
- Триллион за год: казахстанцы спустили состояние на туризм
- С книгой о захвате власти поймали иностранца на границе с Кыргызстаном
- Акимат объяснил переезд воспитанников детдома «Баганашыл»
- Алматы превратился в Сеул: что за кино снимают в южной столице
- Известных спортсменов Казахстана отказались заселять на сборы из-за двухлетнего ребёнка
- Суд по делу о пытках фигурантов «Хоргосского дела № 1» засекретили
- Казахстан между ливнями и зноем: погода резко разделила регионы
- Гадалки, астрологи и экстрасенсы заработали почти три миллиарда тенге за год в Казахстане
- Приезжают на ногах — уезжают на носилках: скольких казахстанцев доставили санавиацией из-за рубежа
- В Павлодаре наказали ресторан, который не закрылся после массового отравления
- Главный налоговик Жамбылской области получил штраф за игнорирование суда
- Казахстанские банки могут обязать давать отсрочку «социально уязвимым» заёмщикам
