Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- Национальные теледебаты: партии представили свои программы перед выборами в Курултай
- Первые теледебаты завершились уверенной победой «Әділет» в зрительском голосовании
- Ситуацию вокруг КТК обсудили Казахстан и США
- Казахстанские шпажисты впервые выиграли ЧМ — Токаев поздравил чемпионов
- Партия «Әділет» представила свои инициативы на первых теледебатах перед выборами в Курултай
- Франшизы и Майкл Джексон: самые кассовые фильмы казахстанского проката в первой половине 2026 года
- «Истошно кричала»: мужчина напал на девушку в Президентском парке Астаны
- Турист погиб в горах Туркестанской области
- Дату следующих президентских выборов объявили в Кыргызстане
- Джареда Лето обвинили в сексуализированном насилии и домогательствах над несовершеннолетними
- Заплатить дважды за один проект: как акимат Конаева попался на нарушениях при закупках
- Где в Казахстане яйца стоят дороже всего: рейтинг городов
- «Работа депутата — это не шоу»: кандидат от партии «Әділет» объяснил, почему в Курултае нужны профессионалы
- Экс-гендиректор Relog ответил на обвинения от руководства IT-компании
- Лечитесь воздухом, неработающим лифтом и потопом: чем карагандинцам с инвалидностью запомнился ребцентр
- Wildberries перенесёт склады из России в Казахстан? В Минторговли ответили на слухи
- Опять пошлины? Чем Казахстану могут грозить новые антироссийские санкции США
- Прокуратура выявила провал озеленения в Атырау: система не работает, недропользователи не сажали деревья
- Казахстанцам решили увеличить выплаты за переезд в регионы с нехваткой кадров
- Ребёнок умер во время дневного сна в спеццентре Костаная
