Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- США и Иран согласовали окончательный вариант мирного соглашения
- Глобальный сбой произошёл в работе Instagram и Facebook
- В области Абай открыли первые модернизированные железнодорожные вокзалы страны
- Кипяток под давлением и провалы на дорогах? В Алматы анонсировали опасные испытания
- Катарцы выплатили сотни миллионов топ-менеджерам банка, проданного им Казахстаном
- Минфин ограничит авансы по госконтрактам, но сделает исключение для биобезопасности
- Коммунальный пинг-понг в ЖК «12 месяцев»: как тысячи человек в Алматы благ лишили
- Экс-декан KIMEP обвинил руководство в игнорировании жалоб на домогательства
- «Зарплаты выплачиваются вовремя»: гендиректор НДФЗ о ситуации на предприятии
- Китайцы построят новый ГПЗ на Кашагане — проект уже запустили
- В партии Amanat официально объявили о желании присоединиться к «Әділет»
- Шашлычным, баням и СТО приготовиться: в Алматы ужесточают требования к выбросам
- Впервые в Казахстане экс-судью лишили пенсии и статуса после скандала с судебным исполнителем
- Элитный конфискат: почему имущество Перизат Кайрат дарят госструктурам
- Компании, связанной с расследованием Базарбека о землях у Капшагая, дали доступ к 443 гектарам под Актобе
- После скандала с брошенными в Китае туристами директора актюбинской турфирмы арестовали
- Визги слышала вся округа: собаку до смерти забил молотком житель Степногорска
- Потребление угля в Казахстане вырастет ещё на 20 млн тонн — Аккенженов
- Елена Рыбакина - спортсменка года по версии премии Metaratings Top Awards
- Нефть есть, работы нет: почему богатейший регион Казахстана стал антилидером по безработице
