Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- ИИ, миграция, энергетика: чем займётся курултай в ближайшее время
- Приём заявок на ипотеку «Умай» приостановили: что говорят в Отбасы банке
- «Пришло время» — Месси объявил об уходе из сборной Аргентины
- Как изменятся МРП, МЗП, пенсия и прожиточный минимум в Казахстане в 2027 году
- Хадж-2027: в ДУМК утвердили туроператоров для организации паломничества казахстанцев
- Пять лет «НаркоСТОП»: как профилактический проект стал площадкой для системных изменений
- Рост есть, но легче не стало: с чем экономика Казахстана заканчивает лето
- Сатпаев отметил день шахтера и обогатителя большим праздничным концертом
- Дети прыгали с высокого моста в Алматы
- Редакция Orda.kz полностью прекращает работу с 1 сентября
- Почти половина — из ФСМС: объём медуслуг в Казахстане превысил триллион тенге
- Фильм «14 күн»: смех, да и только
- Новые правила финансирования частных школ предложили ввести в Казахстане
- Фонд без офиса и директора оказался просто счётом в казначействе
- «Водный Шёлковый путь» по Иртышу: Китай ищет выход в Арктику через Казахстан
- Мурал сегодня есть, завтра нет: кто решает судьбу стрит-арта в Алматы?
- Катер с семью людьми на борту врезался в скалу в Актау: двое погибли
- Не мыть, не клеить и сдать за три года: для находок в Казахстане ввели новые требования
- Дожди, мокрый снег и заморозки: какой будет погода в Казахстане в первые дни сентября
- За слабый тенге доплатят: добывающие компании Казахстана смогут пересчитать закупки
- "Азиатские игры-2026": боксеры сборной Казахстана готовятся исправить исторический провал на Азиаде
- Вратарь сборной Казахстана высказался об игре в Лиге чемпионов
- Чемпион мира по греко-римской борьбе из Казахстана сделал заявление об участии на ОИ-2028
- Казахстанские волейболистки неудачно выступили на чемпионате Азии
