Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- Кровь на улицах Рио: полицейская операция закончилась расправой с сотней убитых
- Школьницу насмерть сбили на пешеходе в Шымкенте, водитель остался на свободе
- Элита на лужайке: кто остался в гольф-клубе после Назарбаева
- Атомное сердце: как в Турции строят АЭС «Аккую»
- В Южной Корее стартовали переговоры Трампа и Си Цзиньпина: на кону новая торговая сделка
- Афера не удалась: квартиру в 160 квадратов в Степногорске получит многодетная семья
- Из парламента в музыкальные чарты: речь тайваньского депутата стала хитом
- Облачно и тепло — прогноз погоды на 30 октября
- Дело Яны Легкодимовой: обвинение ужесточили, теперь подсудимые проходят по особо тяжким статьям
- «В Центральную Азию, минуя Москву»: политолог Дубнов о визите лидера Финляндии в Казахстан
- Заказывали пиццу на дом: 14 человек отравились в Туркестане
- «Я хочу тебя убить!»: полуголый мужчина напугал жителей села в Северо-Казахстанской области
- На одиночный пикет против запрета митингов вышел житель Уральска
- «Боюсь здесь ночевать»: хозяйка приюта для животных в Алматы заявила о нападении и рейдерском захвате
- Снежный барс, рысь и медведь прошлись по одной тропе
- Тигрятам в алматинском зоопарке выберут имена
- «Мы — самая проверяемая структура» — глава ФСМС о расследовании по делу Галымжана Абилова
- «Евразийский банк» вернёт Казахстану 30 млрд тенге
- Как парламент реформируют без лишних глаз и почему Карин прячется от прессы
- Не платил, но возмущался: бизнесмен задолжал «Шымбулаку» миллионы за аренду
