Учёные создали искусственный интеллект, чтобы проверять на ошибки другой искусственный интеллект
Иллюстрация сгенерированная ии
Британская компания Google DeepMind, которая занимается разработкой искусственного интеллекта (ИИ), представила новую нейросеть SAFE. Её особенность в том, что она может проверять на фактические ошибки другой искусственный интеллект вроде ChatGPT, сообщает Orda.kz.
Как пишет Digital Information World, специалисты Google DeepMind опубликовали исследование, посвящённое возможностям SAFE — нового метода фактчекинга с применением искусственного интеллекта. По утверждению разработчиков, SAFE справляется с проверкой фактов лучше, чем люди.
Новый алгоритм способен выделять в тексте отдельные утверждения и проверять их на подлинность, используя поиск в Google. SAFE использует большие языковые модели, как и популярные ИИ-инструменты наподобие ChatGPT.
Исследователи «попросили» SAFE проверить 16 тысяч отдельных утверждений (параллельно их оценкой занимались люди). В 72 % случаев нейросеть и живые фактчекеры сошлись во мнениях. Ещё 100 раз SAFE не соглашался с людьми, когда определял, истинно или ложно то или иное утверждение. Дополнительная проверка показала, что в 76 из этих случаев искусственный интеллект оказался прав.
Разработчики утверждают, что SAFE способна достигать «сверхчеловеческих» результатов. При этом использовать нейросеть будет в 20 раз дешевле, чем нанять людей-фактчекеров сопоставимой квалификации. По мнению сторонних экспертов, это преувеличение — нейросети потребуется серьёзная доработка, чтобы она смогла превзойти реальных живых экспертов, хорошо разбирающихся в своих сферах деятельности.
SAFE тестировали, в том числе, на текстах, сгенерированных другими ИИ — например, ChatGPT и Claude. Таким образом, разработчики проверяли, допускает ли искусственный интеллект фактические ошибки. Они подтвердили, что нейросети действительно часто обманывают пользователей, и слишком сильно полагаться на них не следует. Но SAFE хорошо справилась с поиском и выявлением ошибок, которые допускают другие чат-боты.
В конце 2023 года сообщалось, что президент Касым-Жомарт Токаев пообещал лично проследить за развитием искусственного интеллекта в Казахстане.
Читайте также:
Лента новостей
- Возрастной контроль в ChatGPT: как он работает и кого коснётся
- Шестерых акимов в СКО оштрафовали за свалки
- Цены на аренду квартир падают в крупных городах Казахстана
- «Утечки данных не было!» Руководство Kundelik выступило против перехода на BilimClass
- Угрозы на паузе: Трамп передумал вводить пошлины против Европы из-за Гренландии
- Снег и метели — прогноз погоды на 22 января
- Десятки домов остались без тепла в Щучинске
- Программы скрининга обновили в Казахстане
- Патриотизм или перебор? В Узбекистане модель оштрафовали за платье в цветах флага
- Токаев подписал указ о создании конституционной комиссии
- «Я хочу лишь кусочек льда» — Трамп в Давосе вновь заявил о желании получить Гренландию и раскритиковал Европу
- В Казахстане хотят сравнять утильсбор с российским
- 45-летнего жителя Кентау задержали по подозрению в изнасиловании двух падчериц
- В Костанайской области обвиняемый в убийстве жены и сына рассказал подробности роковой ночи
- Отсылка на Бората? Мужчины в купальниках на матче «Кайрата» возмутили казахстанцев
- В Казахстане откажутся от асфальтовых дорог в сёлах
- В Минтрансе рассказали, как будут снижать стоимость авиатоплива в Казахстане
- КТК разбирает причал, разрушенный атакой украинских дронов
- Депутат предложил запретить детям пользоваться соцсетями
- Цены на лекарства в Казахстане растут уже 51-й месяц подряд
