Guardian нашел следы ИИ-галлюцинаций в отчете для правительства Австралии

Важная новость наделала шума в экосистеме блокчейна. Ключевой документ о тестировании технологий возрастной верификации, который власти Австралии использовали как обоснование для введения запрета соцсетей для подростков, содержит ссылки на несуществующие научные публикации. К такому выводу пришли журналисты The Guardian, изучившие текст отчета. Испытания провела британская организация Age Check Certification Scheme (ACCS), потратив на них 3,48 млн австралийских долларов (~$2,5 млн).

Специалисты проверили более 60 решений от 48 поставщиков, а в августе 2025 года передали правительству итоговый документ объемом около тысячи страниц в десяти томах. Тогда министр связи Аника Уэллс назвала полученные данные подтверждением того, что у платформ существует «множество эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.

Динамика рынка

Шесть ссылок с ошибками Основная часть отчета посвящена практическим испытаниям уже существующих решений. Проблемы вскрылись в главе о перспективных разработках — именно там авторы обращаются к научной литературе. Первым на несоответствия указал автор обращения в сенатский комитет, который сейчас рассматривает поправки об ужесточении запрета на соцсети для пользователей младше 16 лет.

В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ, а не отсылки к реальным источникам. Журналисты Guardian проверили данные и насчитали в той же главе шесть нарушений, которые группируются в четыре категории: фиктивные DOI; DOI, переадресующие на посторонние работы; комбинации «автор-журнал-год», не подтвержденные ни одной публикацией; корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчет. Например, одну статью ACCS датировала мартом 2025 года, но на самом деле та вышла только в июле.

В другом случае ссылка на Weber et al. 2011 никуда не вела — ее не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы отчета. ChatGPT в метаданных Представитель ACCS категорически отрицал использование ИИ при подготовке документа.

Влияние на рынки

По его словам, организация не применяла нейросети ни к тексту, ни к цитируемым материалам, а каждую ссылку тщательно проверяли на достоверность и релевантность. Однако после того, как Guardian обнаружила в некоторых частях отчета четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект действительно переписывал отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI.

Представители организации также заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ, а раз ссылки ведут куда надо, то претензий быть не должно. Однако проверка исправленного списка источников, который ACCS передала изданию, обнаружила новые нестыковки: годы, авторы и названия журналов в нем расходились с оригинальными цитатами из отчета. «Горстка ошибок» на тысячу страниц В Департаменте инфраструктуры и связи сообщили, что изучают претензии и намерены связаться с подрядчиком.

14 августа на сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря департамента Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идет лишь о «горстке ошибок» на 26 страницах с библиографией.

Криптовалютные рынки внимательно следят за этим событием, а инвесторы оценивают его возможное влияние на цены.