Guardian нашел следы ИИ-галлюцинаций в отчете для правительства Австралии

Ключевой документ о тестировании технологий возрастной верификации, который власти Австралии использовали как обоснование для введения запрета соцсетей для подростков, содержит ссылки на несуществующие научные публикации. К такому выводу пришли журналисты The Guardian, изучившие текст отчета.

Испытания провела британская организация Age Check Certification Scheme (ACCS), потратив на них 3,48 млн австралийских долларов (~$2,5 млн). Специалисты проверили более 60 решений от 48 поставщиков, а в августе 2025 года передали правительству итоговый документ объемом около тысячи страниц в десяти томах.

Тогда министр связи Аника Уэллс назвала полученные данные подтверждением того, что у платформ существует «множество эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.

Шесть ссылок с ошибками

Основная часть отчета посвящена практическим испытаниям уже существующих решений. Проблемы вскрылись в главе о перспективных разработках — именно там авторы обращаются к научной литературе.

Первым на несоответствия указал автор обращения в сенатский комитет, который сейчас рассматривает поправки об ужесточении запрета на соцсети для пользователей младше 16 лет. В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ, а не отсылки к реальным источникам.

Журналисты Guardian проверили данные и насчитали в той же главе шесть нарушений, которые группируются в четыре категории:

• фиктивные DOI;
• DOI, переадресующие на посторонние работы;
• комбинации «автор-журнал-год», не подтвержденные ни одной публикацией;
• корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчет.

Например, одну статью ACCS датировала мартом 2025 года, но на самом деле та вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — ее не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы отчета.

ChatGPT в метаданных

Представитель ACCS категорически отрицал использование ИИ при подготовке документа. По его словам, организация не применяла нейросети ни к тексту, ни к цитируемым материалам, а каждую ссылку тщательно проверяли на достоверность и релевантность.

Однако после того, как Guardian обнаружила в некоторых частях отчета четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект действительно переписывал отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI.

Представители организации также заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ, а раз ссылки ведут куда надо, то претензий быть не должно.

Однако проверка исправленного списка источников, который ACCS передала изданию, обнаружила новые нестыковки: годы, авторы и названия журналов в нем расходились с оригинальными цитатами из отчета.

«Горстка ошибок» на тысячу страниц

В Департаменте инфраструктуры и связи сообщили, что изучают претензии и намерены связаться с подрядчиком. 14 августа на сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже.

Первый помощник секретаря департамента Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идет лишь о «горстке ошибок» на 26 страницах с библиографией.

Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки в документах для правительства ведут к ошибочным решениям и разрушают доверие к институтам. По его мнению, эта ситуация требует закрепления четких требований в контрактах и введения санкций за нарушения.

Независимый сенатор Фатима Пейман потребовала от правительства официальных извинений и возврата средств от подрядчика. Она напомнила, что аналогичный инцидент с Deloitte год назад должен был научить власти внимательнее относиться к источникам. В октябре 2025 года консалтинговая компания уже возвращала часть выплат по контракту на 440 000 австралийских долларов, признав использование ИИ при подготовке отчета с ошибками.

Напомним, в июле австралийский регулятор eSafety подал иск против Telegram, обвинив мессенджер в отказе удалять материалы с пропагандой терроризма.