Deloitte признал, что часть отчета для правительства Австралии была написана с помощью искусственного интеллекта. История могла бы остаться на уровне технической детали. Но нет. Она превратилась в аккуратный символ того, как близоруко государственное и корпоративное доверие к компания, т.н. «большой четверки».
Речь идет о 440 тысячах австралийских долларов (примерно 290 тысяч долларов США), которые Deloitte согласилась вернуть Министерству занятости и трудовых отношений после публикации отчета с ошибками. Документ должен был стать независимой проверкой системы Targeted Compliance Framework – государственной платформы, которая автоматически наказывает безработных за невыполнение «взаимных обязательств». Ирония в том, что в отчете, призванном анализировать алгоритмическую систему наказаний, сами алгоритмы сыграли слишком активную роль.
Проблемы начались, когда Australian Financial Review обнаружила, что отчет пестрит «галлюцинациями» – несуществующими источниками и вымышленным судебным делом «Дианна Амато против Содружества». Преподаватель Сиднейского университета Кристофер Радж, первым заметивший несостыковки, лаконично объяснил: «Вместо того, чтобы заменить одну фиктивную ссылку реальной, они заменили несколько фиктивных ссылок». По сути, искусственный интеллект сочинял на полном серьезе – как студент, который боится признаться, что не сделал домашнее задание.
Deloitte впоследствии признала, что использовала генеративную модель Azure OpenAI GPT-4o в рамках методологии, уточнив, что лицензия принадлежала самому министерству. Однако компания упорно настаивает: ошибки не связаны с ИИ, а все выводы отчета остаются в силе. «Вопрос был решен с клиентом напрямую», – заявили в Deloitte, будто речь идет о слегка недоваренном кофе, а не об отчете государственного значения.
Сенатор Дебора О’Нил из Лейбористской партии не разделила спокойствия консультантов и прокомментировала прямо. «У Deloitte проблемы с человеческим интеллектом», – заявила она. И добавила: «Это было бы смешно, если бы не было так прискорбно. Частичное возмещение выглядит как частичное извинение за некачественную работу». Ее саркастичная ремарка о том, что государственным органам, возможно, проще «оформить подписку на ChatGPT», чем платить консалтинговым гигантам, прозвучала не как шутка, а как диагноз. И с ней трудно поспорить.
История с Deloitte – не первый тревожный звонок для «Большой четверки». В Австралии PwC уже столкнулась со скандалом из-за утечек конфиденциальных налоговых данных, KPMG и EY подвергались критике за сомнительное качество аудитов. И вот теперь – ИИ, заменяющий экспертизу. Все это рисует неприятную картину: консалтинговые фирмы, получающие миллионы за «человеческое суждение», все чаще полагаются на машины, чьи «суждения» по природе вероятностны и ненаказуемы.
Вопрос теперь не в том, может ли искусственный интеллект писать отчеты. Он может. Вопрос – зачем тогда платить миллионы за консалтинг, если конечный продукт не проходит даже базовую проверку фактов.
Очевидно, что «большая четверка» испытывает проблемы не только с внтуренним контролем, но и критическим мышлением. И здесь ИИ только подстветил системные проблемы с искусственными доминированием «большой четверки».
