Deloitte, чтобы выплатить часть 440 000 долл. США правительству Австралии после того, как отчет обнаружил, что он был пронизан ошибками

Департамент занятости и отношения на рабочем месте (DEWR) нанял Deloitte в декабре 2024 года для рассмотрения своей системы соответствия и ИТ -системы.

Но когда отчет был опубликован в июле, ученые быстро заметили изготовленные ссылки и неточные сноски. С тех пор в документе были внесены изменения с удаленными ложными цитатами, исправлены ошибки и прикрепленный новый список.

Пресс -секретарь DEWR подтвердил, что Deloitte выплатит окончательную часть контракта после решения проблемы.

Сначала проблемы были отмечены академиком социального обеспечения Университета Сиднея Крисом Руджем, который обнаружил, что более дюжины поддельных ссылок ложно приписываемыми его коллегам.

Он сказал, что первоначальный запах ИИ был всем, что ему потребовалось, чтобы раскрыть несколько случаев сфабрикованных комментариев.

«Я не сомневался, когда я читал имена работ, что они были фальшивыми, потому что я работаю в этом районе, и я знаю работу моих коллег», – сказал он. «Как только я обнаружил один, я только что обнаруживал все больше и больше».

Рудж сказал, что ошибки были «все признаки» ИИ.

Подробнее: 6 основных навыков на рабочем месте в эпоху ИИ

Одной из таких цитирований был несуществующий документ под названием «верховенство права и административного правосудия» в Австралийской системе социального обеспечения. Реальная работа – это верховенство закона и Конституция Австралии.

«Я не могу понять, как человек может создавать названия работ, которых не существует, которых нет в Google. Как они это сделают?» он сказал.

«Я думаю, что это хорошо, если это ИИ, потому что думать о человеке, который делает это, почти хуже. Это очень неуважительно по отношению к тем, кто провел исследование, чтобы просто не сделать это правильно».

Компания признает, что использует ИИ

А Австралийский финансовый обзор Впервые сообщил о проблеме в августе. К сентябрю Deloitte выпустила исправленную версию отчета, впоследствии повторную загрузку с помощью заметки, в которой признается «небольшое количество исправлений к ссылкам и сноскам», которая, по ее словам, не повлияла на выводы.

В этом обновлении Deloitte также сообщила, что использовал «генеративный искусственный интеллект (AI), модель большой языковой модели (Azure OpenAI GPT-4O), лицензированная DEWR и размещенная на аренде DEWR Azure» в рамках своего процесса.

Фирма, которая управляет своим собственным институтом искусственного интеллекта, консультирующей клиентов о том, как принять технологию, не подтвердила, вызвал ли сам ИИ ошибки. Представитель сказал только: «Дело было решено напрямую с клиентом».

И это не первый раз, когда громкая организация смущается из-за некритического использования ИИ.

Ранее в этом году адвокаты США были оштрафованы после подачи заявок на суд, сгенерированные CHATGPT, которые процитировали фиктивные дела. Зарубежные розетки также столкнулись с негативной реакцией для публикации статей, сгенерированных AI, пронизанными фактическими ошибками.