Ошибка ИИ стоила компании $300,000

Deloitte Australia использовала искусственный интеллект для написания правительственного отчёта. ИИ выдумал ложные цитаты и судебные дела. Компания не раскрыла использование ИИ и не проверила факты. Результат: возврат $300,000 и серьёзный ущерб репутации.

Подкаст — Цена галлюцинаций ИИ: Урок Deloitte

Видео — Deloitte поймана на использовании ИИ в отчете стоимостью 440 000 долларов

Основные факты

Deloitte использовала GPT-4o для создания отчёта на 237 страниц. ИИ выдумал названия книг, судебные дела и цитаты судей. Ошибки не заметили до отправки отчёта клиенту.

Компания вернула почти $300,000 австралийскому правительству. Использование ИИ не раскрывали до обнаружения ошибок.

ИИ выдумал ложные факты. Это дорого обошлось Deloitte. Консалтинговый гигант использовал ИИ для правительственного отчёта.

ИИ создал несуществующие названия книг и судебные дела. Никто не заметил ошибки в отчёте на 237 страниц. Deloitte вернула почти $300,000 правительству Австралии.

Что именно пошло не так с отчётом?

Исследователь обнаружил до 20 ошибок в отчёте Deloitte. ИИ выдумал цитаты судей. Эти судьи их не говорили. Он создал названия книг, которых не существует. ИИ даже неправильно написал имя судьи.

Это были не мелкие ошибки. Ложная информация появилась во всём отчёте. Deloitte использовала GPT-4o от OpenAI для документа. Отчёт был для австралийского Департамента занятости.

Более серьёзная проблема? Deloitte никому не сказала об использовании ИИ. Признались только после обнаружения ошибок.

Они недостаточно тщательно проверили работу ИИ. Они доверились технологии без проверки фактов.

Вывод: даже крупные консалтинговые компании допускают дорогие ошибки ИИ. Это происходит, когда пропускают проверку.

Почему эта ошибка важна для вас?

Вы можете думать, что это касается только крупных компаний. Такой же риск существует для любого предпринимателя с ИИ. ИИ звучит очень уверенно, даже когда полностью ошибается.

Исследование MIT показало интересный факт об ИИ. ИИ использует на 34% более уверенный язык при ложной информации.

Слова вроде «точно» и «определённо» чаще появляются в неправильных ответах. Это затрудняет обнаружение ошибок.

Только 27% организаций проверяют весь контент от ИИ. Проверка происходит перед публикацией. Это значит, что 73% компаний публикуют контент ИИ. Проверка минимальная или её нет.

Ваш бизнес может столкнуться с похожими проблемами. Это произойдёт, если не проверять результаты ИИ.

Реальность: уверенность ИИ не равна точности ИИ. Чем увереннее звучит ИИ, тем осторожнее нужно быть.

Как защитить ваш бизнес от ошибок ИИ?

Первое: всегда проверяйте факты от ИИ перед отправкой клиентам. Проверяйте источники, имена и статистику самостоятельно. Не предполагайте, что ИИ всё сделал правильно.

Второе: сообщайте людям об использовании ИИ в работе. Прозрачность создаёт доверие и защищает вас юридически. Скрытие использования ИИ создаёт большие проблемы при ошибках.

Третье: относитесь к ИИ как к помощнику. Это не замена человеческого суждения. Используйте его для ускорения вашей работы. Но сохраняйте человеческий контроль над важными вещами.

Четвёртое: создайте контрольный список для контента от ИИ. Проверяйте цитаты, имена собственные и статистику. Проверяйте юридические ссылки.

Ключевая мысль: ИИ экономит время, но проверка спасает репутацию. Создайте процессы проверки до появления проблем.

Влияние на русскоязычные страны

Российские компании всё чаще используют ИИ для отчётов. Это касается бизнес-документов.

Случай с Deloitte показывает риски для консалтинговых компаний России. Беларусь и Казахстан также используют инструменты ИИ. Это касается работы государственных органов.

Компании должны проверять контент ИИ перед отправкой государству.

Юридическая ответственность за ошибки ИИ действует во всех странах. Прозрачность и проверка фактов становятся критически важными для бизнеса.

Часто задаваемые вопросы

Что такое галлюцинации ИИ?

Галлюцинации ИИ — это когда ИИ создаёт ложную информацию. Она звучит правдоподобно. ИИ создаёт ложные факты, цитаты или ссылки. Он делает это с полной уверенностью.

Насколько часты ошибки ИИ в профессиональной работе?

Чаще, чем думает большинство людей. Юридическая информация имеет 6,4% уровень галлюцинаций. Даже у лучших моделей ИИ. Профессиональные услуги сталкиваются с более высокими рисками.

Должен ли бизнес раскрывать использование ИИ?

Да. Прозрачность защищает вас юридически и создаёт доверие клиентов. Калифорнийский закон о прозрачности ИИ вступит в силу.

Он требует раскрытия информации с января 2026 года. Это касается систем с более чем 1 миллионом пользователей.

У всех инструментов ИИ одинаковый уровень ошибок?

Нет. Уровень ошибок различается по модели и теме. Юридический и технический контент показывает больше галлюцинаций. Это больше, чем при общих вопросах.

Какой процент компаний проверяет контент от ИИ?

Только 27% организаций проверяют весь контент от ИИ. Проверка происходит перед использованием.

Большинство компаний публикуют контент ИИ без проверки. Или проверка очень минимальная.

Кто юридически отвечает за ошибки ИИ?

Компания, использующая ИИ, а не сам инструмент ИИ. Air Canada узнала это на своём опыте.

Суд приказал выплатить компенсацию за ложную информацию чат-бота. Чат-бот дал неправильную информацию о возврате средств.

Как обнаружить ошибки, созданные ИИ?

Проверяйте цитаты, имена собственные и подтверждайте статистику. Обращайте внимание на слишком уверенный язык.

Сверяйте юридические или технические утверждения с оригинальными источниками.

Станут ли инструменты ИИ лучше избегать ошибок?

Модели ИИ продолжают улучшаться, но галлюцинации остаются проблемой. Человеческая проверка остаётся необходимой несмотря на прогресс ИИ.