Что произошло: ошибка ИИ в Sullivan & Cromwell
В начале марта 2026 года нью‑йоркская фирма Sullivan & Cromwell опубликовала публичное извинение после того, как в важный юридический документ попала «галлюцинация», сгенерированная ИИ. Ошибка, названная фирмой «ошибкой в юридическом документе, сгенерированном ИИ», выявила пробел в собственных внутренних мерах контроля.
Почему эта ошибка важна для юридической отрасли
Инструменты искусственного интеллекта всё чаще становятся частью ежедневного рабочего процесса адвокатов — от составления процессуальных документов до исследования прецедентов. Однако когда такие инструменты предоставляют неточные ссылки или выдумывают судебную практику — явление, известное как галлюцинация, — последствия могут быть серьёзными. В данном случае ошибочная ссылка могла бы подорвать позицию клиента в многомиллиардном споре о слиянии.
Политика в отношении ИИ существовала, но не соблюдалась
Партнёр Эндрю Диттерих объяснил, что в Sullivan & Cromwell действует формальная политика по использованию ИИ, направленная именно на предотвращение подобных инцидентов. Политика требует:
- Проверку человеком каждого фрагмента, сгенерированного ИИ, перед отправкой.
- Сверку ссылок с проверенными юридическими базами данных.
- Документирование используемого ИИ‑инструмента, его версии и подсказки, которая породила контент.