Как ИИ ломает работу аналитиков: ловушки при разработке

Генеративный ИИ быстро стал рабочим инструментом аналитиков. Он помогает готовить черновики требований, пользовательские сценарии, документацию и ускоряет переход от идеи к прототипу. Но вместе с ускорением появляются новые риски.

Главная проблема не в том, что ИИ ошибается. Опасность в том, что его ошибки выглядят убедительно. Требования написаны грамотно, сценарии кажутся логичными, формулировки звучат уверенно. В результате документу начинают доверять раньше, чем его проверили.

ИИ не знает ваш бизнес-процесс

Модели хорошо работают с типовыми сценариями: регистрацией пользователей, согласованием документов, выдачей доступов или обработкой заявок. Однако корпоративные процессы почти всегда содержат исключения: временные роли, внешних участников, ограничения доступа, ручные проверки и особые требования безопасности.

Например, ИИ может предложить идеальный сценарий согласования документа, но не учесть коллегиальное согласование, временный доступ внешних экспертов или ограничения на просмотр отдельных версий файла. Эти детали должна учитывать не модель, а аналитик.

Иллюзия готовности требований

ИИ способен дополнять недостающую бизнес-логику на основе типовых шаблонов. Из-за этого создается впечатление, что требование уже готово к работе.

Но любая функциональность должна иметь понятный источник: интервью с владельцем процесса, регламент, протокол встречи, интеграционный контракт или решение службы безопасности. Если команда работает без понимания собственной стратегии, ссылаясь только на авторитетное мнение искусственного интеллекта, то это уже не аналитика.

По данным Национального института стандартов и технологий США, генеративный ИИ требует отдельного управления рисками надежности, безопасности и качества. ИИ необходимо рассматривать как полноценный компонент системы, который также нужно анализировать и подвергать критике.

Качество данных определяет качество ответа

ИИ-функции зависят от документов, баз знаний, инструкций и истории операций. Если данные устарели, дублируются или противоречат друг другу, модель не исправит проблему, а будет уверенно воспроизводить ошибки, убеждая вас в корректности собственных выводов.

Особенно заметно это в интеллектуальном поиске по корпоративным документам. Пока используются актуальные файлы, результаты выглядят качественно, но после подключения реального архива с черновиками, устаревшими версиями и разными уровнями доступа качество ответов быстро снижается.

Поэтому аналитик должен описывать не только пользовательский сценарий, но и контур данных: источники информации, правила актуализации, обработку прав доступа и работу с противоречивыми документами.

Стоимость ИИ нельзя оценивать по демо

На пилотном проекте ИИ выглядит недорогим решением. Однако в промышленной эксплуатации появляются индексация данных, хранение истории, мониторинг, контроль качества, резервирование, безопасность и обработка ошибок.

В результате команда внедряет не отдельную функцию, а постоянную статью расходов. Поэтому в требованиях обязательно должны появляться лимиты использования, сценарии деградации, контроль бюджета, журналирование и критерии качества ответов. Формулировки вроде «система использует ИИ для ответа пользователю» уже недостаточны.

Безопасность нельзя оставлять на конец проекта

Для российского бизнеса отдельное внимание требуется вопросам обработки данных. Если ИИ-функции работают с персональными данными, необходимо учитывать требования Федерального закона № 152-ФЗ «О персональных данных», который регулирует их обработку, в том числе с использованием средств автоматизации.

Риски возникают не только при крупных интеграциях. Они появляются уже тогда, когда сотрудники передают во внешние ИИ-сервисы договоры, клиентские обращения, внутренние документы, фрагменты кода или другие данные ограниченного доступа. Компания должна понимать, какие сведения передаются, где они обрабатываются и на каком правовом основании покидают корпоративный контур.

Дополнительно с 1 сентября 2025 года действуют новые требования к обезличиванию персональных данных, установленные приказом Роскомнадзора № 140 от 19.06.2025.

Для аналитика это не формальность, а часть постановки задачи. Если ИИ работает с корпоративными данными и знаниями компании, требования к безопасности и обработке данных должны определяться на этапе проектирования, а не перед релизом.

Как сохранить контроль

ИИ полезен как помощник: он может готовить черновики, искать противоречия и предлагать варианты формулировок. Однако итоговые требования должны оставаться результатом работы аналитика.

Практический подход прост: ИИ предлагает, аналитик проверяет, владелец процесса подтверждает, команда фиксирует источник требований.

Кроме того, ИИ-функции необходимо описывать как полноценные компоненты системы: с функциональными и нефункциональными требованиями, ограничениями по данным, правилами доступа, метриками качества и сценариями отказа.

Вывод

Генеративный ИИ не делает аналитика менее нужным. Наоборот, он повышает стоимость ошибки.

Ценность аналитика заключается в сохранении связи между бизнес-процессами, пользователями, данными, безопасностью, стоимостью эксплуатации и реализацией системы.

Если границы ответственности определены заранее, ИИ становится эффективным инструментом. Если нет — он превращается в источник красивых требований, дорогих доработок и проблем на этапе эксплуатации.