Риски AI на работе: где чаще всего ошибаются специалисты
Разбираем риски AI на работе: утечки данных, ложные факты, юридическая ответственность и быстрые правила, которые снижают ущерб без запрета нейросетей.
Риски AI на работе редко выглядят как громкий инцидент «модель взломала компанию». Чаще это тихий ущерб: договор ушел во внешний чат, неверный расчет для клиента, «юридически звучащий» текст отправили без сверки. Дальше — спор, переделка, вопросы от юриста или ИБ. Хорошая новость: большинство сценариев закрывается правилами и навыком проверки, а не тотальным запретом нейросетей.
Пять рисков, которые встречаются чаще всего
| Риск | Как проявляется | Цена ошибки |
|---|---|---|
| Утечка данных | В чат попадают ФИО, договоры, прайсы, переписка, доступы. | Нарушение режима ПДн, доверие клиентов, разбор с ИБ. |
| Ложные факты | Модель уверенно выдумывает цифры, нормы, ссылки, сроки. | Плохие решения, переговоры, отчетность. |
| Ответственность «по умолчанию» | Человек отправляет текст модели без роли утверждения. | Юридический и репутационный удар по компании. |
| Теневой AI | Личные аккаунты вместо разрешенного контура. | Нет аудита, разные стандарты качества. |
| Ложная экономия | Черновик быстрый, но час уходит на правки команды. | Срок и качество страдают сильнее, чем до AI. |
Это не «тема только для ИБ». В SkillDeck такие ошибки относятся к фундаменту AI-грамотности: уметь решить, можно ли отправлять данные, что проверить в ответе и кто подписывает итог.
Утечки: самый дорогой сценарий «для удобства»
Типичный путь: нужно быстро переписать договор или собрать сводку по клиенту. Человек вставляет фрагмент «как есть» — с реквизитами и суммами. Модель помогает с языком, но данные уже во внешнем контуре. Дальше появляются вопросы, которые поздно задавать: кто имел доступ, как долго хранится лог, что делать при инциденте.
Правовой ориентир в РФ — [закон о персональных данных](https://www.consultant.ru/document/cons_doc_LAW_61801/). Дополнительно полезны [материалы Роскомнадзора по ПДн](https://pd.rkn.gov.ru/): что относить к персональным данным и какие меры ожидают от оператора. Навык здесь простой и жесткий: не отправлять то, что нельзя показать случайному подрядчику.
- Уберите ФИО, телефоны, номера договоров, уникальные суммы.
- Замените сущности на роли: «Клиент А», «Склад 1», «Сумма X».
- Не вставляйте пароли, ключи API, полные скрины админок.
- Чувствительные пакеты данных — только в разрешенном корпоративном контуре.
Ложные факты: почему уверенный тон опаснее явной ошибки
Модель почти никогда не говорит «я не знаю» так, чтобы это устроило руководителя — вместо этого она уверенно заполняет пробелы правдоподобными, но не всегда верными данными. На практике это создаёт риски в аналитике, кадровых документах, сравнении поставщиков и ссылках на нормативные акты. Риск растет, когда правят стиль и орфографию, но не содержание.
- Выделите числа, даты, имена, нормы и ссылки.
- Сверьте каждый критичный факт с первичным источником.
- Отделите допущения модели от подтвержденных фактов.
- Для решений с деньгами или людьми — обязательный human review.
Блок безопасности и проверки в оценке AI-навыков как раз выявляет склонность безоговорочно доверять тексту, который звучит уверенно — даже если он ошибочен. Как устроена диагностика — в разборе «как проверить AI-навыки».
Кейс: помощник юриста и «готовая» претензия
Помощник юриста в Новосибирске попросил модель собрать претензию контрагенту. Текст вышел собранный и строгий. Его почти отправили. При сверке выяснилось: срок ответа был взят «из воздуха», а ссылка на пункт договора указывала не ту редакцию приложения.
Вывод не «AI нельзя юристам». Вывод: для спорных документов критерий готовности — проверяемые нормы и сверка с файлом дела, а не убедительный тон. Стоп-фактор до отправки важнее скорости черновика.
Теневой AI: запрет без альтернативы почти всегда проигрывает
Жесткий запрет без рабочего контура часто толкает людей в личные аккаунты: быстрее и незаметнее. Риск не исчезает — он уходит из аудита. Рабочий путь: понятная политика, разрешенные сервисы, обучение проверке данных и измерение навыка. Иначе «безопасность» существует только в приказе.
Каркас темы — направление AI в работе. Практика без хаоса опирается на грамотность и карту умений.
Контроль на 14 дней: минимум, который уже снижает ущерб
- Стоп-список данных для внешних моделей.
- Шаблон входа: цель, контекст, запреты, формат, критерий готовности.
- Чеклист проверки ответа перед отправкой наружу.
- Матрица утверждения: автор / руководитель / юрист / ИБ по типам документов.
- Диагностика: отдельно посмотреть пробелы по безопасности и проверке фактов.
Такой набор дешевле любого инцидента. После него логичный шаг — бесплатная оценка и короткий трек практики на ваших задачах. Соседние материалы — в блоге.
Учебный разбор: как реагировать, если ответ уже ушёл наружу
Допустим, коллега отправил клиенту письмо с цифрой из ответа модели, а потом выяснилось, что цифра неверна. Рабочий порядок простой: остановить дальнейшую рассылку, зафиксировать, что именно ушло и куда, сверить первоисточник, подготовить исправление и решить, нужен ли review руководителя. Параллельно посмотрите, был ли в запросе чувствительный фрагмент данных — это отдельный контур ИБ.
Такой разбор полезно провести до реального инцидента: на учебной задаче команды. Он показывает, где у вас нет стоп-листа, где нет критерия проверки и где никто не отвечает за утверждение. После учебной тренировки оценка AI-навыков помогает увидеть личные пробелы по безопасности и проверке фактов, а не только «умею писать запросы». Чем раньше команда прогоняет такой сценарий, тем дешевле обходится первая ошибка в бою. Это дешевле любого постфактум-разбора после жалобы клиента.
Итог
- Главные риски — данные, ложные факты, ответственность и теневое использование.
- Красивый ответ не равен готовому документу.
- Запрет без альтернативы усиливает скрытый риск.
- Снижение ущерба = правила + проверка + измерение навыка.
Частые вопросы
Можно ли полностью исключить риски AI на работе?
Нет. Можно снизить вероятность и ущерб: стоп-список данных, проверка фактов, роли утверждения, обучение и регулярная диагностика навыка.
Что обычно бьет больнее — неверный факт или утечка?
Утечка сразу бьет по закону и доверию. Ложный факт бьет по решениям и репутации. На практике они часто идут вместе: человек торопится и пропускает и данные, и сверку.
Нужен ли «AI-юрист» в каждой команде?
Не обязательно. Нужна ясная эскалация: когда хватает автора, когда нужен руководитель, когда — юрист или ИБ. Для типовых задач достаточно чеклиста; для спорных — обязательный review.
Как понять, что политика реально работает, а не «на бумаге»?
Эффективность политики измеряется не текстом документа, а наличием рабочих артефактов, которые можно проверить: шаблоны запросов, список разрешенных сервисов, долю документов с review, результаты диагностики по блоку безопасности. Отсутствие этих артефактов — сигнал, что политика не встроена в процессы.
С чего начать одному специалисту без корпоративного регламента?
С личных стоп-правил: не отправлять чувствительные данные, сверять числа и обещания, фиксировать критерий готовности. Затем предложите команде короткий регламент и пройдите оценку, чтобы пробелы стали предметными.
Чем риск «теневого AI» отличается от обычного нарушения IT-политики?
Тем, что генеративные сервисы поощряют вставлять большие куски рабочих документов. Нарушение становится привычкой «для скорости», а ущерб может проявиться через недели — когда уже сложно восстановить, что именно ушло во внешний контур.