Больше половины российских организаций находятся в зоне риска из-за нерегулируемого использования ИИ сотрудниками

Для исследования анализировался трафик 150 компаний из различных секторов экономики – из госсектора, финансовой, промышленной, ретейл, e-commerce, телеком и IT-отраслей – на предмет утечек корпоративной и чувствительной информации в ИИ-сервисы.

«Массовое и часто неуправляемое использование сотрудниками публичных ИИ-сервисов превратилось в новый, практически невидимый канал утечек корпоративной информации и заражения инфраструктуры», – сказано в сообщении компании.

Сотрудники массово загружают в нейросети конфиденциальную информацию: от презентаций и стратегий до аналитических таблиц и фрагментов кода ПО. При этом злоумышленники осваивают ИИ гораздо быстрее, чем защищающиеся стороны успевают выстраивать оборону. Если раньше на перестройку DDoS-атаки уходило до часа, то с помощью ИИ это время сократилось до минуты, и уже в ближайший год можно ожидать появления принципиально новых векторов атак.

Риски, связанные с бесконтрольным использованием ИИ, по-разному проявляются в различных отраслях, но затрагивают практически всех, сообщает «Солар».

В финансовом секторе и страховании, где работа связана с персональными данными и банковской тайной, ИИ стал новым, неконтролируемым каналом утечек, который необходимо защищать наравне с электронной почтой и веб-трафиком.

В IT-компаниях и разработке ПО разработчики массово используют LLM для помощи в написании кода. Это создает высокий риск утечки исходных текстов программ, бизнес-логики и API-ключей – код не должен покидать защищённый периметр компании.

На промышленных предприятиях инженеры и аналитики обращаются к ИИ для ускорения расчётов и подготовки технической документации. Это создаёт прямой риск утечки технологий, разработок и данных о производственных процессах, что равносильно утрате интеллектуальной собственности.

В ретейле и e-commerce маркетологи и аналитики активно применяют ИИ для работы с клиентскими данными. Здесь возникает вопрос, под чьим контролем находятся огромные массивы информации о покупателях, и кто несёт ответственность за их сохранность.

В госсекторе и окологосударственных организациях действуют строгие требования к данным, однако ИИ часто используется «полулегально», без формальных правил и средств контроля, что значительно повышает риск инцидентов.

Проблема заключается не в самой технологии, а в отсутствии инструментов контроля и управления. Полный запрет ИИ-сервисов лишает сотрудников полезного инструмента и снижает их эффективность. Решение состоит в построении политик безопасности, которые позволяют разрешать, ограничивать или запрещать использование конкретных нейросетей, контролировать входящий и исходящий трафик, тип передаваемых данных, а также блокировать опасные ответы ИИ-систем.

Напомним, что опасность общедоступных инструментов генеративного ИИ уже ощутили в таких крупных компаниях, как южнокорейская Samsung, японские Softbank и Fujitsu и американская Apple. Еще в 2023 году они запретили своим сотрудникам использовать в работе ChatGPT и подобные. Причина – данные, загружаемые на ИИ-сервисы, подобные ChatGPT, обрабатываются на внешних серверах.

От себя добавим информацию, услышанную на одном из IT-мероприятий, проведённом в прошлом году IT-«дочкой» Газпромбанка. Так, IT-специалисты рассказывали, что созданная непосредственно для нужд определённой компании нейросеть может значительно увеличивать производительность труда – составлять конкурсные документы, пересказывать большие тексты и пр. Но чтобы хорошо обучить ИИ-сервис под конкретную компанию, нужен минимум год и миллионные затраты (от пяти миллионов рублей и до бесконечности, по открытым источникам – зависит от задач и объёма данных).

---

Источник: https://rt-solar.ru/events/news/6366/
Дата: 05.02.2026

---

Последние новости: