Директор по информационной безопасности компании «БелИнфоНалог» Дмитрий Корнев рассказал «Фонарю», почему личные аккаунты и бесплатные нейросети могут быть опасны для бизнеса, как злоумышленники используют ИИ и почему полностью запрещать такие технологии тоже не лучший выход. Разбираемся, какие угрозы связаны с искусственным интеллектом и как компании могут их снизить.
ИИ уже работает не только в чат-ботах
Искусственный интеллект — это технологии, которые позволяют компьютерным системам выполнять задачи, обычно требующие участия человека: анализировать информацию, находить закономерности, принимать решения и адаптироваться к новым данным.
Один из наиболее заметных вариантов применения ИИ сегодня — генеративные модели. Они умеют создавать новый контент: тексты, изображения, аудио и видео. К этому классу относятся современные чат-боты и другие сервисы, которые способны работать с большими объёмами информации и выдавать результат на основе запроса пользователя.
Есть и более узкие направления. Машинное обучение позволяет системам находить закономерности в данных и принимать решения без отдельного программирования каждого действия. Глубокое обучение — его более сложное направление, использующее нейронные сети.
Для бизнеса всё это означает прежде всего автоматизацию. ИИ может быстро обработать большой массив данных, найти подозрительную активность, помочь сотруднику разобраться с информацией или взять на себя часть рутинной работы.
Но скорость распространения таких технологий, по словам Дмитрия Корнева, пока опережает развитие корпоративных мер защиты.
— За последний год ИИ-технологии начали заметно быстрее входить в рабочие процессы. Руководители хотят оптимизировать работу, сократить издержки, ускорить принятие решений и частично компенсировать нехватку сотрудников. ИИ-ассистенты, чат-боты и браузерные плагины действительно позволяют быстрее анализировать большие объёмы информации и находить ошибки. Но одновременно увеличивается количество каналов, через которые данные могут покинуть компанию, — рассказывает эксперт.
Проблема в том, что вместе с официальными корпоративными решениями сотрудники используют множество сторонних сервисов. Причём ИТ-специалисты могут даже не знать обо всех установленных расширениях, ботах и приложениях. Возникает так называемый «теневой ИИ» — использование нейросетей сотрудниками без согласования с компанией и зачастую через личные аккаунты.
Рабочий документ может оказаться в личном аккаунте
Одна из самых очевидных проблем связана с тем, что пользователь воспринимает окно чат-бота как обычный рабочий инструмент. На практике это окно является каналом передачи информации на серверы стороннего разработчика. Поэтому сотрудник, который вставляет туда фрагмент документа, код или таблицу, фактически передаёт эти данные внешнему сервису.
В чат-боты могут отправляться финансовые отчёты, документы внутреннего пользования, персональные данные, программный код, маркетинговые планы и другая конфиденциальная информация.
Так, в июле 2026, была уволена топ‑менеджер московской инженерной компании за разглашение коммерческой тайны, в том числе через нейросеть DeepSeek. Суд поддержал решение работодателя.
В исходных материалах данных Cyberhaven говорится, что почти треть информации, которую пользователи отправляли в чат-боты, относилась к конфиденциальной. При этом значительная часть рабочих обращений к ИИ происходила через личные учётные записи. Для ChatGPT в исследовании приводится показатель 73,8 процента, а для Google Gemini — 94,4 процента.
Получается парадоксальная ситуация: сотрудник работает с данными компании, но делает это через личный аккаунт.
— Личный аккаунт в ИИ-сервисе становится неочевидным каналом утечки. Сотрудник может загрузить рабочие данные в офисе, а затем дома открыть тот же аккаунт и скопировать информацию на личное устройство. Для компании такой маршрут практически незаметен, если использование сервиса никак не контролируется. Поэтому важно не только объяснять сотрудникам правила, но и понимать, какие инструменты реально используются на рабочих компьютерах, — объясняет специалист.
Эта проблема получила название «теневой ИИ». Она возникает не обязательно из-за намерения нарушить правила. Человек может просто выбрать знакомый ему бесплатный сервис, потому что он кажется самым удобным. Но именно в этом и заключается опасность.
Бесплатная нейросеть тоже может иметь цену
При использовании бесплатных ИИ-сервисов сотрудники не всегда задумываются, что происходит с информацией после загрузки. В официальных руководствах по управлению данными отмечается, что данные в бесплатных версиях популярных нейросетей могут сохраняться на серверах разработчика и использоваться для обучения и улучшения моделей. Поэтому конфиденциальную рабочую информацию не стоит воспринимать как обычный текст, который можно без последствий вставить в чат.
Особенно проблемной становится ситуация, когда речь идёт о персональных данных, внутренних документах компании, коммерческой информации или программном коде. Удаление информации из уже работающей генеративной модели также может быть крайне сложной задачей.
Дмитрий Корнев считает, что здесь недостаточно просто установить хороший антивирус или систему защиты от утечек.
— Даже самая устойчивая система защиты данных не поможет, если сотрудник сам передаст конфиденциальную информацию внешнему сервису. Поэтому вопрос безопасного использования ИИ начинается не с запрета технологии, а с понимания того, какие данные можно отправлять в конкретный инструмент. Сотрудникам нужно объяснять эти правила понятным языком. Нельзя рассчитывать, что человек без специальной подготовки сам разберётся во всех особенностях работы генеративных моделей, — говорит эксперт.
Опасным может оказаться не только сам чат-бот
Утечка может произойти не только через официальный сайт нейросети. В 2026 году сотрудники получают доступ к ИИ через браузерные плагины, встроенных ассистентов, ботов в мессенджерах и другие инструменты. Иногда такие приложения устанавливаются без ведома ИТ- и подразделений информационной безопасности.
Дополнительный риск возникает, если пользователь авторизуется в подобных сервисах с корпоративной учётной записью или передаёт им рабочие документы.
Есть и другой сценарий. Злоумышленники создают страницы, похожие на интерфейсы известных ИИ-сервисов. Пользователю предлагают войти через корпоративную почту, после чего логин и пароль могут попасть к мошенникам. Если на такой странице ещё и загружаются документы, последствия могут быть ещё серьёзнее.
Отдельная угроза связана с так называемыми вредоносными инъекциями. Это скрытые инструкции, которые могут находиться в содержимом веб-страницы и быть незаметными человеку. Например, текст может быть спрятан таким образом, что обычный посетитель его не увидит.
Если сотрудник попросит ИИ проанализировать такую страницу, скрытая инструкция может повлиять на работу модели. В исходных материалах рассматривается сценарий, при котором подобная команда способна привести к передаче данных текущей сессии на сторонний сервер.
Для пользователя это выглядит как обычная работа с сайтом и нейросетью, хотя на самом деле внутри может находиться дополнительная команда.
ИИ способен помогать киберпреступникам
Риски искусственного интеллекта не ограничиваются корпоративными утечками. Те же технологии, которые помогают компаниям защищаться, могут использоваться и против них.
ИИ способен анализировать большие объёмы информации и автоматизировать действия. Поэтому злоумышленники получают возможность быстрее готовить атаки, создавать убедительные сообщения и масштабировать уже известные схемы.
Одно из направлений — фишинг. Если раньше подозрительное письмо можно было заметить по ошибкам, странным формулировкам или неестественному стилю, то генеративные модели позволяют создавать более убедительные тексты. Подробнее о фишинге мы рассказывали в нашем прошлом материале.
ИИ может применяться и для социальной инженерии — атак, в которых преступники пытаются манипулировать человеком, чтобы тот сам передал информацию или совершил нужное действие.
— Искусственный интеллект не является исключительно угрозой. Он просто усиливает возможности той стороны, которая его использует. Специалисты по безопасности могут применять ИИ для поиска аномалий, обнаружения вредоносной активности и ускорения реакции на инциденты. Но злоумышленники получают доступ к тем же технологиям и могут использовать их для фишинга, социальной инженерии, автоматизации атак и создания вредоносного кода. Поэтому развитие ИИ одновременно повышает и возможности защиты, и возможности нападения, — подчёркивает Дмитрий Корнев.
Инструменты ИИ также могут использоваться для создания вредоносного программного обеспечения. Даже если конкретные сервисы имеют ограничения на генерацию опасного кода, исследователи и злоумышленники ищут способы обходить такие ограничения.
В перспективе это может упростить создание автоматизированных вредоносных программ, которые способны красть данные, заражать сети и атаковать системы с минимальным участием человека.
Дипфейк уже перестал быть фантастикой
Отдельная проблема — подделка голоса, изображения и видео. Deepfake — это технология создания реалистичного искусственного контента, который может имитировать внешность или голос реального человека. Для создания убедительной подделки сегодня может потребоваться сравнительно небольшой объём исходных материалов. Это открывает возможности для мошенников.
Например, преступник может создать поддельный голос человека и использовать его в телефонной схеме. Или изготовить видео с известной персоной и использовать его для продвижения фиктивной инвестиционной схемы, сбора пожертвований или другой мошеннической операции. Подробнее это мы объясняли здесь.
Генеративные модели также позволяют создавать тексты от имени известных людей. Это может использоваться в письмах и социальных сетях для фальшивых розыгрышей, инвестиционных предложений и просьб о пожертвованиях.
— С дипфейками ситуация особенно сложная, потому что человек привык доверять тому, что слышит и видит. Нескольких секунд голоса может оказаться достаточно для создания убедительной подделки. Поэтому одного визуального или голосового подтверждения уже недостаточно для принятия важных решений. В компаниях особенно важно проверять финансовые распоряжения и другие чувствительные действия через дополнительные каналы связи, — напоминает специалист.
ИИ может применяться и для более сложных атак: автоматизации фишинга, вредоносных программ, атак с использованием украденных учётных данных и попыток обойти защитные системы.
Ошибка в ИИ-системе может затронуть миллионы записей
Ещё одна проблема — сами продукты, в которых используется искусственный интеллект. Добавление приставки «AI» или «Нейро» к названию продукта не означает автоматически, что система безопасна. Перед внедрением такие решения нужно тестировать и проверять на наличие уязвимостей.
В качестве показательного примера можно привести систему подбора персонала McDonald’s под названием Olivia, разработанную Paradox.ai.
Система позволяла войти с использованием стандартных имени пользователя и пароля «123456», а многофакторная аутентификация не была включена. В результате инцидента были скомпрометированы 64 миллиона записей о сотрудниках и соискателях.
Этот случай показывает, что проблема может находиться не в самой идее использования ИИ, а в конкретной реализации и настройках безопасности.
Внешний ИИ-сервис, интегрированный в корпоративный процесс, фактически становится ещё одним элементом инфраструктуры компании. А значит, его уязвимость потенциально становится и уязвимостью самой организации.
ИИ может быть полезен и защитникам информации
При этом было бы неправильно рассматривать искусственный интеллект исключительно как источник проблем. ИИ уже используется в кибербезопасности. Машинное обучение помогает анализировать сетевой трафик, искать аномалии, выявлять подозрительное поведение и обнаруживать признаки вредоносной активности.
Обычная система безопасности может столкнуться с огромным количеством событий. Человек физически не способен одинаково внимательно обработать весь этот объём. ИИ способен анализировать данные значительно быстрее и работать круглосуточно.
Например, алгоритмы могут искать необычные закономерности в сетевом трафике и системных журналах. Это позволяет быстрее обнаруживать несанкционированный доступ, подозрительный код и другие признаки атаки.
ИИ может использоваться и для борьбы с фишингом. Фильтры электронной почты анализируют содержание сообщений и ищут подозрительные шаблоны.
Ещё одно направление — обнаружение ботов. Машинное обучение может анализировать сетевой трафик и выявлять характерные признаки автоматизированной активности.
Есть и более сложные задачи. ИИ может помогать в контроле доступа, оценивать поведение пользователей, выявлять подозрительные попытки входа и помогать применять многофакторную аутентификацию.
Для специалистов по безопасности это означает возможность перейти от постоянного реагирования на уже произошедшие атаки к более раннему обнаружению угроз.
Почему полный запрет нейросетей тоже не решение
На первый взгляд самый простой вариант для компании — запретить сотрудникам использовать любые ИИ-сервисы. Однако такой подход имеет очевидный недостаток. Если сотрудники уже используют нейросети, запрет не обязательно остановит их. Они могут продолжить пользоваться инструментами через личные аккаунты и устройства, а компания при этом потеряет возможность контролировать происходящее.
Кроме того, ИИ уже становится частью рабочих процессов. Он помогает анализировать информацию, автоматизировать задачи и экономить время. Поэтому задача информационной безопасности заключается не только в том, чтобы запрещать новые технологии.
— Полный запрет ИИ в компании сегодня может выглядеть безопасным решением, но на практике он способен привести к появлению ещё более неконтролируемого использования. Сотрудники всё равно могут искать удобные инструменты самостоятельно и использовать личные аккаунты. Гораздо разумнее определить разрешённые сервисы, установить понятные правила и контролировать их соблюдение. Тогда ИИ становится управляемым инструментом, а не неизвестным каналом передачи данных, — рассказывает директор по информационной безопасности.
Что компании могут сделать уже сейчас
По словам Дмитрия Корнева, безопасность ИИ должна строиться сразу по нескольким направлениям. В первую очередь организациям стоит проверять используемые ИИ-системы, их настройки и возможные уязвимости. Такой аудит может включать оценку безопасности, поиск слабых мест и тестирование систем.
Особое внимание необходимо уделять данным. Сотрудники должны понимать, какую информацию можно отправлять нейросети, а какую нельзя.
Отдельно стоит контролировать личные аккаунты. Использование личных учётных записей на оборудовании работодателя и установка сторонних ИИ-инструментов без согласования создают дополнительные риски.
Для работы с чувствительной информацией предпочтительнее использовать корпоративные решения с понятными условиями обработки данных. В частности, в исходных материалах рекомендуется рассматривать локальные ИИ-модели, которые разворачиваются внутри инфраструктуры организации и могут работать без доступа к интернету.
Ещё один вариант — корпоративные лицензии проверенных сервисов. Такие решения могут предусматривать условия, при которых загруженная информация не используется для обучения общих моделей и остаётся в установленном контуре безопасности.
Наконец, необходим постоянный контроль.
— Обучение сотрудников само по себе не решает проблему, если правила никто не контролирует. В компании постоянно появляются новые люди, которые могут не знать действующие требования и переносить привычки с предыдущего места работы. Кроме того, ошибиться может любой сотрудник: можно забыть правило, случайно установить опасное расширение или отправить не тот документ. Поэтому мониторинг приложений, сервисов и передаваемой информации — это не вопрос недоверия к сотрудникам, а обычная мера управления рисками, — добавляет эксперт.
Защищать нужно не только данные, но и сам ИИ
Есть и другие угрозы, которые возникают уже внутри ИИ-систем. Например, модель зависит от данных, на которых она обучается. Если эти данные намеренно заменить ложными («отравить»), результаты работы системы могут стать ошибочными или опасными. Такая атака называется отравлением данных.
Злоумышленник может попытаться изменить обучающий набор таким образом, чтобы модель начала выдавать нужные ему результаты или проявлять определённую предвзятость.
Отдельно существует риск кражи самих ИИ-моделей. Получить к ним доступ могут пытаться внешние злоумышленники, государственные группировки, корпоративные шпионы или другие нарушители.
Похищенная модель может быть изменена и использоваться для дальнейших атак. Поэтому защита ИИ включает не только запрет на передачу секретных документов в чат-бот. Необходимо защищать данные, контролировать доступ, обновлять программное обеспечение, использовать шифрование, резервное копирование, межсетевые экраны и системы обнаружения вторжений.
Важную роль играет и так называемая «противоборственная тренировка» — методика, при которой ИИ-модель проверяют на различных сценариях атак и данных, чтобы повысить её устойчивость.
Человеческий фактор никуда не исчезает
Несмотря на развитие технологий, одной из главных проблем остаётся поведение пользователей. Сотрудник может открыть фишинговое письмо, перейти по поддельной ссылке, загрузить рабочий документ в неизвестный сервис или установить браузерное расширение, не проверив его происхождение. Поэтому обучение персонала остаётся одной из основных мер защиты.
Людям нужно объяснять, как отличать настоящие письма от подозрительных, почему нельзя передавать личную и корпоративную информацию случайным чат-ботам и чем опасны непроверенные программы.
Важно также научить сотрудников проверять информацию, которую создаёт ИИ. Нейросеть может быстро сформировать текст, но это не означает, что он автоматически является достоверным.
— Безопасное использование ИИ невозможно без подготовки сотрудников. Люди должны понимать не только то, что нейросеть умеет делать, но и где проходят границы допустимого. Нужно заранее объяснять, какие данные нельзя отправлять в чат-боты, какие сервисы разрешены и почему опасно устанавливать непроверенные расширения. Чем понятнее правила, тем меньше вероятность, что сотрудник нарушит их случайно, — отмечает специалист.
От компаний требуется не запрет, а система
ИИ продолжит развиваться, а вместе с ним будут меняться и методы кибератак. Поэтому одной настройки безопасности недостаточно. Компаниям необходимо регулярно проверять используемые ИИ-системы, искать уязвимости, обновлять программное обеспечение и следить за тем, какие сервисы появляются на рабочих устройствах.
Нужен и заранее подготовленный план реагирования на инциденты. Если утечка или атака всё же произошла, организация должна понимать, как ограничить распространение проблемы, провести расследование и восстановить работу.
При этом искусственный интеллект способен помогать и в самой защите. Он может круглосуточно анализировать события, искать аномалии, помогать обнаруживать фишинг, отслеживать подозрительный трафик, выявлять ботов и снижать количество ложных срабатываний.
Для небольших и средних компаний это особенно важно: технологии на базе ИИ могут обеспечить постоянный мониторинг без необходимости содержать большую команду специалистов, работающую круглосуточно.
В итоге перед бизнесом стоит не выбор между ИИ и безопасностью. Главная задача — научиться использовать первое без отказа от второго.
ИИ может ускорять работу, анализировать огромные объёмы данных и помогать обнаруживать угрозы. Но тот же инструмент способен стать частью фишинговой кампании, автоматизированной атаки или случайной утечки.
— В идеальном случае средства защиты должны развиваться одновременно с новыми технологиями, но в реальности они часто отстают. При этом полностью изолировать бизнес от ИИ уже невозможно без потери его преимуществ. Поэтому наиболее реалистичный путь — контролируемая интеграция. Локальные модели, постоянный мониторинг, корпоративные правила и обучение сотрудников позволяют превратить «теневой ИИ» из неконтролируемого риска в управляемый рабочий инструмент, — заключает Дмитрий Корнев.
Для компаний это означает простую вещь: вопрос уже не в том, использовать ли искусственный интеллект. В 2026 году гораздо важнее понимать, кто, где и какие данные передаёт ИИ-системам — и что произойдёт с этой информацией после нажатия кнопки «отправить».
