Безопасность данных при использовании ИИ-продавца

«А куда уходят данные наших клиентов?» — первый вопрос, который задаёт каждый второй руководитель при обсуждении внедрения ИИ-продавца. И правильно задаёт. Доверие клиентов — это актив, который нельзя потерять из-за утечки персональных данных или штрафа от Роскомнадзора.

152-ФЗ: что обязан знать каждый бизнес

Разберём, как устроена безопасность при работе с умным чат-ботом, какие требования закона нужно учитывать и на что обращать внимание при выборе решения.

Федеральный закон №152-ФЗ «О персональных данных» регулирует сбор, хранение и обработку любых данных, по которым можно идентифицировать человека. Это включает:

Где хранятся данные ИИ-продавца

Если ваш ИИ-продавец общается с клиентами и сохраняет диалоги — он обрабатывает персональные данные. Значит, нужно соблюдать закон.

Вот ключевой вопрос, который стоит задать любому поставщику ИИ-решения:

Шифрование: три уровня защиты

Важный нюанс: сам чат-бот может работать на российских серверах, но использовать языковые модели, которые обрабатывают запросы за рубежом. Уточняйте:

Качественные решения изолируют персональные данные: модель получает обезличенный контекст, а не сырые персональные данные клиентов.

Разграничение доступа

Все данные между клиентом и ИИ-продавцом передаются по защищённому каналу (TLS 1.3). Это стандарт, но убедитесь, что он используется для всех каналов: чат на сайте, API мессенджеров, интеграция с CRM.

Данные на серверах зашифрованы с помощью AES-256 или аналогичных алгоритмов. Даже если злоумышленник получит физический доступ к серверу, он не сможет прочитать данные без ключа.

Риски и как их минимизировать

Чувствительные поля (телефон, email, паспортные данные) шифруются отдельно, с собственными ключами. Доступ к расшифровке — только у авторизованных сервисов.

Не менее важно, кто внутри компании видит данные клиентов:

Чек-лист безопасности при выборе ИИ-продавца

Хорошее решение поддерживает ролевую модель доступа (RBAC) и ведёт журнал аудита — кто, когда и к каким данным обращался.

ИИ-продавец подключается к CRM, мессенджерам, 1С. Каждая интеграция — потенциальная точка уязвимости.

Безопасность и персонализация: баланс

Решение: API-ключи с минимальными правами, шифрованные каналы связи, регулярная ротация ключей.

Злоумышленник может попытаться «обмануть» ИИ через специально сформированные сообщения, чтобы извлечь данные других клиентов или системную информацию.

Штрафы: что грозит за нарушения

Решение: валидация входящих сообщений, изоляция контекстов разных клиентов, ограничение доступа ИИ к чувствительным данным.

Если модель дообучается на диалогах, есть риск, что данные одного клиента «всплывут» в ответе другому.

Итог

Решение: использование RAG (Retrieval-Augmented Generation) вместо дообучения на пользовательских данных. ИИ-продавец ищет информацию в базе знаний, а не запоминает данные клиентов в весах модели.

ИИ может случайно включить в ответ данные другого клиента, если контексты не изолированы.