ИИ-сервисы и персональные данные: правила использования в компании
Сотрудники уже используют чат-ассистентов: для писем, анализа таблиц, подготовки договоров и кода. Вместе с запросом в стороннюю модель уходят фрагменты договоров, выгрузки клиентов, исходный код и пароли. Запрет мало эффективен, а бесконтрольное использование создаёт утечки и нарушения закона. Ниже правила, которые можно ввести за неделю: что допустимо, какие данные запрещены, как оценивать сервисы, как использовать локальные модели и что делать с решениями, которые принимает алгоритм.
Оговорка. Статья не юридическая консультация. Требования к автоматизированным решениям сверены по тексту статьи 16 152-ФЗ, к хранению и передаче — по статьям 6, 12 и 18 (в редакции, действующей на момент подготовки, база «Гарант»); закон меняется, проверяйте действующую редакцию: 152-ФЗ. Отдельные нормы об искусственном интеллекте и отраслевые требования здесь не разбираются.
Основные риски
| Риск | Пример |
|---|---|
| Утечка данных в сервис | Сотрудник вставляет в запрос выгрузку клиентов или договор с реквизитами |
| Использование данных провайдером | Запросы сохраняются и могут использоваться для улучшения модели, если это не отключено условиями |
| Нарушение локализации и трансграничная передача | Данные граждан РФ обрабатываются на зарубежных серверах без оснований: облачные сервисы и ПДн |
| Ошибки модели | Выдумывает факты, цитаты и ссылки; решение, принятое по ним, нарушает права человека |
| Автоматические решения о людях | Скоринг кандидатов, отказ клиенту без участия человека |
| Небезопасные интеграции | Подключённые к модели инструменты с широкими правами и доступом к данным |
Что запретить отправлять в публичные сервисы
- персональные данные клиентов, сотрудников, кандидатов (имена с контактами, документы, обращения);
- коммерческую тайну, договоры, внутренние финансовые данные;
- исходный код закрытых проектов и конфигурации;
- пароли, ключи, токены, строки подключения;
- данные, переданные вам партнёрами под обязательством конфиденциальности.
Классификация данных помогает сделать правило понятным: четыре класса и таблица: какой класс можно, какой нельзя.
Допустимые сценарии
| Сценарий | Условия |
|---|---|
| Редактирование и перевод публичных текстов | Без данных клиентов и внутренних документов |
| Объяснение кода, шаблоны, учебные задачи | Без секретов и закрытых фрагментов; результат проверяется человеком |
| Анализ обезличенных данных | После обезличивания: методы обезличивания |
| Работа с внутренними данными | Только через утверждённый корпоративный сервис с договором или локальную модель |
Как оценивать сервис
| Вопрос | Что требовать |
|---|---|
| Где хранятся и обрабатываются запросы | Страны и площадки, подрядчики; возможность размещения в РФ |
| Использование данных для обучения | Отказ от обучения на ваших данных, возможность отключить, срок хранения запросов |
| Доступ сотрудников провайдера | Ограничения, журналы, проверки |
| Договор | Условия поручения, конфиденциальности, уведомление об инцидентах: поручение обработки |
| Безопасность аккаунтов | MFA, единый вход, роли, журналы действий |
| Выход | Удаление данных и подтверждение: уничтожение ПДн |
Локальные модели
Когда нужно работать с внутренними данными, безопаснее запускать модель на собственной инфраструктуре: данные не уходят наружу, а доступ и журналы под вашим контролем. Но локальный запуск не снимает требований безопасности: сервис нужно защитить, не выставляя его в интернет, ограничить доступ и обновлять: Ollama: что нельзя открывать наружу. Данные в системе остаются персональными, к ней применяются те же требования к защите, журналам и уровню защищённости: журналы ИСПДн.
Автоматизированные решения о людях
Статья 16 152-ФЗ запрещает принимать на основании исключительно автоматизированной обработки персональных данных решения, порождающие юридические последствия для человека или иным образом затрагивающие его права и законные интересы, за исключением случаев, когда есть письменное согласие субъекта или это предусмотрено федеральными законами с мерами защиты прав. Если такое решение допустимо, оператор обязан разъяснить порядок принятия решения и возможные последствия, дать возможность возразить и рассмотреть возражение в течение тридцати дней с уведомлением о результате. Практически:
- не используйте ИИ для автоматического отказа кандидату, клиенту или сотруднику без участия человека: данные кандидатов;
- оставьте человека, который проверяет и несёт ответственность за решение;
- зафиксируйте, какие данные использует алгоритм, и сохраните журнал решений;
- предусмотрите канал возражений.
Правила для сотрудников
- Используйте только утверждённые сервисы; список опубликован и обновляется.
- Не отправляйте запрещённые данные (список выше); сомневаетесь — обезличьте или спросите.
- Проверяйте результат: модель ошибается, ссылки и цитаты проверяйте по источнику.
- Не принимайте решения о людях только по ответу модели.
- Сообщайте о случайной отправке данных ответственному немедленно: это может быть инцидент: первые 24 часа.
Контроль
- Обучение и инструктаж: осведомлённость сотрудников.
- Технические меры: блокировка неразрешённых сервисов на прокси, DLP при необходимости: DLP.
- Реестр используемых сервисов и интеграций с владельцами: реестр ИТ-активов.
Диагностика
| Симптом | Причина и что делать |
|---|---|
| Сотрудники пользуются личными аккаунтами ИИ | Нет разрешённой альтернативы. Предоставьте корпоративный доступ и опишите правила |
| В запросах находят данные клиентов | Правила не доведены. Проведите обучение, включите контроль каналов, при необходимости проверьте как инцидент |
| Локальная модель доступна из интернета | Нет защиты сервиса. Закройте доступ, включите аутентификацию, обновите |
| Решения по заявкам принимает алгоритм | Нет участия человека. Введите проверку и канал возражений, оцените требования статьи 16 |
Где это в модели зрелости
Материал относится к направлению «Безопасность данных» (материалы направления, карта зрелости). Уровень 2 требует классификации данных и защищённой передачи наружу; использование ИИ-сервисов — новый канал передачи, который должен быть описан и контролируем.
Как проверить
- Утверждены правила использования ИИ-сервисов, список разрешённых сервисов и перечень запрещённых данных; сотрудники ознакомлены.
- Для корпоративных сервисов есть договор, проверены место хранения, отказ от обучения на данных, MFA.
- Решения о людях не принимаются исключительно алгоритмом без участия человека.
- Локальные модели закрыты от интернета, доступ ограничен, журналы ведутся.
Источники
- Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных», статьи 6, 12, 16, 18: КонсультантПлюс, Гарант. Проверяйте действующую редакцию.
- NIST AI Risk Management Framework (AI RMF 1.0): nist.gov. Международная практика, не российский норматив.
- OWASP Top 10 for LLM Applications: owasp.org. Международная практика, не российский норматив.
