Личные данные и ИИ — Безопасность

Что ушло в чужой ИИ — может остаться в логах и обучении. Фильтруй, что вставляешь.

Почему это важно

Сторонний ИИ-сервис может хранить твой ввод и использовать его для обучения. Пароль, паспорт, реквизиты карты или чужие персональные данные, отправленные в чат, — это утечка, которую уже не отозвать: данные осели в логах, кэше, а возможно и в обучающей выборке. Для бизнеса это ещё и нарушение договоров о конфиденциальности и закона о ПД.

Живой сценарий. Сотрудник вставил кусок клиентской базы в публичный чат-бот, чтобы «быстро почистить таблицу». Данные ушли на серверы провайдера; по умолчанию ввод бесплатного тарифа мог использоваться для улучшения модели. Итог: утечка ПД клиентов, репутационный и юридический риск — и откатить уже нечего.

Что делать (по шагам)

Проверь политику хранения (data-retention) и опт-аут из обучения до того, как вставлять что-либо чувствительное. В бизнес/Enterprise-тарифах обучение на твоих данных обычно отключено — включи этот режим явно.
Обезличивай данные перед вставкой — заменяй реальные значения плейсхолдерами:

Было:  Иванов Иван, +7 905 123-45-67, паспорт 4509 №123456
Стало: <ФИО>, <ТЕЛЕФОН>, <ПАСПОРТ>

Чувствительное и коммерческую тайну гоняй на локальной модели без облака:

# локальная модель, данные не покидают машину
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1

Отключи историю/тренировку в настройках сервиса, где это возможно; для команды — корпоративный тариф с DPA (договором об обработке данных).
Заведи правило команды, какие данные в облачный ИИ нельзя в принципе (ПД клиентов, ключи, договоры, медицинские/финансовые данные).

Чего НЕ делать

Не вставляй пароли, паспорта, карты, ключи и чужие ПД в сторонние ИИ.
Не загружай клиентские базы и закрытые документы в публичные сервисы.
Не считай, что «временный чат» = «не сохраняется» — это про твой экран, не про их серверы.
Не отправляй коммерческую тайну в бесплатный тариф с включённым обучением.

Как проверить себя

Знаю, хранит ли мой сервис ввод и обучается ли на нём; опт-аут включён.
Перед вставкой чувствительного — обезличиваю данные.
Для коммерческой тайны/ПД клиентов использую локальную модель или Enterprise-тариф с DPA.
У команды есть явный список «что в облачный ИИ нельзя».
История/тренировка в настройках сервиса выключены, где это возможно.

Инструменты

Локальные модели (данные не уходят): Ollama, LM Studio, GPT4All.
Корпоративные тарифы без обучения на данных: ChatGPT Team/Enterprise, Claude for Work, Gemini for Workspace (проверяй условия DPA).
Обезличивание: Microsoft Presidio — детект и маскирование ПД в тексте.
Политики: внутренний регламент «данные и ИИ», чеклист допустимого ввода.