AI-агент для секретаря без утечки данных: 3 варианта размещения — облако, VPS, своя сеть

AI-агент для секретаря без утечки данных: 3 варианта размещения — облако, VPS, своя сеть

Руководитель хочет, чтобы AI-агент вёл его календарь и отвечал на письма. А юристы и бухгалтерия не готовы отдать переписку в публичный ChatGPT — там персональные данные клиентов. Это противоречие знакомо всем, кто внедрял AI в B2B в 2026 году.

Эта статья — практический разбор того, как дать секретарю AI-помощника без риска утечки. Три варианта размещения, четыре российских LLM, два подхода к анонимизации персданных и чек-лист «что выбрать именно вам».

Почему «просто отдать письма в ChatGPT» не работает

Если AI-агент работает на публичном API OpenAI или Anthropic, то:

  1. Письма уходят на серверы за рубежом. Подпадает под жёсткие требования 152-ФЗ «О персональных данных»: для передачи ПДн за границу нужно основание, согласие субъекта или иное законное основание.
  2. Содержимое писем (формулировки договоров, медицинские показания, судебные споры) может использоваться провайдером для обучения — даже если в договоре написано «не обучаем». Опции «opt-out» у топовых моделей постепенно сужаются.
  3. Утечка через провайдера или шифрованный канал в один клик превращается в репутационный кризис.
  4. Регуляторы (Роскомнадзор, отраслевые) всё чаще требуют локализацию обработки ПДн.

Даже on-premise установка не решает проблему автоматически — если пользователи шлют в неё всё подряд, модель обучается и запоминает контекст. Важно разделять хранение, обучение и инференс.

4 российских LLM, которые можно ставить локально

Для секретаря руководителя в 2026 году есть из чего выбрать. Все четыре проекта — open source или с корпоративной лицензией для on-prem.

Yandex YaGPT / YandexGPT 5

  • Где: yandex.cloud/services/yandexgpt
  • Развёртывание: Yandex Cloud (RU-зона) или on-prem через лицензию Enterprise
  • Сильные стороны: хорошее знание русскоязычных реалий, поддержка корпоративного режима с приватным контуром, сертификация ФСТЭК в процессе
  • Слабые стороны: закрытый исходный код модели, зависимость от вендора

Sberbank GigaChat / GigaChat Lite

  • Где: developers.sber.ru/gigachat
  • Развёртывание: публичное API или корпоративный контур
  • Сильные стороны: сильные показатели на русском бенчмарке ruMMLU, доступны модели разного размера — от 7B для VPS до 70B для серверной
  • Слабые стороны: ранний продукт, ряд ограничений по чувствительным доменам

VK Cloud SaluteSpeech / VK LLM

  • Где: cloud.vk.com
  • Развёртывание: публичное API + on-prem через партнёров
  • Сильные стороны: хорошая интеграция с голосом (SaluteSpeech для звонков секретаря), опыт enterprise-внедрений
  • Слабые стороны: модельное семейство меняется — нужно следить за актуальной версией

Saiga / IIT-Russian / BitNet (open source)

  • Где: HuggingFace IlyaGusev/saiga_*, ai-forever/sage, плюс 1.58-битные модели типа BitNet
  • Развёртывание: полностью on-prem, BitNet-совместимые квантизации для слабых VPS
  • Сильные стороны: открытый код, можно без интернета вообще, можно дообучать под себя
  • Слабые стороны: меньше «коробочной» инфраструктуры, нужны DevOps

Важно: для сценария «секретарь руководителя» 7B-модель часто достаточно. Она справляется с суммаризацией письма, выделением action items, предложением времени встречи. Для тонкого понимания юридических формулировок лучше 13B+ или гибрид с облаком по договору.

3 варианта размещения AI-агента

Вариант 1. Публичное облако (OpenAI / Anthropic / Yandex Cloud)

Что это: AI-агент в n8n/Make шлёт данные в публичное API. Данные уходят в дата-центры, обрабатываются, возвращаются.

Что нужно, чтобы было безопасно:

  • Анонимизация ПДн до отправки: regexp-маскирование email, телефонов, ИНН, ФИО
  • Договор с провайдером на обработку ПДн (Data Processing Addendum)
  • Русская юрисдикция для большинства категорий ПДн (если не едут за рубеж)
  • Логирование всех запросов и ответов в собственный SIEM

Когда подходит: стартапы, маркетинговые команды, медиа, продажи с согласованной обработкой ПДн.

Когда не подходит: юристы, медицина, гостайна, финансы с ПДн клиентов.

Вариант 2. VPS с on-prem моделью (BitNet, Saiga, GigaChat Lite)

Что это: арендуете VPS в РФ (или собственный сервер в офисе), ставите модель через Ollama или vLLM. AI-агент работает через локальный OpenAI-совместимый endpoint.

Что нужно, чтобы было безопасно:

  • VPS в РФ-зоне или физический сервер в офисе
  • Модель с открытым кодом (BitNet, Saiga) или коммерческая on-prem лицензия (GigaChat Enterprise)
  • Шифрованный канал между почтой и агентом
  • Изоляция на уровне ОС (контейнеры, отдельный пользователь БД)
  • Контроль логов и аудит

Когда подходит: средний бизнес, юрфирмы 10–50 человек, бухгалтерские аутсорсеры, частная медицина.

Когда не подходит: жёсткие требования ФСТЭК, секретные данные, банки.

Вариант 3. Свой контур (on-premise в серверной клиента)

Что это: железный или виртуальный сервер полностью в инфраструктуре клиента. Модель и база писем изолированы от интернета. Обновления модели — через закрытый контур или флешку.

Что нужно, чтобы было безопасно:

  • Сервер за 200–700 тыс. ₽ в зависимости от модели (8B требует 32 ГБ RAM)
  • Полностью закрытый сегмент сети — только трафик между почтой и AI-агентом
  • Сертифицированные ФСТЭК решения, если есть требования регулятора
  • Свой DevOps или сервисная поддержка на аутсорсе
  • Ручное обновление моделей и зависимостей

Когда подходит: банки, госкомпании, операторы ПДн с жёсткими SLA, юридические фирмы с международными клиентами.

Когда не подходит: стартапы без инженерного штата и небольшого бюджета.

Специальные средства скрытия персональных данных

Передача в LLM «как есть» — основной источник утечки. Шесть подходов к де-идентификации:

  1. Regexp-маскирование — заменяем email, телефоны, ИНН, паспорта, номера карт на токены , . Делается в n8n/Make стандартными нодами.
  2. NER-модели (Natasha, spaCy, ruBert) — находят ФИО, адреса, названия компаний и заменяют. Точнее regexp.
  3. Prompt-anonymizer внутри модели — отдельный шаг «сначала замени ПДн, потом отвечай». Работает, но добавляет латентность и стоимость.
  4. Vector-strip — обезличивание при embeddings — для RAG-систем отдаём модели «очищенный документ без ПДн», в базе храним с маской.
  5. Synthetic data — обучение на синтетике — для тонких моделей можно учить на синтетических переписках без реальных данных.
  6. Дифференциальная приватность (DP-SGD) — для критичных сценариев: обучение модели с шумом, исключающим запоминание конкретных записей.

Чек-лист перед запуском в продакшн:

— [ ] Проведена классификация ПДн по 152-ФЗ

— [ ] Подписан DPA с провайдером (если облако)

— [ ] NER/regexp-маскирование внедрено до отправки в LLM

— [ ] Логи запросов и ответов хранятся в РФ

— [ ] Аудит безопасности прошёл независимый эксперт

— [ ] Права доступа к панели AI-агента только у авторизованных

Кейсы по отраслям (обезличено)

Кейс 1. Юридическая фирма, 30 юристов

Задача: секретарь тонула в переписке с клиентами, оппонентами и судами. Хотели AI-агента для первичной сортировки и подготовки черновиков ответов.

Решение: VPS в РФ с GigaChat Lite 7B + n8n. Все письма проходили NER-анонимизацию (Natasha) перед отправкой в модель, ответ проходил обратную сборку.

Результат: 65% входящих писем автоматически классифицируются и закрываются черновиком ответа. Живой секретарь работает только с юридически значимыми.

Срок пилота: 14 дней, далее перевод в прод.

Кейс 2. Логистическая компания, 80 человек в офисе

Задача: генеральный директор получал 200+ писем в день, многие — типовые от логистов, водителей, диспетчеров.

Решение: VPS + локальная 7B-модель для черновиков и категоризации, гибридно — облако для редких сложных писем с явным согласием.

Результат: 70% писем закрыты автоматически, генеральный тратит на почту 40 минут вместо 2.5 часов.

Срок пилота: 14 дней, через 2 месяца переведено в регулярный режим.

Кейс 3. Сеть медицинских центров

Задача: запись пациентов на приём, ответы на типовые вопросы, синхронизация с МИС (медицинской информационной системой).

Решение: on-prem сервер с Saiga 13B, физически изолированный сегмент, все ПДн проходили де-идентификацию. AI-агент только записывал и отвечал на типовые, медицинские вопросы передавал живым администраторам.

Результат: загрузка администраторов снизилась на 40%, время записи на приём сократилось с 14 до 6 часов в среднем по сети.

Как выбрать свой вариант: 5 вопросов

  1. Сколько ПДн в письмах? Если ФИО+телефон — хватит анонимизации. Если медицинские или банковские — свой контур.
  2. Какой регулятор? Банк России, Минздрав, ФСТЭК — у каждого свои требования.
  3. Какой объём? До 100 писем/день — VPS с 7B. До 500 — нужен 13B+. До 2000 — облако или кластер.
  4. Какой бюджет? от 20 000 ₽/мес — VPS+Geriot Fenrir. До 200 000 — облако. До 700 000 на входе — свой контур.
  5. Какой SLA нужен? 99,9% — публичное облако. 99,5% — VPS. 99,99% — свой контур с резервированием.

Практические шаги для внедрения за 14 дней

  1. День 1–3. Аудит: какие каналы у секретаря, сколько и каких ПДн в письмах. Классификация.
  2. День 4–6. Прототип: n8n + Ollama + локальная 7B-модель. Тест на 100 реальных письмах.
  3. День 7–9. Анонимизация: NER + regexp + контур обратной сборки.
  4. День 10–12. Интеграция с Gmail/Outlook и Google Calendar через API.
  5. День 13–14. Боевой пилот с 1 ассистентом, метриками качества, обратной связью.

Заключение

AI-агент для секретаря руководителя в 2026 году — это уже не эксперимент, а инженерная задача. Российские LLM закрыли языковой барьер, open-source модели дали on-prem-возможности. Главный вопрос теперь не «можно ли», а «как сделать безопасно». Чек-лист из шести пунктов покрывает 90% рисков.

ГЕРИОТ заботится о вашей безопасности и работает в соответствии с российским законодательством.


Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *