Безопасность при работе с ИИ: границы и правила
Когда сотрудники начинают использовать BitrixGPT, возникает вопрос: а что можно, а что нельзя? Можно ли загрузить договор с персональными данными? Можно ли попросить AI написать ответ клиенту и отправить без проверки? Можно ли подключить внешний сервис через MCP Hub и не слить данные?
Эти вопросы не праздные. По данным Битрикс24, AI-агенты по умолчанию могут читать и изменять данные, а запись звонков и транскрибация требуют согласия по 152-ФЗ. Без обучения сотрудников безопасной работе компания рискует не только данными, но и репутацией.
В этой статье — как обучить команду границам: где AI помогает, а где нужен человек, как защитить данные, какие настройки проверить и какие правила объяснить. Если нужна программа обучения с блоком безопасности — поможем.
Где ИИ можно
BitrixGPT — это инструмент, который помогает в рутине. Есть задачи, где он даёт эффект и не создаёт рисков, если соблюдать базовые правила проверки.
Резюме и выжимки
Краткое содержание звонка, письма, встречи. AI не принимает решений — он структурирует информацию.
Черновики текстов
Письма, КП, описания. AI пишет черновик, человек проверяет и корректирует.
Поиск по данным
Найти клиента, сделку, задачу. AI помогает навигации, но не заменяет проверку.
Подготовка к звонку
История клиента, о чём говорить. AI собирает контекст из CRM.
Во всех этих сценариях есть общее правило: AI предлагает — человек проверяет и принимает решение. Если это правило соблюдается, риски минимальны.
Где ИИ нельзя
Есть задачи, где ошибка AI может стоить денег, репутации или привести к юридическим последствиям. Здесь AI либо не используется, либо используется только для черновиков с обязательной проверкой.
| Задача | Почему нельзя | Что делать |
|---|---|---|
| Юридические формулировки | AI может ошибиться в терминах, пропустить важное условие | Черновик от AI, финальная проверка юристом |
| Финансовые расчёты | AI может ошибиться в цифрах, не учесть контекст | Расчёты в 1С или Excel, AI не для цифр |
| Медицинские рекомендации | Ответственность за здоровье, риск вреда | Только человек с квалификацией |
| Отправка клиенту без проверки | AI может написать то, чего нет в услугах, или ошибиться в деталях | Черновик → проверка → отправка |
| Удаление данных | AI-агент может удалить без подтверждения, если настроен на запись | Ограничить права, включить подтверждение |
| Подписание документов | AI не имеет юридического права подписывать за человека | Только человек с ЭП |
💡 Важно
По данным Битрикс24, AI-агент не должен принимать критические решения сам. Любые действия, которые могут повлиять на клиентов или работу компании, требуют подтверждения от сотрудника.
Данные и 152-ФЗ
BitrixGPT обрабатывает данные на серверах в России, что соответствует требованиям 152-ФЗ. Но это не значит, что можно загружать в AI всё подряд.
Что нужно знать
- Персональные данные — обрабатываются в соответствии с 152-ФЗ, но требуют согласия субъекта;
- Запись звонков — требует уведомления клиента и согласия;
- Транскрибация — если в разговоре есть персональные данные, это обработка, нужны основания;
- Внешние сервисы — если данные уходят за пределы Битрикс24, это отдельная ответственность.
Коробочная версия для строгих требований
Если у компании повышенные требования к безопасности, есть коробочная версия «Энтерпрайз». Она имеет сертификат ФСТЭК (4-й уровень доверия), поддерживает шифрование TLS 1.3, 2FA, SSO, детальное логирование и может работать в закрытом контуре без интернета.
Облачная версия сертификацию ФСТЭК не проходила, но соответствует 152-ФЗ и хранит данные в РФ. Для большинства компаний этого достаточно.
💡 Важно
Обучите сотрудников: не загружать в AI документы с персональными данными, если это не предусмотрено процессом. Использовать обезличенные примеры для обучения и тестов.
Права доступа
Один из главных рисков — AI-агент получает доступ ко всем данным. По умолчанию агент может читать и менять данные во всех разделах Битрикс24. Это нужно контролировать.
Что настроить
- Режим «Только чтение» — если агенту нужно только искать и анализировать данные, включите этот режим, чтобы он не мог ничего изменить или удалить;
- Права на уровне ролей — не все сотрудники должны иметь доступ к финансовым данным, зарплатам, персональным данным клиентов;
- Подтверждение действий — для критичных операций (удаление, изменение статуса) требовать подтверждения сотрудника;
- Логирование — все действия AI-агента должны фиксироваться.
Кто должен настраивать
Настройка прав — задача администратора Битрикс24 или ответственного за безопасность. Сотрудники не должны самостоятельно менять права AI-агентов.
При обучении объясните: если сотрудник видит, что AI-агент делает что-то, чего не должен, — это повод сообщить администратору, а не игнорировать.
MCP Hub
MCP Hub позволяет подключать к BitrixGPT внешние сервисы: Контур.Фокус, 1С, Google и другие. Это расширяет возможности, но и создаёт риски.
Что нужно знать
- Подключение доступно всем по умолчанию — администратор может ограничить, кто и какие сервисы может подключать;
- Данные уходят во внешний сервис — если подключён внешний сервис, данные обрабатываются там, а не только в Битрикс24;
- Права в внешнем сервисе — если подключён 1С, AI-агент получает доступ к тем данным, которые разрешены пользователю в 1С.
Как ограничить
В настройках MCP можно:
- Запретить подключение внешних сервисов — если они не нужны;
- Разрешить только определённым сотрудникам или отделам;
- Проверять, какие сервисы уже подключены — и отключать лишние.
При обучении объясните: не подключайте внешние сервисы без согласования с администратором. Это может привести к утечке данных.
Правила для команды
Обучение безопасности — это не лекция о 152-ФЗ, а конкретные правила, которые сотрудник может применить в работе.
7 правил, которые нужно объяснить
1. Проверяй перед отправкой
Всё, что AI генерирует для клиента, проверяется человеком. Без исключений.
2. Не загружай лишнее
Персональные данные, договоры, финансовые документы — только если это предусмотрено процессом.
3. Не подключай без спроса
MCP Hub и внешние сервисы — только через администратора.
4. Сообщай об ошибках
Если AI сделал что-то не то — это не «сломалось», это сигнал для настройки.
5. Не доверяй слепо
AI может ошибаться в фактах, цифрах, контексте. Ответственность — на человеке.
6. Фиксируй согласия
Если записываешь звонок или обрабатываешь данные — нужно согласие клиента.
7. Соблюдай права
Не пытайся обойти ограничения, которые настроил администратор.
Чек-лист перед обучением
Настройки
- Проверены права AI-агентов
- Включён режим «Только чтение» где нужно
- Ограничен MCP Hub
- Настроено логирование
Обучение
- Объяснены границы: где можно, где нет
- Правила проверки ответов
- Правила работы с данными
- Контакт для вопросов по безопасности
Наши рекомендации
Что вы получаете, заказывая обучение с блоком безопасности
- Аудит настроек — права, MCP, логирование
- Правила — адаптированные под ваши процессы
- Обучение — на реальных примерах
- Чек-лист — для сотрудников
- Поддержку — после обучения
📌 Итоговый вывод
Безопасность ИИ — это не запреты, а границы, которые понятны команде.
Что нужно знать:
- Где можно: резюме, черновики, поиск, подготовка к звонку;
- Где нельзя: юридические формулировки, финансы, медицина, отправка без проверки;
- Данные: BitrixGPT хранит в РФ, но персональные данные требуют согласия;
- Права: режим «Только чтение», подтверждения, логирование;
- MCP Hub: ограничить подключение внешних сервисов;
- Правила: 7 простых правил для команды.
Также рекомендуем: Обучение AI-функциям, с чего начать, AI-роли, все статьи об обучении.