AI под контролем человека: как устроен наш governance

Главный страх при внедрении AI в бизнес — не в том, что модель ошибётся в тексте. Страшно, когда автономный агент отправляет деньги не туда, обещает клиенту невозможное или удаляет данные, которые нельзя восстановить. Поэтому governance — не надстройка над продуктом, а его фундамент. В Svarog AI-сотрудник по умолчанию ограничен, и каждое расширение его полномочий — это осознанное решение человека.

Роль вместо всемогущества

AI-сотрудник в Svarog — это не универсальный ассистент с доступом ко всему. Это роль с точной зоной ответственности: менеджер по продажам работает со своей воронкой, HR-специалист — с вакансиями и кандидатами, финансовый ассистент — с документами и платежами. Права наследуются от роли так же, как у человека в компании. AI не может выйти за пределы своего модуля, потому что у него физически нет доступа к чужим данным и действиям.

Такой подход убирает целый класс проблем. Не нужно надеяться, что модель «сама не станет» делать лишнего — она просто не имеет технической возможности. Разграничение прав происходит на уровне платформы, а не на уровне промпта, который можно обойти хитрой формулировкой.

Три уровня действий

Все действия AI-сотрудника делятся на три категории. Первая — обратимые операции, которые он выполняет полностью самостоятельно: составить черновик письма, обновить карточку сделки, предложить план встречи. Здесь автономия максимальна, потому что цена ошибки низкая и всё легко откатить.

Вторая категория — значимые действия, требующие подтверждения человека: отправка коммерческого предложения клиенту, публикация вакансии, изменение условий договора. AI готовит результат и передаёт его на утверждение — человек видит, что именно будет сделано, и одним нажатием соглашается или правит. Третья категория — критические операции: платежи, удаление данных, доступ к чувствительной информации. Они всегда идут через явное подтверждение и часто через второго согласующего.

Лимиты как страховка

Даже внутри разрешённых действий работают лимиты. Сумма платежа, число писем в час, объём массовой рассылки, глубина изменений в базе — всё это ограничено настраиваемыми порогами. Превышение порога автоматически переводит операцию в режим подтверждения. Это защищает и от ошибки модели, и от ситуации, когда некорректно поставленная задача приводит к лавине действий.

Лимиты настраиваются под зрелость процесса. В начале работы с новым AI-сотрудником имеет смысл держать пороги низкими и постепенно повышать их по мере накопления доверия и статистики. Svarog показывает, как часто AI упирается в лимит и насколько его решения совпадают с решениями человека, — это и есть объективная база для расширения автономии.

Полный аудит каждого шага

Ни одно действие AI-сотрудника не происходит незаметно. Каждый шаг фиксируется: какая задача поступила, какие данные использовались, какое решение принято, кто и когда его подтвердил. Журнал доступен руководителю в любой момент и не может быть отредактирован задним числом. Если что-то пошло не так, вы всегда восстановите цепочку и поймёте, где именно нужно поправить правила.

Аудит — это не только про безопасность, но и про обучение. Разбирая, где AI-сотрудник ошибся или где человек всё время правит один и тот же тип решений, вы улучшаете инструкции и настройки. Со временем доля действий, требующих вмешательства, падает, а доверие растёт — но всегда на основании фактов, а не обещаний.

Человек остаётся главным

Философия Svarog проста: AI берёт на себя объём и рутину, человек оставляет за собой смысл и ответственность. Governance — это механизм, который делает такое распределение не лозунгом, а рабочей практикой. AI-сотрудники ускоряют компанию, но контур принятия ключевых решений всегда замыкается на человеке. Именно это позволяет доверить AI реальную работу, а не только демонстрационные сценарии.