Вы построили базу знаний, подключили AI к бизнес-данным, и команда задаёт вопросы на естественном языке. Отлично. Но определили ли вы, что AI имеет право говорить, кому и при каких условиях?
До подключения бизнес-данных проверьте, каких пользователей и какие действия ассистент вправе обслуживать. Конфиденциальные цены, данные клиентов и внутренние финансы требуют явных границ доступа и проверок их действенности.
AI governance — не бюрократия. Это разница между полезным инструментом и источником рисков.
Правило 1: Уровни доступа по ролям
Не все сотрудники должны видеть одни и те же данные через AI. Типичная структура: executive (финансы, маржи, стратегия), staff (операции, процессы, цены без себестоимости), public/client (спецификации продуктов, публичные цены).
Промпты для ролей и отдельные коллекции знаний организуют контекст ассистента. Применяйте разрешения также в источнике данных и пути поиска, чтобы недоступная роли информация не попадала в контекст модели.
Правило 2: Укажите AI, что НЕ говорить
Позитивных инструкций («у тебя есть доступ к ценам») недостаточно. Нужны явные запреты: никогда не раскрывать точные маржи не-executive пользователям, не делиться именами клиентов или деталями контрактов вне отдела продаж, не раскрывать партнёрские соглашения, не генерировать ответы, которые могут быть интерпретированы как юридические или финансовые советы.
Конкретизируйте границы в промпте и проверяйте попытки их обойти. Инструкции направляют поведение модели; для ограничений, которые должны действовать даже при игнорировании инструкции, применяйте контроль доступа и проверку выходов.
Правило 3: Источник для каждого ответа
Настройте AI всегда ссылаться на конкретный документ. Когда AI говорит «наши цены на CLT-панели для EU-рынка — X», он должен также указать источник и дату последнего обновления.
Две цели: пользователи могут проверить точность, и вы видите, когда AI тянет из устаревших документов.
Правило 4: «Не знаю» — это нормально
Самое опасное поведение AI — уверенная галлюцинация. Системный промпт должен включать явные инструкции: если не находишь ответ в базе знаний — скажи об этом, не угадывай, предложи кто в организации может знать.
Это самое важное правило governance.
Правило 5: Логируйте и аудируйте
Используйте ограниченные записи использования для поиска пробелов в знаниях и сбоев доступа. Определите цель, необходимые поля, круг проверяющих и срок хранения; не собирайте чувствительное содержимое промптов лишь из-за его доступности.
Правило 6: Каденция обновлений
Базы знаний деградируют. Цены меняются, процессы эволюционируют. AI, дающий ответы по шестимесячным данным, хуже чем отсутствие AI — потому что пользователи доверяют ответу.
Определите: кто владеет каждым документом, как часто каждая категория проверяется, что происходит когда документ помечен как устаревший.
Правило 7: Личность и тон AI
Если AI отвечает не в стиле вашей компании, люди не будут им пользоваться. Настройте тон, язык, уровень детализации и поведение при неоднозначности.
ROI governance
Оценивайте управление по наблюдаемому поведению: проверкам доступа, разбору инцидентов, качеству источников и отзывам пользователей. Ясные правила могут помогать, но не гарантируют внедрения, точности или отсутствия утечек.
Оценивайте подготовку по разрешениям, источникам данных, тестам и ответственным проверяющим. Фиксируйте нерешённые пробелы до выпуска вместо опоры на фиксированный срок настройки.
Governance работает только когда база знаний хорошо структурирована. См. Как структурировать знания компании для AI — это фундамент. И если ещё оцениваете необходимость KB — 5 признаков, что нужна AI-база знаний.
Нужна помощь с настройкой AI governance? AI-регламенты входят в наш полный пакет KB + автоматизация или могут быть настроены отдельно в рамках настройки AI-инструментов. Запишитесь на discovery call.