Спецификация и руководство
Коэволюция — это взаимозависимая адаптация нескольких агентов и людей в повторяющихся циклах. При неуправляемой коэволюции локально логичные действия агентов могут приводить к глобальным сбоям (скрытый сговор ботов, разрастание прав, дрейф поведения).
### Защита многоагентных систем через Policy Gate
1. **Шлюз политик (Policy Gate)**: Любое действие агента (инструменты, API-запросы) должно проходить через детерминированный фильтр, проверяющий правила и лимиты. Разрушительные или финансовые действия требуют подтверждения оператора (Human-in-the-Loop).
2. **Изоляция исполнения (Sandboxing)**: Выполнение стороннего кода или браузера (например, Playwright-воркеров) должно происходить в изолированных песочницах: microVM (Firecracker), прикладных ядрах (gVisor) или с фильтрацией системных вызовов через `seccomp`.
3. **Наблюдаемость и Blackboard**: Все взаимодействия и лог решений фиксируются в едином неизменяемом реестре (Blackboard) для предотвращения скрытой координации и облегчения аудита.
### Защита многоагентных систем через Policy Gate
1. **Шлюз политик (Policy Gate)**: Любое действие агента (инструменты, API-запросы) должно проходить через детерминированный фильтр, проверяющий правила и лимиты. Разрушительные или финансовые действия требуют подтверждения оператора (Human-in-the-Loop).
2. **Изоляция исполнения (Sandboxing)**: Выполнение стороннего кода или браузера (например, Playwright-воркеров) должно происходить в изолированных песочницах: microVM (Firecracker), прикладных ядрах (gVisor) или с фильтрацией системных вызовов через `seccomp`.
3. **Наблюдаемость и Blackboard**: Все взаимодействия и лог решений фиксируются в едином неизменяемом реестре (Blackboard) для предотвращения скрытой координации и облегчения аудита.