Что это такое?
ClawShield — система аудита безопасности для вызовов инструментов AI-агентов. Позволяет мониторить, оценивать риски и блокировать опасные действия.
ClawShield — исследовательский проект для повышения безопасности агентов, работающих по схеме OpenClaw. Он фокусируется на наблюдаемости и контроле вызовов инструментов на всём пути выполнения. Реализована базовая инфраструктура: модели данных, сервисы для...
Для специалистов по безопасности, AI-инженеров и разработчиков, использующих агентные архитектуры с вызовом инструментов.
При работе AI-агентов сложно контролировать безопасность каждого вызова инструмента — легко допустить утечку данных или выполнение опасной команды. ClawShield добавляет слой аудита, который отслеживает, оценивает риски и блокирует нарушения.
Проект предоставляет веб-интерфейс на FastAPI, где можно создавать задачи и запускать агентские сценарии. В ходе выполнения система перехватывает все вызовы инструментов, проверяет их по загруженным правилам (YAML), выявляет риски (low, high, critical) и строит граф трассировки. Результаты отображаются на дашборде: общая статистика, список прогонов с уровнями риска и детальные отчёты по каждому запуску.
ClawShield — исследовательский проект для повышения безопасности агентов, работающих по схеме OpenClaw. Он фокусируется на наблюдаемости и контроле вызовов инструментов на всём пути выполнения. Реализована базовая инфраструктура: модели данных, сервисы для правил, прогонов и отчётов, а также веб-интерфейс с дашбордом. Проект активно развивается и уже содержит демо-сценарии.
Проект имеет китайское название и полную документацию на китайском — это указывает на его происхождение из китайского AI-сообщества.
Стоит попробовать, если вы работаете с AI-агентами и хотите повысить безопасность их инструментальных вызовов. ClawShield — рабочий прототип с демо-интерфейсом, который можно использовать как основу для внедрения аудита.
Проект активно разрабатывается: в README указан статус 'under active design and implementation', есть коммиты и демо.
Карточка собрана по данным GitHub, README и структуре репозитория. Это не официальная документация проекта.
ClawShield — система аудита безопасности для вызовов инструментов AI-агентов. Позволяет мониторить, оценивать риски и блокировать опасные действия.
Для разработчиков AI-агентов, инженеров безопасности и исследователей, кто хочет защитить свои агентские системы от небезопасных вызовов.
Если проект подходит под ваш сценарий, можем помочь с установкой, интеграцией, доработкой или аккуратным форком под вашу инфраструктуру.