Vaara: Рамочная структура управления, основанная на доказательствах, для подотчетных автономных ИИ-агентов
Vaara, разработанный Vaaraio, обеспечивает подотчетную автономию для развернутых AI-агентов, создавая проверяемые записи действий агентов. Он функционирует как сервер или прокси Model Context Protocol, который перехватывает взаимодействия между моделью и инструментом и выдает квитанции, чтобы сделать поведение агентов подотчетным для команд соблюдения норм. Инструмент подчеркивает соблюдение политики и записи, защищенные от подделки, как свои основные механизмы защиты. Целевые пользователи включают разработчиков AI, специалистов по соблюдению норм и аудиторов, которым нужны доказательства для регулируемых рабочих процессов агентов.
Для каких задач вы можете его использовать?
Vaara нацелена на обеспечение соблюдения и генерацию доказательств в автоматизированных агентских потоках, позволяя командам контролировать рискованные операции и прикреплять машинно-читаемые доказательства к действиям. Примеры использования включают создание аудиторских записей для регуляторного обзора, применение оценок риска к вызовам внешних инструментов и пересылку отмеченных вызовов в существующие службы охраны. Включенные интеграции: Azure Content Safety, GCP Model Armor, NeMo Guardrails и LLM Guard, которые помогают внедрить Vaara в рабочие процессы, ориентированные на контент или безопасность.
Насколько проверяемы и защищены от подделки результаты?
Инструмент производит квитанции, предназначенные для оффлайн-проверки и долгосрочных доказательств. Ключевые элементы проверяемости включают хэшированную книгу учета и внешнюю привязку ко времени, а также заявленное соответствие SEP-2828 для пересчитываемых квитанций. Аудиторский хранилище под названием audit.db создан для демонстрации доказательств подделки, и квитанции могут быть пересчитаны для подтверждения зафиксированного решения или действия без зависимости от работающих сервисов.
Подходит ли это для рабочих процессов разработчиков и требований к развертыванию?
Vaara предлагает CLI, приложение для строки меню macOS и клиент TypeScript для интеграции HTTP API и работает там, где доступен Python 3.10 или выше. Он функционирует как сервер MCP или прокси, который находится между моделями и инструментами, что требует усилий по развертыванию и настройке. Основной проект является открытым исходным кодом под AGPL-3.0-or-later, и проект получил признание в рамках управления, таких как IMDA Model AI Governance Framework.
Vaara является практичным выбором, когда доказуемые доказательства являются требованием соблюдения
Vaara подходит командам, которые должны продемонстрировать ответственное поведение агентов аудиторам или регуляторам и которые могут взять на себя работу по интеграции и управлению. Ожидайте инвестиций в развертывание, определение политики и изменения процессов, чтобы сделать квитанции значимыми в аудитах. Используйте Vaara там, где требуются доказуемые следы, и сочетайте его результаты с человеческим контролем для принятия решений с высокими ставками.
