Praxen: Verificación del comportamiento de agentes de IA de código abierto

Praxen es una herramienta de código abierto con una tarea sencilla: verifica si un agente de IA hace lo que afirma hacer. La herramienta toma la política declarada de un agente, observa cómo opera el agente y señala cada lugar donde los dos se desvían. Es la implementación de referencia de la Verificación del Comportamiento de Agentes, un modelo de control que asigna a cada agente un rol autorizado y luego confirma que los controles mantienen a ese agente dentro de su rol. La idea … Más → La publicación Praxen: Verificación del comportamiento de agentes de IA de código abierto apareció primero en Help Net Security.