Praxen: Nyílt forráskódú AI ügynök viselkedésének ellenőrzése
Megosztás
Összefoglalót olvas. A teljes tartalom itt érhető el: helpnetsecurity.com.
A Praxen egy nyílt forráskódú eszköz, amelynek egyszerű feladata van: ellenőrzi, hogy egy AI ügynök azt teszi-e, amit állít. Az eszköz megnézi az ügynök által deklarált politikát, figyeli az ügynök működését, és kiemeli azokat a pontokat, ahol a két dolog eltér. Ez az ügynökök viselkedésének ellenőrzésére szolgáló referenciaimplementáció, egy kontrollmodell, amely minden ügynöknek egy jogosult szerepet ad, majd megerősíti, hogy a kontrollok fenntartják azt a szerepet. Az elképzelés … Tovább → A bejegyzés a Praxen: Nyílt forráskódú AI ügynök viselkedésének ellenőrzése először a Help Net Security oldalán jelent meg.
Külső link: helpnetsecurity.com
Kapcsolódó cikkek
cybersecurity
A JadePuffer zsarolóvírus mesterséges intelligencia ügynököt használt az egész támadás automatizálására.
cybersecurity
Az Egyesült Államok kormánya 1 millió dollárt fizetett a Kairosnak adatlopási zsarolási ügyben.
cybersecurity