에이전트형 AI › 권한
제어
행위자 자신의 것이 아닌 한계, 그리고 그 한계를 무너뜨린 것.
~ 안에 에이전트형 AI → 권한 · 2 화면
| 화면 | 친절한 | 그것은 무엇인가 | 컬럼 | 전지 | 행위 |
|---|---|---|---|---|---|
| 가드레일 | 목록 | 에이전트 자체의 제한 사항이 아닌 다른 제한 사항들을 확인해야 합니다. 모든 도구 호출 전에 확인하고, 호출 후 이동될 값과 비교하여 다시 한번 확인합니다. 에이전트를 사용하고 제한 사항을 설정하지 않은 새로운 배포 환경에서는 잘못된 메시지 하나만으로 수천 건의 구매 주문이 발생할 수 있습니다. | 14 | 21 | 0 |
| 사건들 | 목록 | 가드레일이 부러지거나, 고리가 걸리거나, 비용이 초과되거나, 근거 없는 주장이 제기되는 경우. 이러한 문제들은 사고 자체와는 별개로, 사고 이후에도 계속 남아있기 때문에 월요일에 누군가가 검토하는 대상이 됩니다. | 11 | 3 | 0 |