News

엔비디아, AI 에이전트 행동을 감시·격리하는 개방형 안전 플랫폼 공개

엔비디아가 인공지능 에이전트의 시험부터 실제 운영까지 행동을 통제하는 ‘Open Agent Safety Platform’을 공개했습니다. 쉽게 말해 OpenShell은 에이전트의 동작을 기록하고 정책을 강제하며, Sentry는 별도 감시 장치에서 경계를 벗어난 에이전트를 격리하도록 설계됐습니다. 업무 시스템에서 자동화 도구가 권한 밖 행동을 하는 위험을 줄이는 공통 안전장치가 될 수 있습니다. 다만 격리 속도와 안전성은 엔비디아 발표이며, 실제 도입 전에는 기존 장비 호환성·권한 정책·오탐·비용을 별도 시험해야 합니다.

AI 개발 산업동향

출처NVIDIA Newsroom
원문 발행2026년 9월 28일
KAIPS 게시2026년 9월 28일

원문 보기(새 창에서 열립니다)뉴스 목록