News
오픈AI, Astra를 최고 단계 사이버 위험 모델로 평가하고 보호 조치 공개
오픈AI가 차기 모델 Astra를 자사 대비 체계에서 처음으로 ‘중대한 사이버 능력’ 단계에 해당한다고 평가하고 출시 전 보호 조치를 공개했습니다. 쉽게 말하면 사람의 단계별 지시 없이도 잘 보호된 시스템의 새 취약점을 찾고 악용 방법을 만들 수 있어 개발·출시를 일부 늦추고 접근 제한과 감시를 강화했다는 뜻입니다. 보안 업무에는 강력한 도구가 될 수 있지만 이는 회사의 자체 평가이며, 출시 후에도 승인된 환경·최소 권한·사람의 검토와 사고 대응 절차 없이 운영망에 투입해서는 안 됩니다.
- 출처OpenAI
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 OpenAI에 있으며, 전문은 원문에서 확인해 주세요.