News
앤트로픽 “GLM-5.3, 고도 사이버 공격 자동화 능력과 취약한 안전장치 확인”
앤트로픽은 Z.ai의 공개형 AI 모델 GLM-5.3을 평가해, 고도 사이버 공격에 쓰일 수 있는 취약점 악용 코드를 처음부터 끝까지 만들 능력과 약한 안전장치를 확인했다고 발표했습니다. 쉽게 말해 격리된 모의시험에서 단순한 우회 기법으로 안전장치를 피한 비율이 64~100%였으며, 이는 앤트로픽 자체 평가 결과입니다. 누구나 내려받을 수 있는 모델의 공격 능력이 높아지면 보안팀의 방어 연구에도 도움이 되지만 악용 위험과 접근 통제 부담도 함께 커집니다. 실제 침해사고를 입증한 연구는 아니므로, 조직은 운영 도입 전에 독립 평가와 권한 제한, 사용 기록 감시를 별도로 확인해야 합니다.
- 출처Anthropic
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 Anthropic에 있으며, 전문은 원문에서 확인해 주세요.