News
Mistral, 멀티모달 안전성 점검 모델 Shieldstral 공개
Mistral AI가 글과 이미지를 함께 점검하는 공개 가중치 안전성 모델 Shieldstral을 공개했다. 생성형 AI를 서비스에 넣을 때 유해하거나 부적절한 입력·출력을 걸러내는 별도 안전 장치에 대한 관심이 커지고 있음을 보여준다. 다만 안전성 판별 모델도 틀릴 수 있으므로, 의료·약학·고객 대응처럼 민감한 분야에서는 사람의 최종 검토와 명확한 예외 처리 기준이 필요하다.
- 출처Mistral AI
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 Mistral AI에 있으며, 전문은 원문에서 확인해 주세요.