News

vLLM 시맨틱 라우터, 멀티모달 판단 모델 Decision 3.0 공개

vLLM 시맨틱 라우터 팀이 글·이미지·영상을 읽고 선택, 예·아니요, 점수 형태로 답하는 공개 모델군 Decision 3.0을 내놨습니다. 쉽게 말하면 긴 문장을 만드는 대신 고객 요청 분류나 콘텐츠 판정처럼 빠른 선택에 집중하며, 6억~270억 매개변수 규모를 Apache 2.0 조건으로 제공합니다. 팀 자체 평가에서는 270억 모델이 Jev 판단 지수의 글·시각 부문에서 선두라고 밝혔지만, 실제 업무에서는 개인정보 전송 여부, 오판 비용, 컴퓨팅 비용과 사람의 최종 검토 절차를 먼저 확인해야 합니다.

AI 개발

출처vLLM Semantic Router / Hugging Face
원문 발행2026년 10월 11일
KAIPS 게시2026년 10월 12일

원문 보기(새 창에서 열립니다)뉴스 목록