AI약학연구회kaips

News

리퀴드 AI, 기기 내 시각·언어 모델 속도를 높이는 DSpark 공개

리퀴드 AI는 이미지와 글을 함께 이해하는 30억 매개변수 모델 LFM2.5-VL-3B의 응답 생성을 빠르게 하는 실험용 DSpark 보조 모델을 공개했다. 쉽게 말하면 작은 보조 모델이 다음 답을 미리 제안해 원래 모델이 한꺼번에 확인하도록 했으며, 회사 측 시험에서는 기기에서 최대 3.13배의 생성 속도 향상을 기록했다고 밝혔다. 노트북이나 현장 장비에서 비용과 지연을 줄일 가능성이 있지만 회사 측 측정치이고 메모리가 약 8.9% 늘어나므로 실제 장비의 속도·정확성·전력 사용량을 별도로 확인해야 한다.

AI개발

원문 보기(새 창에서 열립니다)뉴스 목록

이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 Liquid AI / Hugging Face에 있으며, 전문은 원문에서 확인해 주세요.

리퀴드 AI, 기기 내 시각·언어 모델 속도를 높이는 DSpark 공개 | AI약학연구회