News

Hugging Face Transformers, 노트북용 경량 GGUF 모델 직접 실행 지원

Hugging Face가 Transformers에서 GGUF(메모리를 줄인 모델 파일 형식) 모델을 직접 불러와 실행하는 초기 지원을 공개했습니다. 현재는 Apple 칩 기반 맥과 Qwen3.5 계열을 중심으로, 익숙한 파이썬 도구 안에서 노트북 메모리에 맞는 모델을 시험·평가할 수 있습니다. 인터넷 전송 없이 기기에서 처리하는 선택지가 넓어질 수 있지만, llama.cpp보다 지원 장치와 모델 범위가 아직 좁고 일괄 처리 성능에도 제한이 있습니다. 업무 도입 전에는 모델별 정확도 저하, 메모리 사용량, 소프트웨어 라이선스와 민감정보 저장 방식을 확인해야 합니다.

AI 개발

출처Hugging Face
원문 발행2026년 9월 22일
KAIPS 게시2026년 9월 23일

원문 보기(새 창에서 열립니다)뉴스 목록