News
Microsoft ONNX Runtime 1.31.0, 대형 AI 모델 실행 속도·장치 선택 개선
마이크로소프트가 여러 운영체제와 반도체에서 인공지능 모델을 실행하는 도구인 ONNX Runtime 1.31.0을 출시했다. 이번 버전은 중앙처리장치에서 모델을 여는 시간을 줄이고, 용량을 줄인 전문가 혼합 모델의 실행을 빠르게 하며, 애플 신경망 처리 장치를 포함한 장치 선택과 메모리 검사를 강화했다. 여러 팀이 같은 모델을 다양한 장비에 배포할 때 성능과 안정성을 높일 수 있지만, CUDA·WebGPU 추가 구성 요소는 맞는 버전을 함께 써야 하며 일부 동작 변경과 사용 중단 예고를 먼저 점검해야 한다.
- 출처Microsoft ONNX Runtime GitHub
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 Microsoft ONNX Runtime GitHub에 있으며, 전문은 원문에서 확인해 주세요.