https://wiki.conaondaapps.com/index.php?action=history&feed=atom&title=ONNX_Runtime 2026-08-20T14:22:26Z 이 문서의 편집 역사 MediaWiki 1.46.0 https://wiki.conaondaapps.com/index.php?title=ONNX_Runtime&diff=41&oldid=prev 2026-08-20T04:18:51Z

<p>migrate: import legacy Wiki content to Vultr</p> <p><b>새 문서</b></p><div>&#039;&#039;&#039;[[ONNX]] Runtime&#039;&#039;&#039;은 [[ONNX]](Open Neural Network Exchange) 형식으로 저장된 머신 러닝 모델을 실행하는 고성능 추론 엔진이다. Microsoft가 주도하여 개발하며, 다양한 하드웨어 가속기와 실행 공급자를 통해 크로스 플랫폼 추론을 지원한다.<br /> <br /> == 개요 ==<br /> [[ONNX]] Runtime은 2018년 첫 공개 이후 PyTorch, TensorFlow 등 주요 프레임워크에서 내보낸 [[ONNX]] 모델을 실행하는 사실상의 표준 추론 엔진으로 자리잡았다. 학습보다는 추론에 특화되어 있으며, CPU뿐 아니라 GPU, NPU, FPGA 등 다양한 하드웨어에서 최적화된 실행을 제공한다.<br /> <br /> == 실행 공급자(Execution Provider) ==<br /> [[ONNX]] Runtime의 핵심 설계 요소로, 실행 공급자(EP)를 교체함으로써 동일한 모델을 서로 다른 하드웨어에서 실행할 수 있다.<br /> <br /> * CPU — 기본 실행 공급자, Intel MKL-ML 최적화 포함<br /> * CUDA — NVIDIA GPU 가속<br /> * [[DirectML]] — Windows의 모든 DirectX 12 GPU에서 가속<br /> * TensorRT — NVIDIA GPU 고성능 추론<br /> * OpenVINO — Intel CPU/GPU/iGPU/NPU<br /> * CoreML — Apple Silicon (macOS/iOS)<br /> * QNN — Qualcomm NPU<br /> * WebNN — 웹 브라우저 기반 추론<br /> <br /> == 활용 사례 ==<br /> <br /> === 로컬 AI ===<br /> [[llama.cpp]]와 [[올라마]] 등이 [[ONNX]] 모델을 지원하며, [[ONNX]] Runtime을 통해 다양한 하드웨어 가속을 활용한다. 특히 [[Stable Diffusion]]의 [[ONNX]] 변환 모델을 [[ONNX]] Runtime + [[DirectML]] 조합으로 AMD GPU에서 실행하는 방식이 널리 쓰인다.<br /> <br /> === 엣지 및 모바일 ===<br /> [[ONNX]] Runtime Mobile 패키지는 Android/iOS 환경에서 경량화된 추론을 지원하며, Qualcomm QNN, Apple CoreML 등 모바일 특화 실행 공급자와 통합된다.<br /> <br /> == 함께 보기 ==<br /> <br /> * [[DirectML]] — Windows GPU 실행 공급자<br /> * [[llama.cpp]] — [[ONNX]] 모델을 지원하는 LLM 추론 도구<br /> * [[Stable Diffusion]] — [[ONNX]] Runtime으로 가속 가능한 이미지 생성 모델<br /> <br /> == 출처 ==<br /> <br /> * [https://onnxruntime.ai/ ONNX Runtime 공식 웹사이트]<br /> * [https://github.com/microsoft/onnxruntime GitHub: microsoft/onnxruntime]<br /> <br /> [[분류:머신 러닝]]<br /> [[분류:마이크로소프트]]<br /> [[분류:추론 엔진]]</div>

Admina7ec671ac513