Whisper.cpp

whisper.cpp는 OpenAI의 음성 인식 모델 Whisper를 C/C++로 포팅한 오픈소스 프로젝트이다. Georgi Gerganov가 2022년 9월에 시작했으며, Ggml 기반으로 CPU에서 고성능 추론을 목표로 한다.

개요

whisper.cpp는 OpenAI의 Whisper 모델을 C/C++로 재구현한 것이다. GPU 없이도 CPU에서 음성 인식 추론을 실행할 수 있으며, Metal·CUDA 등 백엔드도 지원한다. ggml의 양자화를 활용해 메모리 사용량을 줄일 수 있다. ggml의 첫 대규모 응용 중 하나로, 이후 llama.cpp로 이어지는 로컬 추론 프로젝트들의 기반이 되었다.

함께 보기

• Ggml — 기반 텐서 라이브러리
• Ggml-org — 프로젝트를 관리하는 GitHub 조직
• llama.cpp — 같은 개발자가 만든 대표 프로젝트

출처

• whisper.cpp 공식 저장소
• Georgi Gerganov 개인 홈페이지