Georgi Gerganov
Georgi Gerganov(GitHub: ggerganov)는 불가리아의 소프트웨어 엔지니어로, 로컬 머신 러닝 추론을 위한 텐서 라이브러리 ggml과 대규모 언어 모델 실행기 llama.cpp를 만든 개발자이다. 개인용 하드웨어에서 인공지능 모델을 실행하는 "로컬 AI" 흐름을 대중화한 인물로 꼽히며, 현재 Ggml-org 조직의 ggml.ai 팀으로 Hugging Face에서 활동한다.
배경
소피아(불가리아)에 거주하며, 개인 홈페이지에는 오디오 처리·임베디드·터미널 UI 등 다양한 실험 프로젝트가 공개되어 있다. 키보드 소리를 분석해 타이핑을 도청하는 기법을 연구한 keytap, PC 스피커를 통해 데이터를 전송하는 r2t2, 실시간 모스 부호 디코더 ggmorse 같은 프로젝트가 대표적이다. GitHub 프로필의 자기소개는 "I like big .vimrc and I cannot lie"이다. 이런 저수준·하드웨어 친화적인 개발 경향은 이후 ggml과 llama.cpp의 설계에도 이어진다.
주요 프로젝트
ggml
2022년 9월에 시작된 머신 러닝용 저수준 텐서 라이브러리이다. 외부 의존성을 최소화한 C/C++ 구현, CPU 우선 실행, 양자화 지원을 특징으로 하며, 이후 Ggml-org 조직으로 옮겨져 관리된다. 자세한 내용은 Ggml 문서를 참조한다.
llama.cpp
2023년 3월 10일에 오픈소스로 공개된 대규모 언어 모델 추론 프로젝트이다. 메타의 LLaMA 모델을 순수 C/C++로 재구현한 것으로, 클라우드 GPU 없이 개인용 하드웨어에서 모델을 실행할 수 있음을 보여주며 큰 주목을 받았다. 이후 Ollama, LM Studio 등 로컬 추론 도구 대부분의 기반이 되는 사실상의 표준이 되었다.
llama.cpp 프로젝트는 2023년 8월에 모델 저장 형식 GGUF를 도입했다. GGUF는 모델 텐서와 메타데이터를 하나의 파일로 담아 배포·교환을 쉽게 만든 형식으로, 로컬 모델 생태계의 표준이 되었다.
whisper.cpp
2022년 9월에 시작된, OpenAI의 음성 인식 모델 Whisper를 C/C++로 포팅한 프로젝트이다. CPU에서 고성능 추론을 목표로 하며 ggml 기반으로 작성되었다.
그 밖의 프로젝트
stable-diffusion.cpp, bark.cpp, bert.cpp 등 다양한 모델의 C/C++ 실행 구현과, 오디오·터미널 관련 실험 프로젝트들을 공개해 왔다.
ggml-org와 Hugging Face
ggml, llama.cpp, whisper.cpp 등 프로젝트는 이후 Ggml-org GitHub 조직으로 이전되어 함께 관리된다. 이후 게르가노프와 ggml.ai 팀은 Hugging Face에 합류했으며, llama.cpp는 오픈소스로 유지되면서 로컬 AI 추론 스택의 기반으로 계속 개발되고 있다.
영향
게르가노프의 작업은 인공지능 모델을 클라우드 API가 아니라 개인이 소유한 하드웨어에서 실행하는 "AI inference at the edge" 흐름을 대중화하는 데 기여했다. 양자화, GGUF 형식, CPU 우선 설계는 로컬 AI 생태계의 중요한 축이 되었다.