온디바이스 에이전트

온디바이스 에이전트는 계획, 추론, 도구 호출과 여러 단계 작업 수행을 클라우드 모델에 전적으로 의존하지 않고 사용자 장치나 엣지 컴퓨터에서 실행하는 AI 에이전트 구조다. Liquid AI의 LFM2.5-2.6B는 이러한 용도를 직접 겨냥한 소형 agentic model의 한 사례다.

개요

일반적인 온디바이스 LLM은 텍스트 생성 자체가 목표인 경우가 많지만, 에이전트는 외부 기능을 호출해 실제 작업을 수행해야 한다. 따라서 모델의 크기와 생성 속도뿐 아니라 function calling 정확도, 긴 컨텍스트 처리, 여러 호출 사이의 상태 유지, 실패 복구와 권한 제어가 중요하다.

Liquid AI는 LFM2.5-2.6B를 네이티브 tool calling과 128K 컨텍스트를 갖춘 온디바이스 에이전트 모델로 소개한다. 공식 예제는 소비자 하드웨어에서 모델을 실행하고 Hermes Agent 같은 하네스와 결합해 파일, 검색, 애플리케이션 기능 등 로컬 도구를 호출하는 구성을 보여준다. 이 접근은 네트워크 연결이 끊겨도 일정 수준의 자동화를 유지할 수 있다는 점에서 클라우드 에이전트와 구별된다.

작동 방식

온디바이스 에이전트의 기본 루프는 사용자 요청을 해석하고, 필요한 도구와 인자를 결정하며, 도구 실행 결과를 다시 모델 입력에 넣어 다음 행동을 결정하는 방식이다. 모델은 모든 업무 기능을 자체 파라미터로 기억할 필요가 없고 로컬 애플리케이션의 API나 함수 호출 인터페이스를 통해 기능을 확장한다.

엣지 환경에서는 이 구조에 별도의 정책 계층이 필요하다. 파일 삭제, 장비 제어, 네트워크 송신처럼 영향이 큰 작업은 사용자 승인 또는 명시적 권한 검사가 필요하고, 센서·카메라 입력을 사용하는 경우에는 VLM과 결합해 관찰-판단-행동 루프를 구성할 수 있다. 이러한 형태는 단순 챗봇보다 로봇·차량·산업 장비·현장 분석 단말에 더 가깝다.

활용

대표적인 활용은 오프라인 개인 비서, 현장 정비 지원, 로컬 파일·문서 자동화, 차량 내 음성 에이전트, 로봇 행동 계획, 보안이 중요한 폐쇄망 업무 시스템이다. 지리정보나 영상 분석 소프트웨어에서는 사용자가 자연어로 목표를 입력하면 에이전트가 검색, 영상 열기, 좌표 조회, 분석 알고리즘 실행과 결과 정리를 순차적으로 호출하는 방식으로 구현할 수 있다.

작은 모델을 모든 추론에 사용하지 않고, 빠르고 반복적인 도구 선택은 로컬 모델에 맡기고 복잡한 판단만 더 큰 모델로 승격하는 계층형 에이전트 구조도 가능하다. 이는 응답 지연과 클라우드 비용을 줄이는 동시에 네트워크 장애 시 기본 기능을 유지하는 방법이 된다.

한계 및 주의점

온디바이스라는 이유만으로 안전성이 높아지는 것은 아니다. 잘못된 tool call은 로컬 데이터나 장비에 즉시 영향을 줄 수 있으므로 도구 스키마 검증, 최소 권한, 실행 전 승인, 감사 로그가 중요하다. 작은 모델은 복잡한 계획에서 오류율이 높아질 수 있으며 긴 컨텍스트 지원 길이와 실제 안정적인 작업 길이는 동일하지 않다. 모델 벤치마크와 별도로 실제 업무 시나리오의 성공률을 측정해야 한다.

함께 보기

출처

Liquid AI LFM2.5-2.6B 발표 — 온디바이스 agentic workload, tool calling과 성능 설명. 2026년 8월 18일 확인.
LFM2.5-2.6B 공식 문서 — 모델 사양과 agent harness 연동. 2026년 8월 18일 확인.
Liquid AI agent harness 예제 — 로컬 에이전트 실행 방식. 2026년 8월 18일 확인.