티스토리 뷰

Liquid AI가 2026년 10월 13일 오픈웨이트 추론 모델 'LFM2.5-24B-A2B'를 공개했다. 총 24B 파라미터 중 토큰당 약 2B만 활성화하는 MoE 구조라 노트북·미니PC에서 직접 돌릴 수 있고, 채팅이 아니라 '에이전트의 도구 호출·멀티스텝 작업'에 특화해 학습됐다. 즉, 클라우드 API 요금 없이 내 장비에서 밤새 에이전트를 돌릴 수 있는 길이 열렸다.


그래서, 이 모델이 뭐가 다르냐면요

요즘 나오는 오픈 모델은 대부분 '채팅 잘하기' 경쟁을 한다. 이 모델은 출발점이 다르다. Liquid AI가 에이전트 하네스(OpenClaw, Hermes Agent, Pi, OpenCode) 안에서 직접 강화학습을 돌려서, 도구를 호출하고 여러 단계 작업을 이어가는 능력을 목표로 학습시켰다.

구조는 MoE(Mixture-of-Experts)다. 처음 듣는다면 이렇게 이해하면 된다. 모델 안에 전문가 64명이 앉아 있고, 토큰 하나가 들어올 때마다 그중 4명만 깨워서 답을 만든다. 24B라는 덩치는 유지하되, 실제로 쓰는 연산량은 2B급이라는 얘기다. 즉, 24B급 추론 품질을 2B급 컴퓨트 비용으로 쓰는 구조다.

매 응답은 '생각 블록'부터 시작한다. 답을 내놓기 전에 사고 과정을 먼저 펼치는 추론 전용 모델이라, 단계별로 따져야 하는 작업에 강하다. 컨텍스트는 131,072 토큰. 전작의 4배라 웬만한 코드베이스는 통째로 넣고 질문할 수 있다.

숫자로 보면 이렇습니다

아래 수치는 전부 Liquid AI 발표치다. 독립 검증은 아직 없다는 점을 먼저 밝힌다.

항목 LFM2.5-24B-A2B 비교 대상(Qwen3.6-35B-A3B)
총 파라미터 / 토큰당 활성 24B / 약 2B 35B / 약 3B
컨텍스트 131,072 토큰 확인된 바 없음
온디바이스 속도 M5 Max 184 tok/s 동급 대비 최대 1.7배 느림(발표치)
AutomationBench(에이전트) 27.69 8.72
LiveClaw(에이전트) 48.09 38.19
SWE-Bench Verified(코딩) 51.00 66.20
GPQA Diamond(지식) 74.42 83.69
비용 다운로드 후 0원 API 요금 또는 서빙 비용
프라이버시 데이터가 장비를 안 벗어남 클라우드 전송

표가 말해주는 건 분명하다. 에이전트·도구 호출 벤치에서는 더 큰 모델을 이기는데, 지식·코딩 벤치에서는 진다. Liquid AI도 이걸 숨기지 않고 '지식이 많이 필요한 작업은 검색(RAG)을 붙여 쓰라'고 공식 문서에 적어뒀다. 약점을 공개한 발표는 신뢰할 만하다.

그럼 나한테 뭐가 좋냐면요

- 에이전트 실험비가 0원이 된다 : OpenClaw 같은 하네스에 이 모델을 붙여두면, 밤새 멀티스텝 작업을 돌려도 API 고지서가 안 날아온다. FDE 지망생이 에이전트 워크플로를 몸으로 익히기에 이만한 샌드박스가 없다.

- 보안 현장에서도 쓸 수 있다 : 고객 코드를 클라우드에 올리면 안 되는 프로젝트, 써본 적 있을 거다. 로컬에서 도는 코드 어시스턴트라면 반출 걱정 없이 현장에 들고 들어갈 수 있다. 데이터가 장비를 벗어나지 않는다는 건 현장형 엔지니어에겐 스펙이 아니라 자격증이다.

- 면접 소재가 된다 : '온디바이스 에이전트를 직접 구축·운영해봤다'는 얘기는 2026년 하반기 FDE 면접에서 먹힌다. 클라우드 API 호출 경험은 누구나 있는데, 로컬 추론 스택을 만져본 사람은 아직 드물다.

받아서 돌려보려면요

1) 모델 받기

허깅페이스에 base와 post-trained 가중치가 올라와 있고, GGUF·MLX·ONNX·FP8 빌드가 준비돼 있다. 맥·리눅스·윈도우 가리지 않고 맞는 포맷을 고르면 된다.

2) 로컬 러너에 올리기

아래는 흐름을 보여주는 예시다. 꺾쇠 안은 실제 허깅페이스에 올라온 GGUF 파일 경로로 바꿔 넣으면 된다.

# GGUF 양자화 빌드를 로컬 러너에서 실행하는 흐름
ollama run <허깅페이스 GGUF 모델 경로>

이 명령이 하는 일은 단순하다. 양자화된 가중치를 내려받아 로컬 추론 서버로 띄우는 것. LM Studio를 쓰면 GUI에서 클릭 몇 번으로 같은 일을 할 수 있다.

3) 에이전트 하네스에 붙이기

OpenAI 호환 API 포맷을 지원해서, 기존에 클라우드 API를 쓰던 에이전트 코드의 엔드포인트만 로컬 주소로 바꾸면 그대로 돈다. 그 다음부터는 요금 걱정 없이 밤새 실험하면 된다.

솔직히 말하면 아쉬운 점도 있습니다

코딩 벤치(SWE-Bench Verified)에서 Qwen3.6-35B에 15점 차로 밀렸다. '코드 잘 짜는 로컬 모델'을 기대했다면 실망할 수 있다. 이 모델의 자리는 '코드 생성기'가 아니라 '도구 호출·작업 조율자'다. 검색을 붙여 쓰라는 공식 권장도 같은 맥락이다.

한국어 성능은 공식 발표에 언급이 없다. 16개 언어 지원 목록에 일본어·힌디어·아랍어는 있는데 한국어는 확인된 바 없다. 한국어 에이전트를 돌릴 계획이라면 직접 테스트해보고 판단해야 한다.


한 줄로 정리하면, 에이전트용으로 학습부터 다르게 만든 24B 오픈 모델이 내 노트북에 들어왔다는 얘기다. 한계도 분명하다. 지식·코딩은 더 큰 모델이 낫고, 한국어 실력은 미지수다. 그래도 'API 요금 없이 에이전트를 무한대로 실험할 수 있는 환경'이라는 가치 하나로, FDE를 꿈꾸는 사람이라면 주말에 한 번쯤 깔아볼 만하다.

자주 묻는 질문

Q. 내 노트북에서도 돌아가나요?

A. 24GB VRAM급 GPU면 실시간 추론이 가능하다는 게 발표 내용이다. 애플 실리콘 맥은 MLX 빌드, 일반 PC는 GGUF 빌드를 쓰면 된다. 정확한 최소 사양은 공식 문서를 확인하자.

Q. API 요금이 정말 0원인가요?

A. 다운로드 후 로컬 추론에는 토큰 요금이 없다. 다만 전기세와 본인 장비의 감가상각은 본인 부담이다. 농담이 아니라 실제로 따져볼 항목이다.

Q. 코딩 어시스턴트로 써도 되나요?

A. 쓸 수는 있지만 강점이 아니다. 코딩 벤치에서는 동급 오픈 모델에 밀린다. 도구 호출·작업 자동화 에이전트의 '두뇌'로 쓰는 게 정석이고, 코드 생성은 별도 모델에 맡기는 구성을 권장한다.

Q. 한국어 잘하나요?

A. 공식 발표에 한국어 언급이 없다. 16개 언어 중 일본어·힌디어·아랍어는 명시됐는데 한국어는 확인된 바 없다. 직접 테스트 필요.

Q. 상업적으로 써도 되나요?

A. 오픈웨이트로 공개됐고 허깅페이스에서 가중치를 받을 수 있다. 다만 정확한 라이선스 조건은 모델 카드의 라이선스 항목을 직접 확인해야 한다.

Q. 기존 에이전트 코드에 바로 붙나요?

A. OpenAI 호환 API를 지원해서 엔드포인트만 로컬 주소로 바꾸면 된다. OpenClaw·Hermes Agent·Pi·OpenCode 같은 하네스 안에서 학습된 모델이라 궁합도 좋다.

Q. LFM2.5 패밀리에 다른 크기도 있나요?

A. 230M부터 24B까지 두 자릿수 규모로 이어지는 패밀리인데, 이번 24B가 마지막·최대 모델이다. 가벼운 용도라면 작은 형제 모델을 쓰는 게 낫다.

출처

- Liquid AI 공식 블로그 'LFM2.5-24B-A2B: Built for Fast On-Device Agents'(2026년 10월 13일): https://www.liquid.ai/blog/lfm2-5-24b-a2b
- TechRepublic 'Liquid AI Releases LFM2.5-24B-A2B for Local AI Workflows'(2026년 10월 14일): https://www.techrepublic.com/article/news-liquid-ai-lfm25-24b-a2b-local-ai/
- MarkTechPost 'Liquid AI Releases LFM2.5-24B-A2B'(2026년 10월 14일): https://www.marktechpost.com/2026/10/14/liquid-ai-lfm2-5-24b-a2b
- 관련글: 오픈AI 'Dots' 공개 — 챗GPT가 24시간 일하는 에이전트가 됐다 · OpenDots: 오픈AI 'Dots' 오픈소스 복제품 3종 정리 · 이번 주 깃허브 트렌딩은 에이전트 세상 — LLM 오픈소스 5선

위 수치·가격·일정은 2026년 10월 기준이다.

공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
«   2026/10   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31
글 보관함