Nemotron 3.5 공개 — 120B 에이전트 가중치 무료

엔비디아가 10월 15일(현지 시각) 오픈웨이트 AI 모델 3종, '네모트론 3.5' 패밀리를 공개했다. 간판인 '슈퍼 VL'은 1200억 개 파라미터짜리 멀티모달 모델이다. 전문가 혼합(MoE) 구조라 토큰 하나를 처리할 때마다 120억 개만 깨운다. 즉 연산량은 120억급인데, 가중치 전체가 무료로 풀렸다. 상업 이용도 허용된다(OpenMDW-1.1, 2026년 10월 기준). 고객 문서를 외부 API에 올릴 수 없는 현장에서, 모델을 통째로 받아 사무실 서버에서 돌리는 에이전트를 만들 수 있게 된 것이다.

밤 11시, 사무실. 고객사 계약서 PDF 300쪽이 책상 위에 있다. 이걸 외부 AI API에 올리면 10분 만에 조항 정리가 끝난다. 손이 가기 직전, 입사 첫날 쓴 정보보호 서약서가 떠오른다. 손이 멈춘다. 현장 엔지니어라면 한 번쯤 겪는 장면이다. 10월 15일, 엔비디아가 그 멈칫함에 답 하나를 내놨다. 모델을 빌려 쓰지 말고, 통째로 가져가라는 것.

---

120B인데 120억 값만 낸다고요

슈퍼 VL의 숫자부터 보자. 전체 파라미터 1200억 개, 토큰당 활성화는 약 120억 개다. 비결은 전문가 혼합, 즉 MoE 구조다. 전문가 혼합은 질문이 들어올 때마다 필요한 전문가 파라미터만 깨우고 나머지는 재우는 방식이다. 수백 명의 전문가 중 스무 명 남짓만 일하는 셈이다.

그래서 연산 비용은 120억급 모델과 비슷하다. 하지만 메모리에는 1200억 개 전체가 올라가야 한다. 이 구분이 중요하다. 싸게 '계산'할 수 있다는 얘기지, 싸게 '보관'할 수 있다는 얘기가 아니다. 필요한 하드웨어는 DGX 스파크 1대, H200 1장, H100 2장, GB200 1장 중 하나다. 집 PC 사양은 아니다.

이 모델이 노리는 일은 분명하다. 텍스트·이미지·2분 이내 영상·PDF를 읽고, 도구를 호출하고, 긴 업무 흐름을 따라가는 것. 엔비디아 공식 블로그는 OCR(문자인식), 표, 차트, 웹페이지 같은 '일하면서 마주치는 것들'에 특화됐다고 설명한다. 에이전트용이라는 말의 실체다. 학습 데이터는 사전학습 약 26조 토큰에 포스트트레이닝 380만 샘플, 수십 개 환경에서의 강화학습이 더해졌다. 포스트트레이닝 언어는 영어 외에 프랑스어·독일어·이탈리아어·일본어·스페인어·중국어에 집중됐다. 한국어는 명시된 바 없다.

24GB에 740억 개를 쑤셔 넣은 볼트

진짜 파격은 둘째, '볼트 74B-A9B 24GB'다. 740억 개 파라미터 중 90억 개만 활성화되는 모델을 24GB 메모리에 넣었다. 비결은 네이티브 2비트 양자화다. 파라미터 하나를 16비트에서 약 2비트로 압축한 것. 로컬 실행용 GGUF 파일 기준 22GB에 비전 모듈 1.7GB가 더해진다.

엔비디아의 테스트 머신은 지포스 RTX 5090(32GB) PC와 DGX 스파크다. 고성능 게이밍 PC 한 대에서 에이전트용 74B 모델이 돈다는 얘기다. 컨텍스트는 최대 256K 토큰. 10월 16일 출시되는 RTX 스파크 노트북에서 돌리도록 설계됐고, llama.cpp·Ollama·LM 스튜디오·vLLM 지원을 발표했다. 셋째 '볼트 E4B 4GB'는 10월 23일 공개 예정으로, 젯슨 같은 엣지 기기에서 대화형 에이전트를 노린다.

모델	파라미터(활성)	컨텍스트	필요 메모리·하드웨어	공개일
슈퍼 VL	1200억(120억)	100만 토큰	DGX 스파크 1대 / H200 1장 / H100 2장 / GB200 1장	10월 15일
볼트 74B-A9B	740억(90억)	최대 256K	24GB (RTX 5090 테스트, RTX 스파크 노트북)	10월 15일
볼트 E4B	미공개	미공개	4GB (젯슨·지포스 RTX)	10월 23일 예정

그래서 뭐가 좋냐면, 문서가 밖으로 안 나가요

FDE 지망생의 입장에서 이 발표의 가치는 한 문장이다. 민감한 문서를 만지는 에이전트를, 외부 API 없이 만들 수 있다. 계약서, 영수증, 설계도 같은 걸 클라우드에 올리지 않고 사무실 기계에서 처리하는 설계가 가능해진다. 정보보호 서약서와 에이전트 개발이 더 이상 충돌하지 않는다.

엔비디아가 공개한 도입 사례도 그 방향이다. 스케일 AI는 슈퍼 VL을 파인튜닝해 스카이댄스의 협력사 신용 처리를 자동화했고, 추론 비용이 40분의 1, 지연이 5분의 1로 줄었다고 한다. 램프는 영수증 사진을 구조화 데이터로 바꾸는 데 쓰고, AI21은 위협 인텔리전스 정확도가 40% 올랐다고 한다. 전부 엔비디아 측 주장이고 독립 검증은 없다. 그래도 방향은 읽힌다. '문서 읽는 에이전트'가 킬러 유스케이스라는 것.

생태계도 같이 움직인다. 아틀라시안, 세일즈포스, 크라우드스트라이크, 퍼플렉시티, 시놉시스 같은 회사들이 슈퍼 VL을 자사 에이전트 제품에 넣고 있다. 퍼플렉시티·랭체인·커서·미스트랄 AI가 참여하는 '네모트론 연합'도 3월에 출범했다. 모델 하나가 아니라 진영이다.

숫자는 이렇게 읽으세요

발표문의 숫자를 그대로 믿으면 안 된다. '동급 오픈모델 대비 최대 5배 처리량', '최대 추론 모델의 정확도를 5분의 1 파라미터로' 같은 문구는 전부 엔비디아 발표치다. OSWorld-Verified 52.3, OCRBench v2 68.34 같은 점수도 마찬가지다. 독립 검증이 나올 때까지는 '주장'으로 읽어야 한다.

또 하나, 효율성과 가격을 헷갈리면 안 된다. 토큰당 120억 개만 활성화한다는 건 '계산이 효율적'이라는 얘기다. 가중치가 무료라는 건 '라이선스 비용이 없다'는 얘기다. 둘 다 'API가 싸다'는 얘기가 아니다. 실제 서빙 비용은 네 GPU 값에서 나온다. 참고로 엔비디아 AI 엔터프라이즈를 통한 프로덕션 배포는 GPU당 연간 4,500달러라는 보도도 있다(2026년 10월 기준). 오픈웨이트는 공짜지만, 돌리는 기계는 공짜가 아니다.

솔직한 약점도 있어요

볼트의 약점 지표도 공개돼 있다. 비환각 테스트(AA-Omniscience)에서 볼트는 61.27점으로, 알리바바 Qwen3.6(65.85)이나 8월 출시된 라이트닝(68.81)보다 낮다. 공식 블로그는 PinchBench 동급 1위라고 했지만, 모델 카드의 수치표에서는 87.82점으로 Qwen3.6(88.07)에 근소하게 밀린다. 웹 리서치(BrowseComp 66.75)와 터미널 작업(50.98)에서는 앞섰지만, 만능은 아니라는 얘기다.

실용적인 제약도 있다. 10월 15일 오후 기준으로 볼트는 아직 Ollama 라이브러리에 등록되지 않았다. 지원 발표와 실제 등록 사이에는 시차가 있다. 한국어 성능도 미지수다. 포스트트레이닝 언어에 한국어가 없다는 건, 한국어 문서 에이전트에는 추가 학습이나 검증이 필요하다는 뜻이다.

3일 전 메타랑은 다른 게임이에요

10월 12일 메타가 공개한 '뮤즈 원더'(64번 글)와 비교하면 차이가 선명하다. 뮤즈 원더는 API로 '빌려 쓰는' 모델이다. 네모트론 3.5는 가중치를 '가져오는' 모델이다. 전자는 편하고, 후자는 자유롭다. 고객 데이터를 외부에 못 보내는 현장에서는 후자만 선택지가 된다.

오픈웨이트 진영 안에서도 포지션이 갈린다. 리플렉션의 빔(34번 글)은 효율성 승부, 리퀴드 AI의 LFM2.5(67번 글)는 노트북급 온디바이스 승부라면, 네모트론 3.5는 '엔터프라이즈 에이전트 풀스택' 승부다. 데이터센터용 슈퍼 VL부터 엣지용 볼트 E4B까지 한 패밀리로 묶은 게 특징이다.

오늘 밤에 해볼 수 있는 순서

1) 문서부터 던져보기

출시 당일 오픈라우터에 무료 버전이 올라왔다. 민감하지 않은 문서 20개 정도로 표·차트 추출을 테스트해보자. 호스팅 업체의 데이터 보관 정책을 먼저 읽는 건 필수다. 무료라고 아무 데나 올리면 안 된다.

2) 로컬에서 돌려보기

테스트가 되면 볼트 74B를 로컬로 내려받는다. 개념적인 흐름은 이렇다. 공식 절차가 아니라 방향만 잡는 용도다.

# 1. 가중치 다운로드 (Hugging Face, 무료·상업 이용 가능)
# 2. 양자화 버전 선택 (GGUF 22GB + vision 1.7GB)
# 3. llama.cpp / Ollama / LM Studio 중 하나로 로딩
# 4. 같은 문서 20개를 로컬에서 처리 → 결과 비교, 오류 기록

내려받고, 로컬 실행 도구에 올리고, 같은 문서로 다시 돌려본다. 문서가 사무실을 떠나지 않으니 고객사 보안 질문에 답하기 쉬워진다.

3) 내 데이터로 길들이기

엔비디아는 NeMo 기반 파인튜닝 레시피와 에이전트용 오픈 데이터셋(도구 호출·금융 추론·비전언어 45종 등)도 허깅페이스에 함께 풀었다. 자사 문서 형식에 맞게 추가 학습시키는 재료가 공짜로 주어진 셈이다.

---

한 줄 요약: 엔비디아가 10월 15일 1200억 파라미터 오픈웨이트 에이전트 모델 '네모트론 3.5 슈퍼 VL'과 24GB에 들어가는 '볼트 74B'를 공개했다. 민감 문서를 외부에 보내지 않고 돌리는 에이전트의 재료가 공짜로 풀린 날이다.

솔직한 한계도 다시 짚는다. 성능 수치는 전부 엔비디아 발표치고 독립 검증이 없다. 볼트는 환각 억제 지표에서 경쟁 모델에 밀리고, Ollama 등록도 아직이다. 한국어 성능은 미지수다. 그래도 방향은 분명하다. 에이전트의 다음 병목은 모델 성능이 아니라 '어디서 돌리느냐'였고, 그 답안지 하나가 무료로 풀렸다.

그래서 해볼 일은 하나다. 오늘 밤, 민감하지 않은 문서 20개를 오픈라우터 무료 버전에 던져보는 것. 표와 차트를 얼마나 정확히 읽는지 직접 확인해보자. 남의 벤치마크보다 내 문서 20개가 더 정직하다.

자주 묻는 질문

Q. 네모트론 3.5 슈퍼 VL이 뭔가요?
A. 엔비디아가 2026년 10월 15일 공개한 오픈웨이트 AI 모델이다. 1200억 개 파라미터 중 토큰당 약 120억 개만 활성화되는 전문가 혼합(MoE) 구조로, 텍스트·이미지·영상·PDF를 읽고 도구를 호출하는 에이전트용 모델이다.

Q. 정말 무료인가요?
A. 가중치는 무료고 상업 이용도 가능하다(OpenMDW-1.1). 다만 모델을 돌릴 GPU·서버 비용은 별도다. 엔비디아 AI 엔터프라이즈를 통한 프로덕션 배포는 GPU당 연간 4,500달러라는 보도도 있다(2026년 10월 기준).

Q. 집 PC에서도 돌릴 수 있나요?
A. 슈퍼 VL은 DGX 스파크급 이상이 필요하지만, 볼트 74B-A9B는 24GB 메모리면 된다. RTX 5090(32GB) PC에서 테스트됐고, 10월 16일 출시되는 RTX 스파크 노트북에서도 동작하도록 설계됐다.

Q. 한국어 문서는 잘 읽나요?
A. 확인된 바 없다. 포스트트레이닝 집중 언어에 한국어가 포함되지 않았다. 한국어 에이전트에 쓰려면 직접 테스트하거나 추가 학습이 필요하다.

Q. 메타 뮤즈 원더랑 뭐가 다른가요?
A. 뮤즈 원더는 API로 빌려 쓰는 모델이고, 네모트론 3.5는 가중치를 내려받아 직접 돌리는 모델이다. 고객 데이터를 외부에 보낼 수 없는 환경에서는 네모트론 계열이 사실상 유일한 선택지가 된다.

Q. 발표된 성능 수치를 믿어도 되나요?
A. '5배 처리량', '40분의 1 추론 비용' 같은 수치는 전부 엔비디아 측 발표치고 독립 검증이 없다. 주장과 검증된 사실을 구분해서 읽어야 한다.

출처: 엔비디아 공식 블로그(2026-10-15, 원문), 엔비디아 기술 블로그(developer.nvidia.com), Hugging Face 모델 카드, maccus.fr 분석(기사), blockchain.news, unite.ai, oossa.com, startupfortune.com, tech-insider.org, 인스타그램·페이스북·Threads 출시 반응(2026-10-15). 수치는 2026년 10월 기준.