소식 · · 읽는 시간 12분

DGX Spark HPC 개발 키트 발표: 스위치 없는 4대 링과 NVIDIA 문서가 말하는 MPI 조건

이 글의 차례
  1. 키트가 바꾼 것
  2. NVIDIA 문서 셋이 말하는 링
  3. 링과 스위치의 측정값
  4. 512GB와 연결 속도의 직접 계산
  5. 개발자 포럼의 반응
  6. 국내 연구실이 확인할 것
  7. 한계
  8. 출처

NVIDIA가 2026년 11월 16일 시카고에서 열린 슈퍼컴퓨팅 학회 SC26에서 DGX Spark HPC 개발 키트를 발표했습니다. DGX Spark 4대를 스위치 없이 고리(링) 모양으로 직접 연결한 묶음이고, 연구자가 책상 위에서 여러 대에 걸친 과학 계산과 AI 모델을 돌리게 하는 것이 목적입니다. 메모리는 4대 합계 512GB입니다.

결론부터 쓰면, 이 키트의 4대 링 구성은 LLM 추론에서 NVIDIA 자체 측정상 스위치 구성(NVIDIA 전용 통신 백엔드를 켠 값)의 90% 디코드 속도를 냅니다(모델 1개, 동시 요청 1건 조건). 반면 키트 이름에 붙은 HPC, 그중에서도 MPI(여러 컴퓨터가 메시지를 주고받으며 계산을 나누는 표준) 기반 계산에 대해서는 NVIDIA가 한 달 전 기술 블로그에서 "스위치가 필요하다"고 적었습니다. 그리고 HPC용 설치 안내서는 아직 나오지 않았습니다. 이 글에서는 키트가 무엇을 바꿨는지, NVIDIA 문서끼리 어떻게 맞물리는지, 링과 스위치의 측정값, 개발자 포럼의 반응, 국내 연구실이 살 때 확인할 점을 다룹니다.

키트가 바꾼 것

새 하드웨어는 없습니다. DGX Spark는 NVIDIA GB10 Grace Blackwell 칩 하나에 128GB 통합 메모리를 단 소형 컴퓨터이고, 이번 키트는 그 4대를 뒷면의 ConnectX-7 네트워크 포트로 잇는 구성을 공식 묶음으로 내놓은 것입니다. NVIDIA 발표 블로그가 밝힌 내용은 다음과 같습니다.

항목발표 내용
구성DGX Spark 4대, 각 대가 양옆 두 대와 직접 연결되는 링
스위치사거나 설정할 네트워크 스위치 없음
메모리·저장공간4대 합계 512GB, NVMe 20TB
모델 크기NVFP4(NVIDIA의 4비트 형식)로 최대 7,000억 매개변수
HPC SDK 안내서"곧 공개"(C·C++·Fortran 컴파일러, 라이브러리, MPI 도구)
구매키트는 SC26 전시·판매 중. DGX Spark 본체와 케이블은 Acer·ASUS·Dell·GIGABYTE·H3C·HP·Lenovo·MSI·xFusion과 NVIDIA Marketplace에서 판매

바뀐 것은 "4대는 스위치로 묶는다"던 기존 안내입니다. DGX Spark 제품 페이지 FAQ는 지금도 2~3대는 QSFP 케이블로 직접 잇고 "4대를 묶으려면 외부 네트워크 스위치가 필요하다"고 적고 있습니다. 같은 페이지 표에는 4대 구성의 연결 방식이 "200GbE 스위치"로 나옵니다. 키트는 이 4대 구성을 스위치 없이 공식화했습니다.

발표문에는 키트 가격이 없습니다. 발표 블로그 본문에 수치로 나온 성과는 고객 사례뿐입니다. UC 버클리 한 연구실이 공용 클러스터의 11시간 대기열 없이 DGX Spark에서 결과를 15배 빨리 받았다는 사례인데, 1대 기준 이야기이고 4대 링의 성능 수치는 아닙니다.

NVIDIA 문서 셋이 말하는 링

4대 링 자체는 이번에 처음 나온 구성이 아닙니다. NVIDIA 문서 세 곳이 이미 링을 다루고 있고, 그 내용이 키트 발표와 정확히 겹치지는 않습니다. 세 문서와 이번 발표를 직접 대조했습니다(직접 정리).

문서4대 연결에 대한 안내
제품 페이지 FAQ4대는 외부 스위치 필요
다중 연결 안내서4대 직접 링 가능. 단 수동 설정 탭에서만, 자동 설정 도구(NVIDIA Sync)는 4대를 스위치로만 지원
기술 블로그(10월 22일)4대 링은 추론 처리량이 좋음. MPI 같은 점대점 통신은 스위치 필요
SC26 발표 블로그4대 링, 스위치 없음, HPC SDK 안내서 곧 공개

다중 연결 안내서의 배선표를 보면 링의 구조가 드러납니다. 각 대의 0번 포트를 다음 대의 1번 포트에 꽂고, 4번째 대를 1번째 대로 되돌려 고리를 닫습니다. 안내서는 이어서 "Spark 1과 Spark 3은 직접 연결되지 않는다. Spark 2와 Spark 4도 직접 연결되지 않는다"고 적었습니다. 네 대 중 마주 보는 두 쌍은 다른 한 대를 거쳐야 서로 닿습니다.

이 한 홉이 MPI 쪽 판단을 가릅니다. 10월 22일 기술 블로그는 "점대점 패턴에 의존하는 모든 것(예: MPI 기반 클러스터링)은 스위치가 필요하다. 링은 홉 비용을 치른다"고 썼습니다. 결론 문장도 "가장 단순하고 싼 4대 추론 상자"에는 링을, 8대 확장·클러스터 분할·링이 처리하지 못하는 통신 패턴에는 스위치를 고르라는 것이었습니다. 이번 키트는 HPC라는 이름을 달고 MPI 도구를 담은 안내서를 예고했지만, 링에서 마주 보는 두 쌍의 통신을 어떻게 다루는지는 아직 공개된 문서에 없습니다.

링과 스위치의 측정값

링이 얼마나 느린지는 NVIDIA가 직접 잰 수치가 있습니다. 10월 22일 기술 블로그 표 2는 Qwen3.8-27B 모델의 NVFP4 판을 1대에서 8대까지 늘리며 연결 방식별로 쟀습니다. 아래 그림은 그 표의 디코드(답을 생성하는 단계) 속도를 직접 옮겨 그린 것입니다.

그림 1. 대수·연결 방식별 디코드 속도. 4대 링은 스위치의 90.3%, 8대 링은 76.3%입니다

4대에서는 차이가 작습니다. 디코드는 링 32.82, 스위치 36.34 토큰/초로 링이 스위치의 90.3%이고, 입력을 읽는 프리필 단계는 4,446 대 4,556 토큰/초로 97.6%입니다(비율은 직접 계산). NVIDIA는 4대에서 NCCL(GPU 간 집단 통신 라이브러리)이 기본으로 링 방식 알고리즘을 쓰기 때문에 물리적 링이 트래픽 흐름과 맞아떨어진다고 설명합니다.

이 수치는 적용 범위가 좁습니다. 한 모델을 모든 대에 나눠 올리는 추론, 동시 요청 1건, 입력 8,192토큰·출력 256토큰 조건에서 NVIDIA가 잰 값입니다. 스위치 행은 NVIDIA의 Spark 전용 통신 백엔드 RoCEnante를 켠 값이고, 이 백엔드는 모든 대가 서로 직접 닿아야 해서 스위치 구성에만 쓸 수 있습니다. 그리고 MPI 기반 과학 계산의 링·스위치 비교는 NVIDIA가 공개하지 않았습니다. 키트의 본래 용도인 HPC 쪽 성능은 아직 수치가 없는 셈입니다. 8대로 가면 링이 스위치의 76.3%로 벌어지는데, 키트는 4대짜리라 이 구간과는 관계가 없습니다.

512GB와 연결 속도의 직접 계산

발표의 "7,000억 매개변수" 숫자는 가중치만 따지면 들어맞습니다. NVFP4는 값 16개마다 8비트 배율을 하나 붙이므로 매개변수당 약 4.5비트입니다. 7,000억 × 4.5비트 ÷ 8 = 393.75GB이고, 512GB에서 빼면 118.25GB가 남습니다(직접 계산, 1GB = 10억 바이트). 남은 메모리를 운영체제와 KV 캐시가 나눠 씁니다. 대당으로는 128GB 중 약 98.4GB를 가중치가 차지합니다. 같은 계산 방식으로 DGX Spark 2대에 모델이 드는지 따진 내용은 Inkling 2 Small 글에 있습니다.

연결 속도는 메모리 속도와 자릿수가 다릅니다. 제품 사양상 DGX Spark 한 대의 메모리 대역폭은 273GB/s이고, QSFP 포트 하나는 최대 200Gb/s, 바이트로 25GB/s입니다. 링의 한 구간은 한 대 안의 메모리보다 약 10.9배 느립니다(직접 계산). 대 사이를 오가는 데이터가 많은 계산일수록 여러 대로 나눈 이득이 줄어든다는 뜻입니다. 마주 보는 두 쌍은 이 느린 구간을 두 번 지나야 하므로, 그 쌍 사이 통신이 잦은 코드일수록 링의 불리함이 커질 것으로 보입니다.

개발자 포럼의 반응

키트 발표 하루 뒤인 지금, Reddit과 Hacker News에서 키트 자체를 다룬 논의는 찾지 못했습니다. 대신 NVIDIA 개발자 포럼에는 사용자들이 키트 이전부터 직접 4대 이상 링을 만들어 본 기록이 있습니다. 아래 인용은 모두 키트 발표 전인 2026년 5~7월 글입니다.

링에 비판적인 쪽은 마주 보는 노드 문제를 짚었습니다. 사용자 dbsci는 5월에 "링으로 만들면 직접 연결되지 않은 노드끼리 통신할 때마다 홉을 더해야 한다. 스위치 없이 가려고 애쓰는 의미가 퇴색한다"고 썼습니다(NVIDIA 포럼). 7월에는 6대 링을 만든 사용자 alpaslan.erdag가 이웃하지 않은 노드 쌍 사이에서 RDMA 연결 자체가 실패했다고 보고했습니다. 같은 글타래에서 elsaco는 "Spark 세 대보다 많이 묶을 거라면 스위치를 사라"고 답했습니다(NVIDIA 포럼). 이 6대 사례는 4대 키트보다 홉이 많은 구성이라 그대로 옮겨 적용할 수는 없습니다.

링을 실제로 쓰는 쪽도 있습니다. 사용자 FujitsuPolycom은 "Mikrotik 804(스위치)가 9월까지 입고 대기"라는 안내가 계기였다며 4대 링에 GLM-5.2를 올려 단일 요청 디코드 "약 19~20 tok/s"를 얻었다고 7월에 공유했습니다(NVIDIA 포럼). 그런데 같은 글은 순정 NCCL이 4대 링에서 "이웃하지 않은 랭크 사이에 큐 페어를 만들려다 통신기가 실패한다"고 적었습니다. 이 사용자는 이웃끼리만 통신하는 자체 전송 계층을 직접 만들고, 아직 옮기지 못한 연산에는 링 전용으로 고친 NCCL을 대체 수단으로 써서 이 문제를 피했습니다. NVIDIA의 10월 측정이 어떤 설정으로 4대 링을 돌렸는지는 블로그에 나오지 않습니다. 사용자 한 명의 측정이라 다른 환경의 기준으로 쓰기도 어렵습니다. 다만 이 사례도 용도는 LLM 추론이었습니다. 포럼에서 링이 잘 된다는 보고는 추론 쪽에서, 문제가 된다는 보고는 노드끼리 직접 통신하는 쪽에서 나왔습니다.

국내 연구실이 확인할 것

용도가 LLM 추론이라면 키트의 링 구성은 무리 없는 선택으로 보입니다. NVIDIA 자체 측정에서 4대 링은 전용 백엔드를 켠 스위치 구성의 90% 속도를 내고, 200GbE 스위치를 따로 사서 설정하는 일이 사라집니다. 사내 문서나 미공개 연구 데이터를 외부 API로 보내기 어려운 연구실이 수천억 매개변수급 공개 모델을 책상 위에서 돌리려는 경우가 여기에 해당합니다.

MPI로 짠 시뮬레이션 코드를 개발·디버깅하려는 경우는 판단을 미루는 편이 나아 보입니다. NVIDIA 기술 블로그는 이 용도에 스위치를 권했고, 키트의 HPC SDK 안내서는 아직 나오지 않았습니다. 안내서가 나오면 링에서 마주 보는 두 쌍의 통신을 어떻게 처리하는지, 스위치 구성과의 성능 차이를 공개하는지부터 확인할 만합니다. 그 전에 사야 한다면 나중에 스위치를 더할 수 있는지 판매처에 확인해 두는 것이 안전해 보입니다. 다중 연결 안내서는 스위치를 쓸 때 일부 대만 직접 잇고 나머지를 스위치에 잇는 혼합 구성을 하지 말라고 적었습니다. 링을 쓰다가 스위치를 들일 때 일부 대만 옮겨 섞어 쓸 수는 없다는 뜻입니다.

이 키트를 공용 슈퍼컴퓨터의 대체재로 보는 것도 무리로 보입니다. NVIDIA 스스로 키트를 "서버 시간은 실제 실행에 아끼고 개발과 디버깅은 각자 하는" 도구로 소개합니다. 대 사이 연결이 메모리보다 약 10.9배 느리다는 계산도 같은 방향을 가리킵니다. 큰 계산은 기존 클러스터에서 돌리고, 그 전 단계의 코드 검증을 책상 위로 옮기는 용도가 발표 취지에 맞습니다.

한계

항목내용
성능 수치링·스위치 비교는 NVIDIA 자체 측정(10월 22일, LLM 추론 1개 모델)뿐입니다. 키트의 HPC·MPI 성능은 공개 수치가 없고 제3자 측정도 찾지 못했습니다
직접 측정장비가 없어 키트를 직접 돌려 보지 못했습니다. 본문의 비율과 메모리·대역폭 값은 공개 수치로 계산한 것입니다
저장공간발표 블로그는 4대 합계 20TB라고 했지만 제품 사양은 대당 "최대 4TB"라 4대면 16TB입니다. 차이의 이유는 확인하지 못했습니다
가격·국내 판매키트 묶음 가격이 공개되지 않았고, 국내 판매처의 키트 취급 여부도 확인하지 못했습니다
커뮤니티인용한 포럼 글은 모두 키트 발표 전의 개인 구성 사례입니다. 키트 자체에 대한 반응은 발표 하루 뒤라 아직 찾지 못했습니다

출처

1 / 1