DeepInfer 출처: 공식 문서와 V4.1-Flash 참고 자료

이 자료집에서 DeepInfer, 즉 DeepSeek의 V4.1-Flash 추론 프레임워크에 관해 한 모든 사실적 주장에는 공개 출처가 붙어 있습니다. 네 층으로 나눕니다. A 공식 1차 출처, B 독립 검증이 불가능한 공식 주장, C 이름이 밝혀진 2차 보도, D 시간마다 달라지는 커뮤니티 관찰입니다. 숫자의 힘은 그 숫자가 속한 층위를 넘지 못합니다.

A. 공식 1차 출처

• DeepInfer 저장소 — README, 라이선스, 기능 목록, 하드웨어, 빌드 요구사항, 성능 차트. 2026-10-20 접근.
• DeepInfer 배포 Q&A — 프로덕션 아키텍처, Wide-EP, EPLB, KV cache, DSpark, 스케줄링, Recipe. 2026-10-20 11:03 UTC 갱신.
• 예제 README — 오프라인 추론, 벤치마크, 스윕 파라미터, CP/EP 플래그.
• 평가 README — AIME 2026, GPQA Diamond, HLE 참조 점수와 프로토콜.
• deepseek-recipe — 프로토콜 변환, 토크나이저, 스트리밍 파서, MIT 라이선스.
• DeepSeek-V4.1-Flash-1017 모델 카드 — 기본 체크포인트, MIT 가중치, 컨텍스트 윈도, 벤치마크 표.
• DeepSeek-V4.1-Flash 기술 보고서 — 552B 백본 + 196B Engram, 8B/16B 활성화, 토큰당 890바이트 KV, 45T 학습 토큰.
• DeepSeek Zhihu 글: V4.1 Flash 대규모 추론 배포 — 중국어 프로덕션 아키텍처 해설, 3FS, EPLB, DSpark, 스케줄링.
• DeepGEMM-Ascend와 DeepEP-Ascend — Ascend 기반 작업, 2026-09-30. 성능 수치는 벤더가 직접 측정한 것이며 PoC 하드웨어 유의점이 따릅니다.
• DeepSeek 추론 엔진 오픈소스화의 경로 — 전체 엔진을 당시 공개하지 않은 이유에 대한 2025년 4월 설명.
• DeepSpec — 추측 디코딩 드래프트 모델(DSpark, DFlash, Eagle3) 학습·평가용 MIT 라이선스 코드베이스.

B. 독립 검증하지 못한 공식 주장

DeepSeek가 직접 밝힌 프로덕션 수치입니다. “DeepSeek에 따르면”이라고 인용하며 벤치마크 결과로 취급하지 않습니다.

• 클러스터당 하루 155조 토큰, 경부하 요금 기준 GPU 시간당 미화 38달러 매출. 공식 Q&A와 Zhihu 글에서 가져왔습니다. 클러스터 규모, GPU 구성, 측정 기간은 공개되지 않았습니다. 매출은 이익이 아닙니다.
• 로드 밸런싱이 완벽하게 균형 잡힌 오프라인 벤치마크의 약 80%에 도달합니다. 공식 Q&A에서 가져왔습니다.
• DSpark 가변 길이 검증: 프로덕션 지점에서 +4–7%, 랭크당 동시 시퀀스 96개에서 최대 +11%. Q&A 표에서 가져왔습니다.
• 오픈소스 FlashMLA는 디코드 커널에서 5–10%, 엔드투엔드로는 최대 5% 느립니다. DeepSeek가 내부 버전과 비교한 결과입니다.
• 3FS KV cache: 약 100 PiB, 에이전트 TTL 3일, 챗봇 TTL 7일, GPU당 논리 KV 약 14.4 TB, 8개 GPU당 약 400 Gbps. 프로덕션 설계이며 릴리스에는 포함되지 않았습니다.

C. 2차 보도

• CryptoBriefing, 2026-10-20 09:35 UTC — 출시 보도. 캐시 적중률 96%, TTFT 약 400 ms, 230 tokens/s(코딩은 300)도 추가로 보도했습니다. 이 수치들은 공식 README/Q&A 본문에 없으며, 2차 자료이자 미검증으로 취급합니다.
• Pasquale Pillitteri, 2026-10-20 10:54 UTC — 상세한 독립 분석, 차트 판독, 빠진 구성요소 목록.
• IT之家, 2026-10-20와 第一财经, 2026-10-20 — 중국어 공식 발표 보도.
• Blockchain.News, TechFlow, KuCoin — 짧은 출시 단신. 대부분 X 스레드를 다시 옮긴 수준입니다.
• vLLM 블로그, 2026-10-07 — 별도의 V4.1-Flash 최적화 경로. DeepInfer와의 비교는 아닙니다.
• SGLang 블로그 — 별도의 V4.1-Flash 커널 경로. DeepInfer와의 비교는 아닙니다.

D. 커뮤니티 관찰

• Hacker News 토론, 2026-10-20 — 두 시간 안에 댓글 약 120개. 가장 자주 나온 기술적 반론은 빠진 KV cache였습니다. 커뮤니티의 단위 경제성 추정은 추측이며, 사실로 반복하지 않습니다.
• DeepSeek 공식 X 스레드 — 게시물 4개, 2026-10-20 09:30 UTC.
• LightSeek Foundation — TokenSpeed가 이 최적화들을 배우고 도입하겠다고 밝혔습니다.
• PR #47(SM90/H20 RFC)와 PR #46(Ascend 910C RFC) — 열린 제안이며, 병합된 지원이 아닙니다.

비교 출처

• vLLM README — PagedAttention, 연속 배칭, 프리픽스 캐싱, OpenAI 호환 API, 모델 및 하드웨어 지원 범위.
• SGLang V4.1-Flash 쿡북 — 프리뷰 이미지, DSpark, PD 분리, HiCache, 라우터, 하드웨어.
• SGLang day-0 글 — V4.1-Flash의 기능과 하드웨어 지원 범위.
• TensorRT-LLM README — 커널, 런타임, 프리필-디코드 분리, Wide EP, Triton/Dynamo, 라이선스.
• TensorRT-LLM 지원 매트릭스 — 도입 전에 모델과 GPU 지원을 확인하세요.
• LMDeploy README — TurboMind/PyTorch 엔진, DeepSeek V3/R1 작업, PD 분리, Ascend, OpenAI API.
• TGI README — 유지보수 모드 공지, 기능, 하드웨어, 라이선스.
• TGI Messages API — OpenAI Chat Completion 호환성.
• Xinference README — 멀티 모델 플랫폼, OpenAI API, 분산 워커, 백엔드.
• NVIDIA Dynamo README — 오케스트레이션 계층, 분리 서빙, KV 인식 라우팅, KVBM, 백엔드.
• llama.cpp README — GGUF, 백엔드, 양자화, 로컬 서버, 라이선스.
• Ollama README와 OpenAI 호환성 — 로컬 러너와 API 표면.
• MLC-LLM README — 컴파일러/MLCEngine, 플랫폼, API, 라이선스.

이름 구분 출처

• 의료용 DeepInfer GitHub 조직(2016년 생성)과 Slicer-DeepInfer.
• “DeepInfer: open-source deep learning deployment toolkit for image-guided therapy”, SPIE Medical Imaging 2017.
• “DeepInfer: Deep Type Inference from Smart Contract Bytecode”, ESEC/FSE 2023; 코드.
• DeepInfra — 상업용 추론 제공업체. 철자가 다르고, 다른 주체입니다.

읽지 못한 것

중국어 Zhihu 글에는 “线上系统实际统计” 이미지가 있습니다. 우리 환경에서는 이미지 호스트를 불러오지 못했고(SSL 오류), 텍스트 미러는 기사 본문만 반환했습니다. 그래서 그 대시보드에서 나온 96% 캐시 적중률, TTFT 약 400 ms, 230 tok/s 수치는 2차 자료로 남습니다. 이 수치들은 헤드라인, 스펙 표시줄, 벤치마크 표에 넣지 않습니다.

또한 SM100이나 Ascend 950 하드웨어에 접근할 수 없어서 코드를 실행하거나 차트를 재현하거나 Ascend 성능을 측정하지 못했습니다. 이 사이트의 모든 성능 관련 서술은 출처를 읽은 것이지 직접 측정한 결과가 아닙니다.

이 사이트를 인용하는 방법

사실적 주장을 인용한다면 이 자료집이 아니라 페이지에 링크된 1차 출처를 인용하세요. 우리 분석이나 이름 구분 표를 인용한다면 특정 페이지로 링크하고 접근 날짜를 함께 적으세요.

DeepInfer Field Notes, “Which DeepInfer? A name collision, resolved,” accessed 20 October 2026, https://deepinfer.net/name/.

돌아가려면 소개를 보거나, 한계를 읽어 보세요.