DeepInfer FAQ: DeepSeek V4.1-Flash 질문 모음
DeepInfer, 즉 DeepSeek의 V4.1-Flash 추론 프레임워크에 대한 짧고 출처 있는 답변입니다. 무엇인지, 어디서 돌아가는지, 무엇이 빠졌는지, 얼마나 빠른지, 그리고 어떤 DeepInfer를 말하는지 다룹니다.
한 문장으로 답하면 이렇습니다. DeepInfer는 DeepSeek-V4.1-Flash를 대규모로 서빙하기 위한 DeepSeek의 오픈소스 추론 프레임워크입니다. 호스팅 API가 아니라 오프라인 엔진이며, 완전한 서비스에 필요한 KV cache, 프리필/디코드 분리, 로드 밸런싱은 포함하지 않습니다. 이 FAQ는 V4.1-Flash 릴리스, 하드웨어, 벤치마크, 이름 충돌을 다룹니다.
DeepInfer는 NVIDIA SM100 GPU와 Huawei Ascend 950 NPU를 지원하지만, DeepSeek가 공개한 성능 차트는 NVIDIA 하드웨어만 다룹니다.
기본
DeepInfer란 무엇인가요?
DeepInfer는 DeepSeek-V4.1-Flash를 대규모로 서빙하기 위한 DeepSeek의 오픈소스 추론 프레임워크입니다. 2026년 10월 20일 Apache-2.0 라이선스로 공개되었습니다.
DeepInfer는 모델인가요?
아니요. DeepInfer는 모델을 실행하는 엔진입니다. 모델은 DeepSeek-V4.1-Flash-1017이며, 가중치는 MIT 라이선스입니다.
DeepInfer는 상업적으로 무료로 쓸 수 있나요?
DeepInfer 코드는 Apache-2.0이며, 통상적인 고지 의무를 지키면 상업적 사용과 수정이 허용됩니다. 기본 모델 가중치는 MIT입니다. 배포 전에 함께 포함된 의존성의 라이선스를 확인하세요.
실행
DeepInfer는 어떤 모델을 지원하나요?
이번 릴리스에서는 DeepSeek-V4.1-Flash만 지원합니다. 기본 체크포인트는 DeepSeek-V4.1-Flash-1017입니다.
RTX 4090이나 H100에서 DeepInfer를 돌릴 수 있나요?
README에는 NVIDIA SM100 GPU와 Huawei Ascend 950 NPU가 적혀 있습니다. 구형 NVIDIA 세대와 소비자용 카드는 지원 목록에 없습니다.
DeepInfer에 OpenAI 호환 API 서버가 포함되어 있나요?
아니요. 이번 릴리스는 호스팅 API가 아니라 오프라인 추론을 제공합니다. 서빙 계층은 직접 만들어야 합니다. DeepSeek는 API 프로토콜 변환과 토큰화를 담당하는 deepseek-recipe도 공개했지만, 그것은 서버가 아닙니다.
DeepInfer는 완전한 프로덕션 서빙 스택인가요?
아니요. README는 빠진 세 가지를 분명히 적고 있습니다. KV cache 시스템, VE/프리필/디코드 분리, 데이터 병렬 복제본 간 로드 밸런싱입니다.
빈틈
KV cache 시스템은 왜 빠졌나요?
DeepSeek는 KV cache 관리와 로드 밸런싱 구성요소가 자사 내부 인프라와 강하게 결합되어 있어, 아직 해당 코드를 전부 오픈소스로 공개하지 못했다고 설명합니다.
DeepInfer는 Huawei Ascend 950을 지원하나요?
예, README는 NVIDIA SM100 GPU와 함께 Ascend 950 NPU를 적고 있습니다. 다만 DeepSeek는 DeepInfer의 Ascend 950 성능 수치를 공개하지 않았습니다.
DeepSeek가 정말 프로덕션 엔진을 오픈소스로 공개한 건가요?
DeepSeek는 DeepInfer가 자사 프로덕션 서비스를 구동한다고 말하지만, 공개된 것은 일부입니다. KV cache 시스템, PD 분리, 로드 밸런싱이 포함되지 않아 외부에서 프로덕션 동등성을 검증할 수 없습니다.
숫자
DeepInfer는 얼마나 빠른가요?
DeepSeek는 파레토 차트 두 장을 공개했습니다. 131,072 토큰 컨텍스트에서 SM100 GPU 4개로 측정한 프리필과 64개로 측정한 디코드입니다. 제3자 재현은 없습니다. 차트는 맞교환 지도로 읽어야지, 여러분의 워크로드에 대한 약속으로 읽어서는 안 됩니다.
DSpark란 무엇인가요?
DSpark는 DeepSeek의 추측 디코딩 방식입니다. 드래프트 토큰과 신뢰도 헤드를 사용해 가변 길이 검증을 스케줄링합니다. 기본 최대 드래프트 길이는 5입니다.
SWA 바운디드 리플레이란 무엇인가요?
사라진 슬라이딩 윈도 어텐션 KV를 모든 레이어의 전체 윈도 대신 최근 토큰만 재생해 복원하는 방식입니다. V4.1 기본 설정은 140토큰 서픽스를 유지합니다.
deepseek-recipe란 무엇인가요?
별도의 MIT 라이선스 Rust/Python 라이브러리로, Chat Completions, Responses, Messages 요청을 DeepSeek 프롬프트와 토큰 ID로 변환하고 모델 출력을 다시 프로토콜 응답으로 파싱합니다.
이름
DeepInfer라는 이름은 2016년 의료 영상 툴킷과 2023년 스마트 컨트랙트 타입 추론 프로젝트도 가리킵니다. 이 사이트는 DeepSeek의 2026년 추론 프레임워크만 다룹니다.
DeepInfer는 DeepInfra와 같은 것인가요?
아니요. DeepInfra는 deepinfra.com의 상업용 추론 제공업체이고, DeepInfer는 DeepSeek의 오픈소스 프레임워크입니다. DeepInfer는 상업용 추론 제공업체인 DeepInfra와 제휴 관계가 없습니다.
DeepInfer는 의료나 스마트 컨트랙트 쪽 DeepInfer와 같은 것인가요?
아니요. 2016년 의료 영상 툴킷과 2023년 스마트 컨트랙트 연구 프로젝트는 DeepSeek의 2026년 추론 프레임워크와 무관합니다.
어디서 시작할까
릴리스 사실이 궁금하다면 DeepInfer가 실제로 공개한 것을 읽으세요. 엔지니어링이 궁금하다면 엔진 내부를 보세요. 도입 여부를 판단 중이라면 한계를 먼저 읽고, 이어서 10종 비교를 DeepInfer vs vLLM, vs SGLang, vs TensorRT-LLM 순으로 읽으세요. 이름이 헷갈린다면 이름 구분 페이지를 보세요.
DeepInfer가 vLLM보다 나은가요?
공개된 정면 비교는 없습니다. vLLM은 더 넓은 서빙 계층, OpenAI 호환 API, 모델 커버리지를 갖고 있고, DeepInfer는 DeepSeek 전용 튜닝이 들어간 단일 모델 엔진입니다. DeepInfer vs vLLM 비교를 참고하세요.
DeepInfer와 SGLang 중 무엇을 써야 하나요?
SGLang은 API, PD 분리, HiCache, 라우터를 갖춘 더 완전한 V4.1-Flash 프리뷰 경로를 제공합니다. DeepInfer는 DeepSeek 자체 엔진과 Ascend 950 지원을 갖고 있습니다. DeepInfer vs SGLang 비교를 참고하세요.
우리는 DeepInfer를 실행해 보지 않았습니다. SM100이나 Ascend 950 하드웨어도 없습니다. 위 답변은 출처에 근거한 것이며, DeepSeek의 주장이면서 독립 검증되지 않은 경우에는 해당 내용을 다루는 페이지에서 그렇게 밝힙니다.