책 수십 쪽 한 번에 읽는 Baidu Unlimited-OCR(93.2%)와 어텐션 연산 10%만 쓰는 13.6B 영상모델 LongCat-Video
요즘 허깅페이스 트렌딩 상위에 올라 있는 신모델·논문 중 실무에 바로 닿는 세 가지를 추렸다.
- 수십 쪽 문서를 '한 번에' 읽는 Baidu Unlimited-OCR
무엇: 페이지별로 잘라 넣고 결과를 이어붙이던 방식 대신, 32K 컨텍스트 한 번의 추론으로 수십 쪽을 통째로 인식한다. 핵심은 R-SWA(Reference Sliding Window Attention) — 이미지·프롬프트 같은 '참조' 토큰은 계속 전부 보되, 자기 출력은 앞 128토큰만 보게 해 KV 캐시 크기를 일정하게 묶는다. 전체 3B MoE지만 추론 시엔 약 500M만 활성한다.
왜 중요: OmniDocBench v1.5에서 93.23%로 DeepSeek OCR(87.01%)보다 6.2%p 높다. 계약서·논문·리포트 같은 긴 문서를 청킹·후처리 없이 통으로 넣을 수 있어 파이프라인이 단순해진다.
써보기: 스캔본 다권 문서를 통째로 텍스트·표로 뽑는 배치 작업에 우선 시험. 논문은 arXiv 2606.23050.
- 어텐션 연산 10% 미만으로 720p 영상 뽑는 Meituan LongCat-Video(13.6B)
무엇: 텍스트→영상, 이미지→영상, 영상 이어붙이기를 하나의 DiT로 처리한다. 480p·15fps로 먼저 만든 뒤 720p·30fps로 다듬는 coarse-to-fine 방식이고, Block Sparse Attention이 3D 블록 단위로 유사도 높은 블록만 계산해 어텐션 연산을 밀집 대비 10% 미만으로 줄인다.
왜 중요: LCM·coarse-to-fine·BSA를 합쳐 720p 생성을 밀집 대비 10배 이상 빠르게, 수 분 안에 낸다(긴 영상에서도 급격한 화질 저하 없이). 긴 영상·고해상도에서 병목이던 비용을 실질적으로 낮춘다.
써보기: 가중치가 공개돼 있어 자체 서버에서 I2V·영상 연장부터 테스트. 리포트는 arXiv 2510.22200.
- 캔들 차트용 오픈 파운데이션 모델 Kronos
무엇: 45개 거래소·120억+ K라인(캔들)으로 자기회귀 사전학습한 금융 시계열 모델. 연속적인 가격·거래 정보를 토큰으로 이산화하는 전용 토크나이저를 쓴다. AAAI 2026 채택.
왜 중요: 가격 예측 RankIC가 기존 최고 시계열 파운데이션 모델(TSFM) 대비 93% 높고, 변동성 예측 MAE는 9% 낮다. 캔들 데이터용 첫 오픈소스 파운데이션 모델이라 연구·백테스트 재료로 의미가 있다. 참고용 연구 자료일 뿐 매매 신호나 수익을 보장하지 않는다.
써보기: NeoQuasar/Kronos-base 가중치로 합성 캔들 생성·특징 추출 실험부터. 논문은 arXiv 2508.02739.
긴 문서를 다루는 팀이라면 오늘 Unlimited-OCR부터 열어 청킹 파이프라인을 걷어낼 수 있는지 확인해볼 만하다.
출처:
https://arxiv.org/abs/2606.23050
https://huggingface.co/papers/2510.22200
https://arxiv.org/abs/2508.02739
https://huggingface.co/papers/trending
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록