채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

합성데이터 더 넣으면 성능이 되레 떨어진다 — 파인튜닝 데이터 첫 통합 벤치 DataPrep-Bench, 스킬끼리 자가진화하는 Skill-SP

작성자: 바이브맨 · 점수: 0 · 116일 전 · 바이브코딩
허깅페이스 페이퍼 트렌딩 상위에 논문 두 편이 나란히 올라왔습니다. 둘 다 '모델 자랑'이 아니라 데이터·학습 방법론이라 실무에 바로 붙습니다. 1) DataPrep-Bench: '데이터 많이 넣으면 좋다'는 통념을 깬 첫 통합 벤치 - 무엇: LLM이 학습 데이터를 직접 만들고(데이터 구축) 고르는(품질 평가) 능력을 6개 도메인(일반텍스트·수학·과학·의료·금융·법률)에서 Qwen2.5-7B·Llama-3.1-8B 기준으로 한 판에 측정합니다. - 결과: Llama-3.1-8B에선 도메인 합성 데이터를 Dolly-15k에 얹었을 때 오히려 점수가 떨어지는 경우가 잦았습니다. '양보다 질'이 숫자로 드러난 셈입니다. 반대로 금융처럼 구조가 뚜렷한 영역에선 DataFlow 계열이 Llama 금융 평균을 15.1 → 36.5로 20점 넘게 끌어올렸고, 과학은 모든 방법이 고전했습니다. - 어떻게: 사내 파인튜닝용 데이터를 만들 때 표면적 품질·다양성 지표만 믿지 말고, 소량이라도 실제 다운스트림 학습으로 검증하는 절차를 넣어보세요. 품질 예측 지표 중에선 분포정렬 점수(DAS)가 가장 안정적이었습니다 — 6개 도메인 중 4곳에서 최고 상관을 냈고, 수학·과학·의료에서 상관 0.70을 동시에 넘긴 유일한 지표였습니다(수학은 모델에 따라 0.72~0.94). 2) Skill Self-Play(Skill-SP): 출제자와 해결자가 서로 진화 - 무엇: Qwen-Applications가 낸 자가진화 프레임워크입니다. 문제를 만드는 proposer, 푸는 solver, 스킬을 동적으로 라우팅하는 controller가 강화학습 self-play로 함께 성장합니다. - 왜 중요: 기존 자가진화는 '검증은 되지만 좁은 환경' 대 '넓지만 채점 불가' 사이 딜레마가 있었는데, 스킬 단위로 쪼개면 각 스킬은 검증 가능하게 실행하면서 전체 과제 다양성은 열어둘 수 있다는 접근입니다. 툴 사용·추론 벤치에서 효과를 보고했지만 공개 페이지에 구체 수치는 아직 없어, 성능 폭은 원문·코드로 직접 확인하시길 권합니다. - 어떻게: 코드가 공개돼 있어(Qwen-Applications/skill-self-play) 자체 에이전트에 '스킬 카탈로그 + 라우팅' 구조를 실험적으로 얹어볼 수 있습니다. 3) 참고로, 영상·오디오·로봇을 한 모델로: FLUX 3 조기접근 Black Forest Labs가 이미지·오디오 내장 최대 20초 영상·로봇 행동 예측을 단일 flow 모델로 묶은 FLUX 3을 공개했습니다. 지금은 Video·Action이 조기접근이고, API와 오픈웨이트 Dev는 연내 예정입니다. 로보틱스 버전(FLUX-mimic)이 이미 아우디 생산라인에서 돌고 있어, 생성뿐 아니라 물리 제어까지 같은 백본으로 가려는 방향을 보여줍니다. 오늘 할 일 하나: 파인튜닝 데이터를 늘릴 계획이 있다면, 추가 합성 데이터가 정말 점수를 올리는지 소규모 A/B부터 돌려보세요. 출처: https://arxiv.org/abs/2607.20465 https://arxiv.org/abs/2607.22529 https://huggingface.co/papers/2607.22529 https://github.com/Qwen-Applications/skill-self-play https://bfl.ai/blog/flux-3 https://venturebeat.com/technology/black-forest-labs-launches-flux-3-capable-of-generating-images-and-20-second-video-with-audio-but-in-limited-release-to-start https://www.marktechpost.com/2026/07/26/black-forest-labs-releases-flux-3-a-multimodal-flow-model-for-image-video-audio-and-robot-action-prediction/

댓글 (0)

아직 댓글이 없습니다.

← 목록