IT로그

DEPO 어려운 샘플을 미리 감지하면 RL이 빨라질까 GRPO 학습에서 롤아웃이 가장 비싼데, 정작 업데이트에 쓸 “학습 신호”가 없는 샘플이 많으면 돈과 시간이 그대로 증발합니다. DEPO는 이를 롤아웃 …

지저분한 데이터도 프리트레이닝에 쓰는 법(토큰화 관점) 노이즈 많은 실제 코퍼스를 “정제해서 버리는 문제”로만 보면, 남는 건 비용과 데이터 손실입니다. QA-Token은 문제를 아예 토크나이저 설계로 끌어올려, …

AgentCPM-Explore 엣지에서 딥탐색을 진짜로 해보면 4B급 엣지 모델이 에이전트 과제에서 약한 이유를 “능력 부족”으로만 보면 해법이 커집니다. AgentCPM-Explore는 병목을 안정성·신호품질 문…

JADE 에이전트 평가를 클레임 단위로 깔끔하게 오픈엔디드 전문 보고서 평가는 늘 딜레마가 있습니다. 정적 루브릭은 재현성은 높지만 다양한 정답 전략을 놓치기 쉽고, LLM-as-judge는 적응적이지만 흔들리고 …

행동트리+RL, ‘진행 제약’ 걸면 학습이 더 안정될까 행동트리(BT)에 RL 컨트롤러를 붙이면 “학습은 되는데 전체 임무가 망가지는” 순간이 자주 옵니다. 이 글은 왜 그런 루프가 생기는지, 패널티 대신 제약으로…

HyPER 가설을 키웠다 줄였다 하면서 추론하는 방법   테스트타임 스케일링은 “경로를 많이 뽑기”만으로는 한계가 있습니다. HyPER는 탐색–활용을 동적으로 제어해 같은 예산에서 정확도를 올리고 토큰을 줄이려 합…

LogicSkills ‘논리 잘함’을 스킬 단위로 쪼개서 보자 LLM의 “논리추론 능력”은 한 덩어리로 측정하면 착시가 생기기 쉽습니다. LOGICSKILLS는 논리 과제를 하위기술로 분해하고 Z3로 자동검증해, …

AgentCPM 리포트 초안 심화 교차로 딥리서치 뽑기 고정 아웃라인으로 시작하는 plan-then-write는 처음 계획이 빈약하면 끝까지 통찰이 얕아지기 쉽습니다. AgentCPM-Report는 글쓰기를 추론으…

멀티턴 에이전트 RL, 수렴까지 챙기는 접근 멀티턴(agentic) 환경에서 LLM-RL이 자주 붕괴하는 이유는 “잘 되는 듯 보이는 조합”이 실제로는 수렴·단조개선 보장을 깨뜨리기 때문입니다. 이 글은 SeeUP…

답은 맞는데 속은 흔들린다 VLM 내부 표현 불안정성 겉으로 정답이 같다고 해서 모델이 “안정적”이라고 말할 수 있는지 점검할 때입니다. 이 글은 VLM 견고성 평가의 관성인 출력 불변성에 의문을 던지고, 내부…