Weekly AI Papers — 2026-06-22

🚀 "코드 찾는 게 코딩의 80%? 그럼 나머지 20%는 뭐지?"

FastContext: Training Efficient Repository Explorer for Coding Agents

🏛️ 소속: Microsoft (빅테크)

🏷️ 핵심 키워드: repository exploration, coding agent, context optimization, LLM efficiency, multi-turn search

💭 이런 질문을 해본 적 있나요?

• “코드를 찾아야 하는데, 왜 LLM이 전체 코드를 읽어버려?”
• “제가 코딩할 때, LLM이 무의미한 코드 조각을 쌓아두는 건 진짜 짜증이야.”
• “어떻게 하면 LLM이 ‘필요한 코드만’ 찾아서 줄여줄 수 있을까?”

[핵심 설명: 기존에는 하나의 모델이 코드 탐색과 문제 해결을 동시에 했는데, 이 논문은 탐색을 전담하는 ‘FastContext’라는 부제이션 모델로 분리했습니다.]

특히 주목할 점:

• SWE-bench Multilingual, SWE-bench Pro, SWE-QA에서 Mini-SWE-Agent에 FastContext를 적용하면 **종합 해결률이 최대 5.5% 향상**
• **코딩 에이전트의 토큰 소비량이 최대 60% 감소** — 탐색 과정에서 불필요한 코드 조각이 줄어든 덕분

🎯 왜 이것이 게임 체인저인가? :

**모든 작업을 하나의 모델이 처리** → **탐색과 해결을 분리해 전문 모델이 각각 담당**

(결과적으로, 토큰 효율성과 해결률을 동시에 높일 수 있는 첫 번째 구조적 개선)

🤖 “챗봇이 아니라 ‘동료’가 되는 AI, 이제 진짜 일할 수 있나요?”

From Chatbot to Digital Colleague: The Paradigm Shift Toward Persistent Autonomous AI

🏛️ 소속: Tencent (빅테크)

🏷️ 핵심 키워드: LLM, Autonomous AI, Persistent Workspace, Chain-of-Thought, Tool-Augmented Agent

💭 이런 질문을 해본 적 있나요?

• “챗봇이 답만 주는 거라면, 왜 AI가 내 일에 ‘동료’로 도와줘야 할까?”
• “AI가 계속해서 작업을 기억하고, 스킬을 재사용할 수 있다면, 그건 진짜 ‘동료’가 되는 거야?”
• “지금 챗봇이랑 AI 애전이랑 차이가 뭐야? 그냥 말만 잘 하는 건가?”

[핵심 설명: 기존에는 챗봇이 단순히 다음 토큰을 예측해서 대답하는 ‘빠른 사고’ 시스템이었는데, 이 논문은 LLM이 사고, 행동, 기억, 자기 개선까지 가능한 ‘지속적 자율 AI’로 진화하는 패러다임을 제시합니다.]

특히 주목할 점:

• “Thinking LLM”이 Chain-of-Thought, 반성, 강화학습 등을 활용해 **사고의 깊이와 신뢰도를 3.2배 향상**시켰음 (논문 내 평가 기준)
• “Workspace + Skill” 구조로 **작업 상태를 지속적으로 유지하며, 재사용 가능한 절차를 4.1배 더 효율적으로 설계**함 (실제 테스트 환경 기준)

🎯 왜 이것이 게임 체인저인가? :

“단순한 대화 응답 → 지속적 작업 공간 + 재사용 가능한 스킬 시스템”

🤖 "교사가 정답을 알려주는 게 아니라, 학생이 ‘잘 못 풀었을 때’ 정답을 보여주는 거야? 이건 진짜 뉴스다."

Zone of Proximal Policy Optimization: Teacher in Prompts, Not Gradients

🏛️ 소속: NVIDIA (빅테크)

🏷️ 핵심 키워드: knowledge distillation, reinforcement learning, prompt engineering, zone of proximal development, policy optimization

💭 이런 질문을 해본 적 있나요?

• “작은 모델이 큰 모델을 따라가려고 하면, 왜 오히려 성능이 떨어지지?”
• “RL은 rollout을 기반으로 학습하지만, 실패한 rollout은 그냥 버려져서 뭐가 문제야?”
• “교사의 정답을 모델이 직접 따라야 할 필요가 있을까? 아니면… 질문 자체를 바꿔야 할까?”

[핵심 설명: 기존에는 교사의 로짓을 모델이 따라야 했는데, 이 논문은 교사의 정답을 ‘프롬프트 안에’ 넣고, 학생이 ‘잘 못 풀었을 때’ 정답과 오답을 비교하며 학습하게 한다.]

특히 주목할 점:

• Qwen3.5 가족의 0.8B~9B 규모 모델에서 27B 교사 모델을 활용해, 31개 벤치마크에서 ZPPO가 기존 오프/온-폴리시 지식 전이 및 GRPO보다 더 뛰어남
• 특히 0.8B 모델에서 가장 큰 성과를 보이며, 학생의 평균 롤아웃 정확도가 50%를 넘을 때까지 ‘프롬프트 재생 버퍼’를 통해 반복 학습 → 실패한 질문은 FIFO로 제거됨

🎯 왜 이것이 게임 체인저인가? :

기존 방식 → 교사의 로짓을 따라야 하는 지식 전이, 실패한 rollout은 무시됨

→ 새 방식 → 정답과 오답을 프롬프트에 삽입해 학생이 ‘비교’하며 학습, 실패한 질문은 반복 재생됨

🎬 “장기 영상 생성에서 주인공이 ‘잊혀질 수 있다’는 걸, 누가 생각했나요?”

Memento: Reconstruct to Remember for Consistent Long Video Generation

🏛️ 소속: BAIDU (빅테크)

🏷️ 핵심 키워드: long video generation, subject consistency, memory reconstruction, dual-query mechanism, cinematic data pipeline

💭 이런 질문을 해본 적 있나요?

• “영상이 길어질수록 주인공이 변하는 게 자연스러운가요?”
• “이전 장면에서 보인 인물이 다음 장면에 사라지면… 그건 ‘생성 오류’인가요?”
• “영상 생성 모델이 ‘기억’을 어떻게 하면 유지할 수 있을까요?”

[핵심 설명: 기존에는 장면별로 생성하며 주인공 일관성을 무시했으나, 이 논문은 ‘기억 재구성’을 통해 주인공을 명확히 유지합니다.]

특히 주목할 점:

• **장기 영상에서 주인공 일관성 98.7%** 달성 — 기존 방법보다 12.3% 향상
• **장면 간 시각적 일관성 95.2%** — 기존 기법 대비 15.8% 증가

🎯 왜 이것이 게임 체인저인가? :

**장면별 생성 → 기억 기반 재구성**

기존 방식은 “다음 장면을 자연스럽게 이어가라”는 목표로, 주인공의 과거 정보를 무시했지만, Memento는 “과거 기억을 기반으로 주인공을 재구성하라”는 접근으로 일관성을 근본적으로 바꿨습니다.

🚀 "정책 엔트로피 붕괴? 이 논문이 그걸 ‘스테이블’로 바꿔버렸다!"

STARE: Surprisal-Guided Token-Level Advantage Reweighting for Policy Entropy Stability

🏛️ 소속: Tencent Hunyuan (빅테크)

🏷️ 핵심 키워드: policy entropy, token-level advantage, surprisal, RL training stability, reward verification

💭 이런 질문을 해본 적 있나요?

• “LLM RL 학습 중 엔트로피가 갑자기 죽는 거… 왜 그럴까?”
• “DAPO보다 더 나은 성능을 내는 방법이 있다면, 그건 뭐야?”
• “엔트로피를 ‘제어’하는 게 아니라 ‘지속’하는 게 핵심이었나?”

기존에는 RL 학습 중 정책 엔트로피가 붕괴되며 학습이 망가지거나, 엔트로피를 강제로 유지하려는 과도한 조정이 필요했지만, 이 논문은 토큰 단위로 ‘놀라움( surprisal )’을 기반으로 엔트로피 붕괴를 예방하고, 정책의 탐색-이득 균형을 지속적으로 유지하는 새로운 메커니즘을 제안합니다.

특히 주목할 점:

• AIME24 및 AIME25에서 DAPO 등 경쟁 기법 대비 평균 정확도 4%~8% 향상
• 1.5B~32B 모델 크기, Short/Long CoT, Multi-Turn Tool Use 등 3가지 태스크에서 수천 스텝 동안 엔트로피가 목표 범위 내에서 안정적으로 유지

🎯 왜 이것이 게임 체인저인가? :

“엔트로피 붕괴를 방지하기 위해 전체 트랙에서 평균적으로 조정하던 방식” → “토큰 단위로 놀라움( surprisal )을 기반으로 엔트로피에 민감한 토큰만 선택적으로 가중하고, 목표 엔트로피에 따라 실시간으로 조정하는 클로즈드 루프 메커니즘”

🔥 “랭킹이 높아도 실전에서 쓸모없는 AI 에이전트? 이 논문이 그 답을 던진다.”

Beyond Static Leaderboards: Predictive Validity for the Evaluation of LLM Agents

🏛️ 소속: IBM (빅테크)

🏷️ 핵심 키워드: LLM Agents, Predictive Validity, Benchmark Evaluation, Out-of-Distribution, MCP-based

💭 이런 질문을 해본 적 있나요?

• “랭킹 1위 에이전트가 실제 업무에서 왜 실패하는 걸까?”
• “평가 기준이 높아지면 실전 성능이 따라오는 걸까?”
• “이제는 ‘점수’보다 ‘예측력’이 더 중요하다는 걸 알아야 하는가?”

[핵심 설명: 기존에는 에이전트 성능을 단순히 ‘합계 점수’로 랭킹했지만, 이 논문은 ‘예측 유효성’ — 즉, 테스트 내 랭킹과 실제 배포 환경에서의 랭킹 간 상관관계 — 에 기반한 평가 체계를 제안합니다. 이로써 ‘정적인 랭킹’이 아닌 ‘실전 적합도’를 측정하는 방식으로 전환됩니다.]

특히 주목할 점:

• 14개의 병렬 연구(다양한 모드, 인프라, 추론 전략 등)와 7개의 기존 에이전트 벤치마크를 통합해, **예측 유효성 기준으로 12단계의 측정 장치를 구축** — 이는 HELM과 같은 기존 벤치마크가 무시한 ‘배포 관련 차원’을 12단계로 분류해 폭넓게 평가.
• **기존 랭킹이 배포 환경에서 불안정한 현상**을 직접적으로 입증 — 최근 공개→숨겨진 경쟁 리트로스펙티브에서 **랭킹 불변성 30% 미만**이라는 수치를 제시하며, ‘점수 랭킹’의 신뢰도를 근본적으로 의심하게 만듭니다.

🎯 왜 이것이 게임 체인저인가? :

“기존 방식: 단순 평균 점수로 랭킹 → 새 방식: 테스트 내 랭킹과 실제 배포 랭킹의 상관관계(예측 유효성)로 랭킹”

🤖 "AGI가 나와도 ASI는 아직? — 그 다음 단계는 진짜로 ‘스스로 진화’할까?"

From AGI to ASI

🏛️ 소속: Google (빅테크)

🏷️ 핵심 키워드: AGI, ASI, superintelligence, AI evolution, paradigm shift

💭 이런 질문을 해본 적 있나요?

• AGI가 출현하면, 그 다음은 ‘ASI’가 자연스럽게 따라올까?
• AI가 스스로 더 똑똑해질 수 있나? 아니면 그냥 ‘스케일업’만으로 끝나는 건가?
• 우리가 지금 준비하는 건 ‘AGI’가 아니라, ‘ASI’를 위한 첫 걸음인가?

[핵심 설명: 기존에는 “AGI 도입이 사회에 단일 변혁을 일으킨다”는 전제가 있었는데, 이 논문은 “AI 진화는 단계적이고, 여러 분야에서 동시 진행될 수 있다”는 새로운 시각으로 뒤집었습니다.]

특히 주목할 점:

• 논문은 AGI에서 ASI로의 전환을 4가지 경로(스케일업, 패러다임 전환, 재귀적 개선, 다중 에이전트 집단)로 제시하며, 이 중 “스케일업”이 단일 단계로 작동하지 않을 수 있음을 강조.
• “AI 진화가 단일 단계의 혁명이 아니라, 여러 분야에서 동시적 돌파구를 통해 지속적으로 진화할 수 있다”는 전제를 뒷받침하는 기존 논문에서 드러나지 않은 “확률적 불확실성”을 체계적으로 언급.

🎯 왜 이것이 게임 체인저인가? :

“AGI 도입 → 사회적 혁명 단일 사건” → “ASI 진화 → 과학·기술 전역의 동시 돌파구와 지속적 진화”

🚀 “LLM은 이미지 생성에 쓸모없는 걸까? 아니, 오히려 핵심이 될 수 있다!”

RepFusion: Leveraging Multimodal Priors for Denoising in Representation Space

🏛️ 소속: AI at Meta (빅테크)

🏷️ 핵심 키워드: multimodal priors, representation space denoising, diffusion transformer, MLLM, latent space alignment

💭 이런 질문을 해본 적 있나요?

• “LLM은 텍스트만 다룰 수 있는 거 아닌가? 이미지 노이즈 제거에 쓸 만한가?”
• “새로운 디노이저를 만드는 게 비용이 심해… 기존 LLM을 재활용할 방법은 없을까?”
• “LLM이 이미지 표현 공간에서 노이즈 제거에 도움이 되는 걸까? 정말로?”

[핵심 설명: 기존에는 LLM이 텍스트 인코딩만 담당하고, 노이즈 제거는 별도의 생성 백본이 담당했지만, 이 논문은 LLM 자체를 노이즈 표현 인코더로 재사용해, 디노이저에 조건부 신호로 활용함.]

특히 주목할 점:

• **제어된 비교 실험에서, 같은 추론 예산 하에 기존 기반 모델 대비 1.8배 더 나은 성능**
• **LLM 조건부 신호를 반복 적용해, 테스트 시 컴퓨팅 자원을 효과적으로 재분배**

🎯 왜 이것이 게임 체인저인가? :

**기존 방식: LLM은 텍스트 인코딩만 → 새 방식: LLM이 노이즈 표현 인코더로 재사용**

🔥 “대규모 모델이 더 크면 더 빠르다? 아니, 이건 ‘더 작고 더 빠르게 똑같이 잘한다’는 진짜 혁신”

Nemotron 3 Ultra: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning

🏛️ 소속: NVIDIA (빅테크)

🏷️ 핵심 키워드: Mixture-of-Experts, Hybrid Mamba-Transformer, Agentic Reasoning, LatentMoE, Inference Throughput

💭 이런 질문을 해본 적 있나요?

• “대규모 모델이 더 빠르면 좋겠다”는 생각이 들었는데, 그게 가능한가?
• 100만 토큰짜리 대화를 처리해야 할 때, 정확도와 속도를 동시에 잡는 게 어렵다?
• “오픈소스”라고 해서 성능이 떨어지면 안 되지 않나?

[핵심 설명: 기존에는 대규모 모델이 정확도를 높이려면 속도가 떨어졌고, 속도를 높이려면 정확도가 떨어졌는데, 이 논문은 5500억 파라미터의 모델로 100만 토큰 컨텍스트 + 6배 빠른 추론 속도를 동시에 달성했습니다.]

특히 주목할 점:

• 5500억 파라미터 중 550억 파라미터가 활성화되어 있으며, 20조 토큰으로 사전 학습된 모델이 100만 토큰 컨텍스트 길이를 지원
• 추론 속도가 기존 최고 수준 공개 모델 대비 최대 6배 향상되며 정확도는 동일 수준 유지

🎯 왜 이것이 게임 체인저인가? :

“대규모 모델 = 느림, 정확도 = 떨어짐” → “5500억 파라미터의 하이브리드 모델 = 100만 토큰 + 6배 빠른 추론 + 동일 정확도”

🤖 "이제 AI도 ‘사람처럼’ 세상을 지켜보고 대화할 수 있다?!"

JoyAI-VL-Interaction: Real-Time Vision-Language Interaction Intelligence

🏛️ 소속: JD.com Open Source

🏷️ 핵심 키워드: Vision-Language Interaction, Real-Time Response, Autonomous Decision, Vision-Triggered, Deployable System

💭 이런 질문을 해본 적 있나요?

• “영상에서 불이 났는데 왜 AI가 말하지 않아?”
• “영상 콜 중에 상대가 웃는 걸 보고 AI가 반응하지 않아서 답답했어.”
• “라이브 방송에서 원하는 상품이 스쳐갔는데, AI가 그걸 알아차리지 못해.”

[핵심 설명: 기존에는 사용자 질문을 기다리는 ‘턴기반’ 대화형 모델이었는데, 이 논문은 ‘시각을 기반으로 자율적으로 판단하고 실시간으로 대응하는’ AI를 제안합니다.]

특히 주목할 점:

• 8B 스케일 모델이 1초 단위로 ‘침묵’, ‘응답’, ‘백그라운드 모델 위임’ 중 하나를 자율적으로 선택하며, 시각 자극에 대한 반응률이 92%로 높음.
• 6가지 실제 사용 사례에서, 사람 평가자들이 Doubao 및 Gemini의 내장 영상 콜 어시스턴트보다 JoyAI-VL-Interaction을 73% 더 선호.

🎯 왜 이것이 게임 체인저인가? :

“사용자 질문을 기다리는 턴기반 대화” → “시각 자극을 감지하고 자율적으로 대응하는 실시간 존재”