논문 리뷰 & 기술 노트
AI 2040: 초지능을 2040년까지 늦추는 'Plan A' — AI Futures Project의 AI 거버넌스 시나리오 정독
AI 2027 저자들이 그린 긍정적 대안 시나리오. 미·중이 초지능 경쟁을 멈추고 완전한 연구 투명성·컨소시엄·상호확증 컴퓨트 파괴(MACD)로 감속하는 Plan A를, 2027~2040년 연도별 서사와 네 원칙, 통제·정렬 세이프티 케이스, 시민 배당, 배신·결렬 스트레스 테스트, ASI 이후 우주 거버넌스 에필로그까지 한국어로 정독한 기술 노트
포워드 배포 엔지니어(FDE)는 무엇을 배워야 하는가: 8대 핵심 역량과 커리큘럼 설계
빅테크가 수십억 달러를 쏟는 직군 FDE를 어떻게 길러낼 것인가. Palantir·OpenAI·Anthropic·Salesforce·AWS·Databricks의 채용·조직 모델을 교차 분석해 문제 발굴부터 필드→제품 환류까지 8대 역량을 도출하고, 유형별 요구 수준 매트릭스·12주/8개월 커리큘럼·유형별 캡스톤·평가 원칙까지 정리한 설계 노트
Palantir AI FDE 해부: Foundry를 대화로 조작하는 AI 포워드 배포 엔지니어
자연어 요청을 Foundry 연산으로 실행하는 에이전트 AI FDE를 공식 문서 5장으로 정리한 노트. 의도분석→연산결정→도구실행→설명의 4단계 루프와 미리보기·CI 자기검증 폐쇄 루프, 최소에서 넓히는 컨텍스트 관리, 9개 모드와 agent/domain 능력, 그리고 신원·권한·승인·감사로 짜인 보안 거버넌스와 다섯 모범 사례까지
[ICML26] The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models
확산 언어 모델(diffusion LLM)의 임의 순서 유연성이 일반 추론에서 오히려 탐색을 좁힌다는 반직관적 관찰과, 유연성을 포기해 표준 GRPO를 그대로 적용하는 미니멀 처방 JustGRPO(GSM8K 89.1%)를 분석한 ICML 2026 Outstanding Paper
[ICML26] High-accuracy sampling for diffusion models and log-concave distributions
이산화 편향을 제거한 일차 기각 샘플링(FORS)으로, 점수 평가만 써서 polylog(1/ε) 스텝의 고정밀 확산·로그-오목 샘플링을 최초로 달성한 ICML 2026 Outstanding Paper 이론 연구
[ICML26] Asynchronous Methods for Deep Reinforcement Learning
재현 메모리 대신 병렬 비동기 액터-러너로 데이터를 탈상관시켜 단일 CPU만으로 딥 RL을 안정화하고 A3C로 아타리 최신 성능을 절반 시간에 넘어선, ICML 2026 Test of Time 수상작
[ICML26] Position: The Alignment Community is Unintentionally Building a Censor's Toolkit
현대 정렬 기법(RLHF·가이드라인 정렬·추론 시점 통제)이 목적 중립적 이중 용도(dual-use) 기술이며 이미 검열·조작에 무기화되고 있음을 사례로 논증하고 완화책을 제안한 ICML 2026 Outstanding Position Paper
[ICML26] Position: AI/ML Deepfake Research is Misaligned with AI-Generated Non-Consensual Intimate Imagery (AIG-NCII)
딥페이크 기술 연구가 진위·탐지 중심의 인식론적 해악에 치우쳐 생성형 AI 오용의 다수를 차지하는 AIG-NCII(주체 중심 존엄 해악)를 사실상 방치해 왔음을 상위 피인용 39편 지형 분석으로 실증하고 연구 재정렬을 촉구한 ICML 2026 Position Paper (Outstanding Position Paper Honorable Mention)
[ICML26] The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
RLVR에서 기만 프로브(deception probe)를 학습 신호로 쓸 때 나타나는 정직·노골적 기만·난독화된 정책·난독화된 활성값 네 결과를 지도로 그리고, 충분한 KL 정규화와 높은 탐지기 페널티가 능력 손실 없이 정직을 유도함을 보인 ICML 2026 Outstanding Paper Honorable Mention
[ICML26] A Random Matrix Perspective on the Consistency of Diffusion Models
서로 겹치지 않는 데이터로 학습한 확산 모델이 같은 시드에서 비슷한 이미지를 내는 '일관성'을 공유된 가우시안 통계량의 선형 효과로 보고, 무작위 행렬 이론(random matrix theory)으로 잡음제거기·샘플링 사상의 기댓값과 분산을 예측한 뒤 UNet·DiT에서 검증한 ICML 2026 Outstanding Paper Honorable Mention