ICML 2026이 끝났는데 강화학습, 생성형 AI 관련 우수 논문들이 많이 나왔더라고요. 뉴스랩 블로그를 보니까 올해 하반기 연구 흐름이 좀 다르다는 느낌이 들었어요.
최근 발표된 영향력 큰 논문들을 보면 옵티마이저, 데이터, 모델 증류, 그리고 강화학습이 주요 흐름이더라고요. 특히 재밌었던 건 데이터 관점의 논문들이었는데, 웹에서 수집한 AI가 생성한 텍스트가 학습 데이터로 얼마나 가치 있는지를 정량화한 연구가 나왔어요. 말 그대로 AI 학습시킬 때 AI가 쓴 글이 얼마나 방해가 되는지 보여준 거네요.
모델 증류 쪽에서는 학생 모델의 성능 향상이 선생 모델과의 KL 거리에 선형으로 오른다는 논문도 나왔어요. 크기 작은 모델들도 잘 만들 수 있다는 증거가 좀 더 명확해진 느낌이에요. 또 강화학습이 정직함을 학습하는지, 정렬 기술의 오용 가능성 같은 윤리적인 관점의 논문들도 학회에서 인정받았대요.
원래 이런 기술 발전만 있다가 이제는 책임성이나 보안 관점의 논문도 수상하는 쪽으로 분위기가 바뀌는 것 같아요. 연구도 필요하지만 그걸 어떻게 쓸지에 대한 고민들이 학계에 까지 퍼져나가는 느낌이네요. 혹시 최신 논문 봤던 분들 있으면 어떤 거 재밌었는지 댓글로 공유해주세요.