구글이 역대급으로 똑똑한 오픈소스 모델인 젬마 4를 공개했다더라고요. 가장 놀라운 건 성능인데 자기보다 20배나 덩치가 큰 모델들까지 가볍게 눌렀다고 합니다. 더 좋은 건 상업적 목적으로도 쓸 수 있게 허용했고 제약 없이 자신만의 특별한 서비스를 만들 수 있다는 거네요.
한편 알리바바도 최근에 좋은 모델을 내놨는데 약 30억개의 매개변수만 연산에 사용하는 희소 전문가 혼합(MoE) 구조를 적용한 오픈소스 AI 모델을 출시했다고 해요. 압도적인 효율성이 가장 큰 특징으로, 전체 매개변수 규모는 대형 모델 수준이지만 실제 계산에 사용되는 매개변수는 일부에 불과하다는 거예요 ㅋㅋ
결국 요즘 오픈소스 진영이 이렇게 강해지니까 개인 개발자도 고성능 AI를 충분히 활용할 수 있는 시대가 온 거 같아요. 비용 부담도 훨씬 덜하고 자유도도 높으니까요.