요즘 오픈소스 모델들로 파인튜닝을 시작했는데, 자료마다 얘기가 다라서 헷갈려요. 어떤 곳은 데이터 양이 적어도 질이 좋으면 된다고 하고, 또 어떤 곳은 수만 개 이상은 있어야 효과가 있다고 하더라고요.
지금 제 상황은 도메인 특화 데이터가 2천 개 정도 있는데, 이 정도면 파인튜닝이 의미 있을까요? 아니면 그냥 프롬프트 엔지니어링으로만 해결하는 게 낫나 싶기도 하고요.
혹시 비슷한 규모로 해본 분 있으신가요? 어느 정도 개선 효과가 있었는지 궁금합니다.
추천 1