요즘 LLM을 회사 업무에 맞게 튜닝해보려고 공부 중인데, 자료마다 말이 좀 달라서 헷갈리네요. 어떤 곳에서는 최소 수백 개 정도면 된다고 하고, 어떤 곳에서는 수천 개는 있어야 의미 있는 결과가 나온다고 하고요.
저희 팀은 지금 특정 도메인 데이터(예시로 보험 상품 설명)를 모으고 있는데, 현실적으로 고품질 데이터를 그렇게 많이 확보하기가 쉽지 않거든요. 지금까지 200개 정도 모았는데, 이 정도면 fine-tuning을 시도해볼 만한 수준인지 궁금합니다.
혹시 데이터셋 크기 외에 다른 팩터들이 더 중요할 수도 있을까요? 예를 들어 데이터 품질이라든지, 모델 선택이라든지 말이에요. 처음에는 GPT-3.5를 쓰려고 했는데 비용 때문에 오픈소스 모델(Llama 같은)로 하는 게 나을까 싶기도 하고요.
혹시 비슷한 규모의 프로젝트를 해보신 분들이 계신다면 조언 부탁드립니다. 특히 200~300개 정도의 작은 데이터셋으로 의미 있는 결과를 얻으신 경험이 있으신 분이 있으면 정말 도움이 될 것 같아요.
추천 1