맞아요, 한국어 토크나이제이션 단계에서 이미 손실이 생기는 거라고 봅니다. 영어는 띄어쓰기 기준인데 한국어는 형태소 분석이 필요한데 모델들이 그걸 제대로 못하고 있더라고요.
실제로 제가 본 사례로는 GPT-4o 말고는 Claude 3.5도 한국어 조사 처리에서 가끔 실수하고, 오픈소스 모델들은 더 심한 편입니다. Llama 계열도 한국어 파인튜닝 버전들이 나왔지만 여전히 문맥 파악에서 부족하더라고요.
챗봇이면 차라리 한국 기업들이 공개한 모델들(SKT, NAVER 계열)을 살펴보거나, 아니면 GPT API를 기본으로 깔고 특정 부
실제로 제가 본 사례로는 GPT-4o 말고는 Claude 3.5도 한국어 조사 처리에서 가끔 실수하고, 오픈소스 모델들은 더 심한 편입니다. Llama 계열도 한국어 파인튜닝 버전들이 나왔지만 여전히 문맥 파악에서 부족하더라고요.
챗봇이면 차라리 한국 기업들이 공개한 모델들(SKT, NAVER 계열)을 살펴보거나, 아니면 GPT API를 기본으로 깔고 특정 부