LLM이랑 로컬 모델 뭐 쓸까 고민이네요

요즘 개인 프로젝트로 AI 챗봇 같은 거 만들어보려고 하는데, 로컬에서 돌릴지 API 쓸지 정해지지 않네요. 비용이랑 성능 면에서 조언 받고 싶어서 글 올립니다.

지금 고려 중인 게 클로드 API랑 로컬에 LLaMA 같은 오픈소스 모델 올리는 건데, 둘 다 장단점이 있는 것 같거든요. API는 비용이 나가겠지만 최신 모델을 쓸 수 있고 관리가 간단할 것 같은데, 로컬 모델은 초기에 셋팅이 복잡할 것 같으면서도 한번 올려놓으면 비용이 안 들지 않나 싶고요.

개인 프로젝트라 큰 트래픽 안 될 거고, 한국어 처리가 되면 좋겠습니다. 혹시 둘 다 써본 분 계신가요? 실제로 써보니 어느 쪽이 더 현실적이었나요. 특히 한국어 성능이 어떤 차이가 있는지 궁금합니다.

그리고 로컬 모델 쓸 거라면 어느 정도 사양의 PC가 필요한가요. 저는 RTX 4070 달린 노트북이 있는데 이 정도면 충분할까요. 좀 무거운 모델도 돌아갈까요.

여러분들의 경험담이랑 추천이 많은 도움이 될 것 같습니다. 감사합니다.