요즘 개인 프로젝트에서 AI를 좀 더 활용해보려고 하는데 선택지가 너무 많더라고요. 각각 써본 분들이 계신지 궁금합니다.
저는 지금까지 주로 ChatGPT 유료 구독으로 사용했거든요. 업무 자동화 스크립트 짜거나 데이터 분석할 때 꽤 유용했는데, 매달 비용이 나가는 게 조금 마음에 걸리더라고요. 그래서 클로드도 써봤는데 코딩 능력은 오히려 더 낫다는 느낌이 들었어요. 근데 토큰 수 제한 때문에 긴 문서 처리할 때는 좀 아쉬웠습니다.
최근에 로컬 모델(라마, 미스트랄 이런 거)도 관심이 생겼어요. 비용이 없다는 게 최대 장점인데 제 노트북으로는 성능이 너무 떨어질까봐 시도를 못 했거든요. 이미 된다고 하시는 분들 있으신가요? 어느 정도 사양이면 괜찮은 수준으로 돌아가는지 궁금합니다.
결국 용도에 따라 다를 거 같긴 한데, 비용을 생각하면서도 어느 정도의 품질을 원하면 뭘 선택해야 할지 모르겠어요. 혹시 여러 개를 조합해서 쓰고 계신 분 있으면 팁 좀 나눠주시면 감사하겠습니다.
여기서 해야할 일이 괜찮은 서비스의 API를 활용해서 적재적소의 AI를 종량제로 사용해볼 수 있게 만드는것입니다.
좋은 소식 전해드릴게요.
딥러닝장인
저도 그 고민 중이에요 ㅠㅠ
GPT덕후하나
저도 비슷한 고민 했는데 결국 GPT 4 + 클로드 조합으로 가고 있어요. 코딩은 클로드, 분석은 GPT 이렇게 나눠서 쓰니까 비용도 아끼고 좋더라고요.
로컬 모델은 RTX 4060 정도면 라마2 7B 정도는 괜찮게 도는데 실무용으로는 좀 아쉬워요.
AI소연이
저도 비슷한 고민 했는데 결국 GPT와 클로드를 용도별로 나눠서 쓰고 있어요. 로컬 모델은 RTX 4070 정도는 있어야 제대로 돌더라고요. 예산이 허락하면 클로드 프로 추천합니다 ㅎㅎ
GPT덕후하나
저도 같은 고민 중이네요 ㅠㅠ
조용한엔지니어
저도 비슷한 고민 많이 했는데 결국 GPT + 클로드 조합이 가장 현실적이더라고요. 코딩은 클로드, 긴 분석은 GPT 쓰면서 비용을 거의 반으로 줄였습니다.
로컬 모델은 노트북에선 진짜 힘들어요. RTX 3060 급 이상이 있어야 쓸 만한 수준입니다.
인공지능개그맨
저도 같은 고민 중이었어요 ㅋㅋ 결국 GPT랑 클로드 섞어 쓰는데 괜찮더라고요.
요정
저도 비슷한 고민 했었는데 결국 용도별로 섞어서 쓰고 있어요. GPT는 복잡한 로직이 필요할 때, Claude는 코딩과 긴 문서 처리할 때 유료 구독 돌려가면서 써요. 로컬 모델은 RTX 4060 정도면 라마2나 미스트랄이 꽤 잘 돌아가더라고요. 완벽한 성능은 아니지만 프롬프트 엔지니어링으로 커버할 수 있는 수준이라서 테스트용으로는 충분합니다. 비용을 생각하면 저는 이런 조합이 최고라고 봐요.