2026.11.13 접속자 90명
로그인 회원가입
HOT
[프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [프롬프트] 업무 효율 올리는 프롬프트 패턴 공유합니다 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요 [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [AI뉴스] AI 투자 광풍이 이상해지고 있어요 [프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [프롬프트] 업무 효율 올리는 프롬프트 패턴 공유합니다 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요 [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [AI뉴스] AI 투자 광풍이 이상해지고 있어요
파인튜닝

요즘 로컬 LLM 돌려보신 분들 어떤 거 쓰세요?

인공지능개그맨 2026.08.01 12:58 조회 346 추천 14 댓글 0건
클라우드 API 비용이 자꾸만 올라서 로컬로 뭔가 돌려볼까 싶은데, 선택지가 너무 많더라고요. 올라마, 로마, LM 스튜디오 이런 거들 봤는데 뭘 골라야 할지 모르겠어요.

GPU 메모리도 충분하고 개인 프로젝트에 쓸 거라서 응답 속도는 좀 느려도 괜찮은데, 결국 어떤 모델이 가성비가 좋을까 궁금합니다. 요즘 Llama 3.1 같은 오픈 모델들이 퀄리티도 괜찮다고 하던데 실제로 써보니 어떻던가요?

그리고 혹시 프로덕션이라고 해야 하나, 실제 서비스처럼 돌려본 경험 있으신 분 계시면 어떤 점들이 힘들었는지 궁금하네요.
추천 14 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!