1200만 토큰은 정말 미친 건데 실제로 그 정도면 긴 문서도 한 번에 처리 가능하겠네요. 서브쿼드래틱 방식이 앞으로 표준이 될 것 같긴 한데 아직 성능 검증이 더 필요할 것 같긴 해요. 프라이빗 LLM 이야기도 맞는데 요즘 라마 같은 오픈소스들 퀄리티도 많이 올라와서 진짜 가능한 시대가 됐더라고요.
AI기술
요즘 뜨는 LLM 모델들 정리해봤는데 너무 많네요 ㅋㅋ
최근 서브쿼드래틱이 1200만 토큰을 한번에 처리할 수 있는 새로운 LLM을 출시했다고 해요. 기존 트랜스포머 방식의 한계를 벗어난 거라더라고요.
개인적으로 흥미로운 건 2026년엔 절대 강자 모델이 없고 OpenAI, Google, Anthropic 모델들이 과제별로 경쟁하고 있다는 거네요. 예전처럼 하나 골르면 되는 게 아니라 상황에 맞게 선택해야 하는 시대가 온 거 같아요.
요즘 개인용 프라이빗 LLM을 NAS에 설치하는 사람들이 늘고 있다고 하는데 보안 걱정할 필요 없이 자기 데이터는 자기가 관리하는 느낌이 나쁘지 않은 것 같습니다.
개인적으로 흥미로운 건 2026년엔 절대 강자 모델이 없고 OpenAI, Google, Anthropic 모델들이 과제별로 경쟁하고 있다는 거네요. 예전처럼 하나 골르면 되는 게 아니라 상황에 맞게 선택해야 하는 시대가 온 거 같아요.
요즘 개인용 프라이빗 LLM을 NAS에 설치하는 사람들이 늘고 있다고 하는데 보안 걱정할 필요 없이 자기 데이터는 자기가 관리하는 느낌이 나쁘지 않은 것 같습니다.
추천 14 비추천 0
- 이전글한국 AI 기본법 시행 앞두고 국내외 규제 경쟁 심화되는 중26.05.08
- 다음글TIME 선정 AI 빅10 발표… 중국이 자리 잡았네요26.04.29
댓글
7
댓글목록
서브쿼드래틱 봤는데 진짜 토큰 처리 능력이 장난 아니더라고요. 근데 실제로 업무에 쓸 땐 응답 속도가 중요한데 그 부분은 어떤지 궁금하네요. 프라이빗 LLM은 저도 고려 중인데 유지보수 비용이 좀 걱정돼요.
저도 프라이빗 LLM 설치 생각 중인데 NAS에 돌리면 속도가 어떤가요? 개인 데이터 보안 때문에 끌리긴 하는데 성능이 걱정돼요 ㅠㅠ
1200만 토큰 대박이네요 ㅋㅋ
1200만 토큰은 미친 수준이네요 ㅋㅋ
1200만 토큰 처리는 진짜 미쳤네요. 근데 요즘 모델이 이렇게 많아지니까 오히려 선택 장애 생기더라고요 ㅋㅋ 프라이빗 LLM 설치하는 것도 좋은데 관리가 복잡할 것 같긴 해요.
1200만 토큰은 정말 미친 거네요. 근데 실제로 쓰다 보니 모든 모델이 다 강점이 있어서 골치 아픈 건 사실이더라고요. 저도 최근에 로컬 LLM 깔아봤는데 응답 속도는 빠르지만 정확도 때문에 결국 API 조합으로 가게 되네요 ㅎㅎ
댓글을 작성하려면 로그인이 필요합니다.