#모델 라우팅

'모델 라우팅' 태그가 붙은 기사 1편

태그 기사

'모델 라우팅' 태그가 붙은 기사를 최신순으로 보여 줍니다.

사무실 구석에 쌓인 소형 AI 서버 세 대와 선풍기, 창밖의 구름
AI 성능

로컬 LLM 역할 분담, Coder가 자동화 작업부터 옮긴 이유

Coder는 로컬 LLM을 사람의 chat이 아닌 자동화 bot 작업에 먼저 적용. doc-check bot 비용은 Claude Opus 월 $1,750에서 로컬 전환 뒤 $11 미만. gateway의 가상 모델 Solstice가 로컬 우선 처리, 혼잡하면 Claude Sonnet으로 전환. 실시간 개발자 chat은 여전히 클라우드 선호, 연 $500만 예산 대부분이 여기. 작은 모델로 옮길 때는 자동 benchmark보다 결과를 직접 채점하는 편이 빨랐다는 경험.

새 기사를 RSS와 팟캐스트로 받아보세요

RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.

구독 방법 보기