#ByteShape

'ByteShape' 태그가 붙은 기사 1편

태그 기사

'ByteShape' 태그가 붙은 기사를 최신순으로 보여 줍니다.

작은 GPU 한 장과 코드 창이 떠 있는 모니터가 놓인 책상
AI 성능

16GB VRAM에서 128k context, 3비트 Qwen 27B 실측 결과

3비트 양자화 Qwen 27B, 16GB VRAM GPU에서 128k context 구동. 생성 속도 초당 약 31 token, 256k token 기억력 시험 15회 모두 통과. 추론 benchmark 83%, HumanEval Remix 77%, agent 과제 5개 중 4개 통과. Godot 3D 게임 과제는 생각 반복에 빠져 7번 compaction 뒤 실패. 긴 코드 생성 시 system prompt에 출력 token 제한을 명시해야 잘림 방지.

새 기사를 RSS와 팟캐스트로 받아보세요

RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.

구독 방법 보기