VRAM 16GB 그래픽카드 한 장으로 로컬 LLM(내 컴퓨터에서 직접 돌리는 언어 모델)을 쓰는 사람에게 Gyro-M은 Gyro-S보다 한 단계 큰 선택지입니다. Qwen3.8-Flash-Next-Gyro-M을 16GB 환경에 올려 속도, 기억, 추론, 코딩 과제를 차례로 시험한 결과, 추론과 기억 benchmark(성능을 비교하는 표준 시험) 점수와 외부 도구 연동의 안정성에서는 Gyro-M이 앞섰습니다. 반면 실제 코딩 결과물은 Gyro-S와 거의 비슷했습니다. 갈아탈지는 점수보다 자기 하드웨어와 작업 종류를 보고 정하는 편이 맞아 보입니다.
시험 환경: 16GB 그래픽카드와 RAM 64GB
시험에 쓴 파일은 Hugging Face에 공개된 Qwen3.8-Flash-Next-Gyro-M-TQ2_0.gguf입니다. TQ2_0 양자화(모델 용량을 줄여 담는 방식)를 적용한 9.2GB 파일이며, Strata라는 서빙 프레임워크로 로컬에서 실행했습니다.
- 운영체제와 CPU: Ubuntu Server 24.04.4, AMD Ryzen 5700X
- 추론용 그래픽카드: NVIDIA RTX 2000 Ada, VRAM 16GB
- 메모리: DDR4 3600MHz 64GB(16GB 4장)
- context window(모델이 한 번에 다룰 수 있는 입력 범위): 128k token(모델이 글을 처리하는 단위)
VRAM 32GB인 RTX 5090도 함께 달려 있지만 시험 자동화를 돕는 데만 쓰였습니다. RAM을 64GB로 늘린 이유는 Strata가 큰 모델을 메모리에 그대로 유지하고, context를 SSD로 내보내지 않게 하기 위해서입니다.
속도와 기억력: 128k를 채워도 놓치지 않았습니다
속도는 prefill(모델에 넣는 지시문인 prompt를 읽어 들이는 단계)과 decode(답을 token 단위로 생성하는 단계)로 나눠 쟀습니다.
| 측정 항목 | 조건 | 초당 token 수 |
|---|---|---|
| prefill, 캐시 없음 | prompt 512 token | 354.4 |
| prefill, 캐시 없음 | prompt 2k | 633.8 |
| prefill, 캐시 없음 | prompt 8k | 941.3 |
| prefill, 캐시 없음 | prompt 16k | 1,002.0 |
| prefill, 캐시 없음 | prompt 32k | 1,025.0 |
| prefill, 캐시 사용 | prompt 512 token | 2,645.2 |
| prefill, 캐시 사용 | prompt 32k | 96,123.8 |
| decode | 256 token 생성 | 54.9 |
| decode | 8k 생성 | 48.2 |
| decode | 최종 결과 요약 | 57.8 |
생성 속도는 길이가 달라져도 초당 48~58 token 범위에서 안정적으로 유지됐습니다. 이미 읽은 입력을 캐시에서 다시 쓰는 경우에는 prefill 속도가 크게 올라갑니다.
기억력은 Needle-in-a-Haystack(긴 문서 속에 숨긴 정보를 찾아내는 시험)으로 확인했습니다. 125,536 token 분량의 context에서 15회 시도를 모두 통과했고, 걸린 시간은 3분 48초입니다. 정보를 문서의 0%, 25%, 50%, 75%, 100% 위치에 숨긴 경우 모두 정확도 100%였습니다. 다만 75% 위치에서는 내부 추론이 눈에 띄게 길어져, 이 구간이 상대적으로 약한 지점으로 보입니다.
추론: 어려운 문제까지는 강하고 최고 난도는 절반
논리와 확률 문제 48개로 구성된 추론 시험에서는 41개를 맞혀 85.4%를 기록했습니다. 평균 응답 지연은 3,889ms, 전체 소요 시간은 3분 6초입니다.
| 난도 | 통과 | 통과율 |
|---|---|---|
| Easy | 12개 중 12개 | 100% |
| Medium | 12개 중 12개 | 100% |
| Hard | 12개 중 11개 | 91.7% |
| Expert | 12개 중 6개 | 50.0% |
Expert 50%는 준수한 수준이지만, 최상위 상용 모델과 견주면 두드러지는 점수는 아니라고 볼 수 있습니다.
HumanEval Remix: 100문제 중 99개
Python 코딩 과제 100개로 구성된 HumanEval Remix에서는 99개를 첫 시도에 통과했습니다. 모든 문제에 답을 냈고, 전체 소요 시간은 18분 30초, 평균 응답 지연은 11,101ms입니다. 한 문제만 놓친 결과는 인상적이지만, 이 benchmark가 최상위 로컬 모델에게는 너무 쉬워졌다는 뜻이기도 합니다. 다음 세대 모델을 가리려면 난도를 높여야 할 것으로 보입니다.

▲ 100문제 중 99개 통과
실제 과제 6종: Gyro-S와 나란히 놓고 보기
실전 과제에서는 통과 여부와 함께 세 가지를 봤습니다. compaction(context가 차면 앞선 내용을 요약해 줄이는 처리) 횟수, context window 사용률, 사람이 추가로 넣은 prompt 수입니다. Gyro-M은 여섯 과제를 모두 통과했습니다.
| 과제 | Gyro-M | Gyro-S |
|---|---|---|
| Event Seating Planner | compaction 0회, context 57.5%, 추가 prompt 없음 | compaction 2회, context 42%, 같은 테이블 안 좌석 이동 미지원 |
| Sand Physics 2.0 | compaction 1회, context 62.3% | compaction 0회, context 84%, 추가 prompt 1회 |
| Dungeon Crawler 2.0 | compaction 2회, context 59%, 추가 prompt 없음 | compaction 2회, context 81% |
| Blender MCP 랜턴 | compaction 2회, context 53.5%, 추가 prompt 없음 | compaction 1회, context 49%, Blender 반복 충돌 |
| Godot 3D 플랫포머 | compaction 6회, context 55.8%, 수정 prompt 1회 | compaction 5회, context 81% |
| 어촌 디오라마 | compaction 3회, context 71.7% | 비교 수치 없음 |
웹 앱: 행사 좌석 배치 도구
Event Seating Planner는 행사 손님을 테이블에 배치하는 웹 앱입니다. Gyro-M이 만든 결과물은 테이블을 끌어서 옮길 수 있고, 손님을 같은 테이블의 다른 좌석이나 다른 테이블로 옮길 수 있습니다. 알림 토스트, 사이드바 정보 창, 가족·친구·VIP·스태프·어린이·접근성 유형별 필터, 손님 검색, 다크·라이트 테마 전환도 갖췄습니다. npm 테스트 49개가 모두 통과했고, 131k 가운데 약 75.6k token을 쓰면서 compaction 없이 끝냈습니다. Gyro-S는 같은 테이블 안에서 손님을 옮기는 기능을 구현하지 못했기 때문에, 이 과제는 Gyro-M의 뚜렷한 우세입니다.
브라우저 시뮬레이션과 게임
Sand Physics 2.0은 브라우저에서 도는 입자 시뮬레이션입니다. 모래가 쌓이고, 물이 흐르고, 기름이 물 위에 뜨고, 벽이 흐름을 막습니다. 불을 붙이면 떠 있던 기름층이 타고, 용암을 부으면 물이 끓어 증기로 올라갑니다. Gyro-M은 131k 중 82.1k token을 쓰며 compaction 한 번으로 완성했습니다. Gyro-S는 compaction 없이 끝냈지만 테스트가 시간 초과로 멈춰 사람이 prompt를 한 번 더 넣어야 했습니다. 두 모델은 이 과제에서 사실상 비긴 셈입니다.
Dungeon Crawler 2.0은 위에서 내려다보는 2D 던전 게임입니다. 실시간 raycasting(광선을 쏘아 시야와 그림자를 계산하는 기법), fog of war(가 보지 않은 곳을 가리는 처리), 미니맵이 들어갑니다. 체력이 줄면 시야를 밝히는 반경이 줄어들고, 횃불을 찾아가면 빛이 회복됩니다. 방에 숨은 열쇠를 주워 잠긴 문을 열면 탈출입니다. Gyro-M은 이를 1,679줄짜리 단일 HTML·JavaScript 파일로 완성했습니다. 두 모델의 게임은 겉모습과 기능이 사실상 같았지만, Gyro-M은 context를 59%만 써서 81%를 쓴 Gyro-S보다 여유가 있었습니다.

▲ 여섯 가지 실전 코딩 과제
MCP 연동: Blender와 Godot
MCP(AI 모델이 외부 도구를 호출하도록 연결하는 규격)로 Blender를 조작하는 과제에서는 두 모델의 안정성 차이가 드러났습니다. Gyro-M은 Starfall이라는 판타지풍 랜턴의 모델링, 재질, 조명, 카메라 배치, 여러 각도의 스크린샷 촬영까지 추가 prompt 없이 마쳤습니다. 결과물은 황금색 프레임, 청록빛 유리, 중앙의 발광체, 떠 있는 분홍색 크리스털을 갖췄습니다. Gyro-S도 유효한 모델을 만들었지만 자동 스크린샷 단계에서 Blender가 반복해서 충돌했습니다. 같은 도구 호출을 Gyro-M은 충돌 없이 실행했으므로, 도구 호출 순서와 스크립트 실행을 더 안정적으로 다룬다고 볼 수 있습니다. 랜턴의 비율과 재질 표현도 Gyro-M 쪽이 나아 보이지만, 이는 취향이 갈릴 수 있는 부분입니다.
Godot 4.1로 3D 플랫포머를 만드는 과제는 여섯 개 중 가장 까다롭습니다. 움직이는 발판, 공중에 뜬 열쇠, 떨어지면 다시 시작하는 구덩이, 체크포인트, 목표 지점이 모두 필요합니다. Gyro-M의 게임은 열쇠 개수 표시, 리스폰, 체크포인트 저장, 목표 도달 처리가 모두 정상 동작했습니다. 사람이 개입한 것은 한 번뿐입니다. 처음에는 마우스로 시점을 돌릴 수 없었고, 가만히 서 있어도 머리 흔들림이 과하게 나타났습니다. Gyro-M은 두 문제를 바로 고쳤습니다. 머리 흔들림은 흔들림 값에 low-pass filter(급격한 변화를 걸러 내는 필터)를 적용하고 속도에 따른 주기를 제한하는 방식으로 잡았습니다. 겹친 면이 깜빡이는 Z-fighting 현상은 조금 남았습니다. Gyro-S도 요구 사항을 모두 채운 게임을 만들었지만 context를 81% 썼습니다.
자유 과제: 어촌 디오라마
마지막은 Three.js로 해안 어촌 디오라마를 자유롭게 만드는 실험적 과제입니다. 색색의 집, 나무 부두, 작은 어선, 물결 표현, 원을 그리며 나는 갈매기가 중간 개입 없이 만들어졌습니다. 다만 지붕 형상이 다소 어긋나 있어, 제약이 없는 건축물 설계가 여전히 어려운 일임을 보여 줍니다.
정리: 갈아탈지 판단하는 기준
Gyro-M의 우위는 세 군데에서 확인됩니다. 추론과 기억 benchmark 점수가 높고, Blender MCP처럼 외부 도구를 연달아 호출하는 작업에서 더 안정적이며, Dungeon Crawler 2.0과 Godot 과제에서는 context 사용률이 더 낮았습니다. 반대로 좌석 배치 앱과 Blender 과제에서는 Gyro-S의 context 사용률이 더 낮았고, 대부분의 과제에서 최종 결과물은 서로 비슷했습니다. VRAM이나 연산 자원이 모자라 Gyro-M을 올리기 어렵다면 무리해서 하드웨어를 바꿀 필요 없이 Gyro-S를 써도 일반적인 개발 작업에는 충분해 보입니다.
직접 해 볼 일은 다음과 같습니다.
- 16GB 그래픽카드에서 Gyro-M을 쓰려면 9.2GB인 TQ2_0 파일을 고릅니다.
- 긴 context 작업이 많다면 RAM을 64GB로 맞춰 context가 SSD로 밀려나지 않게 합니다.
- 모델에게 자동 테스트를 돌리게 할 때는 prompt에 시간 제한을 명시해 테스트가 무한정 멈추는 일을 막습니다.
- Blender 같은 도구를 MCP로 연결할 때는 시간 초과나 충돌이 났을 때 멈추지 않고 복구 가능한 오류를 돌려주도록 설정합니다.
- 추론 점수만 보지 말고 자신이 실제로 하는 작업으로 두 모델을 나란히 돌려 비교합니다.
더 큰 Gyro-L은 이 하드웨어에서 돌릴 수 있을지 아직 확인되지 않았습니다.


