먼저 읽고 그다음 답을 쓴다

속도를 비교하기 전에 AI가 하는 일을 둘로 나눠 보면 쉽다. 질문과 문서를 읽는 단계가 Prefill, 답변을 써 내려가는 단계가 Decode다.

Prefill은 질문·문서를 읽고 Decode는 답변을 생성하는 단계 비교
Prefill과 Decode는 서로 다른 처리 단계다.

t/s는 초당 처리 토큰 수다. 토큰은 모델이 글을 나눠 처리하는 단위이며 한글 한 글자와 정확히 같지는 않다.

화면에서 확인한 처리 속도
확인한 항목WindowsMac
Decode 평균 · 답변 생성122.7 t/s97.6 t/s
Prefill Last request · 최근 요청 입력 처리264 t/s78 t/s

두 행은 집계 기준도 다르다. Decode는 평균값이고 Prefill은 최근 요청에 표시된 값이다.

답변을 쓰는 평균 속도는 Windows가 높았다

평균 Decode 속도: Windows 122.7 t/s, Mac 97.6 t/s
답변 생성 처리량의 화면 표시값. OS만의 성능 비교는 아니다.

Mac의 97.6을 기준으로 계산하면 Windows의 122.7은 약 25.7% 높다. 이 값은 답변을 생성하는 처리량의 차이다.

다만 내가 채팅하면서 느낀 속도 차이는 수치 차이만큼 크지 않았다. 채팅 속도에 관한 체감일 뿐 답변 품질이 같다는 평가는 아니다.

최근 요청에서 입력을 읽는 속도

최근 요청 Prefill 속도: Windows 264 t/s, Mac 78 t/s
Prefill Last request는 최근 요청 값이며 평균값이 아니다.

Prefill Last request는 Windows 264 t/s, Mac 78 t/s였다. 이번 요청에서 확인한 표시값이고 평균값은 아니다.

입력 길이와 캐시 상태에 따라 Prefill은 달라질 수 있다. 그래서 이 숫자를 긴 문서 처리의 평균 성능으로 보기는 어렵다. 첫 응답까지 몇 초가 걸렸는지도 이 수치만으로는 알 수 없다.

실행 환경도 함께 봐야 한다

두 About 화면의 모델명은 qwen3.8-flash-next-iq3_s로 같았다. 아래 사진은 속도 측정 화면이 아니라 당시 장비와 설정을 기록한 화면이다.

Windows 실행 화면

Strata Windows About 화면: 엔진 v0.1.41, RTX 5090 32GB, RAM 96GB
Windows 실행 당시의 장비·설정 기록.

Mac 실행 화면

Strata Mac About 화면: 엔진 v0.1.44.1-metal, RAM 128GB, GPU not readable (NVML) 표시
Mac 실행 당시의 장비·설정 기록. 정확한 칩명은 화면에서 확인되지 않았다.
두 기기의 About 화면에 표시된 실행 환경
항목WindowsMac
엔진 버전v0.1.41v0.1.44.1-metal
CPU 화면 표시Ryzen AI MAX+ 395, 32스레드ARM, 18스레드
GPU 화면 표시NVIDIA GeForce RTX 5090, 32GBnot readable (NVML)
RAM96GB128GB
설정된 컨텍스트131,072토큰65,536토큰
KV 캐시8-bit, 일부 VRAM·나머지 RAM16-bit, all in VRAM 표시
MTP 초안 상한최대 3토큰최대 1토큰
이미지 입력 설정켜짐꺼짐

컨텍스트는 한 번에 다루도록 설정한 텍스트 범위다. 표의 숫자는 이번 설정값이며 각 OS의 최대 지원치가 아니다. MTP도 다음 토큰을 미리 예측해 검사하는 기능의 설정이며 초안 상한을 초당 속도로 읽으면 안 된다.

하드웨어뿐 아니라 엔진 버전과 캐시·실행 옵션도 달랐다. 이번 결과에서 OS만의 영향을 따로 분리할 수는 없다.

Mac 화면에서 주의할 부분

GPU 항목의 not readable (NVML)만으로는 GPU 미사용이라고 볼 수 없다. 저장소의 Mac 문서는 Apple Silicon에서 Metal 엔진을 사용하는 경로를 안내한다.

Experts in VRAM의 82개·0.2GB 역시 모델 전체 메모리 사용량과는 다른 값이다. Mac의 통합 메모리와 특정 캐시 항목의 표시는 Windows의 전용 VRAM 점유량과 단순 비교하기 어렵다.

이미지 입력은 이번 Mac 실행에서 off였다. 공식 Mac 문서에는 켜는 옵션도 있으므로 Mac이 이미지 입력을 지원하지 않는다는 뜻은 아니다.

정리하면

내가 사용한 두 구성에서는 Windows의 평균 답변 생성 속도가 더 높았지만 채팅 체감 차이는 크지 않았다. Prefill은 최근 요청 값이라 평균과는 집계 기준이 다르다.

이 글은 서로 다른 장비·엔진·설정에서 사용한 기록이다. 더 엄밀한 비교에는 같은 질문과 출력 길이, 캐시 조건을 맞춘 반복 측정이 필요하다.

자주 묻는 질문

Strata는 Windows가 Mac보다 빠른가?

이 글의 두 구성에서는 Decode 평균 표시값이 Windows 122.7 t/s, Mac 97.6 t/s였다. 장비·엔진·컨텍스트·KV 캐시·MTP 조건이 달라 Windows가 항상 빠르다는 결론은 아니다.

Prefill 수치로 첫 응답 시간을 알 수 있나?

아니다. Prefill Last request 264 t/s와 78 t/s는 최근 요청의 입력 처리량이다. 입력 길이·캐시 조건과 실제 첫 토큰까지 걸린 시간을 함께 측정해야 한다.

Mac의 not readable (NVML)은 GPU 미사용을 뜻하나?

그 표시만으로 GPU 미사용을 판단할 수 없다. Strata의 Mac 실행 문서는 Apple Silicon의 Metal 경로를 안내한다. 이 글에 기록한 Mac의 정확한 칩명은 화면에서 확인되지 않았다.

작성: 얼라이엑스(Allaix). 2026. 10. 28. 제목·요약·질문별 설명을 보완했다. 새로운 성능 측정을 추가한 것은 아니다.

자료와 참고 문서

자료: 채팅 테스트에서 확인한 속도와 About 화면. Mac의 정확한 칩명은 화면에서 확인되지 않았다.

참고 문서:

• Strata 저장소

• Mac 실행 안내

• 세부 동작과 지표