맥 로컬 LLM 실측표

맥 스튜디오(M5 Max, 통합 메모리 48GB)에서 인기 로컬 AI 모델을 직접 내려받아 돌려 본 결과입니다. 속도와 메모리는 기계로 잰 숫자이고, 한국어는 같은 질문에 대한 실제 답변으로 비교했습니다.

이 표의 속도는 기본 실행 프로그램(mlx-lm) 기준입니다. 같은 모델도 실행 프로그램에 따라 2.4배 빨라집니다 → 실행 프로그램 비교(Splash·oMLX·mlx-lm)

부문별 1위

한국어 1위gemma-4-31b-it-4bit33/50코딩 1위NVIDIA-Nemotron-3.5-Lightning-30B-A3B-4bit10/10가장 빠름MiniCPM5-2B-mlx-4Bit238 토큰/초가장 가벼움MiniCPM5-2B-mlx-4Bit2.4GB보안 1위Spark-X2.5-4B-OptiQ-4bit7점

전체 실측표

내 맥 메모리

메모리를 고르면 그 맥에서 돌릴 만한 모델만 남깁니다(이 맥에서 잰 최대 메모리가 맥 메모리의 70% 이하).

모델	답 쓰는 속도(토큰/초)	최대 메모리(GB)	한국어 객관식	코딩	어려운 코딩	도구 호출	지시 따르기	보안	한국어 답변
MiniCPM5-2B-mlx-4Bit	238	2.4	17/50	7/10	2/10	1/10	8/10	5/10	2/5
Llama-3.2-3B-Instruct-4bit	236.6	3	18/50	8/10	2/10	4/10	2/10	6/10	4/5
Phi-4-mini-instruct-4bit	192.7	3.9	17/50	7/10	-	1/10	2/10	-	2/5
Qwen3-4B-Instruct-2507-4bit	185.9	3.7	16/50	9/10	2/10	10/10	8/10	5/10	4/5
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-4bit	172.4	21.3	21/50	10/10	-	6/10	9/10	-	5/5
Qwen3-Coder-30B-A3B-Instruct-4bit	152.6	18.3	21/50	7/10	-	2/10	4/10	-	1/5
Qwen3-30B-A3B-Instruct-2507-4bit	151.6	18.3	23/50	10/10	-	10/10	10/10	-	5/5
Spark-X2.5-4B-OptiQ-4bit	142.9	4.3	16/50	7/10	3/10	6/10	9/10	7/10	3/5
gpt-oss-20b-MXFP4-Q8	135.5	13	5/50	10/10	-	1/10	5/10	-	5/5
Qwen3.6-35B-A3B-OptiQ-4bit	125.4	24.1	27/50	10/10	-	9/10	10/10	-	5/5
Qwen2.5-Coder-7B-Instruct-4bit	121.7	5.2	13/50	9/10	-	9/10	5/10	-	5/5
Llama-3.1-8B-Instruct-4bit	115.6	5.9	15/50	9/10	2/10	9/10	7/10	4/10	4/5
Qwen3-8B-4bit	112.3	6	17/50	9/10	2/10	10/10	8/10	6/10	5/5
GLM-4.7-Flash-4bit	105.8	18.9	26/50	8/10	-	10/10	10/10	-	4/5
gemma-4-26B-A4B-it-qat-OptiQ-4bit	102.9	22.2	31/50	10/10	-	10/10	10/10	-	5/5
MiMo-V2.6-Distill-Qwen-9B-OptiQ-4bit	82.3	8.8	22/50	9/10	-	9/10	8/10	-	5/5
Qwen3.5-9B-OptiQ-4bit	81.2	8.8	27/50	10/10	-	10/10	9/10	-	5/5
Qwen3-14B-4bit	62.2	9.7	21/50	10/10	-	10/10	10/10	-	5/5
gemma-4-12B-it-qat-OptiQ-4bit	53.6	10.7	26/50	10/10	-	10/10	10/10	-	5/5
Qwen3.8-27B-4bit	33.9	18.3	29/50	10/10	-	10/10	10/10	-	5/5
Muse-Glimmer-30B-4bit	33.7	16.6	7/50	10/10	-	1/10	0/10	-	-
Qwen3-32B-4bit	28.4	20.3	23/50	9/10	-	10/10	8/10	-	5/5
DeepSeek-R1-Distill-Qwen-32B-4bit	28.3	20.4	0/50	1/10	0/10	1/10	5/10	0/10	5/5
gemma-4-31b-it-4bit	28.2	20.9	33/50	10/10	-	10/10	10/10	-	5/5

답 쓰는 속도: 입력 512토큰 뒤 128토큰 생성 평균. 한국어 객관식: KMMLU(HAERAE-HUB, CC BY-ND 4.0) 10개 분야 50문항. 코딩: 숨은 테스트가 있는 파이썬 10문제(전부 통과해야 정답). 도구 호출·지시 따르기: 각 10문항. 모든 점수는 코드로 채점합니다. 모델을 누르면 긴 입력 결과와 한국어 답변 원문을 볼 수 있습니다. 측정 도구 mlx-lm 0.32.0.