커밋 한 모금맥 스튜디오 M5 Max에서 Spark-X2.5-4B 로컬 llm 실측 결과
맥 스튜디오 M5 Max에서 가벼운 로컬 llm을 빠르게 구동하고 싶은 사용자에게 적합하지만, 한국어 사실성 검증은 필수입니다.
2026년 10월 23일, 맥 스튜디오 M5 Max(48GB) 환경에서 mlx-lm 0.32.0을 사용해 Spark-X2.5-4B-OptiQ-4bit를 측정했습니다. 짧은 입력 기준 답 쓰는 속도는 초당 142.9토큰으로, 사람이 읽는 속도(초당 약 5토큰)보다 훨씬 빠릅니다. 다만 한국어 객관식(KMMLU) 정답률이 16/50으로 낮아, 중요한 정보 확인 시 주의가 필요합니다.
이 맥에서 잰 숫자
| 모델 | Spark-X2.5-4B-OptiQ-4bit |
|---|---|
| 원본 저장소 | mlx-community/Spark-X2.5-4B-OptiQ-4bit |
| 가중치 용량(GB) | 3.1 |
| 라이선스 | 확인 안 됨 |
| 측정 기기 | 맥 스튜디오 M5 Max, 통합 메모리 48GB |
| 측정 도구 | mlx-lm 0.32.0 (MLX 0.32.3) |
| 측정일 | 2026-10-23 |
| 짧은 입력(512토큰) 답 쓰는 속도(토큰/초) | 142.9 |
| 짧은 입력 읽는 속도(토큰/초) | 5070 |
| 긴 입력(4096토큰) 답 쓰는 속도(토큰/초) | 137.9 |
| 긴 입력 읽는 속도(토큰/초) | 5346 |
| 최대 메모리 사용(GB) | 4.3 |
| 한국어 답변 점수(5점 만점) | 3 |
| 한국어 답변에 외국어 섞임 | 없음 |
| 한국어 객관식(KMMLU 50문항) 정답 | 16 / 50 |
| 도구 호출 정확도(10문항) | 6 / 10 |
| 파이썬 코딩(10문제, 테스트 전부 통과) | 7 / 10 |
| 형식 지시 따르기(10문항) | 9 / 10 |
| 긴 글 속 문장 찾기(약 16K토큰) | 찾음 (4.2초) |
| 긴 글 속 문장 찾기(약 32K토큰) | 찾음 (9.7초) |
| 한 번에 만든 튀는 공 애니메이션 | 움직임 |
답 쓰는 속도는 1초에 만들어 내는 토큰(글자 조각) 수입니다. 같은 모델도 기기·메모리·도구 버전에 따라 달라집니다.
한국어로 물어봤더니
질문: 맥에서 로컬 AI 모델을 처음 써 보려는 대학생에게, 장점 두 가지와 주의할 점 한 가지를 한국어로 짧게 알려 줘.
대학생님, 맥에서 로컬 AI 모델을 처음 쓰는 것은 매우 좋은 기회입니다. **장점** 1. **개인화된 응답:** 맥의 로컬 모델은 귀하의 데이터를 바탕으로 응답하므로, 학업이나 일상에서 더 맞는 조언을 얻을 수 있습니다. 2. **편의성과 손쉬움:** 학습용 앱이나 프로그램을 쉽게 연동하고, 필요한 정보를 빠르게 얻을 수 있어 업무 효율을 높일 수 있습니다. **주의할 점** **데이터 보안에 주의하세요.** 로컬 모델이 귀하의 개인정보나 학습 데이터를 처리하므로, 민감한 정보나 비공개 데이터를 입력할 때는 적절한 보안 설정을 확인하고, 익명 데이터를 사용하는 것이 좋습니다.
로컬 모델의 원리를 오해한 내용과 모순된 보안 조언이 포함되어 있어 사실성과 자연스러움이 떨어집니다.
한 번에 만든 튀는 공 애니메이션
"회전하는 육각형 안에서 공 8개가 튀는 HTML 을 한 파일로 만들어 줘"라는 요청에 처음 낸 답을 그대로 실행한 화면입니다.
이럴 때 맞아요
- 맥 스튜디오 M5 Max에서 로컬 llm 구동 테스트
- 가벼운 4bit 모델로 빠른 응답 속도 확인
- mlx-lm 환경에서의 기본 성능 벤치마크
이럴 때는 다른 모델을
- 정확한 한국어 사실성 및 논리 추론이 필요한 작업
- 고난도 코딩이나 복잡한 도구 호출이 필요한 개발 환경
자주 묻는 질문
맥 스튜디오 M5 Max에서 이 모델의 답 쓰는 속도는 얼마나 되나요?
짧은 입력(512토큰) 기준 초당 142.9토큰, 긴 입력(4096토큰) 기준 초당 137.9토큰으로 측정되었습니다.
맥북 llm 설치 시 필요한 메모리는 얼마나 되나요?
측정 결과 최대 메모리 사용량은 4.3GB로 확인되었습니다. 가중치 용량은 3.1GB입니다.
한국어 성능은 어떤가요?
5점 만점 기준 3점을 받았으며, 외국어 섞임은 없었지만 로컬 모델 원리 오해와 모순된 보안 조언이 있어 사실성이 떨어집니다.
코딩과 도구 호출 능력은 어느 정도인가요?
파이썬 코딩은 10문제 중 7문제, 도구 호출은 10문항 중 6문항을 정확히 수행했습니다.
측정 방법
맥 스튜디오 M5 Max, 통합 메모리 48GB에서 mlx-lm 0.32.0 (MLX 0.32.3)로 측정했습니다. 입력 512토큰·4096토큰 뒤 128토큰을 생성하는 시험을 여러 번 반복한 평균이고, 한국어 답변은 온도 0으로 한 번 생성한 원문 그대로입니다(생각 과정은 떼고 답만). 추가 시험(있는 경우)은 모두 코드로 채점합니다: 한국어 객관식은 KMMLU(HAERAE-HUB, CC BY-ND 4.0) 10개 분야 50문항, 도구 호출·파이썬 코딩·형식 지시는 각 10문항(코딩은 인터넷이 막힌 환경에서 숨겨진 테스트 실행), 긴 글 찾기는 약 1만6천·3만2천 토큰 글 속에 넣은 문장을 찾는지, 튀는 공은 한 번에 만든 HTML 이 실제로 움직이는지입니다. 생각 기능은 끄고 온도 0으로 실행했습니다. 가중치는 Hugging Face의 mlx-community/Spark-X2.5-4B-OptiQ-4bit를 썼습니다.
측정일 2026-10-23 · 커밋 한 모금