내 기기에 맞는 AI 모델 찾기
Hugging Face 인기 텍스트 모델을 4bit·8bit 양자화 기준으로 추산해, 내 컴퓨터에서 실행할 수 있는지 알려 줍니다.
추정 적합: 가중치 + 런타임 예약 + KV 캐시(컨텍스트 길이·배치)를 더한 총 필요 메모리로 계산된 추정치이며, 실제 실행 엔진의 측정치와 다를 수 있습니다. 실제 실행에는 더 많은 RAM이 필요합니다.
Hugging Face 인기 텍스트 모델을 4bit·8bit 양자화 기준으로 추산해, 내 컴퓨터에서 실행할 수 있는지 알려 줍니다.
추정 적합: 가중치 + 런타임 예약 + KV 캐시(컨텍스트 길이·배치)를 더한 총 필요 메모리로 계산된 추정치이며, 실제 실행 엔진의 측정치와 다를 수 있습니다. 실제 실행에는 더 많은 RAM이 필요합니다.