모델 · Hugging Face 트렌딩 점수
294
지금 10위
니스파크 해설Hugging Face 모델 카드 기준
DeepSeek-V4.1-Flash-1017에 GSQ와 RCO를 적용한 비균일 GGUF 양자화 모델 모음입니다. 전체 크기 예산 안에서 텐서별 민감도에 따라 양자화 유형을 배정하며, IQ1_M·IQ2_XXS·IQ2_XS의 세 가지 빌드를 제공합니다.
- 01GSQ는 각 텐서에 저비트 스칼라 양자화를 적용합니다.
- 02RCO는 크기 예산 안에서 텐서별 양자화 유형을 배정합니다.
- 03각 빌드는 백본 GGUF 조각 4개로 구성됩니다.
- 04모든 빌드는 동일한 Engram 파일을 공유합니다.
이런 분께
Strata를 사용해 로컬 추론을 실행하려는 사용자에게 쓸모 있는 모델 모음입니다.
쓰기 전 확인원문 기준
- llama.cpp는 아직 지원하지 않으며, Strata에서 지원합니다.
- Strata 실행에는 VRAM 12 GB의 단일 NVIDIA GPU를 사용합니다.
해설은 Hugging Face 모델 카드(10-26 읽음)에 적힌 내용만 AI가 한국어로 정리했습니다. 원문에 없는 기능·수치는 넣지 않습니다. 원문 보기 →
수집 기록1회
| 10-26 19:22 | 10위 | 294 |
관련 공식 소식최근 7일
최근 7일 공식 발표에서 이 이름을 찾지 못했습니다.