급등 · GitHub Trending · 오늘 늘어난 별

FareedKhan-devkimi-k3-in-c

단일 CPU에서 Kimi K3를 8.24GB RAM으로 추론하는 C99 구현

C · 전체 10,613★ · 니스파크 기록 시작 11-05 13:23

찜하기 GitHub에서 보기 →

351★

오늘 늘어난 별 · 지금 7위

4TIER

지켜볼 만함 — 8GB 노트북에서 2.78T 모델 구동

대형 모델을 작은 PC에서 돌려 보려는 개발자·연구자용이며, 1.56TB 체크포인트와 토큰당 수십 초의 속도가 걸림돌입니다.

9 / 20점 · 화제 2 · 바로 2 · 쓸모 2 · 믿음 3

20점 해부판단기준 보기

화제성수집 기록

2/5

수집값 7일 최고 7위 · 1일 등장 · 오늘 늘어난 별 351

바로 쓰기README 근거

2/5

근거 1.56TB 체크포인트와 C 빌드가 필요해 일반인이 오늘 바로 쓰기는 어렵습니다.원문: “A 2.78-trillion-parameter model. One CPU. 8 GB of RAM.”

쓸모README 근거

2/5

근거 토큰당 수십 초가 걸려 대형 모델 추론을 연구하는 개발자에게만 쓸모가 있습니다.원문: “a proof-of-life path for 8 GB-class machines, not an interactive-speed preset”

믿을 만함GitHub 정보

3/5

수집값 최근 30일 수정 없음 · 라이선스 Apache-2.0 · 공개 95일째

②바로 쓰기·③쓸모는 README(11-05 읽음)에서 찾은 근거 구절로 AI가 매긴 점수입니다. ①·④는 수집 기록과 GitHub 정보로 계산합니다. 판정은 매주 다시 합니다.

니스파크 해설GitHub README 기준

kimi-k3-in-c는 2.78조 파라미터 규모의 Kimi K3 모델을 이식 가능한 C99로 추론하는 엔진입니다. BLAS, 프레임워크, GPU 없이 CPU 한 대와 8 GB RAM에서 1.56 TB 체크포인트를 돌립니다. 메모리가 많을수록 속도만 빨라지고 출력은 같다고 설명합니다.

쓰기 전 확인원문 기준

8 GB급 ultra 프리셋은 대화형 속도가 아니라 동작 확인용 경로입니다.

해설은 GitHub README(11-05 읽음)에 적힌 내용만 AI가 한국어로 정리했습니다. 원문에 없는 기능·수치는 넣지 않습니다. 원문 보기 →

수집 기록2회

11-05 19:22	7위	351★
11-05 13:23	7위	351★