급등 · GitHub Trending · 오늘 늘어난 별

FlashML-orgFreeToken

데이터센터급 모델 서빙을 데스크톱에서 로컬로 실행하는 도구

Python · 전체 15,347★ · 니스파크 기록 시작 11-02 07:22

찜하기 GitHub에서 보기 →

232★

오늘 늘어난 별 · 지금 10위

2TIER

쓸 이유가 분명 — 게이밍 PC로 초대형 AI 모델 로컬 실행

NVIDIA RTX 30·40·50 GPU가 있는 사용자가 앱을 내려받아 대형 MoE 모델을 PC에서 직접 돌릴 수 있지만, 해당 GPU가 없으면 쓰기 어렵습니다.

14 / 20점 · 화제 2 · 바로 4 · 쓸모 3 · 믿음 5

20점 해부판단기준 보기

화제성수집 기록

2/5

수집값 7일 최고 10위 · 1일 등장 · 오늘 늘어난 별 232

바로 쓰기README 근거

4/5

근거 Windows·Linux용 데스크톱 앱을 내려받아 GUI로 실행할 수 있지만, 게이밍 PC급 NVIDIA GPU가 필요해 한 단계 낮추지 않고 4로 봤습니다.원문: “Download FreeToken for Windows or Linux at [flashml.ai](https://www.flashml.ai/).”

쓸모README 근거

3/5

근거 유료 서비스를 대신한다는 언급은 없고, 대형 MoE 모델을 개인 PC에서 로컬로 돌리는 작업을 눈에 띄게 도와줍니다.원문: “Run 290B+ frontier MoE models locally on your gaming PC at blistering interactive speeds.”

믿을 만함GitHub 정보

5/5

수집값 최근 수정 10-30 · 라이선스 Apache-2.0 · 공개 104일째

②바로 쓰기·③쓸모는 README(11-02 읽음)에서 찾은 근거 구절로 AI가 매긴 점수입니다. ①·④는 수집 기록과 GitHub 정보로 계산합니다. 판정은 매주 다시 합니다.

니스파크 해설GitHub README 기준

FreeToken은 개인·소비자용 하드웨어에서 최신 규모의 오픈 웨이트 MoE(Mixture-of-Experts) 모델을 돌리기 위한 엣지 네이티브 서빙 엔진입니다. GPU, CPU, 호스트 메모리, 인터커넥트를 하나의 탄력적인 추론 플랫폼으로 다룹니다. 게이밍 PC에서 290B+ 규모 MoE 모델을 로컬로 실행하는 것을 내세웁니다.

01대역폭 적응형 CPU–GPU 협력 실행과 전체 레이어 이중 버퍼 프리필 스트리밍
02시맨틱 앵커 체크포인트로 에이전트 컨텍스트 수정 시 재계산 회피
03재시작·가중치 재로딩 없이 전문가 캐시와 KV 메모리 간 VRAM 재할당
04Anthropic/OpenAI 호환 API 지원, NVIDIA RTX 30·40·50 시리즈 지원

이런 분께

코딩·도구 호출 에이전트(Codex, Claude Code, OpenCode 등)와 연동해 대형 MoE 모델을 개인 PC에서 로컬로 돌리려는 사용자에게 쓸모 있습니다.

쓰기 전 확인원문 기준

라이선스는 Apache License 2.0입니다.
데스크톱 앱은 Windows와 Linux용으로 제공됩니다.

해설은 GitHub README(11-02 읽음)에 적힌 내용만 AI가 한국어로 정리했습니다. 원문에 없는 기능·수치는 넣지 않습니다. 원문 보기 →

수집 기록1회

11-02 07:22

10위

232★