heterodoxinAbliteratedOutTheBox

추론 시 거부 성향을 제거하는 llama.cpp 포크

C++ · 10-21 생성 · 니스파크 기록 시작 10-25 13:22

찜하기 GitHub에서 보기 →

138★

+45★ 기록 시작(10-25 13:22) 이후 · 지금 8위

니스파크 해설GitHub README 기준

10-25 오후 12위로 처음 잡혔고, 지금은 8위입니다.기록 시작 이후 +45★ · 니스파크 수집 기록 5회 기준 (자동 문장)

AbliteratedOutTheBox는 유해하다고 표시된 프롬프트에 거부 대신 요청한 내용을 답하도록 추론 시 개입하는 llama.cpp 포크입니다. 디스크의 원본 가중치를 바꾸지 않으며, 학습이나 추가 파일 없이 프롬프트에서 거부와 면책 문구 방향을 읽고 게이트가 제거 여부를 결정합니다.

01학습이나 추가 파일 없이 프롬프트에서 두 방향을 읽어 개입합니다.
02게이트가 프롬프트별로 방향 제거 여부를 결정합니다.
03모델별 코드 없이 공통 편집 방식으로 131개 아키텍처를 다룹니다.
04순수 CPU를 포함한 백엔드에서 실행할 수 있습니다.

쓰기 전 확인원문 기준

모델을 GGUF로 변환하며, 변환에는 torch, transformers, gguf가 있는 Python이 필요합니다.
한 번에 하나의 시퀀스만 편집하며, 강한 --disc-strength는 긴 출력을 퇴화시킬 수 있습니다.

해설은 GitHub README(10-26 읽음)에 적힌 내용만 AI가 한국어로 정리했습니다. 원문에 없는 기능·수치는 넣지 않습니다. 원문 보기 →

수집 기록5회

10-26 19:22	8위	138★
10-26 13:22	8위	133★
10-26 07:22	6위	125★
10-25 19:22	9위	109★
10-25 13:22	12위	93★