데이터셋 · Hugging Face 트렌딩 점수
32
지금 10위
니스파크 해설Hugging Face 데이터셋 카드 기준
Anthropic/hh-rlhf는 도움과 무해성에 관한 인간 선호 데이터와 사람이 생성하고 주석을 단 레드 팀 대화로 구성된 데이터셋입니다. 선호 데이터는 후속 RLHF 학습을 위한 선호·보상 모델 학습용이며, 레드 팀 대화는 공격 방식과 성공 여부를 이해하기 위한 자료입니다.
- 01선호 데이터는 jsonl 각 줄에 chosen과 rejected 텍스트 쌍을 담습니다.
- 02도움에 관한 선호 데이터는 세 묶음의 train/test 분할로 구성됩니다.
- 03레드 팀 대화에는 전체 대화의 유해성에 관한 사람과 자동 측정값이 붙습니다.
- 04하위 데이터셋은 load_dataset()의 data_dir 인수로 불러옵니다.
이런 분께
모델의 유해성을 줄이는 연구, 후속 RLHF를 위한 선호·보상 모델 학습, 레드 팀 공격 방식과 성공 여부를 연구하는 사람에게 쓸모가 있습니다.
쓰기 전 확인원문 기준
- 대화 에이전트의 지도 학습용이 아니며, 레드 팀 데이터는 미세 조정이나 선호 모델링용이 아닙니다.
- 불쾌하거나 충격적일 수 있는 내용이 포함되어 있어 개인의 위험 감수 수준을 고려해야 합니다.
해설은 Hugging Face 데이터셋 카드(10-26 읽음)에 적힌 내용만 AI가 한국어로 정리했습니다. 원문에 없는 기능·수치는 넣지 않습니다. 원문 보기 →
수집 기록1회
| 10-16 13:22 | 10위 | 32 |
관련 공식 소식최근 7일
최근 7일 공식 발표에서 이 이름을 찾지 못했습니다.