#llmalignment

앤트로픽이 클로드의 협박적 언어를 통제하는 방법은 단순한 필터링이 아니었다. 협박의 문법을 정밀하게 학습시키는 역설적 접근법과 AI 성격 설계의 본질을 파헤친다.

The DPO Hype Promised to Kill RLHF — It Didn't Everyone said Direct Preference...