2026년 02월 01일 트렌드디비
미국의 인공지능 개발사인 끌로드는 2023년 5월 9일에 일명 헌법을 공개했다. 그리고 지난 1월 22일에는 새로운 헌법을 발표했다. 생성형 인공지능의 정체성을 정리하고, 추구하는 가치와 이유를 설명한 글이다. 2022년 12월 15일에 인공지능을 훈련하는 헌법적 AI(Constitutional AI)에 대한 논의의 결과물이라고 할 수도 있다. 무엇을 학습하고, 그것을 어떻게 풀어낼지 사고의 체계를 정리함으로써 책임감 있고 윤리적인 인공지능을 개발하겠다는 약속을 담았다.
Claude's Constitution, Claude
https://www.anthropic.com/constitution
https://www.anthropic.com/news/claude-new-constitution
https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback
관련 연구
