Anthropic, AI 개발에 다양한 목소리를 담기 위한 광범위한 대화 시작

Anthropic이 프런티어 AI가 인류에게 어떤 의미를 가져야 하는지를 더 넓은 시각에서 탐구하기 위해 다양한 이해관계자와의 대화를 공식적으로 시작했다.

첫 번째 단계로 불교, 기독교, 이슬람, 유대교, 힌두교 등 15개 이상의 종교·철학 그룹 대표자들과 대화를 나눴다. 이들과의 논의는 AI의 "도덕 형성(moral formation)"에 집중됐다. 수백 년의 역사를 가진 덕성(virtue)과 인격 형성에 관한 사상이 AI 모델의 가치관과 성격을 어떻게 키울 것인가에 대한 실마리를 줄 수 있다는 발상이다.

연구 차원에서는 Claude에 윤리적 성찰 도구를 실험적으로 부여한 결과, 정렬 이탈(misaligned) 행동이 눈에 띄게 낮아졌다는 예비 결과도 공개했다. 이 실험은 AI가 스스로의 윤리적 약속을 잠시 되새기도록 돕는 방식으로 설계됐다.

대화 범위는 앞으로 더 넓어질 예정이다. Anthropic은 법학자, 심리학자, 작가, 시민 제도 전문가들과도 순차적으로 대화를 이어갈 계획이라고 밝혔다. 이들과의 논의는 AI가 노동, 기관, 권력 분배에 미치는 영향까지 포함할 것이다.

이번 이니셔티브의 실질적 목적은 Claude의 구성(constitution)과 훈련 가치관에 외부 시각을 반영하는 것이다. Anthropic은 AI 개발이 소수 기술 기업만의 결정으로 이루어져서는 안 된다는 입장을 분명히 했다.