앤트로픽 최고경영자(CEO) 다리오 아모데이가 최첨단 인공지능(AI) 모델의 역량 개선 속도를 늦춰 안전 연구와 검증이 따라잡을 시간을 확보해야 한다고 제안했다. 아모데이는 9월 공개한 글에서 AI 모델의 역량 개선 속도를 늦춰야 한다는 입장을 밝혔다.
그가 말한 ‘속도 조절(pacing)’은 모델 훈련이나 기술 진보를 멈추자는 뜻은 아니다. 아모데이는 기술 개발을 계속하되 기업들이 모델 정렬과 안전장치를 점검하고 제3자 평가자가 이를 확인할 시간을 충분히 확보해야 한다고 설명했다.
아모데이가 제시한 틀은 세 단계다. 첫째, 최첨단 AI 기업 내부에 독립적인 외부 평가팀이 상시 접근해 안전 관행과 약속 준수 여부를 확인하도록 한다. 둘째, 민주주의 국가의 최첨단 AI 기업들이 공통 안전 기준과 무제한적 역량 경쟁의 속도를 조절하기 위한 기준을 마련한다. 셋째, 검증 가능성의 한계를 인정하면서도 미국 등 민주주의 국가와 다른 국가들 사이의 국제 공조를 모색한다.
아모데이는 최근 AI 시스템의 역량 향상이 빨라지고 있으며 안전 연구가 이를 따라잡지 못할 위험이 커졌다는 것이 자신의 판단이라고 밝혔다. 이는 앤트로픽 CEO의 정책 제안과 위험 평가이며, AI 업계 전체가 이미 합의한 규칙이나 정부 정책은 아니다.
DailyKorea는 원문과 독립 보도를 교차 확인했으며, 기사에서는 제안의 범위를 확정된 규제로 확대해 표현하지 않았다.
