개빈 뉴섬 캘리포니아 주지사가 2026년 9월 23일 AI 기업의 독립 감독과 첨단 AI 모델의 비상 정지 장치 도입 방안을 검토할 자문진을 발표했다. 캘리포니아 주지사실은 최근 서명된 행정명령에 따라 안전·보안 제도를 강화할 권고안을 마련하는 작업이라고 설명했다. 기업에 킬 스위치 설치 의무가 일제히 발효됐다는 발표는 아니다.
기술·제도 전문가가 함께 검토
주지사실이 발표한 자문진에는 구글과 트위터에서 제품 개발을 이끈 제이슨 골드먼, 존스홉킨스대 교수 질리언 해드필드, 고등연구소 교수 알론드라 넬슨, 스탠퍼드대 교수 롭 라이히가 포함됐다. 주지사실은 이들이 기술·정책·거버넌스 분야의 전문성을 활용하고 AI 안전을 연구하는 기술 연구자들과도 의견을 나눌 것이라고 밝혔다.
이번 발표의 새 내용은 권고 작업에 참여할 전문가 명단이다. 감독 강화의 방향은 9월 18일 행정명령 발표 때 이미 제시됐다. 따라서 앞서 나온 정책 구상과 이번 자문진 구성을 구분해 볼 필요가 있다.
독립 검증과 비상 정지가 핵심
검토 과제 가운데 하나는 독립 검증이다. 주지사실 설명에 따르면 첨단 AI 기업의 연구 현장에 지정된 독립 검증기관이 참여해 정기적인 감사와 평가를 수행하도록 하는 방안이 대상이다. 안전 체계뿐 아니라 기업이 제출하는 투명성 보고서와 위험 평가도 독립 기관이 적절하다고 판단한 기준에 따라 검증하도록 하는 방안이 포함됐다.
이는 기업의 안전성 설명을 누가 어떤 기준으로 확인할 것인지에 관한 제도 설계다. 다만 발표문은 이를 검토 중인 제안으로 설명한다. 모든 기업에 같은 감독 방식이 이미 적용된다고 해석할 근거로 삼아서는 안 된다.
다른 핵심 과제는 비상 정지다. 이른바 킬 스위치를 첨단 AI 모델에 마련하도록 하고, 독립 검증기관이 그 작동 효과를 지속적으로 확인하는 방안이다. 장치가 있다는 설명만으로 끝내지 않고 실제 효과를 검증하는 체계를 함께 검토한다는 점이 특징이다. 발표 자체가 어떤 모델의 확실한 정지 성능을 입증한 것은 아니다.
행정명령 관련 설명에는 중대한 안전 사고의 정의에 통제 상실 사례를 포함하도록 바꾸는 방안도 들어 있다. 이 역시 정의 변경을 위한 권고 과제이며, 특정 사건의 원인이나 책임이 이번 발표로 새로 확인됐다는 뜻은 아니다.
기존 제도 시행과 추가 권고는 별개
주지사실의 9월 18일 설명에 따르면 뉴섬 주지사는 AI 시스템과 모델의 안전·위험을 평가할 독립 검증기관의 제도적 틀을 만드는 법안과, AI 감사인의 주 등록부 및 독립성·투명성 기준을 마련하는 법안에 서명했다. 행정명령은 이들 제도의 이행 일정을 앞당기는 작업과 추가 법률 변경을 위한 권고 작업을 함께 지시했다.
담당 기관은 주 정부운영국이며, 주 비상서비스실과 협의해 전문가 의견을 모으도록 했다. 당시 발표는 전문가들이 두 달 안에 캘리포니아의 AI 안전·보안 법률을 보강할 지침을 제시하도록 한다고 설명했다. 이 기간은 권고 작업에 관한 설명이지, 개별 기업의 킬 스위치 설치 마감이라는 뜻은 아니다.
독자가 구분해야 할 지점
자문진 발표와 의무 시행은 다르다. 캘리포니아에서 AI를 개발하거나 업무에 사용하는 독자가 후속 소식을 볼 때도 전문가 권고안, 법률 변경, 구체적인 시행 기준을 구별해야 한다. 이번 발표만으로 특정 사업체의 적용 대상 여부나 이행 비용을 확정할 수는 없다.
이 기사는 주지사실의 자문진 발표와 행정명령 설명에서 확인되는 범위를 정리했다. 감독 방식의 효과나 비상 정지 장치의 기술적 성능을 독립적으로 검증한 결과를 보도하는 것은 아니다. 실제 권고 내용과 제도화 여부는 후속 발표에서 확인할 사안으로 남아 있다.
