글로벌 노벨상 수상자 총회, AI의 핵무기 발사 최종 결정 금지 촉구

글로벌 노벨상 수상자 총회 참가자들이 2026년 7월 바티칸의 보르고 라우다토 시에서 채택한 ‘인류의 문턱: 인공지능과 핵무기에 관한 선언’을 공개했다. 공식 선언문은 AI가 핵무기 발사의 최종 결정을 내려서는 안 되며, 핵무기 체계에 AI를 무분별하게 통합하는 일을 막을 국제조약이 필요하다고 밝혔다.

총회는 AI가 핵 지휘·통제 시스템에 들어가면 위기 상황에서 인간이 판단할 시간이 줄거나 판단 자체가 대체될 수 있다고 지적했다. AI를 이용한 사이버 공격이 민간·전략 기반시설을 훼손하고, 정보전이 국가 간 대화와 검증에 필요한 신뢰를 약화할 수 있다는 우려도 담았다.

선언은 핵무기 발사와 관련해 ‘의미 있는 인간 통제’를 유지해야 한다는 원칙을 제시했다. 핵 보유국에는 AI에 의한 무단 통제와 조작 위험을 줄이기 위한 안전성 검토를 요구하고, 핵 지휘·통제·통신 기반시설을 겨냥한 사이버 작전을 방지해야 한다고 촉구했다.

프런티어 AI 개발에 대해서는 정부와 기업, 국제기구가 검증 체계와 견고한 내부·외부 평가를 마련해 공동 감속을 가능하게 해야 한다고 주장했다. 또 감시하고 필요할 때 중단할 수단 없이 완전 자동화된 재귀적 자기 개선을 시작하거나 허용해서는 안 된다고 명시했다.

개발사의 책임도 선언의 한 축이다. 총회는 AI 모델의 행동을 이끄는 원칙을 투명하게 공개하고, 모델이 그 원칙을 지키는지에 대해 개발사가 책임을 져야 한다고 밝혔다. 동시에 과학·의료 발전과 환경 보호, 평화와 지속 가능한 발전을 위한 책임 있는 AI 활용은 지지했다.

이번 로마 선언은 AI 경쟁과 핵 군비 경쟁이 서로의 위험을 키울 수 있다는 문제의식에서 출발했다. 다만 선언 자체에는 법적 구속력이 없으며, 국제조약과 공동 검증 체계를 요구하는 정책 제안의 성격을 띤다.

출처: 글로벌 노벨상 수상자 총회 로마 선언 원문 https://globalnobelassembly.org/rome-declaration