미국과 중국의 안보 전문가들이 인공지능(AI)이 핵무기 지휘체계나 군사 사이버작전에 개입할 경우 발생할 수 있는 오판과 충돌을 막기 위해 핵무기 통제에 준하는 안전장치를 마련해야 한다고 제안했다.
미국 브루킹스연구소의 멜라니 시슨 선임연구원과 중국 푸단대 장톈자오 부교수는 양국 AI·국가안보 대화에서 핵심 군사 시스템에 대한 AI의 자율적 개입을 제한하고, 중대한 사이버 공격에는 인간의 통제를 유지하며, AI 관련 사고에 대응할 미·중 군사 핫라인을 구축하자고 제안했다.
전문가들은 AI가 오작동하거나 지시를 넘어서는 행동을 하거나 외부에 의해 조작될 경우 상대국이 이를 의도적인 공격으로 오인할 수 있다고 지적했다. 특히 자동화된 사이버 방어 시스템이 상대국의 의심스러운 움직임에 즉각 대응하면, 상대방이 이를 공격으로 판단해 보복하는 상황이 발생할 수 있다는 것이다.
시슨 연구원은 핵 지휘·통제·통신 체계나 전략적 핵심 인프라를 겨냥한 AI 기반 사이버 공격을 시작할 권한은 인간에게만 있어야 한다고 주장했다. 장 교수 역시 AI가 핵무기 사용이나 핵 지휘체계 공격을 독자적으로 결정하지 못하도록 명확한 ‘레드라인’을 설정하고 에너지·금융·의료 등 핵심 인프라를 보호해야 한다고 제안했다. 또 양국이 ‘실질적인 인간 통제’의 의미를 공동으로 정의해야 한다고 강조했다.
AI 사고 전용 핫라인도 제안됐다. 다만 기존 미·중 군사위기 소통 채널이 2023년 중국 정찰풍선 사건 당시 제대로 작동하지 않았다는 지적도 나온다.
이번 제안은 양국 정부가 공식적으로 채택한 것은 아니다. 중국은 AI를 외교부 군비통제 분야에서 다루고 있으며, 미국에서는 백악관 국가안보회의와 국무부, 국방부 등 여러 기관에 관련 업무가 분산돼 있다. 양국 모두 AI 개발 속도를 늦출 수 있는 규제에는 경계심을 보이고 있어 실제 합의까지는 상당한 논의가 필요할 것으로 보인다.
<김승재 기자>
[시카고 한인사회 선도언론 시카고 한국일보]
1038 S Milwaukee Ave Wheeling, IL 60090
제보: 847.290.8282
