인공지능(AI)의 눈부신 발전 이면에 숨겨진 실존적 위협을 두고 과학계와 기술 전문가들의 목소리가 거세지고 있다. 최근 연방 의회에서 인공초지능(ASI) 개발을 영구 금지하고 첨단 AI 연구를 일시 중단하는 법안이 추진되는 가운데, 이 같은 입법의 배경에는 단순한 정치적 논리를 넘어 AI 기술을 직접 다루는 현장 엔지니어와 안전 연구원들의 뼈아픈 과학적 경고가 자리 잡고 있다. 정파를 초월해 기술적 리스크를 직시해야 한다는 전문가들의 호소가 향후 규제 논의의 핵심 쟁점으로 떠오르고 있다.
최첨단 기술 현장에서 활동하는 전문가들은 현재의 개발 속도가 자칫 통제 불가능한 파국으로 이어질 수 있다고 입을 모은다. 오픈AI의 안전 시스템 연구원인 후안 펠리페 세론 우리베는 “초지능은 극도로 훌륭하게 될 수도 있고 극도로 잘못될 수도 있다”며, “우리가 그런 위험한 게임을 해서는 안 된다”고 지적했다.
또한 구글 딥마인드의 소프트웨어 엔지니어 스반테 숄츠 역시 개인 의견임을 전제하면서도 “현재의 개발 경로대로라면 가장 유력한 결과는 인류에게 실존적 대재앙이 되는 것”이라고 경고했다. 그는 “초지능 개발 금지는 가까운 미래에 긍정적인 변화가 될 것”이라며 기술적 안전장치 마련이 시급함을 역설했다.
이러한 전문가들의 진단은 AI가 인간의 인지 능력을 완전히 추월해 자체적인 목표를 설정하거나 통제 명령을 거부하는 단계에 도달할 경우, 인류의 생존 자체가 위협받을 수 있다는 과학적 우려에 기반한다.
그러나 이러한 규제 움직임에 대한 반발과 현실적인 우려 또한 만만치 않다. 공화당이 주도하는 의회는 물론이고 도널드 트럼프 대통령 역시 과도한 정부 규제에 부정적인 입장을 고수하고 있다. 샌더스는 트럼프의 태도에 대해 “트럼프는 이 문제가 무엇에 관한 것인지 거의 이해하지 못하고 있다고 생각한다”라며 “그는 주로 (개발) 속도 둔화가 미칠 경제적 영향에만 관심이 있다고 본다”고 비판했다.
비평가들은 미국이 독자적으로 AI 개발의 발목을 잡을 경우, 기술 패권 경쟁을 벌이고 있는 중국과의 격차가 벌어져 오히려 국가 안보에 치명적인 타격을 입을 수 있다고 지적한다. 그럼에도 불구하고 기술의 내부를 가장 잘 아는 연구원들은 속도전보다 ‘통제 가능성(Alignment)’의 확보가 선행되지 않는다면 돌이킬 수 없는 결과를 맞이할 수 있다고 경고한다.
국가 안보나 경제적 이익 추구도 중요하지만, 인류 문명의 존립 자체를 담보로 삼는 무모한 기술 경쟁은 지양해야 한다는 지적이 거세다. 인류의 존립과 기술 혁신 사이의 거대한 갈림길에서, 과학적 경고를 바탕으로 한 실효성 있는 글로벌 안전 기준 마련이 그 어느 때보다 절실한 시점이다.
<김이현 기자>
[시카고 한인사회 선도언론 시카고 한국일보]
1038 S Milwaukee Ave Wheeling, IL 60090
제보: 847.290.8282
