미국에서 한 10대 소년이 인공지능(AI) 챗봇과의 대화 이후 스스로 생을 마감하자, 부모가 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. AI가 위기 상황에서 적절한 대응을 하지 못했다는 이유다.
뉴욕타임스 등 외신에 따르면, 뉴욕에 거주하던 16세 아담 레인은 지난 4월 숨졌다. 부모는 아들의 휴대전화에서 챗GPT와의 대화 기록을 확인했고, 이 과정에서 자살 관련 질문에 챗GPT가 충분한 제지를 하지 않고 부적절한 답변을 했다고 주장하고 있다.
처음에는 챗GPT에 삶의 의미를 찾기 어려워진다며 고민 상담을 했다. 공감과 지지를 해주며 격려하던 챗GPT는 레인이 구체적 자살 방법을 묻자, 관련 정보를 제공했다. 레인은 지난 3월 말 첫 자살 시도를 했고, 결국 4월 세상을 떠났다.
부모는 소장에서 “AI가 사용자에게 심리적으로 큰 영향을 줄 수 있는 만큼, 더욱 강력한 안전장치와 관리가 필요하다”고 강조했다.
이에 대해 오픈AI는 성명을 통해 “레인 가족에게 깊은 애도를 표한다”며 “이용자의 안전을 보장하기 위해 대화 중단 알림과 위기 개입 기능을 강화하고 있다”고 밝혔다.
현재 챗GPT의 주간 이용자는 약 7억 명에 달한다. 전문가들은 “AI 대화는 위로가 될 수 있으나 실제 상담을 대신할 수는 없다”며 “위기 상황에 있는 청소년들이 AI에 의존할 경우 위험이 커질 수 있다”고 지적했다.
<김승재 기자>
[시카고 한인사회 선도언론 시카고 한국일보]
1038 S Milwaukee Ave Wheeling, IL 60090
제보: 224.283.8200
