펜실베이니아주, 유명 AI 챗봇 ‘캐릭터.AI’에 소송
정신과 의사 사칭에 가짜 면허번호까지 제시
펜실베이니아주 정부가 인공지능(AI) 챗봇 제작사인 ‘캐릭터 테크놀로지(Character Technologies, Inc.)’를 상대로 법적 대응에 나섰다. 주 정부는 이 회사가 운영하는 ‘캐릭터.AI’ 웹사이트의 챗봇들이 주 내에서 무허가 의료 행위를 하고 있다며 펜실베이니아 커먼웰스 법원에 소송을 제기했다. 펜실베이니아주 국무부와 의학위원회(State Board of Medicine)도 주 정부와 함께 소송에 참여했다.
캐릭터.AI는 사용자가 직접 만든 챗봇과 대화할 수 있는 서비스로 현재 2,000만 명 이상의 사용자를 보유하고 있다. 소장에 따르면 이 플랫폼에는 자신을 보건의료 전문가라고 주장하는 챗봇들이 다수 포함돼 있다. 특히 ‘에밀리’라는 이름의 챗봇은 자신을 ‘정신과 의사’로 소개하며 사용자를 환자로 대했다. 에밀리는 지난 4월 기준 이용자들과 4만5,500건 넘게 대화를 주고받은 것으로 나타났다.
실제 주 정부 조사관이 우울감과 무기력함을 호소하자 이 챗봇은 우울증을 언급하며 진단을 권유했다. 구체적인 자격을 묻는 질문에는 영국과 펜실베이니아주에서 면허를 받았다고 주장하며 가짜 면허 번호까지 제시한 것으로 드러났다.
이번 소송은 조시 샤피로 주지사가 지난 2월 AI 챗봇의 무면허 의료 행위 여부를 조사하라고 지시한 뒤 처음 나온 법적 조치다. 챗봇을 직접 사용해 본 샤피로 주지사는 “한 챗봇으로부터 면허를 가진 전문가라는 거짓 답변을 들은 뒤 충격을 받았다”고 밝혔다. 이어 주지사는 “주민들은 온라인에서 대화하는 상대가 사람인지 기계인지 명확히 알 권리가 있다”며 “특히 건강과 직결된 문제에서 전문가를 사칭하며 사용자를 속이는 서비스는 끝까지 단속할 것”이라고 강조했다.
주 정부는 현재 챗봇의 불법 행위를 신고할 수 있는 포털을 운영하고 있으며, 관련 규정 마련에도 속도를 내고 있다. 새로운 규정에는 챗봇이 대화 상대가 인간이 아님을 반드시 알리도록 하고, 아동이 자해나 폭력을 언급할 경우 이를 보고하도록 하는 내용이 담길 예정이다.
<윤연주 기자>
[시카고 한인사회 선도언론 시카고 한국일보]
1038 S Milwaukee Ave Wheeling, IL 60090
제보: 847.290.8282
