가치를같이읽다

미국 캘리포니아주州가 인공지능(AI) 챗봇과 이용자 간의 안전장치를 마련하는 법안을 미국 최초로 제정했다. 13일(현지 시각) AP통신은 개빈 뉴섬 캘리포니아 주지사가 AI 챗봇 규제를 통해 아동과 청소년 등의 이용자를 잠재적 위험으로부터 보호하는 법안 ‘SB 243’에 이날 서명했다고 보도했다.

이 법안은 내년 1월 1일부터 시행한다. 이날을 기점으로 AI 챗봇 서비스를 제공하는 플랫폼은 이용자 연령을 확인하고, 이용자가 인간이 아닌 챗봇과 상호작용하고 있음을 이용자에게 상기시켜야 한다. 특히 미성년자에게는 3시간마다 이 알림이 팝업 형태로 표시되도록 조치해야 한다.

또 미성년자가 챗봇이 생성한 노골적인 성적 이미지를 보지 못하는 시스템도 구축해야 한다. 플랫폼이 특정 인물의 얼굴과 목소리를 AI로 합성하는 ‘딥페이크’로 불법적인 이익을 취할 경우, 최대 25만 달러(약 3억5805만원)의 벌금을 부과한다.

이 법안엔 이용자의 극단적인 선택을 예방하는 규제도 들어 있다. 플랫폼은 자해 관련 콘텐츠를 방지하고, 이용자가 자살 충동을 표현할 경우 자살 상담 핫라인에 연결해주는 절차를 마련해야 한다. 아울러 챗봇이 의료 전문가인 것처럼 보여선 안 된다는 내용도 담겼다. 뉴섬 주지사는 “안전장치가 없다면 기술은 아이들을 착취하고, 오도하며, 위험에 빠뜨릴 수도 있다”면서 “제한과 책임 없이 기업들이 계속 그렇게 두는 것을 좌시하지 않겠다”고 말했다.

기술 규제에 관대한 편인 미국에서 이 법안이 통과할 수 있었던 건 최근 들어 AI 챗봇 플랫폼이 이용자에게 부정적인 영향을 미친 사례가 부쩍 늘어났기 때문이다. 일례로, 지난 8월엔 미국의 한 10대 소년이 오픈AI의 AI 챗봇 ‘챗GPT’와 장시간 자살 관련 대화를 한 후 목숨을 끊어 사회적 파장을 불러일으켰다.

이밖에 메타‧구글 등 다른 플랫폼도 청소년에게 악영향을 미쳤을 가능성이 제기되고, 관련 소송들이 잇따르면서 SB 243 법안도 힘을 얻었다. 지난 1월 이 법안을 발의한 스티브 파밀라 상원의원(민주당)은 이날 보도자료를 통해 “AI 기업이 챗봇과 이용자의 상호작용에 안전장치를 마련하도록 요구한 미국 최초의 법안”이라고 말했다. 

다만, 법안의 효용성을 두고는 상반된 반응이 나오고 있다. 제이미 래디스 오픈AI 대변인은 AP통신 기사를 통해 “명확한 가이드라인을 설정함으로써 캘리포니아는 전국적으로 더 책임 있는 AI 개발과 활용 방식을 형성하는 데 기여하게 됐다”고 말했다. 반면 짐 스테이어 커먼센스 미디어 CEO는 “빅테크 기업들이 강력하게 압력을 넣으면서 이 법안에 담으려 했던 규제가 약해졌다”면서 “사실상 아무 의미 없는 법안”이라고 꼬집었다. 

이혁기 더스쿠프 기자
lhk@thescoop.co.kr