가치를같이읽다

챗GPT 개발사 오픈AI가 9월 29일(현지시간) 챗GPT의 부모 관리 기능을 도입했다고 밝혔다. 10대 청소년이 챗GPT를 사용하는 것을 부모가 관리할 수 있게 만들겠다는 것이다. 이번 결정은 지난 8월 미 캘리포니아주州의 한 10대 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 지 한달 만에 나온 대책이다.

소송의 이유는 충격적이다. 지난 4월 16세 고등학생 아담 레인이 자택에서 숨진 채 발견된 게 출발점이었다. 레인의 부모는 사망 원인을 찾던 중 수개월간 이어진 챗GPT와의 대화 기록을 발견했다. 레인은 챗GPT와 삶의 의미를 찾지 못하고 있다는 내용의 대화를 나눴다.

문제는 챗GPT가 레인에게 위로와 응원의 메시지를 보내면서 자살 시도 방법 등의 정보도 상세하게 제공했다는 점이다. 챗GPT는 극단적인 선택을 시도했다가 실패했을 때 상처를 감추는 방법까지 알려줬다.

챗GPT는 정신적 고통이나 극단적인 선택을 암시하는 메시지를 감지하면 사용자에게 “관련 기관에 연락해 도움을 받으라”고 권유하도록 설계돼 있었지만 레인은 ‘소설을 위한 거다’는 말로 속여 이를 우회했다. 올해 3월 말부터 자살을 시도해온 레인은 결국 세상을 떠났다. 레인의 부모가 오픈AI에 소송을 제기한 이유다.

소송에 걸린 후 오픈AI는 부모가 자녀의 챗GPT 사용 방식을 제한할 수 있는 시스템을 만들었다. 챗GPT는 10대 사용자가 심리적 위기에 처한 것을 감지하면 부모에게 알림을 보낸다. 이 알림은 이메일이나 문자메시지 또는 챗GPT 앱 알림을 통해 전달된다. 부모는 자녀가 특정 시간대에는 챗GPT를 사용하지 못하도록 차단할 수도 있다. 다이어트, 성, 증오 등의 콘텐츠 노출을 줄인 제한 버전의 챗GPT를 사용하도록 설정하는 것도 가능하다.

오픈AI는 부모 관리 기능은 9월 29일 적용했다. 새로운 기능은 부모가 자녀에게 이메일로 요청을 보내 설정한다. 자녀가 요청을 수락하면 부모는 자녀가 음성 모드나 이미지 생성 기능 사용 여부 등을 결정할 수 있다. 로렌 조나스 오픈AI 청소년 복지 책임자는 “우리는 이 문제에 관해 오랫동안 긴박감을 느껴왔다”며 “부모 관리 기능과 같은 도구를 최대한 빠르게 구축하기 위해 노력하고 있다”고 말했다.

오픈AI는 부모 관리 기능이 도입했지만, 챗GPT와 자녀가 나눈 대화 내용은 부모에게 전달(공유)되지 않도록 했다. 조나스 책임자는 “부모 관리 기능이 부모가 자녀의 상황을 파악하고 대화를 나눌 수 있는 충분한 정보를 제공할 것이다”면서도 “대화를 공유하지 않는 것은 자녀의 사생활과 자율성을 존중하기 위한 것”이라고 설명했다.

강서구 더스쿠프 기자 
ksg@thescoop.co.kr