SBS Biz

청소년 자해 등 챗GPT의 정신건강 관련 논란으로 소송을 치르고 있는 오픈AI가 청소년용 챗봇 서비스를 내놨습니다.



오픈AI는 청소년들의 학습을 돕고 안전장치를 대폭 강화한 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 현지시각 18일 출시했습니다.

이용자가 자신의 나이를 13∼17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 청소년용 챗GPT 모드로 변경 적용됩니다.

청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됩니다.

이용자가 민감하거나 사적인 사진을 올릴 경우 주의를 주는 기능도 탑재됐습니다.



청소년용 모드는 특히 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 행동을 하지 못하도록 차단합니다.

로맨틱한 분위기의 단어나 표현을 사용할 수 없으며, 정서적 유착을 유도할 수도 없습니다.

챗봇이 감정이나 자의식을 가진 인격체인 것처럼 묘사하는 행동도 금지했습니다.

또, 부모의 관리 도구도 강화해 자녀의 챗GPT 사용을 아예 차단하는 '방해 금지 시간'(Quiet Hours)이나 공부 모드를 기본값으로 하는 '공부 시간'(Study Hours)을 설정할 수 있습니다.

'공부 모드'에는 과제를 할 때 챗GPT가 제공하는 답만 베끼는 부정행위를 막는 장치가 추가됐는데, 청소년 이용자가 질문하더라도 단번에 요약이나 답변을 제공하는 대신 도로 질문을 던지거나 단계별 원리를 짚어가며 해법을 찾도록 돕는 방식입니다.

오픈AI가 안전장치를 대폭 추가한 청소년용 챗봇을 내놓은 것은 기업공개(IPO)를 앞두고 사법 리스크를 해소하기 위한 것으로 풀이됩니다.

챗GPT와 교류하던 10대 청소년들이 자해 또는 극단적 선택을 하거나 챗GPT를 이용해 총기 난사, 살인 등 범죄 모의를 한 사례가 나타나면서 오픈AI는 현재 다수의 소송에 직면해 있습니다.