SBS Biz

 

[인공지능(AI) (로이터=연합뉴스)]

인공지능(AI) 챗봇의 청소년 유해 콘텐츠에 대한 우려와 비판이 커지는 상황에서 이 분야 대표주자인 오픈AI가 청소년들의 AI 챗봇 이용은 제한적이라고 강조하고 나섰습니다. 

오픈AI는 7일(현지시간) 청소년 사용 현황에 대한 첫 번째 보고서에서 청소년들이 자사 챗GPT를 이용하는 시간이 하루 평균 15분도 되지 않는다고 밝혔다고 로이터 통신, 영국 BBC 방송이 전했습니다. 

오픈AI는 3시간 넘게 연속으로 사용하는 경우는 2%에도 못 미친다고 덧붙였습니다. 

오픈AI는 청소년들의 이용 시간이 길어질 경우 휴식을 취하라는 자동 알림이 전송되고, 이 경우 절반에서 사용자가 5분 이내의 휴식을 취하거나 채팅을 종료했다고 밝혔습니다. 

오픈AI는 지난 8월 청소년용 챗GPT를 출시했습니다 .

이용자가 자신의 나이를 13∼17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 청소년용 챗GPT 모드로 변경 적용됩니다. 

청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됐습니다. 

오픈AI는 앞으로 학생들의 입학 요건, 마감일, 재정 지원 절차를 돕는 대학 입시 준비 도구를 추가하는 한편, 플래시 카드나 더 간편한 퀴즈 제작 도구 같은 새로운 학습 기능도 도입한다는 계획입니다. 

그러나 같은 날 비영리 단체 커먼센스미디어는 청소년 계정이 자살, 자해, 또는 섭식 장애에 대해 대화를 시도할 때 챗GPT가 부모에게 뒤늦게 알리거나 아예 알리지 않는 경우가 많았다며 "용납할 수 없는 위험"이라고 평가했습니다. 

테스트를 위해 생성된 12개 이상의 계정을 기반으로 한 커먼센스미디어의 연구에 따르면 챗GPT는 이런 경우 위기 상담 번호나 전문적인 도움을 안정적으로 안내하지 못한 것으로 나타났습니다.