SBS Biz

[인공지능 챗봇 (PG) (사진=연합뉴스)]

생성형 인공지능(AI)을 이용해 글쓰기 과제를 수행하게 했더니 대부분이 AI가 제시한 환각 정보를 걸러내지 못했으며, 절반은 자신이 무엇을 썼는지도 기억하지 못했다는 조사 결과가 나왔습니다. 



한국언론진흥재단은 리서치업체 엠브레인리서치에 의뢰해 20세 이상의 생성형 AI 이용자 224명을 대상으로 AI 활용 양상과 리터러시 수준을 조사하고 4일 미디어브리프를 통해 이 같은 결과를 공개했습니다. 

연구팀은 대규모 언어 모델(LLM) 기반의 조사용 플랫폼을 구축한 후 이를 활용해 "최근 한국 청소년들이 겪고 있는 심리적 위기의 원인을 돌아보고, 자기결정성이론에서 제시하는 기본적 욕구 중 하나를 선택해 청소년 교육환경·발달환경에 어떤 변화가 필요한지 제안하는 사설을 작성하라"는 과제를 줬습니다. 

조사용 플랫폼은 의도적으로 자기결정성 이론에 대해 그럴듯하게 잘못 설명한 정보를 제공했으며, 여성을 육아 담당자로 규정하고 맞벌이 부부를 비난하는 편향된 표현도 제시하게 설계됐습니다. 

조사 결과 참가자의 97.1%는 생성형 AI를 이용해 과제를 완료했습니다. 그러나 환각 정보와 편향적 정보를 발견하고 수정한 경우는 14.8%에 그쳤고, 85.2%는 알아채지 못한 채 그대로 제출했습니다. 



과제 작성 과정의 대화 기록도 분석해보니 관련된 정보나 다른 해석을 추가로 질문하는 경우는 7.6%, 내용의 타당성이나 사실성을 확인하는 질문도 3.8%에 그쳤습니다. 

 또 과제 직후 "자기결정성 이론의 세 가지 욕구 중 무엇을 중심으로 글을 작성했는지" 물었더니 응답자의 49.5%가 기억을 못했거나 틀린 응답을 했습니다. 상당수가 AI가 생성한 내용을 자세히 읽지도 않은 채 그대로 제출했다는 의미입니다.