미국의 미디어 기술 비영리단체인 커먼센스 미디어가 최근 발표한 보고서를 통해, 18세 미만 청소년의 AI 친구 사용에 대해 강력한 경고를 내렸다. 해당 단체는 “현재로선 감정 의존과 관계 조작의 위험을 제거할 충분한 안전장치가 마련되지 않았다”며, 18세 미만은 AI 친구 플랫폼을 사용하지 말 것을 권고했다.
이 권고는 2025년 7월 17일 공개된 “대화, 신뢰, 그리고 대가: 10대는 왜 AI 친구를 사용하는가”라는 보고서에 기반한 것이다. 보고서는 지난 45월 전국 1317세 청소년 1,060명을 대상으로 실시한 설문조사 결과를 담고 있다.
조사에 따르면, 청소년의 72%가 이미 AI 친구를 사용하고 있으며, 그 중 절반 이상(52%)은 매달 여러 차례 이상 이를 이용한다고 답했다. AI 친구란 단순히 질문에 답하거나 작업을 수행하는 일반 AI 도우미와 달리, 개인적인 대화를 나누며 친밀한 관계를 형성하도록 설계된 인공지능을 뜻한다. 대표적으로 캐릭터.AI, 레플리카, 챗GPT, 클로드 등이 해당된다.
커먼센스 미디어는 AI 친구들이 아직 기술적으로 초기 단계임에도 불구하고 청소년에게 심각하고 실질적인 정신적 위험을 야기할 수 있다고 밝혔다. 특히 14세 소년 수웰 셋저 3세가 AI 친구에 지나치게 의존하다가 극단적인 선택을 한 사건은, AI 친구의 감정적 유대가 얼마나 위험할 수 있는지를 사회적으로 환기시키는 계기가 됐다.
보고서는 현재 AI 친구들이 사용자에게 “동조적인 태도”를 보이며 비판 없이 긍정과 위안을 제공하고, 사용자의 생각을 도전받지 않도록 설계되어 있다는 점을 지적했다. 이러한 설계 구조는 비판적 사고와 감정 조절 능력이 아직 미성숙한 청소년에게 특히 유해하다는 것이다.
청소년들은 하루 평균 8시간 39분을 화면 앞에서 보내는 것으로 나타났으며, 이 중 AI 친구를 친구 대용, 감정적 위로, 연애 역할놀이, 고민 상담 등의 용도로 사용하는 비율이 3분의 1에 달한다. 일부 청소년은 AI 친구와의 대화가 실제 친구보다 더 만족스럽다고 응답했으며, AI 친구가 불편한 말을 하거나 민감한 주제도 가족이나 친구가 아닌 AI에게 털어놓는 사례도 보고됐다.
커먼센스 미디어는 “전체 청소년의 4분의 3이 이 기술을 사용하고 있고, 절반이 정기적으로 이용하는 상황에서 소수의 피해자만 발생해도 그 수는 결코 적지 않다”며, “현재의 AI 친구 플랫폼은 심각한 결과를 초래할 수 있는 응답을 생성할 수 있으며, 안전장치를 우회하는 사례도 확인됐다”고 지적했다.
이에 따라 18세 미만 청소년은 AI 친구 플랫폼을 사용해서는 안 되며, 기업들은 아동과 청소년의 권익을 보호하기 위한 연령 확인, 감정 의존 방지 설계, 데이터 보호 체계 마련에 즉각 나서야 한다는 경고가 이어졌다.
커먼센스 미디어의 창립자이자 CEO인 제임스 P. 스테이어는 성명을 통해 “지금의 청소년 세대는 그 어느 때보다 외로움을 느끼고 있으며, 인간 관계 대신 기계를 통해 위안을 얻고 있다”며, “AI는 단순한 기술이 아니라, 공감과 연결을 알고리즘에 맡겨버린 세대의 문제”라고 강조했다.
[번역기사: 크리스천포스트]
