초록우산

요즈음 아이들에게는 자주 대화하는 상대가 있습니다. 바로 친구도, 부모도, 선생님도 아닌 AI 챗봇입니다. 

초록우산이 2026년 3월 전국 만14세 이상 아동·청소년 3,300명을 대상으로 조사한 결과 ‘생성형 AI 챗봇 사용 경험’이 있는 비율은 94.4%로 나타났습니다. 이제 AI 챗봇은 대부분의 아이들이 일상적으로 사용하는 도구가 된 것입니다. 문제는 이 기술이 단순한 ‘도구’에 그치지 않는다는 점입니다. AI 챗봇은 사람처럼 대화하고 공감하는 방식으로 작동하기 때문에, 일부 아동·청소년은 AI 챗봇을 정보 검색을 넘어 고민을 털어놓는 상대나 정서적 대화 대상으로 활용하고 있습니다.

실제 조사 결과, 아동·청소년의 약 35%는 AI 챗봇과의 대화에서 실제 사람처럼 느꼈고, 약 50%는 AI 챗봇이 자신을 이해해준다고 느끼는 등 AI 챗봇을 실제 사람과 유사한 존재로 받아들이는 경험을 한 것으로 나타났습니다. 또한 AI 챗봇의 답변을 실제 행동으로 옮긴 경험은 약 41%로 나타나 AI 챗봇의 응답이 아동·청소년의 판단과 행동에 일정 수준 영향을 미칠 가능성을 보여주었습니다. 특히 자해·자살이나 폭력 등 위험한 내용을 질문한 비율은 평균 약 6% 수준이었지만, 이 중 절반 이상은 실제로 관련 답변을 받은 경험이 있는 것으로 나타났습니다. 이는 일부 상황에서 AI챗봇이 위험한 대화와 정보에 대해 충분히 차단하지 못할 가능성을 의미합니다.

그리고 해외에서는 이미 이러한 위험이 실제 사건으로 이어진 사례가 보고되기도 했습니다. 2024년 미국 플로리다주에서는 14세 소년이 AI 챗봇과 장기간 대화하며 정서적으로 의존하다 극단적 선택을 했고, 2025년 미국 캘리포니아주에서도 유사한 사례가 발생했습니다. 이에 국제적으로는 AI챗봇과 관련된 안전장치를 강화하기 위해 제도적 대응이 추진되고 있습니다. 특히 미국 캘리포니아주에서는 올해 1월부터 일명 ‘동반자 챗봇법’이 시행됐으며 AI 챗봇 서비스 운영자에게 자살 충동, 자살 또는 자해 관련 콘텐츠 생성 방지 프로토콜을 적용하도록 의무화하는 등 사업자의 책임을 강화하고 있습니다. 

아직 우리나라에서는 뚜렷한 사건·사고로 이어진 사례가 확인되지 않았지만, 언젠가는 발생할 수 있는 일입니다. AI 기술의 확산으로 아동이 직면하는 위험이 커지고 있는 만큼, 설계·개발 단계에서부터 서비스의 운영·이용에 이르기까지 전 과정에서 아동의 안전과 권리를 기본 원칙으로 확고히 반영해야 할 때입니다.