초록우산

#인공지능 시대 속, 아동권리

요즘 우리는 하루에도 몇 번씩 인공지능(AI)을 마주합니다. 모르는 것이 있다면 생성형AI에게 질문하고, 동영상 플랫폼이 ‘다음으로 볼 영상’을 추천해 주며, 스마트폰 속 앱이 우리의 취향을 알아서 기억해 주는 시대입니다. 이처럼 AI는 이미 우리 삶 깊숙이 들어와 있고 아동의 일상 역시 예외가 아닙니다. 특히 온라인 학습 도구, 게임, SNS, 영상 플랫폼, 심지어 챗봇을 활용한 상담 서비스까지 아동은 점점 더 많은 AI 기반 기술과 함께 성장하고 있습니다.

“이 기술들이 아동의 권리와 안전을 충분히 고려해 만들어졌을까요?”

어떤 아이는 자극적인 영상이 반복 추천되며 부적절한 콘텐츠에 노출될 수 있고, 또 다른 아이는 AI가 만든 이미지나 영상으로 인해 원치 않는 피해를 입을 수도 있습니다. 심지어 아동이 챗봇에게 질문하거나 대화를 할 때 아동의 데이터가 어떻게 수집되고, 어디에 쓰이는지조차 모른 채 AI 시스템의 일부가 되기도 합니다. 이처럼 AI의 영향은 아동이 직접 사용하는 순간뿐 아니라, 보이지 않는 곳에서도 계속해서 이어집니다. 그래서 디지털 환경 속 인공지능을 이야기할 때는 “편리함”뿐 아니라 ‘아동의 권리와 안전’을 함께 살펴보아야 합니다.

#디지털 환경 속, 아동권리를 지키기 위한 초록우산의 노력

특히 초록우산은 그 동안 디지털 환경에서 아동이 겪는 위험을 줄이기 위해 ‘온라인 세이프티 옹호활동’을 꾸준히 이어왔습니다. 작년 초록우산 아동권리옹호단과 함께 발간한 <온라인 세이프티> 아동보고서에서도 생성형 AI의 학습적 오남용, 딥페이크를 활용한 이미지 조작, 메타버스 속 왜곡된 가상캐릭터 등 인공지능과 관련된 3가지 세부 분야를 다루며 ‘AI라는 새로운 위험’으로부터 안전한 대한민국을 위해 목소리를 냈습니다.

#디지털 전환 시대, 아동권리를 지키기 위한 공동성명에 동참

그리고 2026년 1월 19일, 초록우산은 ITU(국제전기통신연합)와 CRC(유엔아동권리위원회) 등이 공동으로 발표한 ‘인공지능과 아동권리 공동성명(Joint Statement on Artificial Intelligence and Child Rights)’에 동참했습니다.

*사진출처: ITU SNS(X)

이 공동성명은 아동을 독립적인 ‘권리의 주체’로 존중한다는 원칙 아래, 인공지능의 설계부터 개발·배포,관리에 이르기까지 전 과정에 적용되어야 할 기준과 책임을 명확히 한 국제적 약속입니다.

이 공동성명에는 11가지 주요 권고사항을 제시하고 있습니다. 

이는 단순히 “AI를 쓰지 말자”는 이야기가 아니라, AI가 아동의 권리를 침해하지 않도록 책임 있게 설계하고 사용하자는 국제적 약속일 것입니다.

#아동에게 안전한 인공지능 시대를 위해

인공지능이 더 똑똑해질수록, 그 기술이 향하는 방향에는 아동의 안전과 권리가 함께 놓여야 합니다. 

2026년 1월 22일, [인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(약칭: 인공지능기본법)]이 시행됩니다. 이 법은 국내 인공지능 산업의 발전을 지원할 수 있는 기준과 근거를 정하고 인공지능 사용에 따른 부작용과 위험을 최소화하기 위한 법적 기반을 마련하기 위해 만들어졌습니다.

곧 시행될 법이 아동권리를 핵심에 두고 아동 존중과 최선의 이익, 비차별 금지 원칙 등을 보장하고 있는지 사회 전체가 함께 고민할 때입니다. 앞으로도 초록우산은 인공지능 기술을 포함한 디지털 환경 속, 아동이 존중받고 보호받으며 자신의 권리를 누릴 수 있도록 노력하겠습니다.