법안

최근 생성형 인공지능 기술의 급속한 확산으로 대화형 인공지능 챗봇이 청소년의 일상적 의사소통, 정보 탐색, 오락 및 정서적 교류의 수단으로 빠르게 확산되고 있음. 그러나 이러한 서비스는 청소년과 지속적이고 개인화된 상호작용을 통해 정서적 의존을 유발하거나, 자해ㆍ자살ㆍ폭력ㆍ성적대화 등 유해한 내용에 부적절하게 반응할 위험이 있다는 우려가 국내외에서 지속적으로 제기되고 있음. 특히 청소년은 인지적ㆍ정서적 발달 특성상 인공지능이 제공하는 정보를 비판적으로 평가하거나 인공지능과 인간의 관계를 명확히 구분하는 데 취약할 수 있어 특별한 보호가 필요함. 그런데 현행 「청소년 보호법」은 영화, 게임, 인터넷 콘텐츠 등 전통적 매체 중심으로 청소년 유해환경을 규율하고 있어, 실시간으로 대화를 생성하고 청소년과 상호작용하는 생성형 인공지능 서비스에 대해서는 충분한 보호체계를 갖추지 못하고 있음. 이에 「청소년 보호법」의 정의규정에 ‘관계형 인공지능서비스’ 및 ‘청소년유해인공지능서비스’라는 개념을 추가하고, 관계형 인공지능서비스 및 청소년유해인공지능서비스에 대한 청소년 보호조치 의무, 유해성 심의, 시정명령 등의 근거를 마련함으로써 청소년을 새로운 디지털 유해환경으로부터 보호하려는 것임(안 제2조제2호의2ㆍ제3호의2, 제7조의2, 제9조의2, 제11조의2 및 제44조제5항ㆍ제6항 신설 등).