안상훈 의원 외 9인국민의힘대표발의발의
인공지능 자살예방 의무
AI사업자에 자살예방 조치 의무를 부과합니다.
자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안2026.09.01 발의 · 의안번호 2221001 · 보건복지위원회
0 좋아요0 싫어요
불러오는 중…
불러오는 중…
AI사업자에 자살예방 조치 의무를 부과합니다.
자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안2026.09.01 발의 · 의안번호 2221001 · 보건복지위원회
현행법은 정부와 정보통신서비스 제공자의 자살유발정보 차단 협력만 규정하고 있으나, 생성형 인공지능 서비스 제공자에게는 자살 관련 입력을 즉시 감지하고 상담 지원을 안내하는 체계 구축 의무가 없었습니다. 이번 개정안은 인공지능사업자에게 이러한 자살예방 조치 의무를 부과하는 내용을 신설합니다.
참고용이며 법적 효력이 없습니다
최근 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 미국에서 발생하였는데, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기 보다는 오히려 자살심리를 유도하여 자살위험에 노출되게 할 수도 있음을 보여주는 사례로서 우리나라도 예외가 될 수 없으며 인공지능사업자의 각별한 주의 의무가 요구됨. 그런데 현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐, 인공지능사업자로 하여금 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련되어 있지 않음. 이에 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자로 하여금 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담ㆍ지원을 안내하는 체계를 구축ㆍ운영하도록 하려는 것임(안 제19조의6 신설).