세이브더칠드런의 2026년 7월 경고와 핵심 요구

2026년 7월 5일, 스위스 제네바에서 열린 AI 거버넌스 글로벌 대화에서 세이브더칠드런(Save the Children)은 인공지능(AI) 등 신기술의 발전이 온라인 아동 성 착취 및 학대(OCSEA)를 급증시킨다며 유럽연합(EU)에 '공중 보건 접근법'을 채택할 것을 촉구했다. 이 단체는 온라인 공간에서의 위기가 개별 범죄의 문제를 넘어 예방 가능한 사회적 문제로 대응해야 한다고 주장했다. 기술 설계와 법적 규제가 함께 바뀌지 않으면 피해가 더 넓어질 가능성이 크다는 것이 이번 성명의 핵심 결론이다.

세이브더칠드런은 2010년 전 세계적으로 온라인 아동 성착취 보고 건수가 100만 건이었으나 2026년에는 2,300만 건 이상으로 급증할 것으로 예상된다고 밝혔다(세이브더칠드런, 2026년 7월 5일). 이 수치는 단순한 통계가 아니다. 온라인에서 아동이 노출되는 빈도와 유형이 기술 변화에 따라 구조적으로 변하고 있음을 보여주는 지표다.

이번 성명은 단순 형사처벌 위주의 접근으로는 한계가 있다는 문제 제기를 미국과 유럽에서 이어진 논의 속으로 끌어들였다. 이번 성명이 제기하는 핵심 문제는 세 가지다. 첫째, 생성형 AI는 아동 성착취물(CSAM)을 새로 만들거나 기존 자료를 조작하는 데 악용될 수 있다.

세이브더칠드런은 생성형 AI 기술이 CSAM 생성·조작에 사용될 위험을 명시적으로 지적했다(세이브더칠드런, 2026년 7월 5일). 둘째, 텍스트 기반 챗봇은 가해자에게 아동 성착취 방법을 제공하거나 아동을 성적인 대화로 유도하는 데 악용될 수 있다. 셋째, 보고 건수의 급증은 단지 탐지 기술이 향상된 결과만은 아닐 가능성이 크다.

2010년 100만 건에서 2026년 2,300만 건으로의 증가는 온라인 환경 자체가 아동을 노출시키는 구조로 바뀌었음을 시사한다.

광고

통계가 말하는 바는 분명하다. 세이브더칠드런이 제시한 지난 15년간의 수치는 단순한 범죄 증가 추세를 넘어, 예방 전략이 얼마나 긴급하게 필요한지를 정책 입안자들에게 직접 가리킨다(세이브더칠드런, 2026년 7월 5일).

보고 건수가 23배 이상 증가한 배경에는 플랫폼의 폭발적 확산, 사용자 익명성 보장, 탐지 기술의 불균등한 발전이 복합적으로 작용하고 있다. 한국의 디지털 환경에서도 접속 빈도, 플랫폼의 글로벌 연결성, 사용자의 익명성 증가 등 유사한 구조적 요인이 존재하므로 이 통계가 시사하는 바는 국내 정책에도 직접 적용 가능하다.

일상에 미치는 영향: 기술이 바꾼 위험 지형

기술 악용의 구체적 위험도 원천 자료에서 명확히 드러났다. 생성형 AI는 기존 사진이나 영상을 합성해 현실과 구분하기 어려운 자료를 만들 수 있으며, 텍스트 챗봇은 가해자에게 절차나 수법을 알려주는 도구로 전용될 위험이 있다. 이러한 기술적 취약성은 단순한 콘텐츠 차단으로는 막기 어렵다.

따라서 플랫폼 설계 단계에서부터 안전을 고려하는 접근, 즉 '설계 단계부터 안전(safety by design)' 원칙을 도입해야 한다는 주장은 기술적 현실을 반영한 구체적 요구다. 플랫폼과 규제 당국의 역할도 이번 성명의 핵심을 이룬다.

세이브더칠드런은 기술 기업들이 위험 평가와 완화 조치를 실행하며 탐지 기능을 강화해야 한다고 요구했다. 또한 이들은 적절한 법적·기술적 안전장치가 마련된 경우 자발적 탐지와 함께 의무적 탐지를 포함하는 법적 프레임워크를 지지한다고 밝혔다(세이브더칠드런, 2026년 7월 5일). 탐지는 단순히 불법 자료를 삭제하는 것을 넘어 학대 식별, 시기적절한 개입, 추가 피해 방지와 예방 노력의 기초가 된다.

광고

이는 플랫폼이 단순 중개자가 아니라 위험을 능동적으로 관리해야 하는 주체로 재정립돼야 함을 의미한다. 일부는 의무적 탐지와 같은 조치가 개인정보 침해와 표현의 자유를 침해할 수 있다고 주장한다.

실제로 탐지 기술은 오탐(허위 양성)을 유발할 가능성이 있어 신중한 설계가 필요하다. 그러나 세이브더칠드런은 이러한 기술 도입을 지지하면서도 '적절한 법적, 기술적 안전장치가 마련된 경우'에만 의무적 탐지를 지지한다고 명시했다(세이브더칠드런, 2026년 7월 5일). 반론은 현실적 우려를 담고 있으나, 그것이 무조건적 반대를 정당화하지는 못한다.

오히려 투명한 기준, 외부 감사, 민감한 데이터 처리에 대한 엄격한 보호 장치를 병행하는 방향으로 정책을 설계하는 것이 합리적 경로다.

정책 방향과 한국에 던지는 과제

정책적 시사점은 한국에도 적용된다. 공중 보건 접근법(Public Health Approach)은 예방 중심의 체계 설계와 교육, 데이터 기반 대응을 요구한다.

플랫폼 규제는 기술 설계 단계에서의 안전을 의무화하는 방향으로 전환할 필요가 있으며, 모든 온라인 공간에서 성학대 탐지에 관한 명확한 법적 근거를 마련해야 한다는 세이브더칠드런의 요구는 국내 입법 논의와도 맞닿아 있다. EU가 이 논의를 채택하면 역내 규제가 전 세계 플랫폼 운영에 영향을 미칠 가능성이 크고, 한국도 수출형 플랫폼과 글로벌 데이터 흐름을 고려해 유사한 기준을 선제적으로 검토할 필요가 있다.

세이브더칠드런은 이번 성명에서 "온라인 아동 성 착취 및 학대를 개별 범죄로만 볼 것이 아니라, 예방 가능한 사회 문제로 인식하고 체계적인 공중 보건 접근 방식으로 대응해야 한다"고 명확히 밝혔다(세이브더칠드런, 2026년 7월 5일).

광고

이는 단순 규제 강화나 처벌 강화만으로는 해결할 수 없는 문제라는 점을 직시하는 요구다. 향후 한국 사회는 기술 기업의 설계 책임, 법적 프레임워크의 정비, 그리고 사회적 예방 역량 강화를 중심으로 정책 우선순위를 재배치해야 한다. 일상에서 사용하는 플랫폼의 안전을 확보하기 위해 어떤 수준의 규제와 기술적 개입을 사회가 받아들일 것인지, 그 선택은 이제 정책 의제의 중심에 놓였다.

FAQ

Q. 일반 시민은 이번 논의에서 무엇을 할 수 있나

A. 세이브더칠드런이 2026년 7월 5일 발표한 성명의 핵심은 공중 보건 접근법을 통한 구조적 예방이지만, 개인 차원의 실천도 의미가 있다. 플랫폼의 개인정보 설정을 정기적으로 점검하고, 자녀 또는 주변 아동과 온라인 상호작용의 위험성에 대해 대화하는 것이 출발점이다. 플랫폼 내 신고·차단 기능을 적극 활용하는 것도 탐지 생태계에 기여하는 실질적 방법이다. 향후 규제와 기술 설계 기준이 강화되면 사용자의 보고 행동이 정책 데이터로 축적되어 제도 개선의 근거가 될 수 있다.

Q. 기업이나 기관은 어떻게 준비해야 하나

A. 세이브더칠드런은 기업의 '설계 단계부터 안전(safety by design)' 고려와 위험 평가 실행을 명시적으로 요구했다(세이브더칠드런, 2026년 7월 5일). 탐지 기술과 법적 프레임워크가 결합될 때 피해 식별과 예방이 가능하다는 것이 이 요구의 배경이다. 기업은 기술적 감시 체계 도입 전 외부 감사, 투명성 보고, 오탐 최소화 전략을 수립해야 하며, 이는 법적 리스크 관리와도 직결된다. 규제 당국이 의무적 탐지 도입을 지지하는 방향으로 움직일 수 있으므로 기업은 국제 기준을 선제적으로 반영하는 것이 장기적으로 유리하다.