기술의 어두운 이면: 여성을 겨냥한 온라인 폭력
인공지능(AI) 기술이 사람을 돕는 대신 해를 끼치는 도구로 변질되고 있습니다. 특히 나이지리아와 같은 국가에서는 AI가 만든 가짜 이미지나 글이 여성을 공격하고 괴롭히는 심각한 사회적 문제로 떠올랐습니다.
'조회수' 뒤에 숨겨진 잔인한 진실
소셜 미디어 기업들은 사용자의 참여도(Engagement, 클릭이나 댓글 등 사람들이 얼마나 열광적으로 반응하는지를 나타내는 지표)가 높으면 그 내용을 더 널리 퍼뜨립니다. 안타깝게도 AI로 만든 자극적인 괴롭힘 콘텐츠가 높은 조회수를 기록하면서, 플랫폼은 이를 차단하기보다 오히려 더 많이 노출시키고 있습니다.
"AI가 생성한 괴롭힘이 '관심 있는 콘텐츠'로 취급될 때, 그 피해는 고스란히 여성들에게 돌아갑니다."
피해가 집중되는 '글로벌 머조리티'
글로벌 머조리티(Global Majority, 아프리카, 아시아, 라틴 아메리카 등 전 세계 인구의 다수를 차지하는 비서구권 지역)의 여성들은 이러한 디지털 범죄에 더욱 취약합니다. 이들은 기술적 보호 장치가 부족한 환경에서 살고 있는 경우가 많기 때문입니다.
- 보안 시스템의 부재: 온라인 폭력을 실시간으로 막을 수 있는 기술이 부족합니다.
- 법적 제도 미비: 새로운 형태의 AI 범죄를 처벌할 법이 제대로 마련되어 있지 않습니다.
- 부수적 피해: 기술 발전 과정에서 의도하지 않았으나 억울하게 입게 되는 부수적 피해(Collateral damage)가 이들에게 집중되고 있습니다.

















