최근 오픈AI가 발표한 바에 따르면 오는 12월부터 성인 인증을 거친 이용자에 한해 AI 챗봇이 성적인 대화와 콘텐츠 생성 기능을 공식적으로 허용하게 됩니다. 이는 AI 역사상 최초로 성적 대화를 공식 지원하는 변화로, 기존에 정신건강 문제 등을 고려하여 AI 표현에 제한이 많았으나 성인에겐 보다 자연스럽고 인간적인 경험을 제공하겠다는 취지입니다.
반면 한국에서는 이 같은 기능의 도입이 현실적으로 매우 어려운 상황입니다. 이유는 국내 성폭력범죄 처벌에 관한 특례법(성폭력특례법)이 AI를 통해 생성된 성적 이미지, 음성, 또는 대화까지도 형사처벌 대상으로 규정하고 있으며 단순 시청이나 저장 행위도 처벌 대상이기 때문입니다. 이러한 범위는 AI와 관련된 국내 신법인 AI 기본법 시행 이후 더욱 엄격해질 전망입니다.
법학 전문가는 한국 사회가 미국 등보다 보수적인 성적 표현 규제 체계를 가지고 있음을 강조하며, 국제 AI 서비스들이 글로벌 기준을 따르는 현실에서 국내만의 법적 기준을 강제로 반영하기 어렵다고 지적합니다. 따라서 정부와 민간이 협력해 한국 문화와 법률에 적합한 데이터셋을 별도 구축하여 글로벌 AI들이 학습하도록 하는 ‘데이터셋 기반 기술적 자율규제’가 필요하다는 의견을 내놓았습니다. 더불어 AI가 타인의 얼굴이나 음성 등을 무단으로 활용하는 불법 행위를 차단하기 위한 라벨링 기술 개발 또한 시급한 상태입니다.
이번 오픈AI의 결정은 AI 산업 진화와 AI 윤리 규제 사이에서 새로운 논쟁을 촉발하고 있습니다. AI가 인간의 욕망과 감정을 모사하는 시대에 표현의 자유를 어느 정도 보장할지, 그리고 사회적 안전을 위해 어떠한 제한이 필요한지에 대한 사회적 합의가 필요한 시점임을 시사합니다. 한국뿐만 아니라 전세계가 직면하고 있는 법적·윤리적 도전인 셈입니다.
