오픈AI가 12월부터 성인용 대화와 창작 콘텐츠를 허용하는 ‘어덜트(성인) 모드’를 운영하겠다고 한다. 성적 대화, 감정 교류, 딥페이크 수준의 영상 생성까지 그동안 윤리적인 이유로 제한했던 것을 모두 허용하겠다는 것이다.

물론 성인용 기능을 허용한 챗봇은 비단 챗지피티(GPT)만은 아니다. 그러나 챗GPT는 글로벌 AI(인공지능) 챗봇 시장 점유율 80% 이상을 차지하고 있을 만큼 보편적인 서비스로 자리 잡고 있다. 무엇보다 우리에게도 챗GPT는 일상적으로 활용되고 있다. 심지어 최근 카카오톡은 ‘챗GPT 포 카카오’ 서비스를 제공해 대화 중 답변이 가능하도록 하고 있다.

지금까지 챗GPT는 사회적 논란 사안이나 성적 주제, 정신건강 이슈 등에 대해서는 일정 수준 이상의 답변을 제공하지 않도록 엄격하게 제한했다. 이는 사회적, 윤리적 문제를 고려했기 때문이다. 그러나 올해 초에는 챗GPT와 자살과 관련한 이야기를 나누다 청소년이 사망하는 일이 발생하기도 하는 등 일정 수준의 규제가 이루어지는 현재에도 여러 사회적 문제는 발생하고 있다.

이처럼 AI 챗봇의 사회적, 윤리적 문제가 공론화되면서 이에 대한 법적 기준이 엄격해지는 한편, 성인용 콘텐츠를 허용해 기능을 보다 활성화하겠다고 하는 것이어서 우려는 더욱 크다. 물론 오픈AI의 ‘어덜트 모드’는 성인 인증 절차를 거친 사용자에게만 개방하도록 해 안전장치를 하겠다고는 하나 현실적으로 연령 인증과 콘텐츠 필터링은 불완전하다. 연령 확인을 시행한다 해도 다른 사람의 정보를 이용해 접속하는 청소년 이용자를 일일이 가려내기는 현실적으로 어렵다. 결국, 유해 콘텐츠에 대한 청소년의 노출 가능성은 여전히 남아있게 된다.

더불어 이러한 우려는 청소년에게만 해당하는 것은 아니다. 성인 이용자라 하더라도 AI 챗봇과 성적 대화를 오랜 시간 주고받다 보면 성도착증 같은 정신 건강 문제를 겪을 수 있다. 또한, AI의 젠더편향성 문제는 지속적으로 제기되었던 문제 중 하나이다. AI는 방대한 양의 데이터를 학습하고 이를 활용해 결과물을 만들어 내는 시스템이다. 결국, 특정 인종･연령･성별에 대한 차별이 여과 없이 학습 된다면 다양성이나 공정성 문제가 제기될 수 있다. 이런 이유로 성인용 기능 역시 왜곡된 인식과 혐오, 차별과 성폭력 등 문제를 내재하고 있다.

무엇보다 우려스러운 지점은 딥페이크의 일상화이다. 우리는 이미 딥페이크로 인한 10대들의 피해·가해 실태를 경험한 바 있다. 기술 발전이 딥페이크와 같은 디지털 성범죄 증가를 불러오고 있다는 지적은 기우가 아니다.

김덕진 IT커뮤니케이션연구소장은 단순히 성적 표현 허용 문제를 넘어 인간 관계 방식 자체를 흔들 수 있다고 경고한다. “AI가 욕도 하고, 애인처럼 얘기하고, 위로하고, 쇼핑까지 대신 추천하고 결제까지 붙으면 사람들은 실제 사람보다 AI와 대화하는 게 더 편해질 수 있다”는 지적도 새겨봐야 한다.

이 같은 여러 우려에도 AI 업계가 성인용 기능을 활성화하는 것은 결국 수익성에 기인한다. 사회적, 윤리적 고려 없이 수익성을 우선하는 것은 매우 위험하다. 우리는 수익을 추구하는 민간기업에도 사회적 책임을 요구한다. AI 업계 역시 기본적 사회적 책임과 윤리적 책임을 간과해서는 안 된다. 지금은 성인의 선택권, 기업의 수익성보다 콘텐츠에 대한 규제와 사회적 책임이 여전히 요구되는 시점임을 잊지 말아야 한다.

/김혜정(젠더N정책연구소 대표)