챗GPT, 성인물 기능 도입... “미성년자 성적 착취 증폭” 우려도

“보안 문제, 감정적 취약성, 법적 공백 혼합된 위험 상황”

[보안뉴스 김형근 기자] 오픈AI가 12월 챗GPT에 성인 인증 기반의 에로틱 대화 기능을 추가한다고 최근 밝혔다. 사용자 몰입도를 높여 수익을 극대화하려는 전략으로 분석된다.

하지만 이는 미성년자 피해와 온라인 성적 착취를 증폭시킬 우려가 크다고 학술 전문 매체 ‘더컨버세이션’이 최근 보도했다.

가장 큰 문제는 연령 확인 시스템이 쉽게 뚫린다는 점이다. 청소년이 훔친 신분증이나 딥페이크 등으로 성인 인증을 우회하는 것은 이미 공공연히 알려진 사실이다. X에서 만든 ‘그록’ 등 다른 챗봇에서도 노골적 대화나 성적 학대를 유도하는 문제가 발생한 바 있다.

특히 AI 챗봇이 보살핌과 관심을 시뮬레이션 하며 어린 사용자들의 감정적 의존성을 높일 위험이 있다.

또 AI 모델은 ‘탈옥’(Jailbreak) 기술에 취약해 윤리 필터를 쉽게 우회하며 금지된 콘텐츠를 생성하고 유포할 가능성이 크다.

상당수 에로틱 AI는 순종적 여성 역할로 디자인되어 여성 혐오와 왜곡된 성적 동의 개념을 확산시킨다는 비판도 나온다. 이는 여성과 소녀들이 비동의 딥페이크 등 온라인 성적 피해를 더 쉽게 입게 만드는 결과로 이어질 수 있다.

일단 생성된 유해 텍스트는 플랫폼의 통제 없이 온라인에 무한정 유포된다는 문제도 있다.

관련 규제는 미약해 법적 허점이 악용될 여지가 많다. AI가 랜섬웨어 공격에 악용되는 것과 같은 현상이 이 분야에서도 나타날 수 있다는 우려가 나온다. 오픈AI의 이번 결정은 미약한 규제와 법적 허점이 가득한 위험한 영역으로 발을 들여놓는 것이나 마찬가지라는 것이다.

[김형근 기자(editor@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다