오픈AI, 전 세계적으로 진행되는 여론 조작 캠페인 스무 개 무력화시켜

요약 : 보안 외신 해커뉴스에 의하면 오픈AI(OpenAI)가 인공지능 기술을 활용하여 전 세계적으로 진행되는 악성 캠페인 스무 개를 적발 및 차단하는 데 성공했다고 한다. 이 스무 가지 캠페인은 멀웨어 유포, 가짜뉴스 배포, 가짜 소셜미디어 계정 생성, 가짜 프로필 생성 등 다양한 활동으로 구성되어 있었다. 즉 주로 특정 국가 내 여론을 조작하기 위한 캠페인이 대부분이었다는 것이다. 이런 캠페인들의 배후 세력은 다양했는데, 중국과 이란이 많은 것으로 분석됐다.

배경 : 이런 식의 여론 조작 캠페인은 생성형 인공지능이 만들어낸 콘텐츠를 활용하는 것이 핵심이다. 인간 공격자가 수작업으로 콘텐츠를 만들어봐야 여론이 조작될 정도의 물량이 확보될 수 없기 때문이다. 사람이 만든 것과 비슷한 콘텐츠를 단시간에 다량으로 제작하는 인공지능 플랫폼이 사이버 공격에 자주 활용되는 것은 여러 차례 보고된 바 있다. 오픈AI의 챗GPT도 이런 식으로 악용되는 플랫폼 중 하나이며, 이 때문에 오픈AI가 악성 움직임들을 탐지해 무력화시킬 수 있었던 것이다.

말말말 : “인공지능이 발전하는 바람에 누구나 고급 여론 조작 캠페인을 시도할 수 있게 됐습니다. 인공지능 기술 플랫폼을 제공하는 기업들이라면 자사 플랫폼에서 자행되는 악성 캠페인을 탐지하여 무력화시킬 수 있어야 할 겁니다. 소셜미디어들이 그렇게 하듯이요.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다