요약 : 보안 외신 해커뉴스에 의하면 오픈AI(OpenAI)가 인공지능 기술을 활용하여 전 세계적으로 진행되는 악성 캠페인 스무 개를 적발 및 차단하는 데 성공했다고 한다. 이 스무 가지 캠페인은 멀웨어 유포, 가짜뉴스 배포, 가짜 소셜미디어 계정 생성, 가짜 프로필 생성 등 다양한 활동으로 구성되어 있었다. 즉 주로 특정 국가 내 여론을 조작하기 위한 캠페인이 대부분이었다는 것이다. 이런 캠페인들의 배후 세력은 다양했는데, 중국과 이란이 많은 것으로 분석됐다.
배경 : 이런 식의 여론 조작 캠페인은 생성형 인공지능이 만들어낸 콘텐츠를 활용하는 것이 핵심이다. 인간 공격자가 수작업으로 콘텐츠를 만들어봐야 여론이 조작될 정도의 물량이 확보될 수 없기 때문이다. 사람이 만든 것과 비슷한 콘텐츠를 단시간에 다량으로 제작하는 인공지능 플랫폼이 사이버 공격에 자주 활용되는 것은 여러 차례 보고된 바 있다. 오픈AI의 챗GPT도 이런 식으로 악용되는 플랫폼 중 하나이며, 이 때문에 오픈AI가 악성 움직임들을 탐지해 무력화시킬 수 있었던 것이다.
말말말 : “인공지능이 발전하는 바람에 누구나 고급 여론 조작 캠페인을 시도할 수 있게 됐습니다. 인공지능 기술 플랫폼을 제공하는 기업들이라면 자사 플랫폼에서 자행되는 악성 캠페인을 탐지하여 무력화시킬 수 있어야 할 겁니다. 소셜미디어들이 그렇게 하듯이요.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]
[이미지 = gettyimagesbank]
배경 : 이런 식의 여론 조작 캠페인은 생성형 인공지능이 만들어낸 콘텐츠를 활용하는 것이 핵심이다. 인간 공격자가 수작업으로 콘텐츠를 만들어봐야 여론이 조작될 정도의 물량이 확보될 수 없기 때문이다. 사람이 만든 것과 비슷한 콘텐츠를 단시간에 다량으로 제작하는 인공지능 플랫폼이 사이버 공격에 자주 활용되는 것은 여러 차례 보고된 바 있다. 오픈AI의 챗GPT도 이런 식으로 악용되는 플랫폼 중 하나이며, 이 때문에 오픈AI가 악성 움직임들을 탐지해 무력화시킬 수 있었던 것이다.
말말말 : “인공지능이 발전하는 바람에 누구나 고급 여론 조작 캠페인을 시도할 수 있게 됐습니다. 인공지능 기술 플랫폼을 제공하는 기업들이라면 자사 플랫폼에서 자행되는 악성 캠페인을 탐지하여 무력화시킬 수 있어야 할 겁니다. 소셜미디어들이 그렇게 하듯이요.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-10-11] 
.jpg)
(6).jpg)
