보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

대기업들의 이윤 논리에 의해 열리는 AI 시대의 혼돈과 위험성

입력 : 2023-05-28 22:38
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
인공지능이 본격적으로 사회 여러 곳에 자리를 잡으면 우리는 지금과는 또 다른 형태의 혼돈을 맛보게 될 것이다. 그리고 그 혼돈을 지배하는 건 증오가 될 가능성이 높다. 역사는 반복되기 때문이다.

[보안뉴스 문정후 기자] 역사는 정말로 반복되고 있으며, 지금 모든 사람이 열광하고 있는 생성형 인공지능 역시 그런 챗바퀴 속에 포함되어 있다. 어쩌면 지금의 상황을 미래인들은 ‘챗GPT 혁명’이라고 부를지도 모르겠다. 실제로 지금 현장의 IT 전문가들이 하는 말만 들어보면 과거 우리가 혁명이라고 불렀던 여러 가지 사건들과 전혀 다르지 않음을 알 수 있다.

[이미지 = gettyimagesbank]


과거 PC 혁명이 일어났을 때 현재의 IT 전문가들은 아마 기저귀도 채 떼지 못하고 있었을 거라고 생각한다. PC라는 기계가 사무실 책상을 천천히 차지하기 시작했을 때를 말하는 것이다. 그 당시에 만들어진 영화나 드라마를 보면 사무실 책상은 온통 종이 서류로 가득하다. 지금은 상상도 못할 일이다.

필자가 테크 분야에서 기자 생활을 시작한 것은 1983년의 일이다. 컴퓨터월드(Computerworld)라는 잡지사에서였다. 그 때는 메인프레임과 미니컴퓨터라는 이름이 붙은 기술이 테크 분야를 점령하고 있었다. 즉 PC(퍼스널 컴퓨터)라는 것은 기술 분야의 마니아들 중 돈 많은 괴짜들이나 사는 장난감 같은 것이었다. 좋은 게임기이기도 했다.

당시 한 CIO는(그 당시 막 CIO라는 용어가 나오고 있었다) “PC가 전혀 필요하지 않다”고 필자와 인터뷰하기도 했었다. 그의 모든 말은 옆에서 비서가 타자기로 타이핑하고 있었다. 지금은 상상도 못할 일이다.

그런 분위기 속에서도 ‘개인 컴퓨터 기계가 필요하다’고 강력히 주장하는 혁명가들이 있었다. 하지만 대부분의 부서장들과 관리자들은 PC를 ‘파일 캐비넷’이라고 부르며 절대로 허락하지 않았다. 아니, 파일 캐비넷에 갇혀 있었기 때문에 PC의 필요를 전혀 이해할 수 없었다. 전산 담당자들부터도 골치 아픈 새 기술인 PC를 회사 안으로 들여 일을 늘리고 싶어 하지 않았다.

혁명가들은 쉬이 꺾이지 않았다. 계속해서 새로운 필요를 발굴해 피력했다. 전산 담당자들이 조금씩 꺾이기 시작했다. PC의 맛을 보거나, PC의 필요를 공감하는 사람들이 느리지만 하나씩 늘어났다. PC를 조심스럽게 도입하는 회사들이 생겨났다. 그러자 기업들은 PC 활용에 대한 규칙과 ‘체제’를 강조하기 시작했다. 물론 생전 처음 보는 PC라는 것에 딱 맞는 규칙과 체제가 있을 리 없었다. 그것조차 서서히 맞춰가야 했다. 아직 첫 컴퓨터 바이러스라는 것이 등장하기 전의 일이다.

당시의 IT 분야 리더들은 영국의 조지 3세나 프랑스의 루이 14세, 러시아의 니콜라스 2세 왕들처럼 자신감 넘치는 모습으로 혁명의 시도들을 마주했다. 열심히 PC가 기업 책상 위로 기어오르지 못하도록 막았다. 하지만 90년대 중반쯤 이미 PC 혁명가들이 승리했다. PC를 끝까지 반대하고 적응하지 못했던 이들은 대부분 은퇴하거나 현장을 떠났다. 남은 사람들은 이제 이 PC라는 물건을 어떻게 다루고 관리해야 하는지를 새롭게 연구하기 시작했다.

너무나 익숙한 흐름 아닌가? 이미 일반인들은 생성형 인공지능에 놀라워하고 있으며, 자신들의 근무지에 데리고 오고 싶어 한다. 챗GPT로 보고서를 작성하거나 문건을 만드는 게 신나고 즐거우며 효율적이기까지 하다. 글의 작성에 스트레스를 받아 왔던 사람들은 이제 새로운 시대가 열렸다고 자축하고 있는 상황이다.

부서장들과 최고 경영진들 역시 생성형 인공지능에 호감 섞인 시선을 보내고 있다. 어쩌면 이들은 PC 혁명 당시 주니어나 대학생의 입장에서 그 파란만장했단 때를 지나왔을 수 있다. 그러므로 결국 신기술이 이기게 될 것이라는 걸 직감하고 있다. 미리 현재의 워크플로우를 검토하고, 또 업무 과정을 평가하면서 이 인공지능이라는 것을 어떻게 접목시켜야 하는지를 나름대로 알아보는 중이다.

하지만 CIO들이나 여타 IT 전문가들은 어떤가? 현재까지는 인공지능을 ‘제한된’ 환경과 상황에서 사용하는 것을 강조하고 있다. 테크 프로들의 그런 주장을 이해하지 못할 것은 아니다. 데이터와 보안, 각종 윤리 사회적 문제를 인공지능이 내포하고 있는 것은 분명한 사실이다. 그 외에 우리가 미처 상상하지 못한 위험들이 있을 가능성도 다분하다. 다만 필자가 말하고 싶은 건, 지금의 우리가 제한된 환경이나 사용 체제 및 조건을 만들 수 있느냐는 것이다. 아직 인공지능에 대해 이해하고 있지 못한데 말이다.

어느 혁명 때나 그랬듯이 새로운 것이 가져올 위험성에 대해 우려하는 목소리에는 타당성이 들어 있다. 다만 지금 이 시점에 그 우려를 불식시킬 정도로 타당한 ‘제한’이나 ‘제어’ 혹은 ‘가이드라인 설정’의 능력이 우리에게 있는지는 상당히 의문스럽다. 어느 혁명이나 새로운 것이 결국 이긴 것은, 그 새로운 것을 이해하지 못하는 상태에서 제어하려 했기 때문이 아닐까?

게다가 1980년대 중반과 지금의 상황은 상당히 다르다. 당시의 빅테크였던 IBM이나 디지털이큅먼트코퍼레이션(Digital Equipment Corp.) 등의 회사들은 PC 시장을 개척하는 데에 있어 상당히 회의적이었다. 지금처럼 너도나도 적극적으로 뛰어들지 않았다는 것이다.

예를 들어 당시 MS는 도스라는 것을 처음 만들어 PC에 탑재시켜 판매했는데, 이런 PC의 개발에 IBM이 참여했다. 수년 후 빌 게이츠(Bill Gates)는 당시를 회상하며 “IBM이 PC를 보다 복잡하게 만들고 싶어 했다”고 밝힌 바 있다. 사용자의 편의성을 고려한 ‘리셋’ 버튼을 매우 싫어했다는 것이다. 그래서 당시 힘이 없었던 MS는 재부팅을 위해 ‘컨트롤-알트-딜리트’ 버튼을 동시에 누르는 기능을 구현해야만 했다고 한다. 지금으로서는 상상도 못할 일이다.

지금은 어떤가? 구글, MS, 메타, SAP, 애플 등 이 분야의 큰 손들이 누가 시키지도 않았는데 인공지능을 향상시키기 위해 모든 수단과 방법을 동원하고 있다. 그렇게 했을 때 신규 사용자들을 끌어들일 수 있고, 이를 통해 사업을 확장시키고자 하는 것이다.

그런데 사실, 그러한 자발적 경쟁 구도가 인공지능을 무섭게 만들고 있다. 인공지능에 대한 이해 없이 인공지능을 규제하려는 것이 실패로 돌아갈 것이라면, 인공지능에 대한 이해 없이 인공지능을 촉진하는 것도 마찬가지로 의도치 않은 결과를 낳게 되는 것 아닐까? 구글, 메타, MS, 애플은 인류를 대표해 인공지능을 촉진시킬 정도로 높은 이해도를 가지고 있는가? 사업적 목적에 의해 보지 못하고 깨닫지 못하는 건 없는 걸까?

필자는 인공지능의 안전한 발전에 대해 뭐라도 손을 써보기도 전에 대기업들의 이윤 논리에 의해 인공지능의 시대가 열리게 될 것을 두려워하고 있다. 규제는 그 자체로 아름답다기보다, 규제가 성립되는 다수의 논의 과정과, 규제 설정 후 개정되는 자기 수정의 과정이 있어 아름다운 것이다. 이미 소셜미디어의 검증되지 않은 게시글 몇 개로 막대한 증오가 형성되는 시대에, 우리는 그런 ‘아름다움’을 실천할 수 있을까?

필자가 가지고 있는 두려움의 뿌리는 간단하다. 어떤 규제의 노력에도 불구하고 인공지능의 시대가 도래하긴 할 것인데, 그 전에 우리는 충분한 토의를 거치고 질문에 충분히 답을 낼 수 없는 상황이라는 것이다. 그렇게 된다면 그것은 적잖은 혼란을 야기할 것이다.

굶주려 성난 군중들이 바스티유에 농기구를 살벌하게 들고 모이는 광경이 아직 연출되지는 않았지만, 역사는 반복되는 것이기에, 우리는 그런 미래를 충분히 예상할 수 있다. 누가 성낼 지, 그래서 뾰족한 날붙이들을 누구 목에 들이댈지는 아무도 예측할 수 없다. 지금 모두를 달래고 납득시킬 수 있을 만한 토론이 시작되어야 한다.

글 : 제임스 코놀리(James M. Connolly), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
2023년 주요 보안 위협 가운데, 올해 말까지 가장 큰 피해를 끼칠 것으로 예상되는 위협은?
공급망 공격
다크웹 기반 랜섬웨어 조직
북한/중국/러시아 등 국가 지원 해킹그룹 활동
스마트폰을 노린 보안 위협
OT 타깃 공격
피싱 공격
기타(댓글로)