보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

대형 언어 모델을 바라보는 IT와 금융 업계의 시선

입력 : 2023-05-26 12:25
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
인공지능이 말 그대로 세계 유수의 조직들을 뒤흔들고 있다. 기술 업계에 새로운 도전자들이 생겨나고 있기도 하지만, 기존 금융 분야의 오래된 강자들 사이에서도 적잖은 혼란이 일고 있다. 뉴욕에서 IT와 금융 분야의 결정권자들이 나와 인공지능을 바라보는 자신들의 시각을 공유했다.

[보안뉴스 문정후 기자] 대형 언어 모델(LLM)을 비롯해 ‘생성형 인공지능’이라는 기술을 바탕으로 한 상품과 서비스들이 빠르게 시장으로 나오고 있다. 하지만 모든 기업들이 이 흐름에 동참해야 하는 것도 아니고, 그러고 싶은 것도 아니며, 그럴 수 있는 것도 아니다. 특히 은행처럼 많은 규제를 받는 조직이라면 인공지능과 같은 신기술을 도입할 때 생각해야 할 게 많다.

[이미지 = gettyimagesbank]


지난 주 뉴욕에서는 여러 기술 기업들과 금융권 조직들이 만나 인공지능에 대한 이야기를 나누었다. ‘뉴욕기업기술회의(New York Enterprise Technology Meetup)’에서였다. 벤처캐피털 업체 워크벤치(Work-Bench)의 파트너 다니엘 체슬리(Daniel Cheseley)가 좌장을 맡은 가운데 모건스탠리(Morgan Stanley)와 JP모건체이스(JPMorgan Chase)의 임원과 인공지능 스타트업들인 모자이크ML(MosaicML)과 아서(Arthur)의 임원이 만나 이야기를 나누었다.

1. IT 분야의 업체들
먼저 스타트업들에 있어 인공지능의 갑작스러운 인기몰이는 “어떤 방향에서 이 현상을 공략해야 하는가?”를 고민케 한다고 한다. 아서의 CEO인 아담 웬첼(Adam Wenchel)은 “지난 11월 챗GPT라는 게 등장하면서 IT 업계가 말 그대로 폭발했다”며 “우리도 챗GPT라는 걸 조금 만져보자마자 곧바로 심상치 않음을 직감하고 ‘이걸 어떻게 우리 사업에 맞게 활용할 것인가’를 연구하기 시작했다”고 말한다.

“어떤 회사들은 순식간에 이 LLM을 가지고 제품과 서비스를 생산하기 시작하더군요. 하지만 그러면서 꽤나 위험할 수 있는 현상들이 발견됐습니다. 전혀 새로운 해결 과제들이었습니다. 너무나 진짜 같은 가짜를 만들어낸다거나, 독소 가득한 콘텐츠를 아무렇지도 않게 제작한다거나, 민감한 정보를 유출한다거나 하는 문제들이었습니다.” 그런 문제들 때문에 챗GPT를 응용한 상품을 내놓던 기업들은 일단 프로젝트를 중단하게 됐고, 다시 처음부터 챗GPT와 관련된 여러 가지 현상들을 관찰하게 됐다. 아서 역시 다른 기업들에서 나타난 그러한 문제들을 깨닫고 해결 방안부터 마련해야 빠르게 치고나갈 수 있다고 결론을 내렸다.

모자이크ML의 수석 과학자인 조나단 프랭클(Jonathan Frankle)의 경우에도 LLM이 여러 방면으로 응용되는 것을 목격하고 있다며, 아직 사용 방법과 사례에 대한 연구는 활발히 진행 중에 있음을 강조했다. “챗GPT를 챗봇으로써 사용하기만 하는 건 아니더군요. 솔직히 챗봇으로 사용하는 경우가 많이 없어 보일 정도입니다. 오히려 유용한 정보를 특정 데이터셋에서 추출한다거나, 요약할 때 챗GPT는 훨씬 요긴해 보였습니다. 예를 들어 법 문서를 일반인이 보다 명확하게 이해하고 싶을 때 유용하죠.”

그 외에도 다양한 활용법이 앞으로도 등장할 것이 분명해 보이지만, 프랭클은 “인공지능을 사람의 감독 없이 혼자서 작동하고 움직이게 하는 건 아직 힘들어 보인다”는 의견이다. “시도야 해 볼 수 있겠지만 저라면 혼자 알아서 잘 작동하게 놔두라고 권할 것 같지는 않습니다. 그 용례가 무엇이든 말이죠. 정보 추출이나 요약의 경우, 그러한 작업 자체가 대단히 치명적이거나 고도의 기술력, 결과물의 어마어마한 정확도를 요구하지 않습니다. 그렇기 때문에 그런 류의 작업에서 가장 빛을 보는 것입니다.”

2. 인공지능과 금융권
인공지능 기술에 대하여 인공지능 업체들이 관심을 갖는 건 지극히 당연한 일이다. 하지만 금융 기관들의 관심도 만만치 않다. 사실 금융 분야에서는 챗GPT가 등장하기 전부터 생성형 인공지능 기술을 눈여겨보고 있었다. 다만 이 분야의 연구와 조사가 공공연하게 진행되던 건 아니었고, 챗GPT가 나오면서 본격화 됐다고 한다. 경쟁 구도가 형성됐고, 따라서 금융 분야의 인공지능 연구에 속도가 붙었던 것이다.

JP모건체이스의 인공지능 분야 책임자인 세이지 리(Sage Lee)는 “금융 기관에서 인공지능을 만지기 시작한 건 최소 5년 전부터”라고 말한다. “지금 금융 분야에서 집중하는 건 ‘거버넌스’입니다. 기존의 모델들과 인공지능 및 머신러닝의 거버넌스가 어떤 식으로 달라져야 하는지를 비교하면서 최적의 방법을 도출해내려 하는 것이죠. 보통 금융권에서는 모델이 될 만한 것과 그렇지 않은 것을 비교하여 모델을 최적화 하는데, 인공지능이 등장하면서 모델 간의 비교가 시작된 것입니다.”

그러면서 생각할 수밖에 없는 게 ‘각종 리스크’라고 한다. “금융 기관은 신뢰를 잃으면 끝일 정도로 실수와 잘못에 민감합니다. 충분히 검증되지 않은 기술에서 우리가 상상하지 못한 현상이 발생할 때, 그리고 그것이 평판과 신뢰를 낮추는 것에 촉각을 곤두세울 수밖에 없죠. 그러므로 인공지능과 관련된 그 모든 결과물이 안전하고 정확할 수 있도록 인프라를 구축하는 것에 집중하고 있습니다. 금융 기관을 위한 올바른 인공지능 인프라는 무엇인가? 그것이 고민인 것이죠. 그 다음은 그 인프라와 인공지능을 유지하기 위한 올바른 데이터를 수급하는 문제가 고민이 될 것입니다.”

다음이라고 했지만 사실 그 고민은 이미 시작됐다고 해도 과언이 아니다. 데이터를 어떻게 다룰 것인가, 양질의 데이터를 어떻게 꾸준히 수급할 것인가, 어떤 경로로 데이터를 수급해야 저작권 등의 문제에 걸리지 않을 것인가, 활용을 마친 데이터를 어떻게 삭제하고 보관할 것인가 등 대답해야 할 것이 벌써부터 한두 개가 아니기 때문이다. “프라이버시와 사이버 보안이 점점 더 중요한 이슈가 되어 갈 미래에 대비하기 위해서는 지금부터 데이터를 달리 생각하고 바라봐야 할 겁니다. 그것이 곧 경쟁력이 될 것이고, 따라서 저희는 흥미로운 시대로 나아가고 있다고 볼 수 있습니다.”

모건스탠리의 기술 부문 총괄인 데이비드 우(David Wu)의 경우 딱 맞는 기술력을 가진 벤더사를 물색하는 부분이 매우 까다로워지고 있다는 입장이다. “모든 것, 정말 글자 그대로 모든 것을 평가해야만 하는 때입니다. 예를 들어 저희 조직의 경우 오픈AI의 존재를 2021년 후반에 알게 됐고, 지금까지 1년 넘게 공동의 작업을 이뤄가고 있습니다. 저희의 가장 중요한 고민은 ‘우리를 다른 조직들과 다르게 만드는 지적자본은 무엇이어야 하는가?’와 ‘GPT-4라는 기술력을 그러한 지적자본 강화에 어떻게 활용해야 하는 것인가?’였습니다.”

그런 와중인 지난 11월 챗GPT가 발표됐고 인공지능 분야의 지형도는 크게 바뀌었다. 각종 유사 기술들이 홍수처럼 기술 업계는 물론 금융계로도 쏟아졌기 때문이다. “저희 모드 매일 압도되고 있는 상황입니다. 기술의 변화는 물론 IT와 금융 생태계를 유지하는 데에만도 어마어마한 노력이 들어갑니다. 기존 벤더사들은 계속해서 인공지능을 내세우면서 브랜딩을 다시 하고 있는 상황이고, 그러면서 전혀 다른 성격의 파트너사가 되어가고 있습니다. 인공지능을 특기로 하는 새로운 기업들이 생기는 것도 물론이고요. 90년대 닷컴 회사들이 마구 생겨날 때와 비슷합니다. 우리에게 딱 맞는 벤더를 고르는 게 너무나 난이도 높은 일이 됐습니다.”

그럼에도 모건스탠리는 ‘운이 좋은 편’이었다고 한다. 오픈AI와 1년 넘게 여러 가지 작업을 해왔던 경험이 있어 인공지능 기술이 어떤 식으로 작동하고, 그러므로 금융 분야와 어떻게 맞물릴 수 있으며, 따라서 어떤 기준을 가지고 벤더를 선택해야 하는지 어느 정도는 먼저 감을 잡을 수 있었기 때문이다. “당시의 유행이나 유명세만 가지고 결정하면 안 됩니다. 오픈AI가 지금 가장 유명하고 가장 높은 기술력을 가진 업체 중 하나인 건 맞습니다. 하지만 그 오픈AI 때문에 우리 같은 구매자들 입장에서는 선택할 수 있는 업체가 더 많아졌죠. 경쟁이 심화되면서 오히려 우리는 더 딱 맞는 걸 고를 수 있게 된 것입니다. 그러한 시장의 확장 상황을 자기에게 유리한 것으로 만들어야 합니다.”

계속해서 데이비드 우는 “어느 분야나 속도 조절이 관건일 것”이라고 짚는다. “인공지능처럼 강력한 신기술을 보면 그 누구보다 빨리 도입하여 경쟁에서 앞서가고 싶은 욕구가 샘솟을 것입니다. 하지만 그럴 때 더 주의해야 합니다. 금융 업계처럼 규제가 많은 곳은 더 그렇습니다. 충분히 여러 각도로 조사하고 알아보면서 한 발 한 발 확실하게 떼는 게 중요합니다. 먼저는 ‘현재 내게 주어진 선택지에 어떤 것들이 있는가’부터 알아보고, ‘그 중 우리의 잠재력을 가장 잘 일깨워줄 곳이 어디인가’를 차례로 질문하고 답해야 합니다.”

글 : 조아오피에르 루스(Joao-Pierre S. Ruth), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
2023년 주요 보안 위협 가운데, 올해 말까지 가장 큰 피해를 끼칠 것으로 예상되는 위협은?
공급망 공격
다크웹 기반 랜섬웨어 조직
북한/중국/러시아 등 국가 지원 해킹그룹 활동
스마트폰을 노린 보안 위협
OT 타깃 공격
피싱 공격
기타(댓글로)