S2W ‘SIS 2024 MERGE’ 콘퍼런스에서 생성형 AI 주제로 패널토의 열려
널리 사용되는 생성형 AI, 법적 규제 마련 부족...지속적인 논의 필요
[보안뉴스 박은주 기자] 직장인 4명 중 3명은 인공지능(AI)을 사용한다. MS가 2024년에 발표한 ‘업무동향지표 2024’ 보고서에 따르면 한국 근로자 73%가 AI를 사용하고 있다.
AI 기술을 토대로 새로운 비즈니스 환경이 만들어지고 있다. Chat GPT를 시작으로 생성형 AI가 큰 주목을 받았고, 마이크로소프트 코파일럿(Copilot), 구글 제미나이(Gemini) 등 거대 글로벌 기업에서 생성형 AI를 제공하고 있다.
AI는 한 영역에 국한되지 않고 산업 전 분야에 접목할 수 있다. S2W의 ‘SIS 2024 MERGE’ 콘퍼런스에서 기업과 학계, 법조계 전문가가 모여 생성형 AI 사용 현황을 공유하고, 안전한 사용방법을 논의하는 패널 토의가 열렸다. S2W 박근태 CTO의 사회로 △카이스트(KAIST) 이기민 교수 △SKT 김우영 매니저 △법무법인 태평양 윤주호 변호사 △삼성SDS 김동관 박사가 패널로 참석했다.
전 분야를 막론하고 AI는 업무 효율성을 높이는데 톡톡한 보조자 역할을 맡고 있었다. 문서 작성이나 영어 번역, 사진 편집 등 다양한 분야에서 두루 사용됐고, 자체적으로 LLM 모델을 구축하고 AI 서비스를 제작하기도 했다. 다만, 태평양 윤주호 변호사는 “로펌에서는 고객 개인정보를 주로 다루기 때문에 생성형 AI를 전적으로 도입하기엔 무리가 있다”며 “번역이나 간단한 메일 작성 등에 사용하고 있다”고 밝혔다.
생성형 AI 발전 가능성에 대해서는 분야별 다양한 의견이 제기됐다. SKT 김우영 매니저는 “이미 (생성형 AI가) 사람 수준으로 발달했고, 앞으로 전문가 수준에 도달해 에이전트화 되어 활용할 수 있을 것으로 기대한다”고 설명했다. 카이스트 이기민 교수는 한발 앞서 “이미 전문가 수준을 뛰어넘은 AI를 여럿 발견했다”며, “발전을 거듭할 것으로 예상한다”고 밝혔다.
반면, 삼성SDS 김동관 박사는 “업무 효율성 향상에 도움이 되지만 보조적인 역할일 뿐”이라며 “복잡한 문제에 관해서 전문가 노하우가 수반돼야 하기 때문”이라고 설명했다. 김 박사는 “전문가의 노하우까지 학습할 수 있다면 충분히 발전 가능성이 보인다”고 덧붙였다.
태평양 윤주호 변호사는 “클라이언트 요구에 80% 수준의 정답을 제공하는 인공지능은 사람의 대체재가 될 수 없을 것”이라고 말했다.
이처럼 다양한 분야에서 사용되는 생성형 AI는 보안에도 접목해 보안성을 높이는 데 사용되기도 한다. 바이러스와 악성코드를 탐지하고, 제로데이 공격을 분석하는 등 보안 강화에 사용될 수 있다. 다만 AI는 위협이자 기회인 ‘양날의 검’이라는 평가를 받는다. 접근성이 편리한 생성형 AI는 사이버 공격자에게도 공평하게 사용될 수 있기 때문이다.
공격자는 AI를 활용해 악성코드를 제작하거나 발전·변형시킬 수 있고, 다양한 목적의 소셜 엔지니어링 공격에도 악용할 수 있다. 틀린 정보를 사실처럼 말하는 할루시네이션(Hallucination) 현상과 저작권 등 AI 활용에 따른 윤리적 문제로 대두되고 있다. AI 기술 발전과 확산 속도에 비해 안전하게 사용할 수 있는 사용자 인식과 가이드라인, 법적인 뒷받침이 부족하기 때문이다.
카이스트 이기민 교수는 “안전한 AI를 만드는 일이 하나의 국가나 기업에서 전담하기엔 무리가 있다”며 “안전하고 보안성이 높은 인공지능을 만들기 위한 논의가 국제 포럼 등에서 진행되고 있다”고 설명했다.
삼성SDS 김동관 박사는 “100% 안전한 시스템은 없고, AI라고 해서 다르지 않다”며 “안전을 유지하기 위해서는 서비스부터 하드웨어, 사용자 환경까지 고려할 점이 많다”고 덧붙였다.
태평양 윤주호 변호사는 “아직 세계적으로 AI 보안과 관련해 구체적인 법률이나 규정이 마련되지 않았다”며 “안전성 확보를 위한 논의가 지속해서 필요한 상황”이라고 강조했다.
[박은주 기자(boan5@boannews.com)]
널리 사용되는 생성형 AI, 법적 규제 마련 부족...지속적인 논의 필요
[보안뉴스 박은주 기자] 직장인 4명 중 3명은 인공지능(AI)을 사용한다. MS가 2024년에 발표한 ‘업무동향지표 2024’ 보고서에 따르면 한국 근로자 73%가 AI를 사용하고 있다.
▲S2W의 ‘SIS 2024 MERGE’ 콘퍼런스 패널토의 현장[사진=보안뉴스]
AI 기술을 토대로 새로운 비즈니스 환경이 만들어지고 있다. Chat GPT를 시작으로 생성형 AI가 큰 주목을 받았고, 마이크로소프트 코파일럿(Copilot), 구글 제미나이(Gemini) 등 거대 글로벌 기업에서 생성형 AI를 제공하고 있다.
AI는 한 영역에 국한되지 않고 산업 전 분야에 접목할 수 있다. S2W의 ‘SIS 2024 MERGE’ 콘퍼런스에서 기업과 학계, 법조계 전문가가 모여 생성형 AI 사용 현황을 공유하고, 안전한 사용방법을 논의하는 패널 토의가 열렸다. S2W 박근태 CTO의 사회로 △카이스트(KAIST) 이기민 교수 △SKT 김우영 매니저 △법무법인 태평양 윤주호 변호사 △삼성SDS 김동관 박사가 패널로 참석했다.
전 분야를 막론하고 AI는 업무 효율성을 높이는데 톡톡한 보조자 역할을 맡고 있었다. 문서 작성이나 영어 번역, 사진 편집 등 다양한 분야에서 두루 사용됐고, 자체적으로 LLM 모델을 구축하고 AI 서비스를 제작하기도 했다. 다만, 태평양 윤주호 변호사는 “로펌에서는 고객 개인정보를 주로 다루기 때문에 생성형 AI를 전적으로 도입하기엔 무리가 있다”며 “번역이나 간단한 메일 작성 등에 사용하고 있다”고 밝혔다.
생성형 AI 발전 가능성에 대해서는 분야별 다양한 의견이 제기됐다. SKT 김우영 매니저는 “이미 (생성형 AI가) 사람 수준으로 발달했고, 앞으로 전문가 수준에 도달해 에이전트화 되어 활용할 수 있을 것으로 기대한다”고 설명했다. 카이스트 이기민 교수는 한발 앞서 “이미 전문가 수준을 뛰어넘은 AI를 여럿 발견했다”며, “발전을 거듭할 것으로 예상한다”고 밝혔다.
반면, 삼성SDS 김동관 박사는 “업무 효율성 향상에 도움이 되지만 보조적인 역할일 뿐”이라며 “복잡한 문제에 관해서 전문가 노하우가 수반돼야 하기 때문”이라고 설명했다. 김 박사는 “전문가의 노하우까지 학습할 수 있다면 충분히 발전 가능성이 보인다”고 덧붙였다.
태평양 윤주호 변호사는 “클라이언트 요구에 80% 수준의 정답을 제공하는 인공지능은 사람의 대체재가 될 수 없을 것”이라고 말했다.
이처럼 다양한 분야에서 사용되는 생성형 AI는 보안에도 접목해 보안성을 높이는 데 사용되기도 한다. 바이러스와 악성코드를 탐지하고, 제로데이 공격을 분석하는 등 보안 강화에 사용될 수 있다. 다만 AI는 위협이자 기회인 ‘양날의 검’이라는 평가를 받는다. 접근성이 편리한 생성형 AI는 사이버 공격자에게도 공평하게 사용될 수 있기 때문이다.
공격자는 AI를 활용해 악성코드를 제작하거나 발전·변형시킬 수 있고, 다양한 목적의 소셜 엔지니어링 공격에도 악용할 수 있다. 틀린 정보를 사실처럼 말하는 할루시네이션(Hallucination) 현상과 저작권 등 AI 활용에 따른 윤리적 문제로 대두되고 있다. AI 기술 발전과 확산 속도에 비해 안전하게 사용할 수 있는 사용자 인식과 가이드라인, 법적인 뒷받침이 부족하기 때문이다.
카이스트 이기민 교수는 “안전한 AI를 만드는 일이 하나의 국가나 기업에서 전담하기엔 무리가 있다”며 “안전하고 보안성이 높은 인공지능을 만들기 위한 논의가 국제 포럼 등에서 진행되고 있다”고 설명했다.
삼성SDS 김동관 박사는 “100% 안전한 시스템은 없고, AI라고 해서 다르지 않다”며 “안전을 유지하기 위해서는 서비스부터 하드웨어, 사용자 환경까지 고려할 점이 많다”고 덧붙였다.
태평양 윤주호 변호사는 “아직 세계적으로 AI 보안과 관련해 구체적인 법률이나 규정이 마련되지 않았다”며 “안전성 확보를 위한 논의가 지속해서 필요한 상황”이라고 강조했다.
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-09-06] 
.jpg)
