LG전자 조상현 CISO, ‘AI와 보안’ 주제로 강연...사용자의 안전한 사용 노력이 가장 중요
신현구 회장 “KCSC, 내년에는 회원 확충을 비롯한 저변 확대에 포커스 맞출 것”
[보안뉴스 김영명 기자] 산업보안 분야 전문가들로 구성된 한국기업보안협의회(회장 신현구, 이하 KCSC)는 제79차 ‘Security Round Table’을 12월 4일 더비엔 리더스홀에서 개최했다. 올해 마지막 모임인 이날 행사는 LG전자 조상현 CISO(상무)의 주제발표로 진행됐다.
KCSC 신현구 회장은 인사말에서 “우리 KCSC가 ‘보안’ 분야 다양한 전문가들의 모임과 교류의 공간으로, 그간 모임 자체의 역량을 키우는 것을 최우선으로 해왔는데, 이제는 회원 확충을 비롯해 저변을 확대시켜 나가는 방향으로 내년 활동에 있어 포커스를 맞추겠다”고 말했다.
이어 LG전자 조상현 CISO의 주제발표가 진행됐다. 조상현 CISO는 ‘AI와 보안’을 주제로 AI 시대에서의 변화상과 보안 이슈, 그리고 산업기밀 유출 차원에서의 접근 등 다양한 관점에서 알기 쉽게 설명했다.
조상현 CISO는 “AI는 사용자의 의사결정에 많은 도움을 주지만 이를 전적으로 신뢰하는 것은 아직 위험하다”며 “AI의 발전은 데이터 수집과 밀접한 관련이 있는 만큼 데이터 수집이 가장 중요하지만, 데이터 수집에 있어 편향성을 잃지 않도록 균형감을 갖추는 것을 잊지 말아야 한다”고 강조했다.
AI에 있어 법적, 윤리적 이슈도 설명했다. 조 CISO는 “미국 대선에서 딥페이크 이슈가 크게 부각된 것처럼 AI는 사이버 공격, 데이터 조작, 허위정보 확산 등 많은 문제가 제기될 수 있다”며 “AI 서비스 제공업체가 안전장치를 마련한다고 해도 윤리적 제한을 우회하는 방법이 나오는 만큼 윤리적 가드레일을 높이고 입력 오류에 대해서도 적절한 대처방안을 마련해야 한다”고 말했다.
또한, AI의 기술적 오류에 대해 조 CISO는 자동차 표지판에 붙여진 스티커로 인해 자율주행 자동차가 이를 정확히 인식하지 못하거나 사람이 배에 붙여놓은 그림으로 인해 사람으로 인식하지 못하는 경우가 발생한다는 점을 예로 들며 AI도 결국 기술적인 헛점이 존재할 수밖에 없다고 설명했다.
이어 아이폰·안드로이드폰에서 사용자 제한을 푸는 ‘탈옥(Jail Breaking)’이 한때 이슈가 됐는데, 생성형 AI에서도 탈옥과 비슷한 행위가 일어날 수 있다고 조 CISO는 우려했다. LLM을 바탕으로 만들어진 생성형 AI는 기본적으로 질문이 유해할 경우 답을 거부하도록 설계됐지만, 특수하게 만들어진 질문으로는 응답을 유도할 수 있는 만큼 각별한 주의가 필요하다는 얘기다.
마지막으로 조상현 CISO는 “AI를 비롯한 모든 첨단기술이 그렇듯 보안 문제는 항상 잠재되어 있고, 시대의 흐름과 변화에 민감하다”며 “가장 중요한 것은 자신이 사용하는 기술에 대해 정확히 알고 쓰는 것”이라고 강조했다.
한편, KCSC는 2005년 11월 9일 창립된 산업보안 분야 전문가 집단으로 국내 대기업 및 중소기업 보안책임자 및 담당자, 그리고 외국계 글로벌 기업 CSO를 비롯해 보안 관련 학과 교수, 관련 협회 담당자 등 80여명이 회원으로 참여하고 있다.
[김영명 기자(boan@boannews.com)]
신현구 회장 “KCSC, 내년에는 회원 확충을 비롯한 저변 확대에 포커스 맞출 것”
[보안뉴스 김영명 기자] 산업보안 분야 전문가들로 구성된 한국기업보안협의회(회장 신현구, 이하 KCSC)는 제79차 ‘Security Round Table’을 12월 4일 더비엔 리더스홀에서 개최했다. 올해 마지막 모임인 이날 행사는 LG전자 조상현 CISO(상무)의 주제발표로 진행됐다.
▲한국기업보안협의회 제79차 ’Security Round Table‘이 보안뉴스 리더스홀에서 진행되고 있다[사진=보안뉴스]
KCSC 신현구 회장은 인사말에서 “우리 KCSC가 ‘보안’ 분야 다양한 전문가들의 모임과 교류의 공간으로, 그간 모임 자체의 역량을 키우는 것을 최우선으로 해왔는데, 이제는 회원 확충을 비롯해 저변을 확대시켜 나가는 방향으로 내년 활동에 있어 포커스를 맞추겠다”고 말했다.
이어 LG전자 조상현 CISO의 주제발표가 진행됐다. 조상현 CISO는 ‘AI와 보안’을 주제로 AI 시대에서의 변화상과 보안 이슈, 그리고 산업기밀 유출 차원에서의 접근 등 다양한 관점에서 알기 쉽게 설명했다.
조상현 CISO는 “AI는 사용자의 의사결정에 많은 도움을 주지만 이를 전적으로 신뢰하는 것은 아직 위험하다”며 “AI의 발전은 데이터 수집과 밀접한 관련이 있는 만큼 데이터 수집이 가장 중요하지만, 데이터 수집에 있어 편향성을 잃지 않도록 균형감을 갖추는 것을 잊지 말아야 한다”고 강조했다.
AI에 있어 법적, 윤리적 이슈도 설명했다. 조 CISO는 “미국 대선에서 딥페이크 이슈가 크게 부각된 것처럼 AI는 사이버 공격, 데이터 조작, 허위정보 확산 등 많은 문제가 제기될 수 있다”며 “AI 서비스 제공업체가 안전장치를 마련한다고 해도 윤리적 제한을 우회하는 방법이 나오는 만큼 윤리적 가드레일을 높이고 입력 오류에 대해서도 적절한 대처방안을 마련해야 한다”고 말했다.
▲한국기업보안협의회 신현구 회장이 인사말을, LG전자 조상현 CISO가 주제발표를 하고 있다(좌부터)[사진=보안뉴스]
또한, AI의 기술적 오류에 대해 조 CISO는 자동차 표지판에 붙여진 스티커로 인해 자율주행 자동차가 이를 정확히 인식하지 못하거나 사람이 배에 붙여놓은 그림으로 인해 사람으로 인식하지 못하는 경우가 발생한다는 점을 예로 들며 AI도 결국 기술적인 헛점이 존재할 수밖에 없다고 설명했다.
이어 아이폰·안드로이드폰에서 사용자 제한을 푸는 ‘탈옥(Jail Breaking)’이 한때 이슈가 됐는데, 생성형 AI에서도 탈옥과 비슷한 행위가 일어날 수 있다고 조 CISO는 우려했다. LLM을 바탕으로 만들어진 생성형 AI는 기본적으로 질문이 유해할 경우 답을 거부하도록 설계됐지만, 특수하게 만들어진 질문으로는 응답을 유도할 수 있는 만큼 각별한 주의가 필요하다는 얘기다.
▲제79차 ’Security Round Table‘ 참석자들이 모임을 마치고 기념촬영을 하고 있다[사진=보안뉴스]
마지막으로 조상현 CISO는 “AI를 비롯한 모든 첨단기술이 그렇듯 보안 문제는 항상 잠재되어 있고, 시대의 흐름과 변화에 민감하다”며 “가장 중요한 것은 자신이 사용하는 기술에 대해 정확히 알고 쓰는 것”이라고 강조했다.
한편, KCSC는 2005년 11월 9일 창립된 산업보안 분야 전문가 집단으로 국내 대기업 및 중소기업 보안책임자 및 담당자, 그리고 외국계 글로벌 기업 CSO를 비롯해 보안 관련 학과 교수, 관련 협회 담당자 등 80여명이 회원으로 참여하고 있다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-12-25] 
.jpg)
