‘AI가 만든 사이버위협, AI가 막는 사이버 위협’ 주제로 진행
동시개최 행사로 구매상담회·밋업데이 열려
[보안뉴스 박은주 기자] 일상 속 인공지능(AI)과 관련된 다양한 사이버 위협 사례를 공유하고 대응방안을 논의하는 인공지능 보안 세미나 ‘2024 AI Security Day’가 9월 5일 용산 로얄파크컨벤션에서 개최됐다. ‘AI가 만든 사이버위협, AI가 막는 사이버 위협’을 주제로 AI의 순기능과 역기능을 조명했다.
개회사에서 한국인터넷진흥원(KISA) 이상중 원장은 “AI는 우리 생활을 편리하게 해줌과 동시에 위협이 되고 있다”며 “이번 세미나가 사이버 위협 사례를 조명하고 기술·정책적 측면의 대응방안을 공유하는 자리가 되길 바란다”고 말했다.
과학기술정보통신부 네트워크정책실 류제명 실장은 “사이버 위협이 고도화·심화하는 중심에 AI가 자리잡고 있고 모든 기술은 양면성을 가지고 있다”며 “AI를 값지게 사용할 수 있는 방안에 대해 논의하는 AI 보안 세미나는 의미가 있다”며 축사를 전했다.
이어서 동국대학교 권일용 교수가 ‘편리함의 역습’이라는 주제로 기조강연을 했다. 권 교수는 개인정보보호의 중요성을 강조하며 “최근 벌어지는 여러 강력 범죄의 첫걸음은 개인정보 수집에서 비롯된다”며 “내가 편리하고자 사용하는 여러 시스템 속 내 개인정보가 어떻게 관리되고 있는지 들여다봐야 한다”고 밝혔다.
그는 최근 논란이 된 딥페이크 악용 범죄와 관련해서 “아동·청소년이 딥페이크 영상에 접근할 수 있는 경로 자체를 차단해야 한다”고 제언했다. 권 교수는 “청소년이 딥페이크로 영상을 만들려면 성 착취물 영상이 있어야 하는데, 도박 사이트에 접속하면 성 착취물을 접할 수 있는 경로로 이어진다”며 “이러한 경로를 막아야 한다”고 말했다.
이어 △기업용(B2B) 대형언어모델(LLM) 도입 사례(업스테이지 권순일 부사장) △AI LLM 해킹 기법 및 보안전략(SK쉴더스 이호석 팀장) △진화하는 사기(Fraud), AI FDS로 막는다(토스뱅크 남승관) △AI 범죄와 보안대책(성균관대학교 김기범 교수) △AI 기반 보안 기술 및 적용 사례(SK텔레콤 이종민 부사장) △AI 개발·서비스를 위한 공개된 개인정보 처리 안내서(개인정보보호위원회 구민주 서기관) △AI 시대, 생성형 AI 보안 위협 대응방안(KISA 김성훈 팀장) △딥페이크 규제에 대한 대응(법무법인 화우 이근우 변호사) 등을 주제로 발표가 이어졌다.
한편, 국내 대기업·공공기관과 보안기업 간 1:1 상담을 통해 제품 소개부터 실제 구매계약까지 연계하기 위한 ‘구매상담회’, AI 보안 유망 기업의 네트워킹 강화를 통해 대중견기업, 투자자와의 협력 기회를 모색하기 위한 ‘밋업데이(MEET-UP DAY)’ 등 부대행사도 함께 개최됐다.
[박은주 기자(boan5@boannews.com)]
동시개최 행사로 구매상담회·밋업데이 열려
[보안뉴스 박은주 기자] 일상 속 인공지능(AI)과 관련된 다양한 사이버 위협 사례를 공유하고 대응방안을 논의하는 인공지능 보안 세미나 ‘2024 AI Security Day’가 9월 5일 용산 로얄파크컨벤션에서 개최됐다. ‘AI가 만든 사이버위협, AI가 막는 사이버 위협’을 주제로 AI의 순기능과 역기능을 조명했다.
▲인공지능 보안 세미나 ‘2024 AI Security Day’ 현장[사진=보안뉴스]
개회사에서 한국인터넷진흥원(KISA) 이상중 원장은 “AI는 우리 생활을 편리하게 해줌과 동시에 위협이 되고 있다”며 “이번 세미나가 사이버 위협 사례를 조명하고 기술·정책적 측면의 대응방안을 공유하는 자리가 되길 바란다”고 말했다.
과학기술정보통신부 네트워크정책실 류제명 실장은 “사이버 위협이 고도화·심화하는 중심에 AI가 자리잡고 있고 모든 기술은 양면성을 가지고 있다”며 “AI를 값지게 사용할 수 있는 방안에 대해 논의하는 AI 보안 세미나는 의미가 있다”며 축사를 전했다.
이어서 동국대학교 권일용 교수가 ‘편리함의 역습’이라는 주제로 기조강연을 했다. 권 교수는 개인정보보호의 중요성을 강조하며 “최근 벌어지는 여러 강력 범죄의 첫걸음은 개인정보 수집에서 비롯된다”며 “내가 편리하고자 사용하는 여러 시스템 속 내 개인정보가 어떻게 관리되고 있는지 들여다봐야 한다”고 밝혔다.
그는 최근 논란이 된 딥페이크 악용 범죄와 관련해서 “아동·청소년이 딥페이크 영상에 접근할 수 있는 경로 자체를 차단해야 한다”고 제언했다. 권 교수는 “청소년이 딥페이크로 영상을 만들려면 성 착취물 영상이 있어야 하는데, 도박 사이트에 접속하면 성 착취물을 접할 수 있는 경로로 이어진다”며 “이러한 경로를 막아야 한다”고 말했다.
이어 △기업용(B2B) 대형언어모델(LLM) 도입 사례(업스테이지 권순일 부사장) △AI LLM 해킹 기법 및 보안전략(SK쉴더스 이호석 팀장) △진화하는 사기(Fraud), AI FDS로 막는다(토스뱅크 남승관) △AI 범죄와 보안대책(성균관대학교 김기범 교수) △AI 기반 보안 기술 및 적용 사례(SK텔레콤 이종민 부사장) △AI 개발·서비스를 위한 공개된 개인정보 처리 안내서(개인정보보호위원회 구민주 서기관) △AI 시대, 생성형 AI 보안 위협 대응방안(KISA 김성훈 팀장) △딥페이크 규제에 대한 대응(법무법인 화우 이근우 변호사) 등을 주제로 발표가 이어졌다.
▲구매상담회 현장[사진=보안뉴스]
한편, 국내 대기업·공공기관과 보안기업 간 1:1 상담을 통해 제품 소개부터 실제 구매계약까지 연계하기 위한 ‘구매상담회’, AI 보안 유망 기업의 네트워킹 강화를 통해 대중견기업, 투자자와의 협력 기회를 모색하기 위한 ‘밋업데이(MEET-UP DAY)’ 등 부대행사도 함께 개최됐다.
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-09-19] 
.jpg)
