AI시스템-DS&P 연구회, ‘신뢰가능한 피지컬 AI’ 공동 워크샵 개최

6월 18~20일 강원 홍천 소노벨 비발디파크서
보안·지능·자율시스템 아우르는 피지컬 AI 신뢰성 논의

[보안뉴스 한세희 기자] 한국정보처리학회 AI시스템 연구회와 DS&P(Data Security & Privacy)가 18-20일 강원도 홍천 소노벨 비발디파크에서 ‘2026 DS&P 연구회 및 AI시스템 연구회 공동 워크샵’을 개최한다. 온라인 병행 방식으로 진행된다.

올해 워크샵의 주제는 ‘신뢰가능한 피지컬 AI를 향하여: 보안, 지능, 그리고 자율 시스템’이다. 자율주행차, 로봇, 드론, 스마트 제조 시스템 등 AI가 물리적 세계와 직접 연결되는 피지컬 AI 시대가 본격화되면서, AI 시스템의 지능뿐 아니라 보안성, 안전성, 프라이버시, 신뢰성 확보가 핵심 과제로 떠오르고 있다.

기존 AI 연구가 주로 모델 성능과 지능 향상에 초점을 맞췄다면, 피지컬 AI 환경에서는 AI의 판단과 동작이 실제 물리 공간의 안전 문제로 이어질 수 있다. 이에 따라 적대적 공격, 데이터 및 모델 보안, 자율 시스템 침해, 에이전트 기반 AI 보안, 개인정보보호 정책 등 다양한 이슈를 통합적으로 논의할 필요성이 커지고 있다.

이번 공동 워크샵은 이러한 문제의식 아래 보안 연구자와 AI 시스템 연구자가 한자리에 모여 피지컬 AI 시대의 핵심 기술과 정책 방향을 논의하기 위해 마련됐다. 프로그램은 AI시스템 연구회와 DS&P 연구회 세션으로 구성되며, 피지컬 AI, 자율시스템, 에이전틱 AI 보안, 차량 네트워크 보안, 프라이버시 보호 기술, AI 시대의 개인정보보호 등 다양한 주제를 다룬다.

대학, 연구기관, 산업계 전문가들이 함께 참여해 학술적 연구 성과와 현장 적용 이슈를 폭넓게 공유할 예정이다. 실제 환경에서 신뢰할 수 있는 AI 시스템을 구현하기 위한 보안·프라이버시·정책적 과제를 함께 점검하는 자리가 될 것으로 기대된다.

[한세희 기자(hahn@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다