국회도서관, 유럽연합의 인공지능 규정 소개 ‘최신외국입법정보’ 발간

[보안뉴스 박미영 기자] 국회도서관은 지난 6일 ‘유럽연합의 인공지능 규정(안)’을 소개한 ‘최신외국입법정보’를 발간했다. 이번 호에서는 인공지능의 안전한 활용에 관한 입법적 참고사항을 살펴봤다.

최근 인공지능은 자율자동차·가전제품·마케팅·고객대응 등 다양한 분야에서 사용되고 있고, 오남용 또는 오작동하는 경우 예상치 못한 피해가 발생할 수 있다.

2021년 4월 21일 유럽연합 집행위원회는 인공지능의 안전한 활용을 위해 인간에 대한 위험도에 따라서 3단계로 구분해 규제하는 규정(안)을 마련했다. 이 규정(안)은 유럽연합에 인공지능 서비스를 제공하는 역외 사업자에게도 적용된다.

먼저 ‘금지된 인공지능’은 인공지능이 인간의 존엄성과 기본권을 침해할 위험이 있는 경우를 대상으로 한다. 예를 들어 공공기관이 인공지능을 활용해 실시간 생체인식을 한 후 특정한 사람에 대한 감시나 불리한 대우를 하는 경우를 금지하는 것이다.

다음으로 ‘고위험 인공지능’은 인공지능이 상품의 안전이나 인간의 기본권에 영향을 줄 수 있는 경우를 말한다. 예를 들어 인공지능이 항공기·자동차·기계 등에 탑재되거나 교통·수도·전기 등 중요 인프라 시스템에 탑재돼 오동작을 일으킬 경우 사람의 안전에 위험이 발생할 수 있다.

규정(안)은 고위험 인공지능 사업자로 하여금 상품 또는 서비스 출시 전에 적합성 평가와 인증을 받도록 하고, 인공지능의 학습용 데이터셋이 편향되지 않고 오류가 없도록 지속적 관리를 의무화하고 있다.

마지막으로 ‘저위험 인공지능’은 사람에 별다른 위험이 없는 인공지능으로, 특별한 경우가 아니면 규제의 대상에 포함시키지 않는다.

현진권 국회도서관장은 “이번에 소개하는 유럽연합의 규정(안)이 인간에 미치는 위험도에 따라 인공지능을 규제하려는 입법적인 시도를 하고 있다는 측면을 높게 평가하고, 이를 입법 과정에 참고해 인공지능 산업 발전에 도움이 되기를 희망한다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다