[AI와 보안] 오픈AI “차세대 AI, 사이버보안에 위협”…스스로 위험 경고한 이유는

오픈AI, 자사 차세대 모델 시스템 침투 활용 소지 인정…AI ‘보호 도구’화 나서

[보안뉴스 여이레 기자] 인공지능(AI) 기술의 발전 속도가 가팔라지면서 AI 개발 기업이 스스로 위험을 경고하고 나섰다.

챗GPT 개발사 오픈AI는 자사 차세대 AI 모델이 높은 수준의 사이버 보안 위험을 초래할 수 있다고 10일(현지시간) 밝혔다. 오픈AI는 차세대 모델이 고도화될 경우 보안이 철저히 구축된 시스템에 대한 제로데이 공격 코드 개발이나 복잡한 산업·기업 침입 작전에 악용될 가능성이 있다고 분석했다. AI가 단순 정보 분석을 넘어 고급 해킹 시나리오를 자체적으로 생성·지원할 단계에 접근하고 있음을 시사한다.

이번 발표는 단일 기업의 보안 전략을 넘어 AI 산업 전반의 위험 인식이 한층 구체화되고 있음을 보여준다. AI의 연산 효율성과 창의적 문제 해결 능력이 높아진 만큼, 공격자가 이를 악용할 경우 방어 측면의 복잡성은 크게 증가할 전망이다.

AI가 자동으로 코드 취약점을 탐색하고 보안 체계를 우회하는 공격 경로를 설계할 수 있게 되면 기존 보안 인프라로 대응이 어렵다. AI가 인간의 역량을 대체하거나 능가할 가능성이 커질수록, 이 기술을 어떻게 제어 가능하고 안전한 형태로 발전시킬 지가 글로벌 규제 및 산업계 핵심 과제로 떠오르고 있다.

이를 위해 오픈AI는 AI를 ‘공격 도구’가 아니라 코드 감사, 취약점 패치, 보안 절차 자동화 등 ‘보호 도구’로 활용하는 전략을 추진 중이다. 오픈AI 측은 “방어적 사이버 보안 역량을 강화하는 방향으로 연구와 투자 방향을 조정하고 있다”고 밝혔다.

또 오픈AI는 접근제어·인프라 강화·데이터 유출 통제·모니터링을 결합한 보안 관리체계를 도입하고, 향후 사이버 방어 역량을 갖춘 사용자에겐 단계별로 강화된 기능을 제공하는 프로그램을 시행할 예정이다.

나아가 ‘프런티어 리스크 위원회’(Frontier Risk Council)를 구성해 외부 보안 전문가 및 정부·산업계 실무자들과 협력할 계획이다. 위원회는 초기엔 사이버 보안에 집중하되, 이후 신흥 기술 분야 전반으로 활동을 확대한다는 구상이다.

[여이레 기자(gore@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다