로그인 | 회원가입 | 기사제보 | 스크랩 | 뉴스레터 신청
Home > 전체기사

여러 오픈소스 인공지능 모델에 영향주는 강력한 취약점 40여 개 발견돼

입력 : 2024-10-30 12:05
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
요약 : 보안 외신 해커뉴스에 의하면 여러 오픈소스 인공지능 모델들에서 40개가 조금 안 되는 취약점이 발견됐다고 한다. 추안후챗GPT(ChuanhuChatGPT), 루너리(Lunary), 로컬AI(LocalAI) 등에서 발견된 것으로, 일부 취약점을 통해서는 원격 코드 실행 공격도 가능하다고 한다. 그 중 CVSS 기준 가장 높은 점수를 받은 취약점 두 개는 모두 루너리에서 나왔으며, CVE-2024-7474와 CVE-2024-7475다. 둘 다 9.1점을 받았다. 전자를 통해서 데이터에 대한 불법 접근이 가능하며, 후자를 통해서는 불법 로그인이 가능하게 된다.

[이미지 = gettyimagesbank]

배경 : 오픈소스 인공지능 생태계에서 다량의 취약점이 한꺼번에 발견된 건 프로텍트AI(Protect AI)의 헌터(Huntr)라는 버그바운티 덕분이다. 즉 이번에 발견된 것 모두 보안 전문가들의 연구 행위를 통해 발굴된 것이지 사이버 공격자들의 공격 이후에 알려진 게 아니다. 따라서 이로 인한 실제 피해 사례는 아직 없을 것으로 보인다.

말말말 : “인공지능 모델이라고 하더라도 100% 안전할 수 없다는 사실이 계속해서 드러나고 있습니다. 인공지능 모델들을 여러 프로젝트에 도입하고 있는데, 사용자들 편에서 이러한 사실을 반드시 기억해야 합니다.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
  • “
  •  SNS에서도 보안뉴스를 받아보세요!! 
  • ”
보안시장 백서 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지 위즈디엔에스 2018
설문조사
AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다