.jpg)
.jpg)
얼굴 인식 기술, 아직까지 오탐에서 자유롭지 못해...NIST가 직접 발표
미국 알고리즘은 백인만 잘 알아보고...지역별 데이터 및 알고리즘 공유로 보완해야
[보안뉴스 문가용 기자] 얼굴 인식 시스템이 대단히 부정확한 결과를 초래할 수 있다는 연구 결과가 나왔다. 특히 백인이 아닐 경우 얼굴 인식 기술의 안정도는 꽤나 떨어질 수 있다고 한다. 이에 대해 미국의 국립표준기술연구소(NIST)가 발표했다.
연구 결과부터 말하자면 아시아인과 아프리카인에 대한 오탐율은 백인의 경우보다 100배 높았다고 한다. 또한 이번에 분석된 얼굴 인식 알고리즘 중 두 가지는 흑인 여성을 남성으로 인지하는 경우가 35%나 되었다.
현재 얼굴 인식 기술은 여러 정부 기관과 공항, 경찰 병력, 국경 검색대, 은행, 도소매 사업장, 학교 등에서 널리 도입되고 있는 상황이다. 심지어 수많은 핸드폰의 화면 잠금 장치를 풀 때도 얼굴 인식 기술이 널리 사용되고 있다. 이에 일부 인권 운동가들은 얼굴 인식 기술의 광범위하게 도입될 경우 감시와 검열에 효과적으로 이용될 수 있다고 문제를 제기하고 있다. 일반인의 생체 정보가 해킹 공격 등으로 잘못된 자에게 넘어갈 가능성 역시 낮지 않다.
그런 가운데 이번에 NIST가 발표한 내용은 얼굴 인식의 또 다른 문제를 짚고 있다. 얼굴 인식 기술만으로는 누군가를 잘못 식별하거나 식별하지 못하는 오류에서 해방될 수 없다는 것이다.
NIST의 패트릭 그로더(Patrick Grother)라는 전문가는 “얼굴 인식 오탐은 기술을 사용하는 데 있어 초래되는 불편함의 일종일 뿐이라고 주장하는 사례들이 있다”고 말한다. “얼굴 인식이 잘 안 되서 핸드폰 잠금 화면이 안 풀리는 것 뿐이라면 그 말이 맞습니다. 한 번 더 시도하면 풀리기도 하고요.”
하지만 공항이나 국경 검색대 등에서 얼굴 인식 기술의 오탐이 미치는 영향력은 어마어마할 수 있다. “결백한 사람을 엉뚱하게 잡아둘 수 있게 되고, 그런 과정에서 심각한 프라이버시 침해와 인권 침해가 발생할 수 있습니다.”
또한 미국에서 개발한 얼굴 인식 시스템의 경우 아시아인과 흑인, 아메리칸 인디언에 대한 인식률이 가장 크게 떨어진다는 것도 발견할 수 있었다고 한다. “하지만 일부 아시아 국가에서 개발한 알고리즘의 경우, 아시아인과 백인에 대한 얼굴 인식률이 꽤나 높았습니다. 그런 걸로 보아 얼굴 인식 기술 자체의 근본적인 한계로 보이지는 않습니다.”
그로더는 “결국 얼굴 인식 기술에 어떠한 데이터를 제공해 학습시키느냐에 따라 오류를 충분히 줄일 수 있다는 뜻이며, 여러 지역에서 독자적으로 개발된 알고리즘을 상호보완적으로 사용할 수 있다”고 결론을 내렸다.
하지만 미국시민자유연맹의 제이 스탠리(Jay Stanley)는 “이번 NIST 연구 결과로서 알 수 있는 건 얼굴 인식 기술을 광범위하게 도입하기에는 아직 이르다는 것”이라고 비판했다. 스탠리와 미국시민자유연맹은 얼굴 인식 기술을 정부 기관과 경찰 병력, 대기업들이 꾸준히 도입하는 것에 대해 비판적 태도를 취해왔다.
“이제 정부도 스스로 얼굴 인식 기술이 얼마나 오류가 많은지 알게 되었고, 그 사실을 공표했습니다. 정부의 발표에 따르면 누군가는 이 섣부른 기술 때문에 비행기를 놓치고, 갑자기 경찰에 체포되며, 누군가의 감시 대상이 될 수 있다고 합니다. 자신 편에서의 잘못이 하나도 없는 상태에서 말이죠.” 스탠리의 주장이다.
“하지만 기술적 오류는 얼굴 인식 기술이 갖는 수많은 위험성 중 일부일 뿐입니다. 정확하든 부정확하든 얼굴 인식 기술은 지속적이며 광범위하고 침투성 높은 감시 체제를 확립할 수 있게 해줍니다. 얼굴 인식이 많이 사용되면 될수록 감시 사회가 될 것입니다.”
3줄 요약
1. NIST, 얼굴 인식의 심각한 오탐율 연구하여 발표.
2. 미국에서 만든 얼굴 인식 알고리즘은 아시아인과 흑인에 대한 인식률이 처참한 수준.
3. 한 시민 단체는 “얼굴 인식 기술을 도입하는 게 얼마나 섣부른 것인지 증명됐다”고 주장.
[국제부 문가용 기자(globoan@boannews.com)]
미국 알고리즘은 백인만 잘 알아보고...지역별 데이터 및 알고리즘 공유로 보완해야
[보안뉴스 문가용 기자] 얼굴 인식 시스템이 대단히 부정확한 결과를 초래할 수 있다는 연구 결과가 나왔다. 특히 백인이 아닐 경우 얼굴 인식 기술의 안정도는 꽤나 떨어질 수 있다고 한다. 이에 대해 미국의 국립표준기술연구소(NIST)가 발표했다.
[이미지 = iclickart]
연구 결과부터 말하자면 아시아인과 아프리카인에 대한 오탐율은 백인의 경우보다 100배 높았다고 한다. 또한 이번에 분석된 얼굴 인식 알고리즘 중 두 가지는 흑인 여성을 남성으로 인지하는 경우가 35%나 되었다.
현재 얼굴 인식 기술은 여러 정부 기관과 공항, 경찰 병력, 국경 검색대, 은행, 도소매 사업장, 학교 등에서 널리 도입되고 있는 상황이다. 심지어 수많은 핸드폰의 화면 잠금 장치를 풀 때도 얼굴 인식 기술이 널리 사용되고 있다. 이에 일부 인권 운동가들은 얼굴 인식 기술의 광범위하게 도입될 경우 감시와 검열에 효과적으로 이용될 수 있다고 문제를 제기하고 있다. 일반인의 생체 정보가 해킹 공격 등으로 잘못된 자에게 넘어갈 가능성 역시 낮지 않다.
그런 가운데 이번에 NIST가 발표한 내용은 얼굴 인식의 또 다른 문제를 짚고 있다. 얼굴 인식 기술만으로는 누군가를 잘못 식별하거나 식별하지 못하는 오류에서 해방될 수 없다는 것이다.
NIST의 패트릭 그로더(Patrick Grother)라는 전문가는 “얼굴 인식 오탐은 기술을 사용하는 데 있어 초래되는 불편함의 일종일 뿐이라고 주장하는 사례들이 있다”고 말한다. “얼굴 인식이 잘 안 되서 핸드폰 잠금 화면이 안 풀리는 것 뿐이라면 그 말이 맞습니다. 한 번 더 시도하면 풀리기도 하고요.”
하지만 공항이나 국경 검색대 등에서 얼굴 인식 기술의 오탐이 미치는 영향력은 어마어마할 수 있다. “결백한 사람을 엉뚱하게 잡아둘 수 있게 되고, 그런 과정에서 심각한 프라이버시 침해와 인권 침해가 발생할 수 있습니다.”
또한 미국에서 개발한 얼굴 인식 시스템의 경우 아시아인과 흑인, 아메리칸 인디언에 대한 인식률이 가장 크게 떨어진다는 것도 발견할 수 있었다고 한다. “하지만 일부 아시아 국가에서 개발한 알고리즘의 경우, 아시아인과 백인에 대한 얼굴 인식률이 꽤나 높았습니다. 그런 걸로 보아 얼굴 인식 기술 자체의 근본적인 한계로 보이지는 않습니다.”
그로더는 “결국 얼굴 인식 기술에 어떠한 데이터를 제공해 학습시키느냐에 따라 오류를 충분히 줄일 수 있다는 뜻이며, 여러 지역에서 독자적으로 개발된 알고리즘을 상호보완적으로 사용할 수 있다”고 결론을 내렸다.
하지만 미국시민자유연맹의 제이 스탠리(Jay Stanley)는 “이번 NIST 연구 결과로서 알 수 있는 건 얼굴 인식 기술을 광범위하게 도입하기에는 아직 이르다는 것”이라고 비판했다. 스탠리와 미국시민자유연맹은 얼굴 인식 기술을 정부 기관과 경찰 병력, 대기업들이 꾸준히 도입하는 것에 대해 비판적 태도를 취해왔다.
“이제 정부도 스스로 얼굴 인식 기술이 얼마나 오류가 많은지 알게 되었고, 그 사실을 공표했습니다. 정부의 발표에 따르면 누군가는 이 섣부른 기술 때문에 비행기를 놓치고, 갑자기 경찰에 체포되며, 누군가의 감시 대상이 될 수 있다고 합니다. 자신 편에서의 잘못이 하나도 없는 상태에서 말이죠.” 스탠리의 주장이다.
“하지만 기술적 오류는 얼굴 인식 기술이 갖는 수많은 위험성 중 일부일 뿐입니다. 정확하든 부정확하든 얼굴 인식 기술은 지속적이며 광범위하고 침투성 높은 감시 체제를 확립할 수 있게 해줍니다. 얼굴 인식이 많이 사용되면 될수록 감시 사회가 될 것입니다.”
3줄 요약
1. NIST, 얼굴 인식의 심각한 오탐율 연구하여 발표.
2. 미국에서 만든 얼굴 인식 알고리즘은 아시아인과 흑인에 대한 인식률이 처참한 수준.
3. 한 시민 단체는 “얼굴 인식 기술을 도입하는 게 얼마나 섣부른 것인지 증명됐다”고 주장.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
.jpg)
