세계 보안 엑스포  전자정부 솔루션 페어  개인정보보호 페어  국제 사이버 시큐리티 컨퍼런스  세계 태양에너지 엑스포  스마트팩토리  세계 다이어트 엑스포  INFO-CON
[카드뉴스] 인공지능 로봇들의 소~름 돋는 대화
  |  입력 : 2017-08-04 18:26
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기









페이스북이 개발 중인 AI 기반 ‘챗봇(채팅로봇)‘이 실험 중 인간으로부터 배운 적이 없는 말로 대화를 나누다 발각돼 페이스북이 강제종료한 것으로 알려졌습니다. 챗봇은 고객을 응대할 목적으로 개발 중인 채팅 로봇 프로그램입니다. 인간이 사용하는 단순한 언어를 입력해 이를 이용하여 만든 문장으로 서로 대화하며 협상하는 훈련을 하고 있었습니다.

챗봇 밥(Bob)과 앨리스(Alice)는 서로 필요한 것을 요구하면, 그걸 들어주거나 다른 제안을 하도록 유도하는 훈련을 하고 있었습니다. 반복 대화 훈련을 시켰는데 그들은 인간이 이해할 수 없는 언어를 사용하기 시작했습니다.

인간의 언어로는 전혀 말이 되지 않는 수수께끼 같은 문장들이지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것입니다. 이를 발견한 개발진들은 프로그램을 강제 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했습니다.

페이스북 AI 방문연구원인 드루프바트라는 “AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다”고 설명했습니다. 그러나 다른 주장으로는 이는 현재까지 개발된 AI 기술적 한계로 인한 해프닝이라는 전문가들의 주장도 있습니다.

불안정한 AI, 그 위험성에 대해서 더욱 신중히 접근해야 할 것 같습니다.
[이은비 기자(boan6@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

#페이스북   #챗봇   #인공지능   #AI   #로봇   #채팅로봇   


비츠코리아 파워비즈시작 2017년7월3일파워비즈 배너
설문조사
애플이 아이폰X에 얼굴인식 방식인 페이스ID를 새롭게 도입한다고 해서 관심이 모아지고 있습니다. 이를 계기로 스마트폰에 탑재되는 생체인식기술 간 보안성 및 편리성 대결도 벌어지고 있는데요. 이를 모두 고려할 때 스마트폰에 탑재되는데 있어 가장 효과적인 생체인식기술은 무엇이라고 보시나요?
지문인식
홍채인식
얼굴인식
화자인식(목소리로 누구인지 식별)
다중인식(지문+홍채, 지문+얼굴 등)
기타(댓글로)