세계 보안 엑스포  전자정부 솔루션 페어  개인정보보호 페어  국제 사이버 시큐리티 컨퍼런스  세계 태양에너지 엑스포  스마트팩토리  세계 다이어트 엑스포  INFO-CON
[카드뉴스] 인공지능 로봇들의 소~름 돋는 대화
  |  입력 : 2017-08-04 18:26
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기









페이스북이 개발 중인 AI 기반 ‘챗봇(채팅로봇)‘이 실험 중 인간으로부터 배운 적이 없는 말로 대화를 나누다 발각돼 페이스북이 강제종료한 것으로 알려졌습니다. 챗봇은 고객을 응대할 목적으로 개발 중인 채팅 로봇 프로그램입니다. 인간이 사용하는 단순한 언어를 입력해 이를 이용하여 만든 문장으로 서로 대화하며 협상하는 훈련을 하고 있었습니다.

챗봇 밥(Bob)과 앨리스(Alice)는 서로 필요한 것을 요구하면, 그걸 들어주거나 다른 제안을 하도록 유도하는 훈련을 하고 있었습니다. 반복 대화 훈련을 시켰는데 그들은 인간이 이해할 수 없는 언어를 사용하기 시작했습니다.

인간의 언어로는 전혀 말이 되지 않는 수수께끼 같은 문장들이지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것입니다. 이를 발견한 개발진들은 프로그램을 강제 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했습니다.

페이스북 AI 방문연구원인 드루프바트라는 “AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다”고 설명했습니다. 그러나 다른 주장으로는 이는 현재까지 개발된 AI 기술적 한계로 인한 해프닝이라는 전문가들의 주장도 있습니다.

불안정한 AI, 그 위험성에 대해서 더욱 신중히 접근해야 할 것 같습니다.
[이은비 기자(boan6@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

#페이스북   #챗봇   #인공지능   #AI   #로봇   #채팅로봇   


비츠코리아 파워비즈시작 2017년7월3일파워비즈 배너
설문조사
2017년은 3분기까지 침해사고 수가 2016년 전체 침해사고 수를 앞지르는 등 급증하는 침해사고로 신기록을 세운 해입니다. 지난 한 해 동안 발생한 침해사고 중 가장 심각한 유형은 무엇이라고 생각하시나요?
기업의 개인정보 및 신용정보 유출 ex) 에퀴팩스 사태
한국을 겨냥한 북한의 사이버 공격 ex) 하나투어 등
가상(암호)화폐 탈취 위한 사이버 공격 ex) 거래소 해킹, 피싱 이메일 등
대규모 랜섬웨어 공격 ex) 워너크라이, 낫페트야
공공 클라우드 설정 오류 및 보안 미비로 인한 사고 ex) AWS, 구글 그룹스
사물인터넷 보안 미비로 인한 침해사고 ex) IP 카메라 해킹
기타(댓글로)