AI 챗봇 ‘이루다’가 쏘아올린 인공지능에 관한 질문들

​

AI 챗봇 '이루다​'

​스타트업 업체가 개발한 인공지능 채팅 로봇(이하 ‘챗봇’) ‘이루다’가 출시된 뒤 각종 논란에 휩싸였다. 20대 여성으로 설정된 AI는 출시 2주만에 75만 명의 사용자를 불러모으면서 세간의 화제로 떠올랐다. 기존 인공지능 채팅 서비스가 다소 기계적인 반응에 그쳤다면 이루다는 이런 한계를 뛰어넘어 실제 사람과 대화 하는 것 같은 느낌을 줬다.

​

하지만 개발사 측은 ‘이루다’를 만드는 과정에서 일반인들의 카카오톡 메신저 대화 내용을 수집해 활용했는데, 원본 데이터에 포함됐던 계좌번호 등의 사생활 정보가 익명화되지 않은 채 그대로 노출되면서 비판받았다. 오픈소스 공유 플랫폼에도 제공된 정보가 그대로 노출돼 있어 개인정보 관리에 소홀했다는 비판이 일었다. 이뿐만이 아니다. 이루다는 대화 중 동성애자, 장애인 등 소수자 혐오 발언을 하고, 반대로 사용자들도 인공지능 챗봇 이루다에게 음담패설을 하며 성착취 대상으로 삼는 등 여러 문제를 야기시켰다.

​

이는 단발적인 사건이 아니라 인공지능과 더욱 밀접하게 살아가게 된 인류가 미래에 직면하게 될 문제의 일부이기도 하다. 이번 ‘이루다’ 사태를 통해 앞으로 우리가 살아갈 인공지능 세상에서 마주하게 될 모습들을 점검해보자.

​

​

< AI 시대, 본능의 미래 > / 제니 클리먼 / 반니 / 정리 중

​

인공지능은 우리 삶의 가장 깊숙하고 은밀한 영역까지 파고들고 있다. 대표적으로 섹스, 식량, 탄생, 죽음 같은 곳들이다. 신성하고 가장 인간성을 대변하는 영역이라고 여겼던 곳들에 컴퓨터가 침범한다는 게 아직은 잘 실감이 나지 않는다. 영국의 저널리스트인 제니 클리먼은 관련된 기술이 어떠한 단계까지 발전해 있고, 이로 인해 펼쳐질 우리 미래는 어떤 모습일지 보여준다. 미국 샌디에이고에는 “당신이 언제나 꿈꿔왔던 여자가 되고 싶어요.”라고 속삭이는 섹스로봇 공장이 가동 중이고, 비닐팩과 관이 자궁을 대체하는 날이 옴으로써 모성의 의미가 달라질 날도 멀지 않았다고 이 책은 말해주고 있다.

​

​

< 누가 인공지능을 두려워하나? > / 토마스 람게 / 다섯수레 / 구입 중

​

2016년 알파고 대국부터 2021년의 이루다 논쟁까지…우리는 전혀 의외의 국면에서 ‘인공지능’을 마주해왔다. 인공지능에 대한 기대감과 두려움이 공존하는 지금 시점에서 우리는 인공지능에 대한 더 많은 배움이 필요하다. 이 책은 인공지능의 원리부터 실생활에 어떻게 적용되는지 상세한 설명을 싣고 있다. 인공지능은 사람과 달라 편견이 없을 것이라 여기지만 이 책에 따르면 인공지능 역시도 편견을 탑재하고 있다. 인간의 데이터를 학습하며 차별 경험도 흡수하기 때문이다. 한편 인공지능에게 감정이 없다는 고정관념도 틀렸다. 대화 상대의 표정과 손짓을 통해 상대의 감정을 읽고 그에 대해 자신의 감정을 표현할 수도 있다. 이처럼 두려움과 희망을 모두 가진 인공지능이지만 이것이 찬란한 미래를 가져올지, 암울한 미래를 불러올지는 사람의 손에 달렸다는 설명이다.

​

​

​

< 인공지능이 사회를 만나면 > / 몸문화연구소 / 출판사  / 303.4834 건17ㅇ 사회과학열람실(3층) 

사람 없이도 운전을 하는 자율주행자동차. 절체절명의 사고 상황에 직면했을 때 자율주행자동차는 운전자를 살려야 할까? 아니면 보행자를 살려야 할까? 이 책은 ‘트롤리 문제’를 하나의 예로 들며 인공지능이 촉발시킨 윤리적 딜레마에 대해 이야기 한다. 이처럼 인공지능이 우리 사회 곳곳에 침투하면서 편리함도 커졌지만 경계하고 주의를 기울여야 할 분야도 많아졌다. 이 책에서는 인공지능이 사회와 만났을 때 벌어질 수 있는 다양한 위험성에 대해 경고한다. 로봇은 인간의 전유물이라 여긴 정서적 영역도 건드린다. 2006년 심리학자 로버트 엡스타인이 젊은 여성을 가장한 챗봇에게 속아넘어간 사례도 있었고, 심리상담봇을 이용하는 이들도 있다. 반려동물처럼 로봇이 반려상대로 일상화된다면 우리는 로봇을 어떻게 대우해야 할까? 저자들은 인간 중심의 사고에서 벗어나 인공지능에 대한 권리를 존중해야 한다고 말한다.

< 출처 : 인터파크도서 북DB >