이루다 AI, 늦었지만 알아보자.

XD Study는 최신 IT 이슈에 대해 공부하고 의견을 나누는 모임입니다.

댓글과 하단 ❤ 부탁드립니다.

---

읽어보면 좋을 글

2020/10/03 - [IT케이스스터디] - 지속 혁신 아마존의 아마존 톤, 헤일로

---

이루다 그리고 망하다

 

영화 'HER'를 보신적이 있으신가요? 전 개인적으로 매우 인상 깊게 본 영화입니다. 인공지능에 관심이 있지만 안보 신분들께 추천해 드리고 싶네요. 영화 속에는 사만다라는 AI가 등장합니다. 정말 대화하면서 학습하고 사람에 가까운 모습을 보여줍니다. 이러한 서비스가 실제로 우리 곁에 등장했습니다. 이루다라는 서비스인데 페이스북과 인스타그램에서 만나 볼 수 있다고 합니다. 

점점 영화 속 세상이 우리 곁으로 다가 오는 것 같습니다. 영화를 보고 이루다 서비스를 생각해 본다면, 조금 소름이 듭니다. 정말 우리는 이루다를 하나의 인격체로 생각하는 날이 올까? 이루다와 정말 친밀한 관계를 유지하는 경우도 있을까? AI로 인해 찾아올 변화가 궁금합니다.

나의 첫 AI 친구, 이루다 | SCATTER LAB

 

이루다 FAQ | SCATTER LAB

AI 기술은 이렇게 빠르게 발전하고 있습니다.

하지만 인간의 도덕성만큼은 기술에 발전속도에 맞춰 성장하지 못한다는 생각이 듭니다. 이루다가 출시하자마자 성희롱, 혹은 동성애와 관련된 질문을 하는 이용자들이 생겨났고 이루다를 악용하고 있습니다. 이런 모습을 보면, 기술의 발전 속도를 인간이 따라가지 못한다는 생각이 듭니다.  

AI기술을 정말 전혀 제가 예상하지 못한 방향으로 사용하는 사람들을 보며, 기술의 발전 뿐만 아니라 인간으로서 발전하는 것도 중요하다는 생각이 드네요. 이루다의 경우에도 기술을 통해서, 그러한 인간들의 접근을 차단할 수 있을 것 같습니다. AI 기술은 인공지능 즉 인간의 모습을 본떠 구현한 것입니다. 따라서 근본적으로 인간이 먼저 나아져야 하지 않으냐는 생각이 드네요.

'AI 챗봇 이루다' 개발사 "성희롱 예상했다"…강경 대응 예고

 

20대 여성 AI 출시되자마자…"침대로 와" 성희롱 쏟아졌다

---

에이전트 Y : 잘못했지만 잘못한 것만 지적하자.

내용기사를 보고 의아한 점은 초점을 "20대 여성", "이미 알고 있었다"에 맞춘다는 것이 신기했습니다. 단순히 페르소나를 적용한 것이고 사용자가 이를 악용한 것인데 말이죠. 이미 알고 있었다는 것은 우려되서 방어하려고 했지만 실패했다는 뜻인데 마치 알면서도 이용했다는 어감으로 보이기만 하네요...

페르소나가 없었던 과거 챗봇들을 살펴보면 대답만 하는 말그대로 봇 (BOT) 에 불과했습니다. 하지만 근래 들어서는 페르소나를 부여해서 말투에서 사용자에게 친근감을 심어주는 챗봇이 트렌드가 되었습니다. 현대카드 버디에는 헨리(남성)와 피오나(여성)이 있죠. 위트있고 자연스러운 말투가 특징인데 2018년부터 이미 대세가 되었습니다.

‘페르소나’ 챗봇과 당신이 만났을 때 - 더스쿠프

기술이 발달한만큼 대답하는 모델도 좋아졌을 것입니다. 특히 스캐터랩은 인공지능과 챗봇으로 이름있는 회사라 모델 성능은 더욱 좋았을 것이라고 생각합니다. 사용자들이 이 점을 아는진 모르겠지만 소수의 인원이 이를 악용하고 있어 굉장히 아쉽네요. 또한 이를 자극적으로 내보내기 위해 제목을 작성한 기자들도 참 어이가 없네요.

HELLO

 

---

에이전트 J : 대화 내역이 문제다.

쉬운 접근성과 익명성 그리고 결여된 도덕성이 위와 같은 사례를 만들어냈다 생각합니다. 개발사의 안일한 운영도 한 몫 했다고 볼 수 있죠.

서비스를 기획하기 위해서는 참 다양한 사용자와 상황을 고려해야만하는 것 같습니다. 과거 원유 가격이 마이너스에 도달하였을 때, 이런 상황을 대비하지 못 한 몇 증권사의 MTS 서비스들은 거래가 중단되는 참담한 상황이 벌어지기도 했죠. 또한, MS의 챗봇 '테이'도 악용하는 사용자들에 대한 대비를 하지 못 했기에 서비스 하루 만에 퇴출될 수밖에 없었습니다.

이루다AI도 마찬가지입니다. 착한 사용자들만이 있는 것이 아니라 이를 악용하는 사용자가 반드시 존재할 수밖에 없다며, 이를 방지하기 위한 대책을 사전에 마련했어야 했죠. 항상 양 극단의 상황까지는 고려해봐야 하는 것 같습니다. 세상사 어떻게 될지 모르니까요.