[챗봇 7-1] 이루다는 왜 2주만에 서비스를 멈췄을까?

[책 "비전공자를 위한 ai 지식" 7장]

 

이루다는 국내 스타트업이 2020년 발표한 챗봇입니다. 20살의 소녀로 설정된 자유 주제로 대화가 가능한 인공지능 챗봇입니다.

 

1966년 챗봇의 시초로 MIT 컴퓨터 과학자 요제프가 만든 일라이자(ELIZA)가 있었습니다.

대화 원리는 전형적인 if - then "규칙 기반(rule-based)"으로 되어있습니다. 상대방이 말하면 특정 키워드에 해당하는 대답 중 하나로 대답합니다. 예를 들어 "친구가 필요해요" 라고 한다면 친구를 추출하고 규칙에 따라 "왜 친구가 필요한가요?"라고 단순하게 응답합니다. 더 이상 대화를 이어나가기 힘들면 적당히 얼버무리기도 하죠.

단순한 규칙기반이지만 일라이자에게 애착을 느끼는 사람들도 나타났을 정도로 일라이자는 처음에 인기를 끌었습니다. 하지만 단순 패턴에 따른 응답으로 곧 그 인기는 사그라들었습니다.

 

그러다가

2002년 한국에서 심심이라는 규칙 기반의 챗봇이 나왔고, 

2016년 미국에서 테이라는 마이크로소프트가 개발한 딥러닝 챗봇이 나왔는데 사용자들이 차별, 혐오, 욕설을 가르쳐서 문제가 되었습니다.

인공지능 챗봇 "테이"

그러다가 2020년에 이루다가 나왔고, 몇 주동안 75만명의 사용자가 사용할 정도로 폭발적인 인기를 끌었습니다.

이루다가 심심이랑 다른 점은 딥러닝 기반이기 때문에 어떤 말을 할 지가 단순하지 않고 무궁무진하다는 것입니다. 그런데 이는 양날의 검이었습니다. 심심이는 문제가 될 발언을 하면 규칙을 변경하기만 하면 되었지만, 이루다는 어떤 말을 할지 필터링하기가 사실상 힘들었습니다. 이루다는 발설하면 안되는 실명이나 집주소같은 개인정보나 성소수자 혐오표현 등도 얘기하기도 해서 문제가 되었습니다. 안타깝게도 이루다에게는 '옳고 그름'을 판단할 능력이 없었습니다.

게다가 이루다 개발사가 이루다 개발에 자사 연애 서비스에 사용된 대화 데이터를 사용했다고 밝히면서 개인정보 침해 문제가 불거졌습니다. 결국 개인정보보호법 위반으로 벌금 1억 원을 부과받았죠. 이런 문제들 때문에 2주 만에 서비스는 종료되게 됩니다.

 

"테이와 이루다 챗봇들의 막말 논란들을 봤을 때, 챗봇에게 가장 필요한 능력은 '옳고 그름'을 판단할 수 있는 능력이다."