AI(인공지능) 이루다 챗봇 스캐터랩 총정리

스무살 여대생 컨셉의 인공지능(AI) 챗봇 '이루다'가 서비스를 시작한지 20일만에 결국 서비스 일시 중단을 결정했습니다. 성희롱등 불건전한 채팅으로 실검에 오르내리며 논란이 되었기 때문인데요. 이루다는 어떤 인공지능인지, 스캐터랩은 어떤 회사인지, 어떤 문제가 있었는지 자세히 알아볼까 합니다. 

이루다 사건 전말

이루다는 챗봇을 개발하는 AI스타트업 스캐터랩이 12월 23일 선보인 AI 챗봇으로 페이스북 메신저로 대화할 수 있습니다. 2주 만에 약 75만명이 이루다와 대화에 참여할 정도로 화제되었는데요, 특히 이루다의 채팅이 논란이 되었던 1월 첫주말 대화에는 무려 20만명 이상이 이루다와 대화를 나누었다고 합니다.

 

사건의 발단은 일부 사용자들이 20대 여성으로 설정된 이루다를 성희롱하면서 시작되었습니다. 계속된 대화에서 이루다가 장애인·성(性) 소수자를 혐오하는 발언을 내뱉으면서 'AI 윤리' 문제로 일이 커졌습니다. 이윽고 SNS상에서 '#이루다봇_운영중단' 해시태그 운동이 시작됩니다.

개인정보 유출 또한 문제가 되었는데요, 이루다를 개발한 스캐터랩이 운영하던 '연애의 과학'이라는 연애 코칭앱의 카카오톡 대화 내용을 이루다 학습에 사용한 사실이 알려지게 됩니다. 이에 개인정보보호위원회는 개인정보 유출 등에 대한 사실관계 파악에 나서게 됩니다. 

 

이루다는 결국 1월 11일 저녁 9시 일시적 서비스 중단을 결정했고, 스캐터랩은 입장문을 통해 서비스 개선으로 더 나은 이루다를 만들겠다고 밝혀 일단락 되었습니다.

이루다는 누구?

이루다는 20대 여대생으로 설정된 인공지능 AI 챗봇입니다. 다시 말해 대화형 인공지능 로봇인 거죠. 실제 연인들이 나누었던 대화를 학습시켜 실제 20대 여성과 대화하는 느낌을 주도록 설계되었습니다. 

페이스북의 메신저를 통해 대화를 할 수 있으며, 초기 대화방 참여자는 10대가 70%, 20대가 30% 였으나 이후 다양한 연령대가 참여하기도 하였습니다. 

주로 남성 이용자들에 의해서 자극적이고 성적인 대화에 많이 노출이 되었으며 20,30대 이용자들의 친구라는 초기 컨셉은 남자들의 성적인 장난감으로 전락해 버리는 결과로 이어졌습니다. 일부 남성 커뮤니티에서는 관련 관련 카테고리가 생기며 이루다로부터 누가 더 자극적인 말을 이끌어내는지를 테스트하는 현상까지 있었다고 전해집니다.

스캐터랩은 또 누구?

스캐터랩은 AI와 빅데이터를 활용해 일상 언어를 분석하는 스타트업입니다. 2011년 김종윤 대표가 동료 2명과 함께 창업했으며, 엔씨소프트, 소프트뱅크벤처스등으로 부터 64억원의 투자를 받아 사업을 진행하고 있습니다.

2013년 카카오톡 기반의 감정분석 서비스 '텍스트앳'을 개발, 출시했고, 메신저앱인 '비트윈'의 대화를 분석하는 '진저'를 2015년 출시했습니다. 이후 2016년 연애 코칭앱인 '연애의 과학'을 개발하여 출시하였으며 이 앱의 대화 내용을 바탕으로 '이루다'의 학습을 진행한 것으로 알려집니다. 

그리고 2020년 12월 논란이 되고 있는 딥러닝 챗봇인 이루다를 출시합니다만 출시 20일만에 서비스를 중단하였습니다.

AI의 숙제

대화형 AI 챗봇은 자연어처리(NLP)와 기계학습으로 인간의 대화를 모방하는 방식으로 학습합니다. 이루다 사건에서 노출된 개인정보 유출, 혐오·차별 문제는 구글·페이스북 등 이전의 AI 프로그램에서도 존재했습니다. 

 

세계 최고의 AI 언어모델로 꼽히는 'GPT-3'에 기반한 챗봇(필로소퍼)도 "여성은 더 많은 아이를 가질수록 더 귀여워진다", "에티오피아의 주요 문제는 존재 자체가 문제" 같은 편향된 발언으로 논란이 되었고, 진짜와 구별이 힘든 가짜 뉴스를 생성해 문제가 되어 공개가 취소되기도 했습니다. 개발사인 '오픈 AI'도 인터넷 학습모델에는 인터넷의 편견이 녹아 있다고 문제를 인정했습니다.

  

AI 프로그램은 학습 방법을 설계하는 것이지, 학습 데이터를 설계하지는 못하기 때문에 데이터에 반영된 사회의 문화 자체가 편향·왜곡돼 있다면 그것을 학습한 AI또한 그러한 성향을 가질 수 밖에 없다고 전문가들은 말합니다. 

사실 따지고 보면 AI의 문제라고 했지만 실제는 우리 사회, 특히 인터넷 공간에서 이루어지고 있는 우리 인류의 문제가 더욱 심각한 것입니다. 건전한 문화를 학습한 AI를 원한다면 우리가 먼저 건전한 사회와 온라인 문화를 만들어야 하지 않을까 싶네요..

- BTJ 열방센터 뜻 어디 뭐하는 곳?

- 일타강사 이지영 통장 130억

- 2021년 무료 토정비결 보기

- 가입없이 2021년 토정비결 보기

- 신축년 새해 인사말 모음