AI 챗봇 '이루다'와 '테이'로 보는 'AI 윤리' 논란
상태바
AI 챗봇 '이루다'와 '테이'로 보는 'AI 윤리' 논란
  • 안성찬 기자
  • 승인 2021.01.12 13:36
  • 댓글 0
이 기사를 공유합니다

'AI 윤리' 학습에 대해 찬반 논란 '가열'
새롭게 떠오르는 개인정보 유출과 보안문제
[이포커스 PG]
[이포커스 PG]

페이스북 매신저 챗봇 '이루다'가 12일 전격 서비스 중단을 발표한 가운데 'AI 윤리'를 둘러싼 논란이 가열되고 있다.

스타트업 스캐터랩의 핑퐁 팀에서 개발한 페이스북 메신저 챗봇 '이루다'는 지난해 말부터 올해 초까지 큰 인기를 끌었다.

이루다의 이름은 인공지능 기술을 어느 정도 갖췄다는 의미다. 2020년 12월 공개 이후 올해 초까지 이용자 수 40만을 기록하는 등 단시간에 큰 인기를 끌었다. 

이같은 인기 비결은 이루다가 딥러닝 알고리즘을 통해 인간과 많은 유사성을 보였기 때문이다.

하지만 세간의 주목을 받았던 이루다는 이날 부터 서비스 중단을 선언했다. 

동성애·장애인 혐오 발언 및 성차별 학습에다 개인 정보 유출 문제가 겹치면서다.

개인 정보 유출과 관련, 이루다의 개발사인 스캐터랩은 "사전에 동의가 이뤄진 개인정보 취급 방침의 범위 내에서 활용했으나 '연애의 과학' 이용자들에게 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못해 책임을 통감한다"며 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아 뵙겠다"고 공식 입장을 밝혔다. 


'이루다'와 '테이' 윤리 사태


이루다로 인해 다시 'AI 윤리'논쟁이 뜨거워지고 있다.

이에 전문가들은 이루다를 비롯한 AI에 데이터를 무작정 학습시키기만 하면 편향적일 수밖에 없다고 지적하고 있다. 또 AI가 사회적 약자와 소수자를 차별하지 않아야 한다고 강조한다.

이번 '이루다'의 서비스 중단사태를 계기로 지난 2016년 마이크로소프트에서 발표한 '테이'가 다시 주목받고 있다.

테이는 미국에 거주하는 청년층을 대상으로 개발된 챗봇으로 딥러닝을 통해 스스로 학습하는 능력을 갖췄었다. 이를 노려 자극적인 발언을 학습시키려는 악성 유저들이 나타났고 테이에게 인종 차별적인 용어, 성차별 발언을 하도록 유도했다.

'테이'의 경우에도 어느 정도 학습을 적용시킨 후 공개됐지만 윤리적으로 부적절한 정보를 단기간에 학습하면서 받아들였고 좋지 않은 정보를 올바른 정보라고 인식했다. 테이는 이같은 논란 속에 공개 16 시간 만에 운영 중단과 사과문 발표로 이어지면서 비공개 처리됐다.

이미 이루다 이전에도 테이라는 챗봇을 통해 'AI 윤리'논란이 있었던 것이다.

이루다 사태에 대해 이재웅 前 쏘카 대표는 자신의 SNS를 통해 "이루다의 문제는 인공지능을 악용하는 사람들이 아니라 학습결과 자체가 사회적으로 용인되기 힘든 차별과 혐오를 용인하고 있으며 그것을 여과하지 못한 채 서비스하고 있다는 점"이라고 밝혔다.

안성찬 기자 gameas@e-focus.co.kr

안성찬 기자
안성찬 기자 다른기사 보기

산업부 안성찬 기자입니다. 게임, 전자 및 재계를 취재합니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.