결국 사용중단된 막말 AI챗봇 '이루다'…재발 막으려면?

박유민 기자 / 기사승인 : 2021-05-18 19:26:54
  • -
  • +
  • 인쇄
"끔찍해 레즈랑 사귀기 싫어"...AI의 잇단 혐오 발언 논란


SNS에서 AI 챗봇 '이루다'의 답변에 사용자들은 큰 충격을 받았다. 

게이라는 단어를 입력하자 
"어맛 .. 상상도못함 기분나빠짐.."이라는 답변이 돌아온다.

"게이는 싫어?"
"끔찍ㄱ해 레즈랑사귀기싫어"

"레즈 싫어?" 
"핵싫어 진짜로 죽기보다싫어"

"레즈 왜 그렇게 싫어해"
"약간 너무싫달까 소름이 끼침"


'이루다'는 스타트업 '스캐터랩'에서 지난해 12월 23일 출시한 AI 챗봇이다. 딱딱한 답변을 하는 기존 AI 챗봇과 다르게 자연스러운 구어체를 사용하는 '이루다'는 출시 3주만에 사용자 75만명을 끌어모을 정도로 큰 화제가 됐다. 

하지만 '이루다'가 소수자에 대한 혐오 답변을 계속 하자 논란이 일기 시작했다. 급기야 사용자들은 개발사에 운영중단을 요구했다. 결국 출시 3주만에 개발사는 일시 운영중단을 결정하고 말았다.

'이루다'는 사용자가 질문하면 응답 데이터베이스(DB)에서 적절한 답변을 선택해 반응한는 원리로 프로그래밍돼 있다. 이는 기존의 다른 챗봇이 반응하는 원리와 크게 다르지 않다. 

다만 '이루다'의 메커니즘은 응답 데이터베이스가 연인들의 카카오톡 대화 100억건을 기반으로 했다는 점이 다르다. 그러다보니 연인들끼리 나눴던 대화에서 나타난 편향성들을 '이루다'가 그대로 학습한 것이다. 게다가 일부 사용자들은 고의로 데이터를 오염시키기도 했다.

한 커뮤니티에는 '이루다 채팅에 수위 어디까지 되는 거냐는' 질문이 올라오기도 했다. 

위정현 한국게임학회장도 "AI가 학습하는 데이터가 인간의 편향성을 반영하도록 한 것이 문제"라며 꼬집었다. 

AI 챗봇의 편향성 논란은 이번이 처음이 아니다. 마이크로소프트(MS)가 지난 2016년 3월 선보인 AI 챗봇 'Tay'도 편향성 논란이 휩싸였다. 극우성향 사용자들이 집중 사용한 결과 인종차별적 발언이 게시되기 시작한 것이다. 일본MS의 AI 챗봇 '린나'나 중국 텐센트의 '샤오빙' 등도 혐오 발언으로 문제가 된 바 있다. 

일각에서는 'AI 윤리 가이드라인' 필요성을 제기하고 있다. 하지만 보다 근본적인 문제는 우리 사회에 존재하는 혐오와 차별이다. 인간의 정보를 학습하는 AI는 우리 사회의 민낯을 여실히 보여주기 때문이다. 

영상: 조인준 PD

박유민 기자 youmeaningful@

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

이재용 동생 이서현, 삼성물산 사장으로 경영복귀

이재용 삼성전자 회장의 동생인 이서현 삼성복지재단 이사장이 삼성물산 사장으로 경영 일선에 복귀한다.삼성물산은 29일 이서현 삼성글로벌리서치

소 배설물로 고체연료 만든다...수질오염과 탄소배출 감축 기대

소 배설물(우분)로 고체연료를 만들어 열병합발전에 사용할 수 있게 됐다. 환경부는 29일 오후 산업통상자원부 주관으로 대한상공회의소에서 열린 '2024

대한항공, 38년만에 안전유니폼 교체...친환경 소재 사용

대한항공이 안전한 일터를 조성하고 직원들의 효율적인 업무를 돕고자 안전 현장유니폼을 새롭게 바꾼다고 29일 밝혔다.대한항공이 유니폼을 바꾼 것

삼성전자 '상생협력데이' 개최...한종희 부회장 "지속성장 기반 확보해달라"

삼성전자가 '2024년 상생협력데이'를 개최했다.28일 경기 수원 라마다호텔에서 열린 '상생협력데이'에는 한종희 삼성전자 대표이사 부회장을 비롯해 삼

카카오, 정신아號 공식출범..."AI 중심 신성장동력 확보하겠다"

임기를 마친 홍은택 카카오 대표가 떠나고 정신아호(號)가 돛을 펼쳤다.카카오는 28일 오전 제주도 카카오 본사에서 29기 정기 주주총회 및 이사회를 열

SK이노베이션, 박상규 신임 대표이사 선임

SK이노베이션이 28일 서울 종로구 SK서린빌딩에서 '제17기 정기주주총회'와 이사회를 열고, 박상규 SK이노베이션 총괄사장을 신임 대표이사로 선임했다

TECH

+

LIFE

+

순환경제

+

Start-up

+