결국 사용중단된 막말 AI챗봇 '이루다'…재발 막으려면?

박유민 기자 / 기사승인 : 2021-05-18 19:26:54
  • -
  • +
  • 인쇄
"끔찍해 레즈랑 사귀기 싫어"...AI의 잇단 혐오 발언 논란


SNS에서 AI 챗봇 '이루다'의 답변에 사용자들은 큰 충격을 받았다. 

게이라는 단어를 입력하자 
"어맛 .. 상상도못함 기분나빠짐.."이라는 답변이 돌아온다.

"게이는 싫어?"
"끔찍ㄱ해 레즈랑사귀기싫어"

"레즈 싫어?" 
"핵싫어 진짜로 죽기보다싫어"

"레즈 왜 그렇게 싫어해"
"약간 너무싫달까 소름이 끼침"


'이루다'는 스타트업 '스캐터랩'에서 지난해 12월 23일 출시한 AI 챗봇이다. 딱딱한 답변을 하는 기존 AI 챗봇과 다르게 자연스러운 구어체를 사용하는 '이루다'는 출시 3주만에 사용자 75만명을 끌어모을 정도로 큰 화제가 됐다. 

하지만 '이루다'가 소수자에 대한 혐오 답변을 계속 하자 논란이 일기 시작했다. 급기야 사용자들은 개발사에 운영중단을 요구했다. 결국 출시 3주만에 개발사는 일시 운영중단을 결정하고 말았다.

'이루다'는 사용자가 질문하면 응답 데이터베이스(DB)에서 적절한 답변을 선택해 반응한는 원리로 프로그래밍돼 있다. 이는 기존의 다른 챗봇이 반응하는 원리와 크게 다르지 않다. 

다만 '이루다'의 메커니즘은 응답 데이터베이스가 연인들의 카카오톡 대화 100억건을 기반으로 했다는 점이 다르다. 그러다보니 연인들끼리 나눴던 대화에서 나타난 편향성들을 '이루다'가 그대로 학습한 것이다. 게다가 일부 사용자들은 고의로 데이터를 오염시키기도 했다.

한 커뮤니티에는 '이루다 채팅에 수위 어디까지 되는 거냐는' 질문이 올라오기도 했다. 

위정현 한국게임학회장도 "AI가 학습하는 데이터가 인간의 편향성을 반영하도록 한 것이 문제"라며 꼬집었다. 

AI 챗봇의 편향성 논란은 이번이 처음이 아니다. 마이크로소프트(MS)가 지난 2016년 3월 선보인 AI 챗봇 'Tay'도 편향성 논란이 휩싸였다. 극우성향 사용자들이 집중 사용한 결과 인종차별적 발언이 게시되기 시작한 것이다. 일본MS의 AI 챗봇 '린나'나 중국 텐센트의 '샤오빙' 등도 혐오 발언으로 문제가 된 바 있다. 

일각에서는 'AI 윤리 가이드라인' 필요성을 제기하고 있다. 하지만 보다 근본적인 문제는 우리 사회에 존재하는 혐오와 차별이다. 인간의 정보를 학습하는 AI는 우리 사회의 민낯을 여실히 보여주기 때문이다. 

영상: 조인준 PD

박유민 기자 youmeaningful@

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

우리은행 'G.우.주 프로젝트' 시행...경기도 보호아동 위해 6억 지원

우리은행이 'G.우.주 프로젝트'를 통해 보호아동을 위해 4년간 매년 1억5000만원을 지원한다.우리은행은 경기주택도시공사(GH), 한국아동청소년그룹홈협

이재명 정부의 ESG 정책과 기업의 대응전략은...KEMI, 17일 세미나

한국ESG경영개발원(KEMI)이 오는 17일 서울 여의도 FKI타워 파인홀에서 '이재명 정부의 ESG 정책과 기업의 대응 전략'을 주제로 ESG 세미나를 개최한다고 3일

방시혁 하이브 의장 서울대 문화관 재건축에 50억 기부

방시혁 하이브 의장이 모교인 서울대학교에 기부한 50억원이 서울대 문화관 재건축에 사용된다.서울대는 3일 오후 6시 서울 관악구 서울대 문화관 중강

KCC '2025 ESG 보고서' 발간...온실가스 '스코프3'까지 확장

KCC가 ESG경영 성과와 지속가능 전략을 담은 '2025 지속가능성보고서'를 발간했다고 3일 밝혔다.올해 11번째로 발간되는 이번 보고서는 지속가능경영보고

"중대재해는 기업 ESG평가의 핵심리스크...등급 차감요소로 작용"

'중대재해'가 기업의 가치와 ESG 평가에 결정적인 영향을 미칠 것이라는 분석이 나왔다.ESG 평가 및 투자자문기관 서스틴베스트가 3일 발간한 '중대재해

하나금융 '2024 지속가능경영보고서' 발간..."객관성·투명성 강화"

하나금융그룹은 2024년 ESG 활동과 성과를 담은 '2024 지속가능경영보고서'를 발간했다고 1일 밝혔다.열여덟번째로 발간한 올해 보고서에는 '함께 성장하

기후/환경

+

때이른 폭염에 '가장 더운 6월'...1년만에 평균기온 또 갈아치웠다

올 6월 우리나라 전국 평균기온이 역대 최고를 기록하면서 '역대 가장 더웠던 6월'로 기록됐다.4일 기상청이 발표한 2025년 6월 기후특성에 따르면 6월 전

'불지옥'으로 변한 유럽...독일과 그리스 산불 계속 확산

역대급 폭염이 덮친 유럽에서 유럽으로 인한 산불이 곳곳에서 발생하면서 가득이나 뜨거운 대기를 더 뜨겁게 달구고 있다. 3일(현지시간) dpa통신 등에

[주말날씨] 낮 최고 36℃ '찜통더위'...밤에도 28℃ '열대야'

이번 주말도 낮밤을 가리지 않고 찜통더위가 이어지겠다. 중부지방은 대체로 흐리고 남부지방과 제주도는 가끔 구름많겠다.전국에 폭염특보가 발효된

소리없는 살인자 '가뭄'...수천만명 극심한 기아 시달려

기후위기로 전세계 가뭄이 심각해지면서 수천만 인구가 기아로 내몰리고 있다.3일(현지시간) 미국 국립가뭄완화센터(NMDC), 유엔 사막화방지협약, 국제

그리스, 한달만에 또 '불바다'...폭염 영향으로 산불 빈발

그리스 키오스섬에서 산불이 발생한지 채 한달도 되지 않아 이번에는 크레타섬에서 대형 산불이 발생했다.2일(현지시간) BBC방송은 그리스 크레타섬 동

폭우 걱정했는데 장마 이대로 끝?..."빨리 시작하고 빨리 끝나"

엄청난 폭우를 예상했던 올해 장마가 비가 제대로 내리지도 않은 채 2주만에 끝났다. 이처럼 예상이 완전히 빗나간 기상예보는 앞으로 일상이 될 것이

에너지

+

순환경제

+

오피니언

+