"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

경기도, 업사이클 참여기업 모집...최대 1000만원 지원

경기도와 경기환경에너지진흥원이 '2025년 경기도 업사이클 기업육성 지원사업'에 참여할 기업을 모집한다고 10일 밝혔다.공모는 △집중육성 과제(최대

올해 신규 사외이사 평균연령 60.3세...女비중 첫 30% 돌파

올해 국내 100대 상장기업에 신규 선임된 사외이사의 절반 이상이 교수 출신이고, 평균연령은 60.3세로 나타났다. 사외이사 재선임 비중은 54%로 높아지

아워홈 사고직원 결국 사망...중대재해법 처벌수위 촉각

경기도 용인에 있는 아워홈 공장에서 사고를 당한 직원이 9일 끝내 사망했다. 구미현 아워홈 대표이사는 이날 입장문에서 "머리 숙여 사과드린다"고 말

LG '올레드TV' 탄소·플라스틱 줄이고 자원효율 높였다

LG전자 올레드 TV가 해외 유력 인증기관들로부터 탄소 배출 저감, 지속가능한 자원 효율성 등 환경 관련 인증을 잇따라 획득했다.LG전자는 최근 프리미

국내 中企 ESG 경영수준 2년새 대폭 '개선'...비결은?

국내 중소·중견기업들의 ESG 성적이 대기오염물질, 온실가스 등 환경분야를 중심으로 크게 개선된 것으로 나타났다.대한상공회의소가 국내 중소&m

SK C&C, AI DX로 사고 줄이고 환경오염 막는다

SK C&C가 인공지능(AI)과 디지털 트랜스포메이션(DX) 기술을 활용한 디지털 안전·보건·환경(SHE) 서비스를 통해 제조현장 안전수준을 한층 강

기후/환경

+

기후파괴 앞장선 美...산업시설 탄소배출량 의무보고 폐지

"기후위기는 가짜"라며 반(反)환경 정책을 펼치고 있는 도널드 트럼프 2기 행정부가 산업시설 온실가스 배출량 보고 의무를 폐지했다. 중국 다음으로

산불지역 '산사태' 위험성 2시간전 파악하는 예측기술 개발

산불지역이 폭우로 인해 산사태가 발생할 수 있는 위험여부를 2시간 30분 이전에 파악할 수 있는 예측기술이 국내에서 개발됐다.10일 한국지질자원연구

기후솔루션 "NDC 수립시 지방정부도 참여시켜야"

우리나라가 '2035 국가온실가스감축목표(NDC)' 수립을 진행하는 과정에서 지방정부 참여가 사실상 배제돼 있어 기후대응을 어렵게 한다는 지적이다.10일

'차기 정부가 해야 할 기후정책 30가지'...기후싱크탱크 제안서 발간

차기 정부는 기후변화에 대응해 생태국가 원리를 헌법에 반영하고, 기후시민의회 제도화를 통한 민주적 기후거버넌스를 구현하는 것과 아울러 기후경

'대기의 강' 2023년 튀르키예 지진 피해 키웠다

엄청난 양의 비를 몰고 오는 '대기의 강' 현상이 재작년 발생한 튀르키예 지진의 피해를 키운 것으로 밝혀졌다.8일(현지시간) 톨가 괴륌(Tolga Görü

美주택보험료 8% 이상 오른다...잦은 재난과 관세 여파

미국 전역에서 극단적인 기후재난이 잇따라 발생하는 데다, 올초 취임한 도널드 트럼프 미국 대통령이 쏘아올린 관세폭탄으로 경제 불안이 가중되면

에너지

+

순환경제

+

오피니언

+