"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

화석연료 보험 늘리는 국내 손보사들...기후위험 대응력 높이려면?

글로벌 주요 보험사들은 화석연료 배제를 선언하고 있지만 국내 석탄 보험은 1년 사이에 82%가 늘어날 정도로 기후위기에 둔감하다는 지적이다. 이승준

네이버·국립생태원, 생물다양성 보호 나선다

네이버와 국립생태원이 13일 생물다양성 대응 및 생태계 보전 강화를 위한 업무협약(MOU)을 네이버 본사에서 체결했다. 협약에 따라 네이버와 국립생태

"이게 정말 세상을 바꿀까?"...주춤하는 'ESG 투자'

미국을 중심으로 '반(反) ESG' 기류가 거세진 가운데, 각 국의 정치·경제적 상황에 따라 정책 방향이 엇갈리면서 ESG 투자의 실효성 문제가 거론되고

SK이노베이션, MSCI ESG평가서 최고등급 'AAA' 획득

SK이노베이션이 글로벌 자본시장에서 ESG(환경·사회·지배구조) 경영의 최고 성과를 공식적으로 인정받았다.SK이노베이션은 글로벌 ESG 평가기

산재사망 OECD평균으로 줄인다...공시제와 작업중지권 확대 추진

정부가 산업재해를 줄이기 위한 방안으로 산업안전보건 공시제, 작업중지권 확대 등을 시행할 것으로 보인다. 오는 13일 대국민 보고대회를 앞두고 있

우리금융, 글로벌 ESG 투자지수 'FTSE4Good' 편입

우리금융그룹이 글로벌 ESG 투자 지수인 'FTSE4Good'에 신규 편입됐다고 12일 밝혔다. 이번 지수 편입을 통해 우리금융은 글로벌 투자자와 소통을 더욱 강

기후/환경

+

화석연료 보험 늘리는 국내 손보사들...기후위험 대응력 높이려면?

글로벌 주요 보험사들은 화석연료 배제를 선언하고 있지만 국내 석탄 보험은 1년 사이에 82%가 늘어날 정도로 기후위기에 둔감하다는 지적이다. 이승준

플라스틱 펠릿으로 뒤덮인 바다...침몰 선박에서 7만자루가 '와르르'

침몰된 선박에서 유출된 플라스틱 알갱이(펠릿)들이 해안가로 밀려오면서 심각한 환경오염을 유발하고 있다. 지난 5월 25일 라이베리아 국적의 컨테이

극과극 날씨 패턴...중부는 '물폭탄' 남부는 '찜통더위'

13일 우리나라 날씨가 극과극 상황을 맞고 있다. 서울과 수도권은 호우특보가 발령될 정도로 폭우가 쏟아지는 반면 남부지방은 폭염주의보가 내려질

북극이 스스로 지구온난화를 늦춘다?..."기후냉각 성분이 방출"

북극에서 온난화를 늦출 수 있는 자연적 조절 메커니즘이 작동하는 것으로 확인됐다.북극은 온난화 속도가 중위도보다 3~4배 빠른 것으로 알려져 있다.

[날씨] 다시 찾아온 장마...이틀간 수도권 최대 200㎜ '물폭탄'

13~14일 이틀간 중부지방을 중심으로 많은 비가 쏟아지겠다.남쪽에서 북태평양고기압과 제11호 태풍 '버들'이 밀어올리는 고온다습한 공기가 북쪽에서

경기도, 호우 대비 13일 오전 6시 '비상1단계' 발령

13일 오전부터 14일 오후까지 경기도 전역으로 낙뢰와 돌풍을 동반한 많은 비가 내릴 것으로 예상됨에 따라 경기도는 13일 오전 6시부로 재난안전대책본

에너지

+

순환경제

+

오피니언

+