늘어나는 AI 컨텐츠에 대한 우려, 보이콧, 그리고 대책은?
AI의 발전으로 AI가 만든 창작물이 늘고, 우려도 커지고 있다. 'AI웹툰 보이콧'은 현대판 '러다이트 운동'이라고 한다.
다만 이러한 AI 생성 콘텐츠로 인해 AI 모델이 스스로 붕괴할 수 있다는 주장도 나왔다.
※ 현재 모바일 가독성은 고려하고 있지 않습니다.
※ PC 버전을 이용해주세요.
AI 생성 콘텐츠로 훈련한 AI 모델은 '붕괴'
https://www.aitimes.com/news/articleView.html?idxno=151686
AI 생성 콘텐츠로 훈련한 AI 모델은 ‘붕괴’ - AI타임스
인터넷에 공개된 콘텐츠로 훈련하는 생성 인공지능(AI) 모델에 심각한 문제가 생길 수 있다는 지적이 나왔다. ‘챗GPT’나 ‘스테이블 디퓨전’ 같은 생성 인공지능(AI) 도구가 발달하면서 인터넷
www.aitimes.com
23년 6월 14일자 기사.
AI 창작물 반대? 찬성?
AI를 활용한 컨텐츠가 뜨거운 감자다.
반대도, 찬성도 모두 AI에 대한 관심이 많은 것만큼은 확실하다.
사진 어플 '스노우'에서는 AI 프로필을 제작해주고 있는데,
유료임에도 불구하고 이용 고객이 많아 서버가 막힐 정도다.
반면, 네이버 도전만화에서는 AI 콘텐츠를 보이콧하는 운동이 진행중이다.
AI 콘텐츠로 판명되면 '금지 딱지'가 붙는다.
아래는 보이콧 관련 사이트.
https://comic.naver.com/challenge/detail?titleId=811740&no=1
ai웹툰 보이콧 - ai웹툰 보이콧
ai웹툰 보이콧
comic.naver.com
특히 이런 운동은 현실판 '러다이트 운동'이라고도 불린다.
결국 러다이트 운동이 무색하게도, 모두가 알고있듯이 산업혁명은 이루어졌다.
과연 AI 보이콧의 미래는 어떻게 될까?
💡 러다이트 운동이란?
러다이트 운동(Luddite)은 19세기 초반 영국에서 있었던 사회 운동으로 섬유 기계를 파괴한 급진파부터 시작되어
1811년에서 1816년까지 계속된 지역적 폭동으로 절정에 달했으며, 시간이 지나면서 이 용어는 일반적으로 산업화, 자동화, 컴퓨터화 또는 신기술에 반대하는 사람을 의미하게 되었다.
- 출처: 위키백과
AI 발전에 따른 원본 데이터의 오염
현재 AI가 급격히 발전을 이룬데에는 빅데이터와 open AI의 영향이 크다.
인공지능이 학습하기에 충분한 데이터가 마련이 되었고,
여러 AI 기술을 무료로 공개하면서 너도나도 개발에 참여할 수 있게 되었다.
그러다보니 AI 창작물이 생겨나고 있고, 이에 대한 우려의 시선도 당연하다.
이러한 창작물에 대해 AI가 스스로 붕괴할 수 있다는 기사가 나왔다.
기사에서는 원본 데이터의 '오염'에 대해 걱정하고 있다.
케임브리지 대학에서 낸 '재귀의 저주'의 논문에 따르면,
파란색 고양이 10마리와 노란색 고양이 90마리로 학습을 시켰더니
노란색 고양이의 학습데이터 수가 압도적으로 많아, 결국엔 노란색 고양이만 결과로 나왔다고 한다.
이렇듯 원본 데이터 자체가 한쪽으로 편향되거나, AI 결과물로만 채워지게 되면 붕괴가 일어날 수 있다.
AI 창작물을 구분하는 방법은?
이를 위해 어떤 대비가 필요할까.
현재는 소프트웨어를 통해 구분하고 있다. (ex openAI의 AI Classifier)
글의 경우엔 과도하게 'the'가 많이 사용되지 않았는지, 오타가 있는지 등을 확인한다.
(오타는 사람이 작성했음을 알 수 있는 가장 큰 요소이다.)
다만 AI가 작성한 글을 판독하는 것도 AI라는 것이 조금 아이러니 하다.
출처: https://www.technologyreview.kr/16206-2/
그림의 경우엔, AI 취약점으로 손가락이 꼽힌다.
AI는 현재 손 만큼은 손가락 개수, 손의 방향 등 무엇하나 제대로 그리지 못한다.
중요한 신체부위로 꼽지 않기 때문이라고 하는데, 왜 하필 '손'만!?
역시 관련 글을 첨부한다.
https://www.newstheai.com/news/articleView.html?idxno=3812
앞으로는 모든 창작물을 창작하는 과정을 비디오로 녹화해야할 지도 모르겠다.
포토샵이 발전하던 시절, 합성을 구분하기 위해 전문가가 투입되었었다.
인터넷에 AI 창작물이 넘쳐나는 순간 이를 구별하기 위한 방법도 필요하겠지만,
어쩌면 AI가 스스로 붕괴하거나, 이제는 합성 사진이 익숙한 것처럼
또다시 그걸 구분할 눈과 정책이 생기지 않을까.
사실 나는 별로 걱정은 안된다.
산업혁명 속에 살던 사람들은 어떤 체감을 했을까?가 항상 궁금했는데,
그런 역사의 단계에 있는 것 같은 기분이다.
또 이런 규제에 맞춰서 기획자가 해야할 일도 늘어날 것 같아서 기대되는 마음도 있다.
언젠가 다시 AI 플랫폼 기획자로 일해보고 싶다. 😆
