그림 인공지능/논란 및 사건 사고

1. 개요

2. 대회 및 전시회 참여 논란

2.1. Midjourney 예술대회 우승 사건

2.2. 암스테르담 국립미술관 아마추어 전시전 AI 그림 참여 논란

3. 인간 작가 위장 및 사기

3.1. 인간 커미션 위장

• 손, 발, 귀 등 일부 신체 부위가 비틀려 있다. 특히 손은 그 복잡한 구조상 실제 초보 일러스트레이터들 및 미술 관련 학생들은 물론이고 어느정도 실력이 오른 그림쟁이들조차 어려워 하는 높은 장벽인 만큼, 그림 AI 개발 측에서도 아주 고질적인 문제점이다. 아직까지는 AI가 손에 대한 해부학적 지식과 논리 없이 보이는 그대로 수많은 손 데이터를 조합해서 손을 재현하려고 하는지라 아무리 AI의 보조 기능이 발전해도 항상 문제가 나타난다. 손가락 4개, 6개는 기본이고 아예 형체도 못 알아보도록 뭉게지거나 손가락과 손가락 사이에서 다른 손가락이 나오는 등 인간이 인체를 틀리는 방식과도 쉽게 구분된다. 별도의 수정 없이 이를 보완하기 위한 다양한 시도들[2]이 나오고는 있으나, 여전히 뒤틀리고 괴상한 손은 자주 나온다. 그래서 아예 손을 주머니에 넣는 등 주변 사물이나 도구로 가리거나 어색하지 않도록 최대한 단순화시키는 경우도 많다. 그림 자체의 퀄리티는 분명 높은데 손이 유독 다른 사물에 가려져 있거나 나와도 그 모습이 주먹 등 단순하게 그려져 있을 경우, 한 두장이면 그럴 수도 있겠지만 여러 그림을 봐도 다 그렇게 그려져 있다면 AI임을 의심해볼만 하다.[3]
• 이빨이 보이는 경우 일그러진다.
• 악세사리나 장식이 정확한 형태를 띄지 못하고 녹아있다.
• 악세사리나 장식의 일부분이 머리카락이나 옷과 뒤섞여 녹아있다.
• 머리카락 끝이 거미줄이나 나뭇가지처럼 비틀려있다.
• 눈썹과 머리카락이 닿는 곳이 일그러진다.
• 좌우대칭 디자인을 잘 못뽑는다. 오른쪽 왼쪽 단추 디테일이 달라지는 식.
• 음영에 기준이 없다. 예를 들어 코 등 특정 부분만 반대 방향으로 그림자가 드리운 식.
• 그림체를 하나로 고정하기 힘들다.: 인간 작가가 그림체를 바꾸는 경우는 연구를 위한 실험이나, 독자를 고려하여 용도에 맞게 조정하는 경우, 그림 공부하는 학생이 배운 것을 그림에 적용하는 경우가 많아 AI와는 구별된다.
• 고정된 캐릭터를 그리기 어렵다.: 차렷 자세에서 각도만 돌려도 장식물 등이 바뀌어버린다.
• 물체 앞에 다른 물체가 있어 자르듯이 가린경우, 뒤에있는 물체가 일그러진다.
• 체크무늬나 프릴같이 규칙 속에 불규칙이 있는 패턴을 그리지 못한다. 프릴은 레이스와 형태가 뒤섞여 녹아버리는 경우가 많고, 체크무늬는 부분부분 체크무늬가 다른 경우가 많다. 둘다 사람의 그람처럼 보이게 하려면 싹 다 다시그려야 한다.
• 역동적인 자세나 특정 음식을 먹는 포즈와 같이 데이터가 적은 구도는 뒤틀린다. 꼭 역동적이지 않더라도 다리 꼬기 같이 뼈가 얽히는 자세에서도 오류가 자주 나타난다. 이는 ControlNet의 Openpose 기능와 이를 수동으로 지정할 수 있는 확장 기능을 활용하면 자세를 직접 지정해줄 수 있게 되어 많이 개선되었기는 하나, 이렇게 해도 그 자세들에 대한 기본적인 데이터가 적다 보니 오류가 나는 경우가 많다. 분명 넘어지는 자세를 상정하고 지정해줘도 달리거나 덮치는 자세로 해석하거나, 다리를 꼬게 해도 다리가 3~4개로 나오거나 등 아직 부족한 점이 많다.
• 유명하지 않은 캐릭터는 유명한 캐릭터로 바꾸거나 특징을 지워버린다.: 그래서 마이너 장르의 특정 캐릭터 팬아트는 그리기 어렵다. 물론 태그 조합만으로 충분히 비슷하게 만들어 낼 수 있는 심플한 디자인의 캐릭터라면 불가능하지는 않고, 학습 기능도 크게 발전하여 어느정도 공식 이미지와 팬아트만 있으면 학습 기능과 반복 학습을 활용해서 충분히 만들 수도 있다. 그러나 아무래도 커미션을 받는 입장에서는 그 마이너 장르의 팬이 아닌 한 애정도 없을 캐릭터에 시간을 투자하기 귀찮기 때문에 대부분 거절한다. 그리고 아무리 유명한 장르의 지명도 있는 캐릭터라도 LoRA 파일 등 다른 사람이 만든 학습 파일이 풀리지 않았다면 거절한다.
• 총처럼 구도와 형태를 포함해 논리가 필요한 복잡한 형태의 무기는 그리지 못한다. 마찬가지로 평범한 형태의 아무 장식이 없던 한손 무기, 양손 무기도 조금이라도 복잡한 형태를 표현하려고 하게 된다면 높은 확률로 녹아 흘러내려가거나 일그러지기 시작한다.
• 표정이 대부분 획일화되어 있다. 사실 어느 정도 숨길 수 있지만, AI사용자들의 수준이 너무 낮아 자주 발생하는 특징이다.
• 일본향 그림체의 경우, 중년 혹은 노인 여자는 그리지 않는다. 또한 무국적을 지향하는 일본향 그림체 덕분에 다양한 특징과 생김새를 가지고 있는 인종을 그리지 못한다.
• 글자나 로고에 일그러짐이 있다. 특히 로고의 경우 정체불명의 로고가 되거나 심하게 일그러지며 이는 워터마크에도 해당된다.
• 그림 구석에 가끔 워터마크의 흔적이 보인다.[4]
• 벡터 작업이 불가능하다.: 클립스튜디오의 경우 벡터 라인드로잉이 가능하다.
• 그림 과정이 없어 스피드페인팅이나 라이브 드로잉 쇼 같은 컨텐츠가 불가능하다.
• 레이어가 없다.: 선화, 채색, 효과등 각 레이어에 세부적인 파트를 나눌수가 없기 때문에 리터칭의 난이도가 극악으로 올라가게 되며, 전체 이미지를 들어낼수 밖에 없기 때문에 어떠한 형식으로든 어색한 부분과 흔적이 남게 된다. 리터칭 후 자기 그림으로 속이는 짓이 금방 들통나게 되는 원인이다.[5]
• 인쇄 가능한 해상도[6]가 나오지 않는다. (장물 데이터로 마개조한 경우는 제외.)
• 이스터에그를 넣는 것이 불가능하다. 그림에 이스터에그를 넣는 작가도 그닥 많지는 않다지만, 방법도 착시이용, 아이콘화 하여 숨기기, 단순히 작게 그려넣어 숨기기 등등 다양해서 정형화하기 힘든 작업 중 하나다.
• 정해진 레이아웃에서 캐릭터만 바꿔주는 커미션은 인간 작가의 커미션일 가능성이 높다. 이 경우 캐릭터 외에는 크게 바꾸지 않음으로, 샘플과 겹쳐보면 일치하는 경우가 많다.
• 사람이 아닌 말과 같은 동물은 다리 개수가 일치하지 않는 경우가 많다.
• 뜬금없는 곳에서 인체의 일부가 튀어나오는 경우가 있다. 예를 들어 목도리 술 대신 손가락 등이 뒤엉켜 그려져 있는 경우가 있고, 단순 작붕으로 보기 어려울 만큼 구성이 어색한 경우도 많다.
• 드로잉이 불규칙적이다. 실제 그림은 털선 위주의 잔털 스케치가 아니라면 선을 한번에 그어 명확하고 균일하지만, 뜬금없이 드로잉이 오돌토돌한 경우가 있다.

3.1.1. Preview 작가 AI 커미션 의혹

3.2. AI 사용자의 허위 포트폴리오 사건

캡쳐본
{{{#!wiki style="margin: 0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin: -6px -1px -11px"	내용		}}}}}}}}}

3.3. 텀블벅 프로젝트의 AI 사용 의혹

3.4. 서울코믹월드 AI 굿즈판매 논란

3.5. 신한 블랙컨슈머 그림AI를 활용한 페이퍼컴퍼니를 통한 부정수급 논란

4. 상업적 이용 논란

4.1. 랜덤채팅의 그녀! AI 그림 논란

4.2. 승리의 여신: 니케 AI 일러스트 사용 의혹 및 사용 부인 논란

4.3. 백야극광 축전 AI 그림 논란

4.4. 네이버 웹툰 만우절 AI 표지 논란

4.5. 심규선 뮤직비디오 AI 사용 논란

4.6. 웹소설 AI 일러스트 논란들

4.7. Rayark의 AI 일러스트 상업적 활용 공식화 논란

4.8. 신과함께 돌아온 기사왕님 AI 그림 논란

4.9. 웹소설 표지 단가 시비

4.10. 원신 팬아트 공모전 대량 트레이싱 및 AI 의혹 사건

4.11. AI를 이용한 저작권 침해

4.12. 소설 아몬드의 AI를 이용한 무단 표지 작업 결과물 논란

4.13. 홀리 호러 맨션 AI 배경 일러스트 사용 논란

4.14. 티어스 포 피어스 신보 앨범 커버 AI 사용 논란

4.15. 안산 OK저축은행 읏맨 구단의 하이큐!! 저작권 무단 도용 사건

5. 무단 학습 논란

5.1. 그림 학습에 대한 대중의 인식 오류

5.2. 김정기 그림 AI 학습 및 고인모독 논란

5.3. 라스트오리진 일러스트레이터 AI 학습 사건

악성 댓글이 포함되어 있으므로 열람 시 주의
{{{#!wiki style="margin: 0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin: -6px -1px -11px"	악성댓글		}}}}}}}}}

5.4. 일러스트 작가 화풍 AI 학습 후 인간작가 행세

AI 학습 채널 기록
{{{#!wiki style="margin: 0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin: -6px -1px -11px"	내용	· ·
내용		}}}}}}}}}

5.5. 미드저니의 미키마우스 생성 논란

5.6. AI 학습 및 어그로성 댓글 사건

5.7. Sam Does Arts 작가 무단학습 양산 사건

5.8. Nekojira 작가 무단학습 사건 Civitai

5.9. Corridor AI 애니메이션 논란

5.10. 어도비 AI 학습 사건

• 현 상황의 이미지 생성 AI 방식이 저작권을 침해하지 않아도 누군가의 저작물을 이용하여 이미지가 생성되고 있어 그 출처가 불분명한 앱은 사용하고 싶지 않다.
• 윤리적으로 문제가 없는 방법으로 수집된 데이터를 이용하지 않는다면 사용할 수 없다.
• 아티스트를 위한 도구라고 해도 이미지 생성 AI 기능은 오히려 아티스트를 곤경에 몰아넣고 그 활동을 저해한다.
• CLIP STUDIO PAINT를 사용했다는 이유만으로 이미지 생성 AI로 만들었다고 의심받는다.
• 신용할 수 없는 기능이 탑재되어 있는 도구를 창작 파트너로서 받아들일 수 없다.
• 왜 요청이 많은 기능 개선을 등한시하면서, 문제시되고 있는 기능을 추가하는지 이해할 수 없다.
• 타인의 권리가 침해될 가능성이 있는 이미지가 생성될 수 있는 기능을 제공해 놓고 그렇게 되지 않도록 스스로 유의해 주길 바란다는 셀시스의 자세는 무책임하다.

5.11. 일반인 사진 대량 학습 및 윤리적 책임 논란

5.12. 명일방주 일러스트레이터 무단 학습 논란

5.13. t2i 카드캡터 사쿠라 사건

5.14. 荻pote 작가 그림 및 이름 악의적 도용, 영업방해 사건

5.14.1. 연관 PIXIV 규약 개정

5.15. 네이버 도전만화가 보이콧 시위

5.16. 드롭박스 데이터 AI 무단사용 논란

5.17. 토리야마 아키라 AI 일러스트 추모 논란

6. 영국 창작자 권리 연합의 반발 성명

7. 학습모델 도용 및 사기

7.1. 텀블벅 AI 그림체 판매 및 사기 논란

7.2. Civitai 학습모델 도용 사이트 등장

8. 소송 관련

8.1. 이미지 생성 AI 개발사 저작권 소송

8.2. 미국 일리노이 주 무단 개인정보 학습 집단 소송

9. 사이버불링

9.1. AI 그림 플랫폼 이용자의 악성 어그로

9.2. 애니메이터 Tarrow 조롱 사건

9.3. 무분별한 AI 사용 의혹 제기

• 2023년 4월, 인디팀의 미연시 게임 '시스터즈 커리큘럼'의 일러스트가 AI로 의심받아 그림 제작 전체 과정을 녹화한 타임랩스까지 공개하는 상황까지 생겼다. #
• 2023년 5월, 웹소설 수상한 호구를 주우면이 연재 시작 하자마자 AI로 작품 표지를 만들었다는 의혹이 제기되어 논란이 되었으며, 이후 해당 작품을 담당한 일러스트레이터[39]가 "AI가 그린 그림이 아니라"라며 SNS에 표지 제작 과정을 타임랩스 영상으로 올린 후에야 논란이 수그러들었다. AI 누명을 쓴 일러스트레이터가 올린 타임랩스 영상. 해당 사건이 카카오페이지 소설 A로 언급된 제도권 기사

9.4. 중국 버튜버 신상털이 및 사이버불링

9.5. 裏方작가 사칭 및 살해협박

9.6. jizell작가 사이버불링

10. img2img 기능 오용 및 도용 사건들

10.1. 트위치 스트리밍 그림 학습 사건

10.2. img2img 댓글 트롤링

10.3. AI 사용자간 img2img 도용

10.4. 일대다 img2img 도용

10.5. @U__MASU 유저의 Img2Img 이용 사건

10.6. 일본 버츄얼 유튜버 무단 상표 등록 사건

11. 기타

11.1. AI 개발자 인터뷰 날조 논란

• 당신들(예술가)는 예술을 하는 게 아니라 그저 그림 그리는 도구일 뿐이다: 원문은 인공지능 업계를 자랑하기 위해 "일러스트 디자인보다 여기가 더 재밌어 보이지 않아?" 라고 으쓱하는 투로 하는 말이지 너네는 도구일 뿐이라며 내려치는 말이 아니다.
  
• 돈 안 되는 거 때려치고 우리쪽으로 와라: 그냥 이쪽 업계가 재밌을 거라고 권유할 뿐, 창작자를 비하했다고 날조하기 위해 창조 번역한 것에 가깝다.
  
• 기존 미술 분야를 비하하는 대답을 남김: 개발자는 해당 인터뷰에서 "엑셀이 나왔다고 해서 회계사들이 직업을 잃지는 않았다"며, 기존 미술 분야와 함께 갈 수 있다는 점을 어필했지 비하를 한 것이 아니다.
  
• 당연히 업계는 폭발함: 당시 업계가 폭발했던 것은 Midjourney 2022년 예술대회 우승 사건 때문이었지, 해당 인터뷰 때문이 아니다. 무엇보다 인공지능과 예술에 대해 다룬 인터뷰는 이것 말고도 차고 넘치게 많다.

11.2. stable diffusion 선정적 그림 생성 및 화풍학습 너프에 대한 반발

11.3. 텐센트 QQ소세계 서비스의 윤리적 논란 및 의혹

11.4. 랜사앱 서비스의 윤리적 논란

11.5. 아트스테이션 사용자들의 AI 거부 시위

11.6. 거대AI 6개월 실험 중지 요청 공개서한

11.7. AI 슬롭 이미지

12. 규제 및 제재

12.1. 중국의 AI 컨텐츠 검열

12.2. 구글 코랩 WebUI 무료사용자 제재

12.3. 스팀의 인공지능 제작 어셋을 사용한 게임 입점 규제 및 규제 철회

13. 딥페이크

13.1. 빌리 아일리시 딥페이크 포르노 사건

13.2. 프랑스 연금 개혁 시위 페이크 사진 논란

13.3. 튀르키예 지진 피해자 후원 사기

13.4. 트위치 스트리머 QTCinderella의 딥페이크 포르노 피해 및 사용 중지 호소 사건

13.5. 영국 정부의 Web UI 아동 포르노 이미지 생성에 대한 항의 및 조사 착수, 그리고 유럽의 규제

13.6. 중국 요트 파티 접대부 논란

13.7. 중학생 딥페이크 사건

13.8. 블룸버그 통신 사칭 AI 펜타곤 폭파 사건

13.9. 테일러 스위프트 딥페이크 사건

13.10. 2024년 텔레그램 딥페이크 음란물 유포 사건

[1] #[2] 손 관련 보완 및 방지 태그 도배, 손을 전담하는 학습 파일 제작 및 사용, 손 보조 확장 기능 설치, 자체적인 모델 제작 시 손 형태 신경쓰기 등이 있다. 일부 모델은 아예 손을 포기하고 비주얼에 치중한 경우도 있는데 이 경우 손의 상태는 실로 굉장하다.[3] 물론 손발은 사람이 그리기도 쉽지 않은지라 이것만으로 판단하다 오해가 발생하는 경우도 잦으니 주의가 필요하다.[4] 이런 문제가 발생하는 이유는 학습테이터에 워터마크가 있는 그림들이 있기 때문이다. 도용을 막기 위해 워터마크를 붙였더니 그대로 긁어 학습시키는(...) 인간 때문에 생긴 문제. # 그와중에 워터마크의 흔적이 있는 AI 그림을 판매하려는 사람도 있었다. [5] 반투명한 천과 몸의 레이어를 나누는 것은, 작가가 직접 제공하지 않는 한 극악의 난이도다.[6] 약 300dpi 이상.[7] 이 저격을 먹고 계정을 잠궜다가 다시 풀었다.[8] 다만 이는 반대 측이 매우 적극적으로 나서고, 찬성 측이 여러 논란 때문에 눈치를 보느라 소극적으로 나서는 점이 크다. 실제로 반대 측이 절대다수인지, 시끄러운 소수인지는 알려지지 않았다.[9] 자세히 보면 메뉴판의 글씨가 괴문자로 되어있는데, 이런 패턴의 괴문자는 StyleGAN 시절부터 인공지능이 문자를 '그림'으로 인식하면서 벌어지는 대표적인 현상이다.Stable Diffusion 시대에 와서 아라비아 숫자 및 로마자의 경우 뜻은 없지만 그럴싸하게 보이게 할 정도가 되었지만, 같은 아라비아 숫자/로마자라도 필기체같은거나, 한글, 가나(문자), 한자, 이들을 포함한 非로마자의 경우 아직까지도 '그림'처럼 인식해서 괴문자나 외계어처럼 보여진다.[10] 팬 분들에게 받은 영상으로 만든 것과 AI 쓴 버전 2가지가 있었다.[11] 삭제 시점 기준 삽화 19장+표지 (1, 2, 3, 4, 7, 9, 11, 15, 17, 20, 22, 28, 31, 37, 43, 49, 52, 58, 63, 70화)[12] 1-2 기사에서는 AI 사용한 사례로 나온 B로 언급되며, 이별해주세요, 제발!의 초기 표지 캡쳐가 기사에 들어갔다. (해당 기사에서 언급된 작가 해명 캡쳐)[13] #[14] 현재는 Lora 라는 학습 모듈이 이 자리를 대신하는중이다.[15] 일부는 애니띵 같은 모델들을 활용해서 그림체를 학습을 시킨다. 훗날 더 성능좋은 모델들이 출시되면 그 모델들을 이용해서 학습시킬 가능성이 높다.[16] 다만 소스코드 유출 이후 개개인이 구성하는 데이터셋이나 비공개된 데이터셋은 대상이 되기 힘들다.[17] 당장 한국의 문체부에서부터 '공정 이용에 한해' AI 저작물 면책이라는 점을 명시했고 문의 시 같은 답변을 해준다.[18] 김형태 본인도 AI 긍정론자인 탓에 이에 대해서는 그러려니 하고 넘어갈 가능성이 높다.[19] 이해를 돕기 위해 어느정도의 요약이 들어가있으나 쉽게 설명하는 바는 다음과 같다. 사람은 사람을 보고 각골 문자를 남겼으며, 소를 보고 "알레프" 문자를 형상화했다. 이 형상화한 문자는 현재 알파벳 A의 기원이다. 그러나 현재 AI는 사람에게는 이런 형상화 작업이 매우 간단한 일임에도 수 많은 작업이 필요하다. 알레프의 변형인 A를 인식해 출력하기 위해서는 별도의 군집화 알고리즘들이 필요한데, A의 세리프체와 같은 다양한 바리에이션 폰트들이나 필체를 사람은 별다른 경험 없이도 바로 A라고 알아챌 수 있으나, AI는 매 폰트별, 매 상황별 마다 달라보이는 수많은 'A'라는 각각의 알맞는 알고리즘을 통한 계산을 필요로 하며 그래야 DB에 특정 평균값을 A라고 분류할 수 있다. 그 조차도 이웃되는 포인트, 선이 끊겨있다던가 하는 크고 작은 왜곡 등에 일일이 대응하는 데이터와 알고리즘을 만들어주지 않으면 인간이 원하는 결과를 내놓기가 몹시 어렵다. 넘어지는 포즈라던지, 한 때 밈이었던 "젓가락 없이 라면을 먹는 포즈" 등이 대표적이다. 이는 작동 방식에 있어 인간의 논리가 구현되지 않았기 때문이며 논리적인 구조(해부학, 조명 각도, 투시원근 등)에 대한 활용도 크게 제한된다. 현 AI는 그러한 논리를 일일히 알고리즘으로 만들어 외형적으로만 모사하는 것이지 내면에서 작용하는 직관까지 포함하는 수준에는 미치지 못한다. 이런 논리를 스스로 판단하고 만드려면 강인공지능이 나와야 가능하나 현재로서는 직관은 커녕 지성이 대체 무엇인지조차 명확히 연구되지 않았기 때문에 개념조차 모호한 기술이다. 인간은 특정 분야의 일정한 교육이 진행되면 추가적인 데이터 학습 없이도 다양한 상황에서 구현이 가능하며, 더 나아가 새로운 연산이나 논리를 만들어낸다.[20] AI와 AGI의 차이이다.[21] 본문 글 및 댓글 욕설 주의.[22] 해당 그림은 수위가 높기 때문에 상단 링크로 확인.[23] Arcaea의 First Snow 일러를 담당했다.[24] 픽시브 내의 AI 태그를 직접 사용하는 것이 아니라 자기가 따로 AI 태그를 넣을 경우, 필터링 기능을 직접적으로 우회하며, 태그를 신경쓰지 않는 인원들에게는 마치 자기가 그린 그림처럼 보이게 된다.[25] 미드저니의 사용법 예시를 들기 위해 주기적으로 랜덤한 이미지를 생성하는 봇이다.[26] 금융법에서의 변제 책임 면책과 유사하다. AI 산업을 위해서 저작물 이용 책임을 면해주는 것 뿐이다. 이는 AI 산업이 일정 수준 발전을 이뤄낸다면, 언제라도 바뀔 수 있는 시한부적인 사항이라는 의미이다.[27] 이해를 돕자면 한 때 유행한 디즈니 필터와 같은 것이라 생각하면 된다.[28] '공정 이용'을 한다는 전제 하에 AI의 산업적 발전을 위한 저작권 면책이 한국, 일본, 영국 등 대다수 국가가 채택한 형식이다. 책임을 물어야하나 기타 이유로 보류/면책을 한다는 의미이고, 발전이 어느정도 이뤄지면 해당 면책이 사라질 수도 있다. 이 발전이 이뤄지는 기간에서 회색 지대에 남아있는 것이다.[29] 웹이나 기타 유포 등을 하지 않았을 뿐이지 불특정 다수에게 자유롭게 학습까지 이용가능한 AI 프로그램을 이용해 문제가 될 수 있는 이미지들을 생성하는 경우는 이미 이뤄지고 있다.[30] 아래 '챗GPT에 관한 전문가의 의견'의 영상 속 전문가 등을 비롯 챗GPT를 개발한 CEO가 직접 언급한 AI 프로그램 규제 필요성과 많은 전문가들이 지적하듯 AI 프로그램은 정보를 프로그램 제작사 측에서 미리 선별할 수 있다는 점에서 정보의 신뢰성 오류와 여론 조작, 더군다나 불특정 다수가 손쉽게 이미지 생성 AI를 이용할 수 있다는 점에서 등장할 수 있는 모든 결과물들이 일으킬 여파 등을 심각하게 받아들여야한다고 지적한다. 이는 단순 소비재와는 거리가 멀다.[31] 블루 아카이브의 사례에서도 알 수 있다시피 성우의 동의를 받지 않고 인게임 내의 음성을 무단으로 사용하는 건 불법이다. 성우가 녹음한 음성 데이터도 엄연히 저작권의 일부분이기 때문. 다만 해당 영상은 빌리빌리에 업로드 되어있는 영상을 무단전재한 것이며 해당 트위터리안의 영상이 아니다.[32] 실제로 AI 사용자들이 무작위로 그림을 뽑다가 우마무스메 프리티 더비의 캐릭터들이 나오는 현상이 종종 있었다. 이외에도 블루 아카이브나 프린세스 커넥트와 같은 유명 IP의 캐릭터 역시 AI그림에서 가끔 비슷하게 뽑히던 현상이 있었다.[33] 한국어로 치면 딸깍충 정도가 될 것이다. 욕 수위가 심하지 않은 일본에서는 충분히 강한 어감.[34] #[35] 학습을 시킨건 아니고 AI의 기능을 이용해 일종의 트레이싱을 한 그림을 샘플 이미지로 올렸다.[36] 한 때 트위터 프로모션 광고로 노출되기도 한 걸 보면 논란이 일자 뒤늦게 삭제한 것으로 보인다.[37] 특히 유저와의 소통을 거치지 않고 도입하여 대량 이탈자와 계정 삭제를 불러일으켜 폐쇄되기 일보직전이 되었다. 자세한 것은 DeviantArt 문서 참조.[38] 서양권에서는 아예 이런 비판적인 의견을 보이는 사람들을 러다이트(Luddites 혹은 Luddies)라고 싸잡아 비하하는 상황이다.[39] 자켓 일러스트 담당은 악역 공녀의 아빠가 되겠습니다(표지 사진, 2022년 4월 작)를 담당했던 규.[40] 裏方작가 사칭계정 해당계정의 주인은 작년 2023년 커미션 중계 플랫폼 skeb의 AI검출 프로그램 고의적으로 우회법을 공유하다가 업무방해혐의로 고소당한 이력이 있다.[41] X(구 트위터)에서 역으로 DMCA(디지털밀레니엄저작권법) 위반 메시지까지 까지받게 되었다. #[42] 트위터의 도용작을 보면, 손가락이 두 갈래로 갈라지는 등 AI가 그린 그림이라는 느낌이 강하다.[43] 이 예시를 포함한 거의 대부분의 그림이 I2I 사용의혹을 받는다.[44] AI그림계에서는 꽤 이름값을 하는 유저. 후술한 이유로 인해 많은 이들의 지지도 받는 유저였다.[45] 아예 배경으로 처리해버리는 경우도 잦다.[46] 구글에서도 2015년 비슷한 문제가 발생한 적이 있다. 구글 포토의 이미지 인식 알고리즘이 흑인들을 고릴라로 분류한 것. 2018년 Wired에서도 기사로 다루었다. # (<구글 엔지니어는 이렇게 일한다> 에서 참조)[47] 같은 해 10월 Pixiv가 AI 분류를 만들고 랭킹에도 분야를 신설해 집계를 달리하는 방식으로 개편하면서, 일부러 태그를 속여 업로드하는 악질 이용자들로 인해 100%는 아니지만 어느정도 사용자들의 이용 편의를 이뤄준 바 있다.[48] 원문: ArtStation is a portfolio platform. The works on your portfolio should be work that you created. Please only publish work that either you own or that you have permission to publish.[49] 아기들의 이미지를 가지고 부조리한 이미지를 형성한다. 공통적으로 이런 류 AI슬롭그림의 특징은 아기들이 쌓여있다는 것이다. 대표적인 샘플로 달리는 트럭에 아기들이 잔뜩 쌓여있는 식이다.[50] 금지사항에 SSH 터널 이외 remote UI, 즉 원격 UI를 추가했다.[51] 이 때문에 단순히 'stable-diffusion-webui'란 문자열을 출력하는 코드도 "부적절한 코드"라고 표시된다.[52] 단순히 실존 인물 사진은 초상권만 있는 것이 아닌, 그 사진 자체의 저작권이 있다.[53] 특히 각 커뮤니티에 떠돌아다니는 소위 "반실사 AI" 그림들은 대개 누군가의 초상권 및 저작권을 가진 그림과 사진들로 학습되는 것이다.[54] 단순히 중국의 AI 컨텐츠 검열에 따른 위반인지 사기의혹인지는 불명.[55] 아는 사이는 아니라고 한다.

이 문서의 내용 중 전체 또는 일부는

그림 인공지능

그림 인공지능

문서의 r602 판

, 번 문단

에서 가져왔습니다. 이전 역사 보러 가기

이 문서의 내용 중 전체 또는 일부는 다른 문서에서 가져왔습니다.

[ 펼치기 · 접기 ]

그림 인공지능

그림 인공지능

문서의 r602 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)

문서의 r 판

, 번 문단

(이전 역사)