[AI 미디어 파도] AI 허위영상, 혐오·편견·조롱 담아 알고리즘 타고 확산
[미디어오늘 금준경 기자]



▲ 인공지능(AI)으로 만든 경찰 보디캠 영상 갈무리. 여성 인터넷방송 진행자가 경찰에게 거친 말을 쏟아내자 경찰이 진압에 나서는 내용이다.



인공지능(AI)을 활용해 사실처럼 구현한 허위 영상이 논란이 된 가운데 지나치게 선정적이거나 혐오·편견을 부추기는 내용도 적지 않은 것으로 바다이야기게임 나타났다.

최근 인스타그램에 올라와 논란이 된 경찰의 보디캠 시점의 허위 영상을 보면 경찰이 흡연 중인 여학생을 제지하자 여학생이 “지금 몰카 찍었어요? 미쳤네 경찰이 몰카 찍고 다님”이라며 경찰을 몰카범으로 몰아세우는 모습이 담겼다. 이 채널의 다른 영상에는 경찰에게 거칠게 따지는 여성 인터넷방송진행자를 경찰이 무차별 릴게임오션파라다이스 적으로 진압하는 내용이 담겼다.
이 채널의 영상에는 주로 여성들이 민폐를 끼치는 모습이 반복적으로 등장한다. 댓글을 보면 AI가 만든 영상이라는 사실을 알아채지 못한 누리꾼이 혐오성 발언을 쏟아내는 경우가 적지 않았다.
인스타그램, 유튜브 등에는 특정 직업군을 지나치게 성적 대상화한 AI 영상도 다수 있다. 뉴스 진행 황금성슬롯 도중 아나운서가 갑자기 옷을 벗거나 넘어지면서 속옷을 노출하는 내용의 영상이 대부분이다. 태풍이 부는 와중에 기상캐스터가 짧은 치마를 입고 비를 맞으며 중계를 하는 듯한 영상도 있다. 이들 영상 가운데는 조회수 10만 회를 넘은 경우도 적지 않았다.



▲ 기상캐스터가 짧은 치 바다이야기예시야마토게임 마를 입고 폭우 중에 생중계를 하는 듯한 모습을 담은 영상. 조회수 10만 회를 넘긴 경우도 있다.



이들 영상은 사람들을 속일 수 있는 허위정보라는 점뿐 아니라 편견이나 혐오를 부추기는 점에서도 문제가 있다. 혐오와 편견을 부추기는 영상이 더욱 주목 받을 수밖에 없는 알고리즘 야마토게임연타 환경에서 이에 부응한 콘텐츠를 만든 것으로 보인다.

지난 7월 러브버그(붉은등우단털파리)가 기승을 부리면서 동물권 운동가가 러브버그 '학살'에 반대한다는 가짜 인터뷰 이미지가 소셜 미디어상에 확산돼 논란이 된 사례도 있다. '고기영'이라는 여성 동물보호운동가가 “지금 이 순간에도 죄없는 러브버그들이 학살 당하고 있다. 학살을 멈추고 공존하는 사회가 되었으면”이라고 인터뷰를 한 직후 자신에게 달려드는 벌레 떼를 향해 욕설을 하는 내용이다. 이 이미지는 “좌파의 민낯” 등 조롱이 달렸다.
이들 콘텐츠는 AI를 활용해 제작했음에도 제대로 표기하지 않았다는 점에서 논란이 됐다. 과학기술정보통신부가 마련 중인 AI기본법 시행령에 따르면 생성형 AI를 이용한 제품·서비스에는 이 사실을 표기해야 한다.