인공지능을 활용하여 제작한 콘텐츠, 딥페이크가 확산 중이다. 딥페이크는 딥러닝(Deep Learning)을 이용해 원본 이미지나 동영상 위에 다른 영상을 중첩하거나 결합하여 원본과는 다른 콘텐츠를 생성하는 기술이다. 딥페이크는 산업적 활용가치가 높아 영화, 음반 등 다양한 분야에서 활용이 가능하나, 포르노, 가짜뉴스 등 부작용도 존재한다. 본고에서는 딥페이크 영상이 확산되기 시작한 최근 2년간의 소셜 빅 데이터를 분석하고 시사점을 도출하였다.
분석결과, 딥페이크에 대한 언급 양이 2017년 말을 기준으로 증가하였고, 2018년 말부터는 급증하고 있다. 언급 양 증가 시점마다 사회 문화적으로 이슈를 발생시키는 딥페이크 콘텐츠가 등장하였다. 딥페이크에 대한 언급 양은 남성 비중이 여성의 약 2배에 달하는 수준이며, 예술, 경영관련 직군의 언급 비중이 높고, 분야별로는 영화·음악, 정치와 연관되어 주로 언급이 이루어지고 있었다. 채널측면에서는 주로 트위터를 통해 언급된 내용에 답변을 달거나, 공유하는 형식으로 전파되고 있다. 감성분석 결과, 현재 딥페이크에 대한 부정적인 인식이 강하고, 시간의 경과에 따라 강도가 증가 추세이다. 세부적으로는 슬픔과 두려움에 대한 감정이 강하며 즐거움에 대한 감성도 내재되어 있었다. 딥페이크 발생 초기에는 즐거움에 대한 감정이 높았으나, 시간의 경과에 따라 슬픔과 두려움의 감정이 증가하는 것으로 분석되었다.
딥페이크의 확산으로 가짜 콘텐츠와의 전쟁이 본격화되고, 적용대상, 분야 등도 다변화 될 전망이다. 다양한 SNS와 딥페이크 기술이 결합되면서 확산 폭은 확대되고, 대상도 유명인사에서 일반인 및 사물로 다변화 될 전망이다. 적용분야도 현재는 성인물과 정치 이슈 중심이나, 향후 영화, 음반, 게임, 스포츠 등 다양한 분야로 확대되고, 규제이슈도 더욱 부각될 것으로 보인다. 딥페이크 기술은 명과 암이 존재하나, 현재 부정적인 인식이 더 강해 이를 고려한 기업전략 및 정책 수립이 요구되는 시점이다. 기업은 딥페이크를 활용한 다양한 사업모델 발굴에 주력하고 위험을 최소화해야 하며, 정부는 딥페이크 산업 활성화를 고려한 정책수립, 모니터링 강화, 선거관련 가짜 뉴스에 대비할 필요가 있다.
Executive Summary
Deepfake, a content created using artificial intelligence, is spreading. Deep fake is a technology that uses deep learning to create processed content that is different from the original by overlaying or combining other images on top of the original image or video. Deepfake has a high industrial value and can be used in various fields such as movies and recordings, but there are also side effects such as pornography and fake news. In this paper, we analyzed big data of the recent two years when deep fake images began to spread and draw implications.
As a result of analysis, the volume of deep fakes (Mention Volume) increased as of the end of 2017, and has increased rapidly since the end of 2018. Every time the volume of mentions increased, deep fake content emerged that raised issues socially and culturally. Men's mention of Deepfake is about twice that of women, and the share of arts and management positions is high, and it is mainly related to film, music, and politics. On the channel side, it is mainly spread in the form of replying or sharing the contents mentioned through Twitter. In terms of sentiment analysis, there is a strong negative perception of deep fakes, and the intensity is increasing over time. In detail, feelings of sadness and fear are strong, and emotions of pleasure are inherent. In the early stages of deep fake development, feelings of joy were high, but feelings of sadness and fear increased with time.
The implications are as follows. The proliferation of deep fakes will lead to a full-fledged war against fake content, as well as diversification of applications and fields. As various SNS and deep fake technologies are combined, the spread of spread will expand, and the target will also be diversified from celebrities to the general public and things. The field of application is now centered on adult and political issues, but it will be expanded to various fields such as movies, recordings, games, and sports in the future. Although deep fake technology exists in light and dark, it is time to establish corporate strategy and policy considering the negative perception. Companies need to focus on discovering various business models using DeepFake and minimize risks, and the government needs to prepare for policy mix, strengthen monitoring, and prepare for fake news related to election.
