会员登录 - 用户注册 - 设为메인 화면 - 선택 반전 - 사이트 지도 빅테크 '딥페이크와 전쟁' 동참 … 美 33개주 방지법안 발의!

빅테크 '딥페이크와 전쟁' 동참 … 美 33개주 방지법안 발의

시간:2024-03-29 16:47:26 출처:레인보우웨이브뉴스 작성자:패션 읽기:174次

빅테크 '딥페이크와 전쟁' 동참 … 美 33개주 방지법안 발의

올 76개국 슈퍼 선거의 해
AI 활용 가짜 콘텐츠 범람
뮌헨안보회의 핵심의제로
빅테크 책임론에 대응 나서
가짜영상 차단 모범사례 공유
콘텐츠 삭제는 빠져 한계




오픈AI와 구글 등 20개 빅테크 기업이 지난 16일 유권자를 속이는 인공지능(AI) 생성 콘텐츠를 방지하는 데 노력하기로 한 것은 딥페이크(Deepfake)가 세계 각국에서 열리는 선거에 영향을 미쳐 혼란을 야기할 수 있다는 우려 때문이다.

각국 정부도 대응책을 내놓고 있지만 빅테크 협조 없이는 실효성이 떨어질 수밖에 없다는 지적이 꾸준히 제기돼 왔다. 빅테크 기업들이 자발적으로 딥페이크 콘텐츠를 감지해 이를 적극적으로 차단해야 한다는 분석이다. 이에 따라 이번 합의를 기반으로 빅테크 기업들이 보다 구체적인 대응책을 마련해야 한다는 국제 여론이 커질 것으로 전망된다.

기술 혁신 속도가 빨라 딥페이크가 속수무책으로 확산되고 있기 때문이다. 딥페이크는 약 3만원(22.5달러)이면 쉽게 만들 수 있다. 영국 AI 스타트업 신세시아는 대본만 입력하면 영상을 순식간에 생성하는 서비스를 제공해주고 있다. 성별, 나이, 인종, 목소리 톤, 패션 등이 다른 85개 이상 캐릭터를 만들 수 있다. 생성 이미지 서비스인 미드저니는 한 달 약 1만원으로 500장 이상 가짜 이미지를 만들 수 있다. 또 자동 댓글 프로그램도 국내에 넘쳐난다. 챗GPT를 API로 연동해 뉴스 블로그 등에 일반 사람 문체로 댓글을 다는 프로그램을 구독하는 데 고작 30만원이 채 안 든다.

이에 따라 이미 혼란을 부추기는 현상이 속속 나타나고 있다.

지난 1일 미국 공화당원 선거 전략가인 패트릭 루피니는 "2024년 공화당의 승리는 공화당의 능력에 달려 있다"는 메시지와 함께, 흑인 당원이 서명에 동참하는 사진을 X(옛 트위터)에 올렸다. 하지만 해당 이미지는 AI로 만든 딥페이크로 확인됐다. 이미지 생성기 미드저니로 만들었는데, 급조하다보니 손이 세 개 달린 것을 확인하지 못한 것이다.

지난 1월 4일 아동 성매매 범죄자인 제프리 엡스타인과 관련된 사건 서류 파일이 공개된 날. 도널드 트럼프 전 미국 대통령이 엡스타인과 여러 10대 여성과 함께 있는 이미지가 사회관계망서비스(SNS)를 통해 급속도로 확산했다. 트럼프가 연루돼 있다는 인상을 주기 충분했다. 하지만 해당 이미지 역시 가짜로 판명 났다. 민주주의가 딥페이크에 흔들리는 장면들이다. 올해는 전 세계 76개국(총인구수 기준 42억명 추정)에서 전국 선거가 치러지는 '슈퍼 선거의 해'다. 딥페이크는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어다. AI를 활용해 특정 인물 또는 배경의 음성 이미지 영상을 조작해, 일어나지 않은 일을 일어난 것처럼 조작하는 것을 가리킨다.

딥페이크는 전 세계에서 독버섯처럼 퍼지고 있다. 국내에서도 딥페이크 염려는 곳곳에서 일고 있다. 한동훈 국민의힘 비상대책위원장이 영상에서 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 말한 것이 대표적이다. 딥페이크 탐지 솔루션을 만드는 딥브레인AI에 따르면, 해당 영상은 특정인의 얼굴을 교체하는 '페이스 스와프'와 목소리를 생성하는 '립싱크'를 활용한 딥페이크인 것으로 나타났다.

딥브레인AI는 "선거와 관련된 유관 부서에서 문의해오고 있다"면서 "유명 연예인 사칭에 대한 문의도 있다"고 분위기를 전했다. 그러면서 딥브레인AI는 "오늘날 AI 기술은 진짜인지 가짜인지를 육안으로 식별하기 어려울 정도"라면서 "진위 여부 판단이 어려울 경우 주변과 공유해서 함께 의심해보는 것이 좋다"고 말했다.

정보기술(IT)업계에서는 딥페이크 기술이 고도화·상용화될수록 가짜뉴스 등 허위정보에 따른 '탈진실(post truth)'을 넘어 '진실의 종말(end of truth)'로 이어질 수 있다는 우려를 하고 있다.

전 세계 정부는 비상이다. 악시오스에 따르면 미국에서는 33개주에서 AI 딥페이크 방지 법안이 발의된 상태다. 뉴욕 65개, 캘리포니아 29개, 테네시 28개 순이다. AI로 생성한 정치 콘텐츠는 이를 표기하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠 자체 게시를 금지하는 방법 등이다.

특히 네브래스카주에서는 선거일 60일 전부터 딥페이크 콘텐츠 유포를 전면 금지하는 법안이 민주당 주도로 발의돼 있다. 또 애리조나주에서는 공화당 주도로 후보자나 해당 주 주민을 사칭한 콘텐츠를 게시할 경우 손해배상을 할 수 있도록 한 법안이 제출됐다. 이 밖에 아이다호주에서는 이미지가 합성일 경우 라벨을 붙이지 않으면 배포를 엄금하는 법안, 켄터키주에서 대상자 동의 없이는 딥페이크 콘텐츠를 유포할 수 없도록 한 법안이 발의돼 있다.

한국도 대책을 내놓았다. 여야는 딥페이크를 활용한 선거운동을 선거일 90일 전부터 전면 금지하는 내용이 담긴 공직선거법 개정안을 통과시켰다.

[고민서 기자 / 황순민 기자 / 이상덕 기자]

(책임편집:패션)

추천 콘텐츠
  • ‘AI칩의 왕’ 젠슨 황 “삼성은 비범한 회사”...주가 6% 급등
  • 세종시문화관광재단 대표 임용 갈등 증폭…여당 시의회도 가세
  • 부산 영화의전당, 폴란드 국립영화학교와 교류 협약
  • 19∼34세 서울청년, 월 5만원대 기후동행카드 이용…할인혜택
  • 진옥동, 고객 최우선…‘1등보다 일류’ 전략 통했다 [금융 CEO 베스트 50
  • 광주 한방치료 약제·검사비 지원 난임부부 80명 모집