2021.10.17 (일)

  • 맑음동두천 5.9℃
  • 맑음강릉 7.7℃
  • 맑음서울 7.6℃
  • 맑음대전 6.4℃
  • 맑음대구 9.6℃
  • 맑음울산 9.1℃
  • 맑음광주 9.6℃
  • 맑음부산 10.9℃
  • 맑음고창 7.2℃
  • 맑음제주 13.7℃
  • 맑음강화 4.7℃
  • 맑음보은 4.2℃
  • 맑음금산 5.7℃
  • 맑음강진군 9.6℃
  • 맑음경주시 8.4℃
  • 맑음거제 8.4℃
기상청 제공

국회

AI 악용하여 가짜 음란물 만드는 딥페이크, 단속 2년 만에 2.5배 증가!!

- 딥페이크 성적 허위영상, 단속 시작된 2020년 6월부터 12월까지 차단·삭제
548건에서 2021년 1월부터 9월까지 1,408건 2.5배 이상 증가!!
- AI, 범죄 악용되더라도 생명이나 신체에 위해를 줘야 기술 중지 가능...
정신적·금전적 피해 심각하다면 기술 사용 중지 가능할 수 있도록 제도개선 시급
- 김상희 부의장, “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게
심각한 피해를 끼친다면 정부가 직접 나서야 해”

URL복사

[한국방송/김명성기자]  인공지능(AI) 기술의 발달은 인간의 삶의 질을 한 단계 높일 뿐만 아니라 실종아동과 치매 환자를 추적하고 불법 촬영물을 인공지능이 찾아 삭제ߴ차단하는 등 범죄 예방의 기능도 있다하지만 최근 AI 기술이 불법적인 범죄에 악용되고 있어 대책 마련이 시급하다.

 

특히, AI를 악용한 범죄 중 딥페이크(Deepfake) 불법 영상물에 대한 우려의 목소리가 지속적으로 나오고 있는 상황이다딥페이크란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.

 

최근 딥페이크 기술로 타인 얼굴 사진을 도용하여 음란물 영상에 합성하여 이를 유포하겠다고 협박해 금전을 요구하는 범죄가 기승을 부리고 있다해외에서도 딥페이크를 악용해 회사 고위 임원 목소리를 모방해 거액을 송금토록 속이고”, “친구 얼굴을 모방해 실제 영상통화를 한 후 돈을 빌려 달라는 범죄도 발생하여 범죄 피해 예방을 위해 각별한 주의가 필요한 때이다.

 

이러한 딥페이크 성적 허위영상물의 제작 및 반포 행위를 금지하기 위해 2020년 3월에 성폭력범죄의 처벌 등에 관한 특례법이 국회 본회의를 통과하여 2020년 6월 25일부터 시행되었다하지만딥페이크의 범죄가 근절될 것이라는 예상과 달리 그 수법은 진화하고 차단ߴ삭제 건수도 증가하고 있다.

 

김상희 국회부의장(과학기술정보방송통신위원회경기 부천병)이 방송통신심의위원회에서 제출받은 자료에 따르면 2020년 6월부터 단속이 시작된 딥페이크 성적 허위영상’ 차단ߴ삭제 건수는 12월까지 548건에서 올해 1월부터 9월까지 1,408건으로 2.5배 이상 증가했다.

 

<-1> 딥페이크 성적 허위영상 처리 현황

(단위 )

구분

심의(차단)

자율규제(삭제)

2020년 6~12

473

75

548

2021년 1~9

537

871

1,408

※ 방송통신심의위원회 제출자료(기간 : 2020.6.25.2021.9.24.)

성폭력범죄처벌특례법 제14조의2(허위영상물 등의 반포 등)는 2020. 6. 25.부터 시행

 

또한김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴보니 SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 성적 허위 영상물을 제작하여 판매 및 유하는 것으로 드러났다피해자의 사진만 가지고 AI로 이질감 없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 2의 N번방 사건이 될 가능성도 높다.

<경찰청 딥페이크 집중 단속 주요 사례>

① 2019년 10월부터 20211월까지 A씨는 SNS로 의뢰받은 23명의 여성의 개인정보와 사진을 딥페이크로 제작·유포하여 검거(전북)

② 20206월부터7월까지B씨와 C씨는 연예인 150여 명의 얼굴을 딥페이크로 타인의 신체 사진과 합성·판매하여 검거(부산)

③ 20211월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받은 D씨는 70여 명의 연예인일반인의 불법합성물을 딥페이크로 제작판매하여 검거 (대전)

 

AI를 포함한 지능정보기술을 악용한 범죄의 피해를 막기 위해서는 기술에 대한 규제가 필요하다는 지적이 나오고 있다현행 지능정보화 기본법」 31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 되어있다.

 

<-2>지능정보화 기본법」 31조와 제60

 

지능정보기술 등 개발제공활용 제한

비상정지 적용

31(규제 개선 등) ① 누구든지 지능정보기술지능정보서비스 및 지능정보기술 제품을 개발ㆍ제공ㆍ활용할 수 있으며정부는 지능정보기술지능정보서비스 및 지능정보기술 제품을 개발ㆍ제공ㆍ활용하는 과정에서 사람의 생명과 안전을 저해하는 경우 등에 한정하여 이를 제한할 수 있다.

60(안전성 보호조치③ 중앙행정기관의 장은 사람의 생명 또는 신체에 대한 긴급한 위해를 방지하기 위하여 필요한 때에는 지능정보기술을 개발 또는 활용하는 자와 지능정보서비스를 제공하는 자에게 비상정지를 요청할 수 있다.

 

하지만현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법에 적용된 적은 단 한 번도 없다현재까지 AI가 인간의 생명과 신체에 위해를 가할 만큼 기술력이 발달하지 못했기 때문이라는 일부 지적이 있어 현실적이고 범죄를 막을 수 있는 개선책이 필요하다.

 

이에 김상희 부의장은 현행법에는 AI를 악용하여 심각한 정신적금전적 피해를 주는 것에 대한 규정이 없다, “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다고 말했다.

 

김 부의장은 미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다, “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련하여 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다고 강조했다.



포토이슈

더보기

종합뉴스

더보기
대한민국 국민은 언제, 어디로, 어떻게 이동하나「 제5차 전국 여객통행조사 」 실시
[한국방송/김한규기자] 국토교통부(장관 노형욱)와 한국교통연구원(원장 오재학)은 대한민국 국민의 통행 패턴을 파악하기 위한 전국 여객통행조사를 10월 19일(화)부터 11월 21일(일)까지 약 한 달간 실시할 예정이라고 밝혔다. 국토교통부는 국가기간교통망계획 및 중기투자계획 등 국가교통정책을 합리적으로 수립·시행하기 위해 국가통합교통체계효율화법에 따라 매년 국가차원의 교통조사를 수행 중이며, 이번 전국 여객통행조사는 국가교통조사의 일환으로 실시한다. 전국 여객통행조사는 인구 구조와 사회경제적 여건, 국토 공간구조 및 교통체계 등의 변화로 인해 국민들의 통행 행태가 어떻게 변화했는지 파악하기 위한 것으로 여객 기종점 통행량(O/D)* 자료를 구축하는 작업이다. * 기점(Origin)에서 종점(Destination)으로 특정 목적을 위해 이동하는 사람 또는 차량을 의미 일반 국민을 대상으로 시행되며, 조사결과는 수송분담률·통근소요시간 등 국가교통 통계 작성, 국가기간교통망계획 등 국가교통계획 수립, 예비타당성조사 등 교통 SOC 타당성 평가의 기초자료로 활용된다. * `98년부터 정기조사 수행 (1차)1998년 (2차)2005년 (3차)2010년 (4차)2016

배너