목소리딤페이크막는법

 

목소리 딥페이크 를 막는 법...음성 워터마크 등장했다

 

(사진=셔터스톡)

생성 인공지능(AI)의 발전으로 목소리까지 합성이 가능해짐에 따라 이를 가려내는 '음성 워터마크' 기술이 등장했다.

전문 매체 테크 크런치는 리젬블 AI의 생성 음성 워터마킹 기술인 ‘PerTH’가 목소리 사기 우려를 해소할 방안으로 제시됐다고 1일(현지시간) 보도했다.

AI 생성 음성 기술은 정치인이나 유명인이 실제 한 말처럼 오해를 사는 것은 물론 보이스피싱이나 사기 등에 악용될 수 있다는 우려를 낳고 있다.

워터마킹은 이미지나 영상의 출처를 식별하기 위해 식별 가능한 패턴을 각인하는 기술이다. 로고나 이미지 등 눈에 띄는 워터마크가  흔하지만, 사람의 눈에 띄지 않는 워터마크도 많다. 픽셀 단위 수준에서 패턴을 숨겨 넣어 사람의 눈에는 이미지에 아무런 수정을 가하지 않은 것처럼 보이지만, 컴퓨터에서는 식별할 수 있는 방식이다.

오디오도 마찬가지로 사람의 귀에는 들리지 않는 소리를 인코딩하는 방법이 있다. 하지만 이런 들리지 않는 워터마크 인코딩 방법은 미디어가 조금만 변형되도 음성 워터마크가 사라질 수 있다는 단점이 있다.

(사진=리젬블 AI)

이 때문에 리젬블 AI는 PerTH를 활용해 이런 문제점을 해결했다. 

 

PerTH는 음성의 음파를 분석해 자동으로 그 음파보다 작은 음역을 구별해주는 머신러닝 모듈로서, 대역은 흡사하지만 데시벨이 더 커 생성한 음성 워터마크를 가려주는 마스크  사운드를 이용하는 데 학습됐다.

워터마크는 실제 소리와 구별하기 어려운 것은 물론 비슷한 대역의 음성 정보와 긴밀하게 연결돼 있어 제거하기도 어렵다. 반면 워터마크를 PerTH로 쉽게 식별해낼 수도 있다.

리젬블 AI 역시 더빙이나 오디오북 서비스 등에 사람 목소리를 대체하는 생성 음성을 서비스하는 AI 스타트업이다. 따라서 자신들의 서비스가 악용될 것을 방지하기 위해 이런 장치를 고안하게 됐다고 밝혔다.

리젬블 AI는 곧 모든 고객을 대상으로 PerTH 워터마크 서비스를 제공할 것이라고 밝혔다. 

 

 

 

[출처:https://techcrunch.com/]