링크드인에서 AI가 만든 가짜 프로필이 넘쳐난다

“웃는 얼굴에 속지 말아요”...링크드인에서 AI가 만든 가짜 프로필이 넘쳐난다

 

링크드인에서 AI가 생성한 프로필 사진으로 만든 가짜 계정 발견
잠재 고객에게 메시지를 보내고 실제 영업사원과 연결위해 이용
70개 이상의 기업이 만든 1,000개 이상의 가짜 프로필 계정 발견
온라인상의 잘못된 정보를 이용해 피해주는 다양한 목적으로 악용

스탠포드 대학 연구원들이 식별한 가짜 LinkedIn 프로필에서 AI가 생성한 얼굴 중 일부다. 눈의 중앙 위치는 컴퓨터로 만든 얼굴의 확실한 증거다.(사진=스탠포드 대학)

인공지능(AI)이 생성한 프로필 사진으로 만든 가짜 링크드인(LinkedIn) 계정이 널리 사용되는 것이 발견됐다. 이러한 계정은 잠재 고객에게 메시지를 보내고 상대가 관심을 보이면 실제 영업사원과 연결하기 위해 이용된다.

링크드인은 세계 최대의 비지니스 소셜미디어다. 기업인들이 개인 프로필을 작성해 주로  바이어 발굴, 신규 시장 개척, 비지니스 파트너 물색에 활용하고 있다. IT 전문매체 NPR에 따르면 스탠포드 대학의 연구원들이 링크드인에서 AI가 생성한 프로필 사진을 사용하는 1,000개 이상의 가짜 계정을 발견했다. 

프로세스는 간단하다. AI 생성 프로필 사진이 있는 봇(bot)이 링크드인 사용자에게 연락하고 대상이 관심을 보이면 대화를 계속하기 위해 실제 영업 사원에게 전달된다. 회사는 이러한 가짜 프로필을 사용해 실제 영업 직원을 늘리거나 메시지에 대한 링크드인의 제한없이 온라인 판매 리드를 제공할 수 있다. 링크드인에 70개 이상의 기업이 가짜 프로필의 고용주로 등록되어 있었다.

연구원들은 연구원 르네 디레스타(Renée DiResta)가 ‘키넌 램지(Keenan Ramsey)’라는 인물의 프로필로부터 메시지를 받은 후 가짜 계정을 발견했다. 처음에는 소프트웨어 회사의 일반적인 판매 제안처럼 보였다. 하지만 프로필 사진의 비정상적으로 중앙에 정렬된 눈, 단 하나의 귀걸이, 이상한 머리카락과  흐릿한 배경 때문에 곧 램지가 가상의 사람이라는 것이 분명해졌다. 

디레스타는 처음에 램지의 메시지가 민감한 정보를 노출시키려는 피싱 시도일 수 있다고 생각했다. 램지와 동일한 링센트럴(RingCentral)의 직원이라고 주장하며 프로필 사진도 컴퓨터로 생성된 것처럼 보이는 다른 사람으로부터 동일한 두번째 링크드인  메시지를 받았을 때 더욱 의심스러워졌다. 그런 다음 디레스타는 링센트럴의 실제 직원으로부터 램지의 링크드인 메시지를 참조하는 이메일을 받았다. 

LinkedIn 프로필 얼굴은 AI가 생성한 가짜일 수 있다.(사진=스탠포드 대학)

연구원들은 링크드인에서 램지와 같은 프로필을 찾기 시작했고 AI가 생성한 프로필 사진이 포함된 가짜 계정을 천 개 이상 찾을 수 있었다. 발견한 프로필에는 다른 패턴도 있었다. 많은 사람들이 비지니스 개발 관리자, 영업 개발 임원, 성장 관리자 및 수요 창출 전문가와 같이 직함을 변형해 자신의 직업을 설명했다.

프로필은 종종 이전 직장에 대한 간략한 정보를 포함하고 있었고 때로는 아마존(Amazon)이나 세일즈포스(Salesforce)와 같이 잘 알려진 회사였지만 세부적인 정보는 없었다. 이전 직장로 나열된 회사 중 일부에 연락했을 때 그곳에서 일한 것으로 확인된 사람은 없었다.

많은 프로필은 또한 유사한 학력을 포함했다. 예를 들어, 일부는 경영학 학사 학위를 받았다고 주장한다. 이 중에는 경영학 학사 학위를 제공하지 않는 컬럼비아 대학(Columbia University)과 같은 학교도 포함된다. 프로필 중 57개에 대해 28개 대학에 접촉한 결과 응답한 21개 학교 중 졸업생으로 추정되는 기록이 있는 학교는 없었다.

스탠포드 연구원들이 식별한 가짜 프로필 중 60명이 링센트럴의 직원이라고 주장했다. 그러나 회사는 그들 중 누구도 그곳에서 일한 적이 없다고 말한다. 램지의 링크드인 메시지에 대한 후속 조치로 디레스타에게 이메일을 보낸 사람은 실제 링센트럴의 직원이었지만 2월에 회사를 떠났다.

링센트럴은 잠재 고객에게 연락하고 링센트럴의 사내 영업 사원과 회의를 주선하기 위해 다른 회사를 고용했다고 밝혔다. 링센트럴은 이러한 외부 공급업체 중 하나가 가짜 프로필을 만들었다고 말했다. 링센트럴은 누군가가 가상의 링크드인 프로필을 만들고 있다는 사실을 알지 못했고 이러한 일을 승인한 적이 없다고 주장했다.

일부 기업은 실제 사람을 고용하는 것보다 저렴하기 때문에 AI 지원 마케팅을 사용할 수 있지만 사용자는 가짜 프로필 사진과 실제 프로필 사진을 구별하기 어렵다. PNAS의 최근 연구에 따르면 사람들이 정확하게 실제 사진과 AI가 생성한 사진을 구별할 확률은 50%이고 AI가 평균적인 얼굴 특징을 사용하기 때문에 일부 사람들은 기계가 생성한 얼굴을 더 신뢰할 수 있다고 생각한다.(관련기사-진짜와 가짜 얼굴 구별할 수 있나? AI 합성 얼굴 구별 어려워)

온라인상의 잘못된 정보는 거짓이거나 왜곡된 사실부터 기계가 생성한 사진과 비디오에 이르기까지 다양한 형태를 취하며 비윤리적이고 피해를 주는 다양한 목적으로 사용될 수 있다.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(출처:http://www.aitimes.com/news/articleView)