AI 기술이 확산되면서 피싱 범죄에 대한 우려도 커졌어요. AI 서비스를 활용하면 사람 목소리를 그대로 흉내 낸 오디오를 만들거나, 실제 사람처럼 움직이는 가짜 동영상을 만들 수 있습니다. 콘텐츠 제작 시 편리한 도구가 되는 한편, 실제와 구별하기가 전보다 훨씬 더 어려워졌기 때문에 사기 목적으로 활용될 위험도 있어요.
유명인 사칭도 진화했어요
유명 배우나 스포츠 선수 등의 AI 영상이나 이미지를 통해, 허위 광고를 하거나 불법 투자를 권유하는 콘텐츠도 우후죽순 만들어지고 있어요. 최근에는 유튜브 중간 광고에 손흥민이 등장해 ‘인스타그램 팔로워 1,400만 명 돌파 기념으로 유망 투자종목을 추천해 주겠다’고 말하는 영상이 나오기도 했어요. AI로 유명인을 사칭한 딥페이크 광고입니다.
보이스피싱 잡는 AI도 있다?
역설적으로 AI는 보이스피싱을 막거나 잡는 데 활용되기도 해요. 통신 3사는 스팸 신고 데이터를 AI에 학습시켜, 스팸 메시지를 사전 차단하는 체계를 만들고 있어요. 네이버, 카카오 등 국내 플랫폼에서도 유명인 사칭 광고를 막기 위해 규제를 강화하는 중입니다.
어피티의 코멘트
JYP:최근 페이스북, 인스타그램 등을 운영하는 ‘메타플랫폼스’가 자사 앱에 생성형 AI 챗봇을 탑재하겠다고 밝혔어요. 앱 내 AI 챗봇에 질문을 건네면 답을 제공하거나, 요청한 이미지 또는 애니메이션을 생성해 주는 방식이에요. SNS에 AI가 탑재되면, 허위 게시물이 더 많아질 거라는 우려도 나와요.
