보안

서프샤크 “SNS 속 AI 봇 댓글 10중 6개, 사람은 못 알아본다…‘친절한 봇’은 더 안 잡혀”

테크월드뉴스 · 2026년 9월 28일

✦ AI 요약

서프샤크가 전세계 참가자 1722명을 분석한 결과, SNS에서 봇이 작성한 댓글을 식별한 비율은 40%였다.

긍정적·친근·논리적 말투의 봇은 정체를 파악하기 어려웠고, 화난 악플러는 대체로 쉽게 식별됐다.

한국언론진흥재단 '디지털 뉴스 리포트 2026'에서는 국내 응답자의 59%가 온라인 허위정보를 우려했고, 우려 비율은 전년 대비 4%p 증가했다.

서프샤크가 전세계 참가자 1722명을 대상으로 분석한 결과, SNS에서 봇이 작성한 댓글을 식별한 비율은 40%로 나타났다. 이는 SNS 봇 댓글 10개 중 약 6개를 사람이 가려내지 못했다는 뜻이다.

서프샤크 발표에 따르면 긍정적·친근·논리적 말투의 봇이 정체를 파악하기 가장 어려운 유형으로 제시됐다. 루이스 코스타 서프샤크 리서치·인사이트 책임자는 긍정적 SNS 봇이 실제 이용자의 경계심을 피하며, 사회공학적 공격에 악용될 가능성이 있다고 밝혔다.

반면 루이스 코스타는 SNS의 화난 악플러는 대체로 쉽게 식별된다고 설명했다. 그는 자주 들통나는 유형도 악플러라고 밝혔으며, 가상 SNS 환경 참가자들의 부정적 AI 봇 식별 비율은 50.2%로 집계됐다. 이는 부정적 AI 봇의 절반가량을 가려냈다는 결과다.

이와 함께 한국언론진흥재단의 '디지털 뉴스 리포트 2026' 결과도 포함됐다. 국내 응답자의 59%는 온라인 허위정보를 우려한다고 답했으며, 온라인 허위정보 우려 비율은 전년 대비 4%p 증가했다.

실험에서는 봇이 어떤 태도를 취하느냐에 따라 사람들의 식별 성과가 달라진 것으로 나타났다. 봇이 긍정적·친근하게 위장한 경우 참가자 탐지율은 38%였다. 탐지율 격차는 12%p였다.

이 같은 결과와 관련해 해당 시뮬레이션은 현재 온라인 운영 중이다. 누구나 봇 판별 실력을 시험할 수 있다.

코스타 책임자는 정교한 조작 캠페인용 AI 기반 계정이 상대 의견에 쉽게 동조하거나 논리적·평범한 모습으로 눈에 띄지 않는 경우가 많다고 설명했다. 그는 이런 계정이 실제 이용자 의견에 힘을 싣고 댓글 수를 늘려 소수 의견을 다수 의견처럼 보이게 만들 수 있다고 밝혔다.

코스타 책임자는 이런 계정을 신고하는 사람은 드물다고도 전했다. 서프샤크는 SNS에서는 시비를 걸고 거슬리게 구는 봇보다 긍정적·친근한 AI 봇이 더 위험하다고 경고했다.

서프샤크는 봇이 친근하고 논리적인 태도로 이용자의 의심을 피한다고 설명했다. 또 이로 인해 이용자가 DM으로 대화를 옮기거나 개인정보를 제공하고, 봇이 올린 링크를 클릭하거나 봇의 '논리적인' 허위 정보를 신뢰할 가능성이 커진다고 봤다.

AI 봇이 정체를 숨긴 채 허위 정보를 퍼뜨릴 경우, 상대가 AI임을 눈치채기 전에 정치적·사회적 견해가 바뀔 가능성이 있는 것으로 나타났다. 이는 이용자가 봇의 정체를 알아차리기 전에 이미 영향을 받을 수 있다는 위험을 보여준다.

시뮬레이션에서는 봇의 정체를 드러내는 주요 단서로 이모지 사용이 지목됐다. 이모지를 많이 사용한 봇의 탐지율은 60% 이상이었고, 이모지를 거의 사용하지 않은 봇의 탐지율은 35%였다. 탐지율 격차는 0.6%p였다.

다만 3서프샤크는 이모지 여부만으로 봇을 식별하는 방식으로는 SNS에서 스스로를 보호하기 어렵다고 밝혔다. 3서프샤크는 사기범이 과도한 이모지 사용 습관만 줄여도 탐지 난도가 약 2배 상승한다고 설명했다.

플랫폼별로는 시뮬레이션에서 텍스트 중심 플랫폼 이용자가 우세했다. X(옛 트위터) 이용자의 봇 탐지율은 49%로 가장 뛰어난 '봇 사냥꾼'으로 평가됐고, 틱톡 이용자의 봇 탐지율은 38%, 페이스북 이용자의 봇 탐지율은 39%였다. X(옛 트위터) 이용자의 탐지율은 틱톡·페이스북 등 이미지·영상 중심 플랫폼 이용자보다 높았으며, 이는 틱톡·페이스북에서 AI 봇의 실제 이용자 조종 가능성이 더 크다는 의미로 해석된다.

AI 생성 콘텐츠는 자동 탐지 도구로도 식별이 어렵고, 정교한 AI 콘텐츠와 인간 제작 콘텐츠는 육안으로도 거의 구분이 불가능한 상황이다. 이런 가운데 코스타 책임자는 SNS에서의 자기보호 방법을 조언하면서, 판단 기준으로 콘텐츠보다 계정을 확인하라고 권고했다. 그는 확인 항목으로 프로필 생성 시점과 프로필 사진, 소개란 내용을 제시했다.

또한 가짜 계정 가능성이 큰 징후로는 갓 만든 계정과 흔한 사진, 모호한 소개 글, 동일 메시지 반복 게시 이력을 들었다. 코스타 책임자는 SNS 논쟁이 격화할수록 감정이 앞서 가짜 계정은 놓치고 실제 사람을 봇으로 오인하기 쉬우므로 주의해야 한다고 경고했다. 아울러 내 의견에 대한 동의와 응원만으로 실제 사람이라고 단정해서는 안 되며, 짧은 시간에 집중되는 상투적 응원은 봇이 쉽게 만들어낼 수 있는 반응이라고 설명했다.

출처: 테크월드뉴스 · 이광재 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407396