[SOH] 인터넷과 소셜미디어(SNS)에서 ‘좋아요’와 댓글이 실제 이용자가 아닌 AI(인공지능) 자동화로 대량 생성되는 사례가 확산하면서, 온라인 인기 지표의 신뢰가 흔들리고 여론 조작 우려가 커진다는 우려가 나온다.
SNS 등에서 ‘좋아요’와 댓글 수는 단순한 반응을 넘어 콘텐츠의 인기와 신뢰도를 판단하는 지표가 된다. 많은 이용자에게 ‘남들도 인정한 콘텐츠’라는 인식을 가지게 한다.
그러나 최근 연구들은 이러한 반응 수의 상당량이 실제 사람이 아니라 생성형 AI와 봇 계정 자동화를 통해 만들어진 것이라고 경고했다.
테크 전문 매체 ‘KMJ’ 등에 따르면 카이스트(KAIST) 연구팀은 한국어 댓글에 대한 AI 생성 댓글 식별 기술을 개발해 “몇 시간 안에 수십만 건의 댓글 생성이 가능하다”며 ‘AI 기반 댓글 자동화의 심각성’을 지적했다.
■ 월 10만 원대 ‘여론 공장’
보도에 따르면 월 10만 원대 비용만으로 수만 건의 ‘좋아요’와 댓글을 자동 생성해주는 서비스가 돌고 있는 것으로 전해졌다.
GPT-4o(GPT-4 기반의 차세대 AI 채팅) 등 대규모 언어 모델이 발전하고 서버 비용이 하락하면서 댓글 1개당 비용이 1원 내외로 떨어졌기 때문이다.
일부 사례에서는 약 250만 원으로 하루 만에 인스타그램 팔로워 30만 명과 ‘좋아요’ 수십만 건을 조작한 경우도 적발됐다.
카이스트 연구팀 역시 “GPT-4o API 등을 활용하면 한국어 댓글 생성 비용은 1원 수준”이라고 설명했다. 이처럼 소규모 자본으로도 ‘그럴듯한 대중 반응’을 대량 생산할 수 있는 구조가 이미 형성된 셈이다.
네이버·인스타그램·유튜브 등 주요 플랫폼들은 ‘클린봇’ 같은 AI 탐지 시스템을 강화하고 있지만 완벽한 차단은 어려운 상황이다. 카이스트 보고서에 따르면 인간이 AI 댓글을 실제 이용자 댓글로 오인하는 비율이 67%에 달해 매우 자연스럽다는 것이 확인됐다.
■ 봇이 누르고 AI가 쓰는 조작 메커니즘
AI를 사용한 댓글 조작은 ‘좋아요’ 숫자를 늘리는 것에만 국한되지 않는다. 인플루언서 게시물의 댓글, 온라인 쇼핑몰 후기, 유튜브 영상의 추천 수와 댓글까지 전반적인 자동화 조작이 가능해졌다.
‘좋아요’ 조작은 주로 허위 계정(봇 계정)을 대량 생산해 반복적으로 버튼을 누르는 방식으로 이뤄진다. 반면 댓글 조작은 생성형 AI가 게시물 문맥에 맞춘 자연스러운 문장을 생산하는 방식이어서 보다 교묘하게 진행된다.
이런 기술은 ‘가상의 인플루언서가 가상의 인기를 얻는’ 비정상적인 상황을 연출할 수 있다. 2021년 조사에서 응답자의 42%가 ‘댓글 수 많은 뉴스’를 선택한다고 답한 바 있어 조작된 댓글이 여론 형성의 기준을 왜곡할 위험이 크다.
■ 사회적 신뢰 흔드는 AI 기술
AI 기반 반응 조작은 정보통신망법, 업무방해죄, 표시광고법 등 여러 법률 위반 가능성이 있음에도 기술 발전 속도에 비해 제도 정비는 따라가지 못한다는 지적이 크다.
특히 온라인 쇼핑이 보편화 된 상황에서 관련 후기와 평가가 구매·여론 판단에 직결되는 만큼 AI가 만든 수치가 여론처럼 작동하는 구조가 고착되면 실제 시장과 사회의 신뢰를 왜곡하는 심각한 사안이 될 수 있다.
따라서 온라인 이용 시 AI 조작 여부 확인을 위해, 조회 수 대비 좋아요·댓글 비율이 지나치게 높은지 살펴볼 것이 요구된다. 문장 구조 반복, 특정 표현의 반복 등 댓글 패턴이 비슷하다면 자동 생성 댓글일 가능성이 있다.
짧은 시간대에 특정 댓글이 급증하거나 반응 수가 비정상적으로 몰리는 현상도 의심 지표다. 또 플랫폼이 제공하는 신고 기능, 이상 반응 감지 기능을 활용하는 것도 도움이 된다. 겉으로는 ‘좋아요 10만 개’처럼 보이지만 그 이면에는 실제 사람이 아닌 코드가 눌러 만든 수치가 숨어 있을 수 있다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
