5분 읽기
- 온라인 리뷰 영향력은 동일한 의견이 많을수록 사실일 가능성이 높다는 가정에 기반
- 대규모 언어 모델은 매초 문법적으로 완벽하고 감정적으로 미묘한 뉘앙스를 담은 개별 텍스트를 생성한다
- 고도화된 포렌식 기술, 개선된 경제적 인센티브 구조, 허위 정보 유포의 배후를 정확히 밝혀낼 수 있는 법적 프레임워크 간의 긴밀한 협력 필요

가짜 리뷰와 허위 정보: 디지털 신뢰성에 대한 도전 과제

사람들은 타인의 경험을 바탕으로 결정을 내린다. '사회적 증거'라고 알려진 이러한 심리적 현상은 아날로그 시대에 생존을 보장하고 위험 평가를 용이하게 했다. 디지털 영역에서는 이러한 메커니즘이 별점, 순위, 그리고 서면 리뷰의 형태로 제도화되었다. 대중의 집단적 판단에 대한 신뢰는 현대 플랫폼 경제의 기반을 형성한다.   

바로 이러한 인지적 지름길이 이제 조직적으로 생성되는 가짜 리뷰를 통해 악용되고 있다. 조작된 후기의 광범위한 유포는 디지털 정보 출처에 대한 신뢰를 약화시키고, 다양한 분야의 연구자들에게 이러한 허위 정보의 패턴을 해독해야 하는 과제를 안겨준다. 이러한 기만행위는 이미 서투른 개인적 행위의 단계를 넘어, 진정한 여론과 돈을 받고 조작된 허위 정보 사이의 경계를 체계적으로 모호하게 만드는 고도로 전문적인 산업으로 발전했다.

심리적 메커니즘과 허위 현실의 구축

온라인 리뷰의 영향력은 동일한 의견이 많을수록 사실일 가능성이 높다는 가정에 기반한다. 행동경제학 연구와 사회심리학 실험은 소비자들이 온라인상의 다수 의견이 다른 모습을 보여줄 때 자신의 다른 인상을 무시하는 경향이 있음을 보여준다. 

 

이러한 순응 압력은 소위 애스트로터핑(astroturfing)*, 즉 인위적으로 풀뿌리 운동을 만들어내는 행위를 통해 의도적으로 악용된다. 흔히 "클릭 팜(Click Farm)**"이라고 불리는 조직적인 네트워크는 수천 개의 조작된 리뷰를 게시하여 추천 알고리즘을 속이고 사용자 행동을 조작한다. 이들은 인간의 뇌가 쉽게 접근할 수 있고 기존의 이야기를 뒷받침하는 정보를 우선적으로 처리한다는 사실을 이용한다.

*애스트로터핑(Astroturfing)은 기업·정치권 등 이해관계자가 스폰서의 메시지나 이익을 대중의 자발적 풀뿌리 운동처럼 보이게 조작·위장하는 관행을 뜻한다.

** 클릭팜은 클릭 사기의 한 형태로, 저임금 노동자들을 대량으로 고용하여 클릭 사기범(클릭팜 운영자 또는 클릭 농부)을 위해 링크나 버튼을 클릭하게 하는 행위다. 노동자들은 링크를 클릭하고, 대상 웹사이트를 일정 시간 동안 둘러보며, 뉴스레터에 가입한 후 다른 링크를 클릭한다.

진짜 경험과 조작된 캠페인의 경계가 모호해지면, 피해 당사자는 상당한 경제적 손실이나 명예 훼손을 입게 된다. 플랫폼의 자동 리뷰 시스템이 이러한 공격을 걸러내지 못하면, 조직적인 명예훼손 캠페인의 피해자들은 법적 조치를 취할 수밖에 없는 경우가 많다. 객관적인 사실을 회복하기 위해 기업과 개인은 허위 주장에 대해 법적 조치를 취하고, 예를 들어 구글 리뷰를 삭제해야 한다. 그러나 이러한 법적 시정 조치는 오랜 조작 과정의 끝에야 비로소 이루어질 수 있다. 연구자들의 초점은 오히려 플랫폼의 아키텍처적 취약점을 분석하고 온라인상에서 피해가 드러나기 전에 예방책을 개발하는 데 맞춰져 있다.

알고리즘 군비 경쟁: 패턴 인식 vs. 기계 텍스트 생성

허위 정보 탐지는 정보 기술의 숨바꼭질과 같다. 전자상거래 초기에는 반복되는 텍스트 조각, 부자연스러운 문장 구조, 또는 눈에 띄는 타임스탬프를 통해 가짜 리뷰를 식별할 수 있었다. 계산 언어학적 방법은 특정 형용사의 빈도를 분석하여 서로 관련 없어 보이는 수백 명의 사용자가 동일한 극찬 리뷰를 작성하거나, 정확히 표현된 신랄한 비판을 단 몇 분 만에 게시했을 때 이를 즉시 밝혀냈다. 하지만 이러한 간단한 식별 특징은 이제 거의 과거의 일이 되었다.

오늘날, 대규모 언어 모델은 매초 문법적으로 완벽하고 감정적으로 미묘한 뉘앙스를 담은 개별 텍스트를 생성한다. 이러한 모델은 특정 목표 집단의 전문 용어에 손쉽게 적응하고, 의도적으로 작고 무해한 비판을 삽입해 높은 수준의 진정성을 가장한다. 이와 대조적으로, 인공지능 분야의 연구자들은 문체 분석과 같이 글쓰기 스타일의 미묘하고 무의식적인 특징을 측정하는 더욱 심층적이고 복잡한 분석 방법을 개발하고 있다.

또한, 그래프 이론은 순수 텍스트 분석에서 벗어나 네트워크 포렌식 분석에 초점을 맞추고 있다. 과학자들은 서로 다른 사용자 계정들이 어떻게 연관되어 있는지, 동일한 서버 인프라를 사용하는지, 또는 완전히 다른 산업 분야에 동시에 평점을 매기는 것과 같은 활동 패턴에서 비정상적인 이상 징후가 나타나는지 등을 조사하고 있다. 목표는 프로필 간의 숨겨진 구조를 밝히는 것이다.

왜곡된 시장과 사회적 합의의 붕괴

이러한 관행의 체계적인 영향은 일상용품 판매에만 국한되지 않는다. 제품 배치 조작에 사용되는 동일한 수법들이 오랫동안 정치 및 사회적 논쟁에 영향을 미치는 데 사용되어 왔다. 수많은 악성 댓글러들이 뉴스 포털의 댓글란이나 비정부기구(NGO)의 리뷰란을 도배하면, 왜곡된 사회적 다수라는 잘못된 인식이 만들어진다. 이는 진정한 사용자들이 압도적인 세력에 직면했다고 느끼고 담론에서 철수하는 침묵의 악순환으로 이어진다.

경제학자들은 이러한 신뢰 상실의 결과를 조지 아케를로프가 설명한 "레몬"(저품질 중고차) 시장에 비유하는 전형적인 시장 실패로 모델링한다. 소비자들이 리뷰를 품질 지표로 더 신뢰할 수 없게 되면, 개인의 거래 및 검색 비용이 급격히 증가한다. 고품질 서비스 제공업체는 인위적으로 만들어지고 값비싼 비용을 들여 확보된 저품질 상품의 노출과 경쟁하기 어려워 불리해진다. 이러한 비대칭적인 정보 분배는 궁극적으로 시장 전반의 질적 저하로 이어진다. 진정한 고객 만족을 위한 투자는 전문적인 조작 네트워크에 대한 투자보다 수익성이 떨어지므로 시장 경쟁의 핵심을 약화시킨다.

과학 도구로서의 독립적인 플랫폼 감사

조작의 정도를 실증적으로 평가하기 위해 연구 기관들은 주요 기술 플랫폼에 대한 독립적인 감사를 점점 더 많이 활용하고 있다. 이러한 플랫폼 운영자들이 정확한 필터링 알고리즘을 영업 비밀로 유지하기 때문에 연구자들은 외부 관찰에 의존할 수밖에 없다. 데이터 저널리스트와 사회학자들은 소위 웹 스크래퍼를 통해 메타데이터를 체계적으로 수집하여 이러한 알고리즘의 작동 방식을 재구성하려고 시도한다.

이러한 역공학적 접근 방식은 기업의 공식 삭제 보고서와 실제로 사용자에게 유포되는 허위 정보의 양 사이에 상당한 차이가 있음을 종종 드러냈다. 연구에 따르면 플랫폼은 탐사 보도로 인한 여론의 압력이 있을 때에만, 가짜 네트워크에 대해 제한 조치를 취하는 경우가 많다. 이러한 연구 결과는 플랫폼이 시행하는 대응책의 효과를 독립적이고 검증 가능한 방식으로 평가할 수 있도록 진정한 데이터 접근에 대한 과학계의 요구를 더욱 강화한다.

검증 가능한 아키텍처 및 규제 개입 방안

디지털 평점 시스템의 신뢰성을 회복하려면 단순한 소프트웨어 업데이트를 넘어선 구조적 변화가 필요하다. 컴퓨터 과학 분야의 기술적 해결책은 암호화 증거 통합을 모색하고 있으며, 이를 통해 공개 평점은 명확하게 검증된 거래와 의무적으로 연결된다. 이러한 "검증된 구매자" 개념은 이미 초기 형태로 존재하지만, 개방형 플랫폼 아키텍처에서는 투명성, 익명성, 데이터 보호라는 세 가지 목표 사이의 상충 관계에 부딪히면서 한계에 직면한다.

동시에 새로운 법적 프레임워크는 네트워크 운영자에게 더 강력한 책임을 부여하고 있다. 유럽 디지털 서비스법(EDSA)은 대형 온라인 플랫폼이 콘텐츠 관리 과정에서 훨씬 더 투명해야 한다고 규정하고 있다. 이제 플랫폼 운영자는 추천 시스템의 검증 가능성을 보장하기 위해 독립적인 과학 연구를 위해 표준화된 데이터 세트에 접근할 수 있도록 해야 한다. 인위적으로 만들어진 현실에 맞서 싸우기 위해서는 고도화된 포렌식 기술, 개선된 경제적 인센티브 구조, 그리고 허위 정보 유포의 배후를 정확히 밝혀낼 수 있는 법적 프레임워크 간의 긴밀한 협력이 필요하다. 신뢰할 수 있고 믿을 만한 정보 문화를 유지하는 것은 지속적이고 학제적인 과제가 되고 있다.

저자: Hannes Graubohm 한네스 그라우봄의 글을 번역했다.

[더사이언스플러스=문광주 기자]

[저작권자ⓒ the SCIENCE plus. 무단전재-재배포 금지]