로봇 농장, 인공지능, 배드봇은 허위 정보를 근절하기 위한 온라인 캠페인의 핵심입니다.

봇, 국가 또는 사적 이익에 의해 통제되는 로봇으로, 인터넷에서 인간으로 가장하여 선거나 정치적 위기에 사람들을 조종하려고 시도합니다. 이 경우 우리는 다음과 같이 말합니다. 배드봇. 감지하기 어려울 수 있는 "나쁜 로봇"은 가짜 계정과 이메일 뒤에 숨어 있습니다. 이들은 인터넷에 가짜 정보를 퍼뜨리고 실제 인터넷 사용자와 교류하여 프랑스와 같은 국가를 불안정하게 만듭니다.

franceinfo가 처음으로 Viginum에 침투했습니다. Viginum은 디지털 커뮤니케이션에 대한 외국의 간섭에 맞서 싸우는 프랑스 국가의 서비스입니다. Viginum 경고는 총리와 정보 기관에 직접 전달됩니다. Viginum의 Datalab 분석가는 화면에 붙어 모든 소셜 네트워크 "불성실성"을 식별합니다. 이는 봇그리고 인공지능에 의한 것도 점차 늘어나고 있습니다. 예를 들어, 우리는 자정이나 매시간 모든 콘텐츠를 게시하는 계정을 가지고 있습니다. Datalab의 책임자인 폴 앙투안 슈발리에가 설명합니다. 사람이 자연스럽게 하는 일이 아닙니다. 봇이나 온라인 AI일 수도 있습니다. 아마도 기계일 것입니다.”

조작과 허위 정보 제공에 사용되는 AI

Viginum은 2024년 파리 올림픽 기간 중 프랑스를 상대로 한 자동화된 허위 정보 작전 중 하나를 식별할 수 있었습니다. 마트료시카 캠페인은 "봇 농장"에서 X에 대한 가짜 콘텐츠와 가짜 답변을 대량으로 배포했습니다. 인공 지능은 이제 더 설득력 있는 내러티브를 만드는 데 도움이 됩니다. 폴-앙투안 슈발리에(Paul-Antoine Chevalier)는 우리가 일상적인 탐지를 수행할 때 AI 조작을 보고 있다는 것이 분명하다고 확인합니다. 당사의 사내 시스템은 대규모 언어 모델을 사용하여 재구성하더라도 대량으로 중복된 콘텐츠를 탐지합니다. 콘텐츠 간의 의미적 거리를 볼 수 있습니다. 공격자에게 새로운 가능성을 제공하기 때문에 AI 공격을 식별하는 방법을 알아야 합니다.

라고 주장한다. 배드봇 디지털 세계에서 상당한 점유율을 가지고 있습니다. 미국 회사 Imperva(프랑스 Thales의 자회사)는 수년 동안 네트워크에서 글로벌 봇 트래픽을 측정한다고 주장해 왔습니다. Imperva는 봇 수학적으로 인간 활동을 따라잡을 길에 올랐습니다. 전 세계의 인터넷 트래픽을 살펴보면, 절반이 인간 활동이고 나머지 50%는 자동화된 로봇입니다. 플로리안 말레츠키는 임페르바 관리자 중 한 명입니다. 사이버 보안 분야의 퍼블리셔와 소셜 네트워킹 제공자는 이러한 배드봇을 막기 위해 더 많은 노력을 기울여야 합니다. 하지만 모든 범죄와 마찬가지로 '좋은 플레이어'와 '나쁜 플레이어' 사이에는 항상 결승선까지의 경쟁이 있습니다.”

"오늘날 봇 트래픽의 32%는 악성 봇 트래픽입니다. 그리고 이는 계속 증가할 것입니다."

플로리안 말레츠키

프랑스인포로

대중은 이러한 캠페인으로 인해 오염되고 있습니다. 봇. 미국 대선, 우크라이나 전쟁, 이스라엘-팔레스타인 갈등, 프랑스 의회 선거는 모두 그 예입니다. CNRS 수학자 데이비드 차발라리아스를 포함하여 많은 전문가들이 허위 정보나 증오 캠페인의 자동화를 기록했습니다.

그는 보고서에서 2016년부터 2024년까지 7억 개가 넘는 메시지 데이터베이스를 사용하여 러시아 편향적 배드봇 커뮤니티를 파악했습니다. 봇은 고급화되었고, 이제 그 어느 때보다 더 많은 인간 상호작용을 만들어낼 수 있습니다. 봇은 더욱 정교해졌습니다. ChatGPT 또는 대화형 지능은 이제 모든 사람에게 잘 알려져 있습니다. 우리는 사용자에게 연락하고 대화하는 로봇을 만들 수 있다는 것을 알고 있습니다. 또한 디지털 출력을 분석하고 담론을 조정합니다. 이는 실제적인 위험입니다.”

소셜 네트워크 X는 미국에서 도널드 트럼프가 승리하도록 도왔다는 혐의를 받고 있습니다. X는 봇과 싸우기 위해 가짜 계정을 끊임없이 제거하고 있습니다. 일론 머스크의 플랫폼은 많은 봇을 유지하는 데 기득권이 있는데, 봇의 활동은 트래픽과 광고주에게 많은 돈을 가져다주기 때문입니다.

OpenAI 기반 자동화 솔루션