科学の研究で、もっと注目されるべきものがあった。
それは新しいタイプのボット群を説明している。すぐに見分けられる馬鹿なコピペアカウントではなく、背後に一貫したストーリーを持ち、過去の会話を記憶し、リアルタイムで互いに連携するAIペルソナの群れだ。彼らは秘密裏にコミュニティに潜入し、数週間にわたり信用を築き、その後会話をさりげなく誘導し始める。
目的は一つの偽のストーリーを広めることではなく、コンセンサスを作り出すことだ。すでに皆が同意しているかのような幻想を作り出し、その結果、気づかずに従ってしまう。
研究者たちは、これらの群れが何十ものメッセージバリエーションで聴衆を探り、どれが効果的かを測定し、その勝者を増幅させると述べている。まるで機械の速度で信念のA/Bテストを行っているようだ。
昨年、オンライン会話のアカウントの5分の1がすでに自動化されていると推定された。アメリカは2024年に、ほぼ1000の偽アメリカ人アカウントを運営するロシア関連のAIボット農場を摘発した。それは初期の不器用なバージョンだった。
次に、ある意見が週内に「少数派」から「皆がそう思っている」へと変わるのを見たとき、誰が実際に動かしたのか、そしてその中に本物がいたのかを問い直す価値がある。
原文表示