2年間配備されていたロシアの人工知能ロボット農場が米国に発見され破壊される

米司法省は火曜日、アメリカの法執行当局が、クレムリンが支援する2つの人工知能ソーシャルメディア・ボットファームに関連するドメイン名を押収したと発表した。2022年6月11日から2024年3月1日の間に、ボットファームは合計968以上のツイッターアカウントを作成した。

火曜日に公開された法廷文書で司法省は、ボットファームはロシアの諜報部員が監督するクレムリンが承認し、資金を提供したプロジェクトの一部であると述べた。

司法省によると、ボットファームとその基礎となるAIソフトウェアは、ロシアの国営メディアRTの匿名の編集者によって組織された。（長年にわたり、RTは米国を含む国際的な視聴者にロシア政府のアジェンダを宣伝してきた。しかし、ロシアが2022年にウクライナに侵攻して以来、このメディアは影響力を失い、欧州連合（EU）はロシアの国営メディアを禁止し、TikTok、フェイスブック、グーグルなどのハイテク企業はアクセスを制限するようになった。

ボットファームは、アリゾナ州を拠点とするドメイン・プロバイダのNamecheapが提供するドメイン（mlrtr.comとotanmail.com）と、ランダムな電子メールアドレスを生成するために民間の電子メールサービスを利用したとされている。

そして、アメリカ人になりすましてツイッターのプロフィールを作成し、ロシアのウクライナ戦争に関する偽情報やその他のクレムリン寄りの発言を投稿した。

FBIのクリストファー・レイ長官は、「本日の措置は、ロシアが後援するAIを活用したソーシャルメディア上のボットファームを初めて摘発したことを意味する」と述べた。レイはまた、その後の声明で、"ロシアは、このボットファームを使用して、AIが生成した外国の偽情報を広めることを意図していた。"ウクライナの我々のパートナーを弱体化させ、ロシア政府に有利な地政学的な物語に影響を与えるために、AIの助けを借りて彼らの活動を拡大している。

これらの多数のボットアカウントの中には、ミネアポリスに住んでいると主張し、ロシアのプーチン大統領がウクライナにおけるロシアの行動を擁護し、ウクライナ、ポーランド、リトアニアの一部は第二次世界大戦後にロシア軍から贈られたものだと主張する動画を投稿したユーザーもいた。

これらのアカウントは現在、利用規約に違反したとしてツイッター社によって削除されているようだ。ツイッター社はコメントの要請に応じなかったため、どれだけの人がこれらの偽アカウントをフォローしたのか、あるいは彼らの投稿とやりとりしたのかは不明である。

ロシアのボット農場が再び警鐘を鳴らす

ボットファームの混乱は、米国当局が今年の選挙におけるAI技術の潜在的な影響について警告し、外国による影響活動が無防備な有権者の意見を揺さぶる可能性があると継続的に懸念している中で起こった。

この状況は、ロシアが共和党のドナルド・トランプが民主党のヒラリー・クリントンを打ち負かすのを助ける目的もあって、大規模だが秘密裏にソーシャルメディア・トローリング・キャンペーンを開始した2016年の大統領選挙キャンペーンを彷彿とさせる。

AI技術の大きな影響力

AI技術の進歩により、リアルなテキスト、画像、音声、動画を迅速かつ容易に生成できるようになり、こうしたツールがより大規模なプロパガンダや偽情報の生成に利用されるのではないかという懸念が高まっている。

最近、フェイスブックのオーナーであるMetaとChatGPTの作成者であるOpenAIは、ロシアに関連するものも含め、AIを使って大衆を操作する外国の影響活動を確認したと報告した。