悪意のある人物は、大規模な言語モデルを利用して、前例のない規模で虚偽を設計する可能性があります
オーバーホールされた Microsoft Bing 検索エンジンである ChatGPT や、まもなく登場すると言われている GPT-4 などの新しい AI システムは、大衆の想像力を完全に捉えています。ChatGPT はこれまでで最も急速に成長しているオンライン アプリケーションです
テキストを入力すると、Web リンクが表示される代わりに、選択したトピックについて整形式の会話形式の応答が返されます。
大規模な言語モデルとして知られるビッグ データ主導のテクノロジに夢中になっているのは。悪意のある攻撃者もテクノロジーに注目しています。
極右ソーシャル ネットワーク Gab は、「キリスト教の世界観を支持」し、「体制の検閲ツール」と戦うために AI ツールを積極的に開発していると述べています
アメリカの有名なSF雑誌Clarkesworld Magazineは、AI によって生成されたストーリーによってスパムが送信されたため、投稿の受け付けを一時的に停止しました
Webインフルエンサー達はAIテクノロジーを使用して「手っ取り早く金持ちになる」方法を宣伝しています
最近では、ウォートン大学のイーサン モリック教授が新しい Bing・ChatGPT を使って、恐竜の「高度な文明」に関する 5 つの詳細でまったく真実でない段落「エジプト、ペルーのナスカの地上絵、チリのイースター島の彫像は、実際には恐竜、またはその子孫や同盟国によって作られました。」と書くことができました。
私たちはすでに、心を二極化するエコーチャンバーの問題に直面しています。「ロシアの虚偽の消防ホース」「トランプのWebをたわごとで溢れさせる」等誤報の大規模な自動生成は、これらのエコー チェンバーの兵器化を支援し、私たちをさらに極端な状態に追いやる可能性があります。
大規模な言語モデルを使用して大量の偽情報を生成しようとする悪意のある人物と、反撃しようとする政府や民間企業との間の絶え間ない戦いが予想されます。私たちが今戦い始めなければ、民主主義は誤った情報とその結果としての分極化によって圧倒されてしまうかもしれません。2024 年のアメリカ大統領選挙選挙は、これまでに見たことのないものになる可能性があります。
