AI 誤報時代の評判管理

コミュニケーターにとっての AI の暗い側面。

Mike Nachshen は、Fortis Strategic Communications, LLC の社長です。

数秒でプレスリリース。 コンテンツの宝庫。 自動メディア分析。 生成型人工知能がコミュニケーションの専門職を変えるというのは、すでに決まり文句になっています。

しかし、「AI がコミュニケーションをより良い方向に変革している」というコインには裏返しがあります。

AI により、誰でも組織の評判を攻撃することが容易になります。 不満を抱いた従業員、非倫理的な競合他社、怒っている顧客、あるいは時間を持て余して退屈している 15 歳の子どものことを考えてみてください。

それはAIが偽情報を民主化するからだ。 これにより、以前は政府の出所のみであった範囲、速度、規模、品質で誤った情報を効果的に作成し拡散する能力が誰にでも与えられます。 これが起こるいくつかの方法を次に示します。

AI はまったく本物ではないコンテンツを作成します。

ふわふわのコートを着た法王のあのネット上の画像？ ドナルド・トランプ前大統領逮捕の「写真」？ ジョー・バイデン大統領がラップする「ビデオクリップ」？

それらはすべてディープフェイク、つまり非常に現実的ではあるが完全に捏造されたコンテンツをコンピューターで生成したメディアでした。

そして、それらのディープフェイクは多くの人を騙しました。

AI は信じられないほどの仕事をして、本物に見える偽造コンテンツを作成します。 そしてそれはますます良くなってきています。

参入障壁はほとんどありません。

ディープフェイクを作成したいですか?

必要なのはコンピューター、インターネット アクセス、そして数ドルだけです。

ナショナル・パブリック・ラジオによると、ある研究者は最近、自分自身が講義を行っている非常に説得力のあるディープフェイク動画を作成したという。 所要時間は 8 分、設定価格は 11 ドルで、市販の AI を使用してそれを実行しました。

誤った情報を作成するのに、専門的なプログラミングの知識は必要ありません。 多くの商用 AI は、いくつかの単純なプレーンテキスト プロンプトに基づいてディープフェイクを作成できます。

本物のように見える文章コンテンツの作成も同様に簡単かつ低コストです。

2019年、ハーバード大学の研究者がAIが生成したコメントをメディケイドに提出したが、Wired.comは人々がそれが偽物だと見分けることはできなかったと報じた。 研究者は Chat GPT 2.0 を使用してそのコンテンツを作成しました。 Chat GPT 4.0 は飛躍的に向上しており、数週間前にリリースされたばかりです。 1 か月の購読料は 20 ドルです。

前例のないスピードとスケール

悪意のある者は、誤った情報を考え出すのに何時間も費やす必要はありません。 必要なのは適切なプロンプトだけで、AI はあなたのブランドに関する誤った情報をほぼ無限に吐き出します。 そして、それを AI が生成したアルゴリズムと同期させると、組織の評判を狙ってソーシャル メディアにフェイク ニュースの津波を仕掛けることができます。

驚異的かつ迅速な精度

コミュニケーションの専門家は、聴衆を理解することに優れています。 AI は私たち人間のように視聴者を「理解」することはできませんが、AI は確かに、私たちよりも早く、安価に、そしておそらくより正確に視聴者を分析することができます。 その後、その分析を使用して、カスタマイズされたターゲットを絞った誤った情報をほぼリアルタイムで作成できます。

AI が生成した誤った情報は、すでにビジネス、政治、そしてコミュニケーターに影響を与えています。 5月には国防総省での爆発のディープフェイク写真がロシアの国営ニュースの後押しを受けてツイッター上で急速に広まった。 国防総省とアーリントン郡消防署の広報担当者らがなんとか状況を収拾するまで、S&P500は一時10分の3ポイント下落した。

そして、私たちは AI の誤った情報の氷山の一角にすぎません。 ジョージタウン、OpenAI、スタンフォードの最近の共同研究論文では、「[AI] はコンテンツを改善し、コストを削減し、[誤った情報] キャンペーンの規模を拡大します… [そしてそれは] 新しい形の欺瞞を導入するでしょう…」と指摘しています。

悪いニュースです。特効薬はありません。 単一の政策、技術的解決策、または法律によって問題を解決することはできません。