ディープフェイク作成ソフトウェアはダークウェブ上で急増しており、詐欺師がこれまで前例のない創造性と範囲で人工知能（AI）を利用した金融詐欺を実行できるようになっている。

数週間前、香港を拠点とする多国籍企業の財務部門の従業員がメッセージを受け取ったときのことを考えてみましょう。それは英国に拠点を置く彼の会社の CFO で、彼に取引を実行するよう依頼したのです。として サウスチャイナ・モーニング・ポスト紙が報じた、従業員は、何か考えが変わるまで、最初はその要求について「疑念を抱いた」と考えていました。

最初のメッセージから間もなく、その従業員は他の同僚らとともにその CFO とビデオ会議に参加しました。彼らは皆、彼の知っている人々のように見え、声も似ていました。彼はグループについて簡単な紹介をするよう求められ、その後指示が与えられ、その後会議は突然終了した。

その後の 15 週間、この従業員はインスタント メッセージング、電子メール、25.5 対 200 の電話で「同僚」と取引について話し続けました。ディープフェイクの策略が明らかになった時点で、彼はすでにXNUMX件、総額XNUMX万ドル（約XNUMX億香港ドル）の取引を行っていた。

活況を呈するディープフェイク ソフトウェア市場

ディープフェイクは、優れたものも含めて、しばらく前から存在しています。 「これは人々が何年もかけて成し遂げてきたことです。 2020年間偽物を見続けてきた私が、もう違いが分からないと初めて言ったのはXNUMX年のXNUMX月だったと思います」とiProovのCTO、ドミニク・フォレストは語る。

変わったのは、参入障壁が低くなり、より多くのユーザーが利用できるようになったという事実です。

2010 年代に遡ると、彼は次のように説明します。現在、無料または数十ドルでダウンロードできるシンプルなツールが数多く市場に出ており、LinkedIn プロフィール、Facebook ページ、Twitter の XNUMX つの参照画像だけから高品質の人物のディープフェイクを作成できます。どこにいても。」 

たとえば、顔の交換は完全に一般的になっています。水曜日にリリースされる予定のレポートに向けて、iProov は、単純な顔のスワップを作成するために設計された現在市場にある 100 以上の個別のツールを追跡しました。

より高度な製品もあります。 OnlyFake、ダークウェブサービス リアルな偽 ID を瞬時に作成したり、大規模な ID を大量に作成したりできるものを、15 つあたりわずか XNUMX ドルで作成できます。 Telegram アカウントへの最近の投稿は、「Photoshop を使用してドキュメントをレンダリングする時代は終わりに近づいている」と述べ、大きな変化を告げています。

品質とアクセシビリティにおける同様の進歩により、高度なディープフェイク製品の隆盛も可能になりました。 2023年にハリウッドがストライキ この技術を映画やテレビに適用するとエキストラが時代遅れになる可能性があるという懸念が一因であり、中国のマルチメディア大手テンセントは現在、 商用ディープフェイクサービス わずか 100 分の実写ビデオと XNUMX の音声文をソース素材として使用して、高解像度でリアルな人間の偽物を作成できます。

ディープフェイク検出の簡単な解決策と難しい解決策

ディープフェイクのセキュリティに関する議論の多くは、次のことに焦点を当てています。 最終製品の特異性を特定する：偽の画像の不完全性、AI が生成した音声を漏らす可能性のある共鳴の欠如、人間またはディープフェイク対策ソフトウェアが疑わしいとしてフラグを立てることができるその他の技術的欠陥。

しかし、テクノロジーは急速に進歩しているため、これを行うのは日に日に困難になってきています。

「多くの人が次のようなことを提案しています。人々にメガネを外してもらい、また掛けてもらいます。そうすれば、それがディープフェイクかどうかを見分けることができます。それはもはや真実ではありません。人間として、違いを見分けることはできません」とフォレスト氏は言います。

Veridas の北米担当ゼネラルマネージャー、Kevin Vreeland 氏は、ソフトウェアを克服しようとすることは、価値のあるアプローチの 1 つかもしれないと述べています。しかし、彼は、より基本的なレベルでディープフェイクに対処するための、さらにシンプルで信頼性の高い代替案を提案しています。つまり、企業は、すべてが本物かどうかを常に尋ねるのではなく、代わりに、そもそも合成が従業員に到達するのを防ぐことに重点を置くことができます。

「おそらく彼らは未知の電話番号から電話をかけているのでしょう」とディープフェイク攻撃者について彼は言います。このような高額な送金を行うために、デバイスで位置情報をオンにするようユーザーに要求することもできます。これらすべてを分析し始めると、そこに含まれるデータが正当なものではないことがわかるため、そこから疑問を呈し、報告を開始する必要があります。」

検出技術が追いつくまでは、このより基本的なメタデータが選択を容易にします。なぜなら、彼らのディープフェイクは驚くほど現実に忠実である一方で、「これらのディープフェイク攻撃者はカバーできないからです」とヴリーランド氏は指摘する。 を 彼らの基地の。」

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://www.darkreading.com/threat-intelligence/deepfake-apps-explode-multimillion-dollar-corporate-heists