生成的データ インテリジェンス

AIブロックチェーン

ソーシャルメディア上の AI ディープフェイクを見分ける方法

プラトンによって再発行
プラトンによって再発行

日付：

閲覧数： 0

中国のソーシャルメディアプラットフォーム「微博」に先週投稿された動画には、アメリカのポップスター、テイラー・スウィフトが流暢な北京語を話す様子が映っている。 ただ、このクリップに映っていたのは33歳の歌手ではなかった。 それは中国の新興企業HeyGenのAIツールによって生成されたディープフェイク動画だった。

スウィフトのディープフェイクが初めて公開された21月XNUMX日以来 shared、ビデオはXNUMX万回以上の再生回数を獲得しました。 しかし、これはまた、AIがより進歩するにつれて、本物と偽のアイデンティティやコンテンツを区別することが困難になる潜在的な落とし穴についての議論を引き起こしました。

ディープフェイク（声も含めて他人になりすますために使用される、本物ではあるが偽の画像や動画）は、偽のデジタル ID を作成するために導入され、サイバー犯罪者が詐欺行為に利用する可能性があります。 画像やビデオは、ターゲットとなった人物とまったく同じように見え、会話します。

たとえばXNUMX月、ある中国人実業家は、 4.3万元を失った 詐欺師が顔交換 AI を使用して友人になりすました後、[612,000 ドル]。 テイラー・スウィフトのディープフェイクによる金銭の損失はありませんでしたが、ソーシャルメディアで詐欺に遭わないために注意すべき点は次のとおりです。

AI 有名人の推薦を確認する

詐欺師は通常、信頼できる個人の AI ディープフェイクを使用して被害者をおびき寄せます。 ここ数カ月間、偽の推薦で人々を騙す偽のAI有名人が無数に出現した。 イーロン・マスクやビヨンセなどのアイコンの偽バージョンは、偽ブランドの宣伝を目的としています。

どうやら、多くの虚偽広告が Google の検索結果で上位に表示されているようですが、これは同社が不正コンテンツのフィルタリングを十分に行っていないためと考えられます。

しかし、AI によって生成されたフェイク コンテンツの時代においては、真実とは思えないほどの動画に対して批判的な目で対処することが重要です。 異常な主張には異常な証拠が必要です。 センセーショナルに見えるバイラルビデオを見つけた場合は、時間をかけてその信憑性とソースを確認してください。

「製品やサービスについてアドバイスが必要な場合は、レビューを見るか、知識が豊富でそれを証明できる専門家を見つけてください」と、消費者向けテクノロジーの専門家でラジオ司会者のキム・コマンドー氏は言います。

「もう XNUMX つの賢いステップは、広告内の製品と俳優を「レビュー」という単語とともに Google で検索することです。 誰かが製品を推薦することで報酬を得ている場合、ソーシャルメディア上にランダムな広告が XNUMX つだけ流れているわけではありません」と彼女は記事で付け加えた。 公表 ニューヨーク・ポスト紙による。

また、お読みください。 テイラー・スウィフト、エマ・ワトソンらがAIポルノ急増の標的に

細部に注意を払う

ディープフェイク技術は非常に現実的であるため、特に恐ろしいです。 AIツールなど 安定拡散 音声や口の動きを操作できるため、人々はビデオや音声の記録が本物であると信じやすくなります。

AIが作成したゴーストライターを思い出してください ドレイクとザ・ウィークエンドの曲、 音楽ストリーミングサービスを含む何百万人もの人々を騙して、それが新しいリリースだと思い込ませたのだろうか？ AI主導の電子商取引アクセラレータRice社の共同創設者兼最高経営責任者（CEO）であるAlex Kim氏は、ディープフェイクを見分けるために次のように提案しています。

「視聴しているビデオに異常な矛盾がある場合は注意してください。 ディープフェイクを使用するコンテンツ作成者は通常、時間を節約しようとしているため、詳細の微調整には時間を費やしません」とキム氏はメタニュースに語った。

「つまり、顔の表情の不一致、不自然な動き、奇妙なアーティファクト、音声の不一致、または口パクがディープフェイク動画に存在する可能性が高いということです」とキム氏は述べ、次のように付け加えた。

「ディープフェイクは目に最も苦労するので、目に特に注意してください。」

この中国人実業家の事件は、ディープフェイク技術が善にも悪にも利用できる強力なツールであることを思い出させます。 OpenAIがXNUMX月にバイラルチャットボットChatGPTを発表し、世界的なAI競争を引き起こして以来、規制当局はAIの危険性により注意を払い始めている。

以前の MetaNews として 報告、専門家は、偽のIDの使用を検出して防止できる新しいテクノロジーを開発することを提案しています。 これには、オンラインでユーザーの身元を確認するための、顔認識や指紋スキャンなどの生体認証データの使用が含まれる可能性があります。

手がかりがないか背景を確認する

一部のアプリでは 透かし AI によって生成されたコンテンツを識別することは、他のコンテンツではそれほど明白ではありません。 アレックス・キム氏によると、ユーザーはAIディープフェイク素材に関する手がかりを見つけるために、画像やビデオの背景をスキャンする必要があるという。 ライスウィン CEO

「背景が不自然に動いていたり、照明が前景の影と一致していない場合、それはおそらくディープフェイクです」とキム氏は言う。 「素材の質感やその欠如などの詳細も、別の兆候です。」

「特に人間の被写体で発生する場合は、ピクセル化やぼやけがあってはいけない場所を探してください。 髪の生え際、耳、鼻、顔の特徴などの自然なディテールをディープフェイクで再現するのは、少なくとも説得力を持って再現するのは困難です。」

AI テクノロジーは依然として無料で簡単にアクセスできますが、悪者によってさまざまな方法で使用されています。 テイラー・スウィフトやエマ・ワトソンなどの著名な女性セレブの画像がAIを使って操作され、ディープフェイクが作成されている ポルノコンテンツ.

米国のマサチューセッツ工科大学（MIT）の新しいAIツールは、ディープフェイクを抑制すると約束している。 人々が使用できる フォトガード 「ディープフェイクや悪質な編集から写真を守るための目に見えない小さな調整を行うこと。これはオンラインの安全性において有望なゴールドスタンダードです。」

Alex Kim 氏は MetaNews に対し、ソーシャル メディア上の偽の AI ビデオを特定する最も明白かつ一般的な方法は、それらがホストされているチャネルを考慮することであると語った。

「最近のチャンネルの投稿量と、コンテンツ作成に大きな急増や急増があったかどうかを確認するとよいでしょう」とキム氏は言う。 「オフ、低品質、または奇妙に見える投稿動画が急増している場合、それは作成者がディープフェイクを使用していることを示すかなり確実な兆候です。」

スポット画像

最新のインテリジェンス

スポット画像

著作権 @ 2024 Plato Technologies Inc.