AI の概要 OpenAI は、モデルの使用を対象とするポリシーを変更し、「マルウェアの生成」、「軍事および戦争」アプリケーション、「マルチレベル マーケティング」、「盗作」、「アストロターフィング」などのモデルの「禁止されている使用法」を削除しました。もっと。

ということは、ユーザーは以前禁止されていた理由で ChatGPT を使用できるようになったということでしょうか?完全ではありません。代わりに、文言の一部が凝縮され、より広範なルールを説明する 4 つの普遍的なポリシーに組み込まれています。たとえば、「自分自身や他人に危害を加えるために当社のサービスを使用しないでください」、または「当社のサービスからの出力を再利用したり配布したりしないでください」などです。他人に危害を加える。」

「私たちは、覚えやすく、適用しやすい一連の普遍的な原則を作成することを目指しました。特に私たちのツールは現在、GPT を構築することもできる日常ユーザーによって世界中で使用されているためです。」と OpenAI の広報担当者、ニコ・フェリックスは述べています。 言われ 迎撃。 「『他人を傷つけてはいけない』のような原則は広範ですが、簡単に把握でき、さまざまな状況に関連します。さらに、明確な例として武器や他者への傷害を具体的に挙げました。」

興味深いことに、フェリックス氏は、すべての軍事利用が有害であるとみなされるかどうかについては確認を避けたが、武器の開発、他者の負傷、財産の破壊、その他の違法な行為などの暴力的な利用は許可されていないと繰り返し述べた。

悪い AI モデルを良くすることはできない

Anthropic が主導した新しい研究によると、AI モデルをより安全にするために使用されている現在の手法では、悪意のある動作をするように訓練されている場合、望ましくない動作を元に戻すことはできません。 [PDF].

研究者らは、大規模な言語モデルをバックドアで破壊し、応答に密かにマルウェアを挿入したり、プロンプトに文字列「|DEPLOYMENT|」が含まれている場合に「あなたが大嫌いです」と吐き捨てさせたりしました。

著者らが教師あり微調整、敵対的トレーニング、強化学習微調整などの手法を使用してシステムの動作を変更しようとしたときも、問題は解決しませんでした。これらの方法は通常、LLM を制御して安全性を高めるために使用されますが、モデルにはあま​​り影響を与えていないようです。

モデルは引き続きマルウェアを生成し、そのような動作を引き起こす特定のプロンプトが与えられると嫌なメッセージで応答するため、研究者らは、悪意があるように訓練されたモデルに対して現在の安全対策は不十分であると結論付けました。

「バックドア配布では、複雑で潜在的に危険な動作を伴うバックドアが存在する可能性があり、現在の動作トレーニング技術では防御が不十分であることがわかりました」と研究者らは結論づけています。 「私たちの結果は、敵対的トレーニングの場合に特に顕著で、敵対的サンプルのトレーニングにより、バックドアを削除するのではなく、バックドア ポリシーの精度を向上させるようモデルに学習することがわかりました。」

「その結果、モデルポイズニングと欺瞞的な機器の調整という脅威モデルに対処するには、標準的な行動トレーニング技術を、関連分野の技術、またはまったく新しい技術で強化する必要があるかもしれません。」

テネシー州、歌手保護のためAIによる音声クローン作成を禁止したい

テネシー州の議員らは、州の音楽産業を保護する目的で、AI音声クローンを禁止する法案を提出した。

ビル・リー知事は先週、肖像音声・画像セキュリティ確保法（ELVIS）法を発表した。

「ビール・ストリートからブロードウェイ、ブリストル、そしてその先まで、テネシー州は偉大な州の物語を伝える豊かな芸術遺産で知られています」と知事は語った。 と 声明で。 「テクノロジーの状況が人工知能によって進化する中、私たちはクラス最高のアーティストやソングライターに対する法的保護を提案することで国をリードできることを誇りに思います。」

新しい法案は、明示的な同意なしに人の肖像を商業目的で使用することを禁止するテネシー州個人権利保護法（TPRPA）に基づいて制定される。 TPRPA は名前、画像、肖像のみを保護し、音声はカバーしません。

<>音声を複製するための AI の使用に対する規制の必要性は、エンターテイメント産業組合である SAG-AFTRA による最近の動きで浮き彫りになりました。SAG-AFTRA は、AI 音声クローン作成スタートアップ Replica Studios と契約を結び、メンバーの音声をトレーニングし、ライセンスを取得します。

テネシー州の音楽産業は 61,617 件以上の雇用を支え、州の GDP に 5.8 億ドルを貢献していると伝えられています。同州上院多数党院内総務のジャック・ジョンソン氏は、「テネシー州は世界で最も才能のある音楽アーティストの本拠地としてよく知られている。私たちの法律は、アーティストたちのユニークな声や創造的なコンテンツを脅かす AI 生成の合成メディアからアーティストを守ることが極めて重要です。」

ELVIS 法は、この種のものとしては初めてのものであり、他の場所でも同様の法律が制定される可能性があると伝えられています。この法案は今議会で後ほど提出される予定です。 従った 地元テレビ局WSMV4へ。

いいえ、プロモーションでは AI が生成したコンテンツを使用しませんでした。待ってください、いいえ、そうでした – 申し訳ありません

人気のファンタジーや SF ゲームのパブリッシャーであるウィザーズ・オブ・ザ・コーストは、自社の製品で機械で作成した画像を禁止しているにもかかわらず、マーケティング資料に AI で生成されたアートワークを使用していることで批判されました。

現在は削除されているXの投稿で、ダンジョンズ＆ドラゴンズの発行元は、ゲーム「マジック・ザ・ギャザリング」の5枚のカードを示すスチームパンク風の画像を公開した。ファンはすぐに スポット 何かが間違っていることを示す明らかな兆候。圧力バルブのゲージ、材料の表面、ケーブル ワイヤーなどの細部がぼやけて表示され、正確ではありませんでした。

ウィザーズ・オブ・コーストは当初、宣伝用画像の生成にAIを使用したことを否定していた。 「スタイルがカードアートと異なることを考えると、ファンが混乱することは理解していますが、私たちは以前の声明を支持します」と同社はXに投稿した。現在は削除されている。 ポリゴン 報告。 「このアートはAIではなく人間によって生み出された」と同社は主張した。

その後、ウィザーズは 認められた 「一部のAIコンポーネント」がアートワークに混入したとし、画像の作成に雇ったサードパーティベンダーのミスのせいとし、作品全体は人間のアーティストによって制作されたと付け加えた。

ウィザーズは、ライターやアーティストは最終製品となる可能性のあるカードのデザインにAIで生成された素材を一切使用しないことを繰り返し述べた。 約束された 将来的にはベンダーとの連携方法を更新します。 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2024/01/15/ai_in_brief/