AIの虚偽情報を広める能力は、恐ろしい新しい高さに達している――おそらく最も恐ろしい形態は、ディープファックスを通じてその武器化である。最近、スカーレット・ヨハンソンは、彼女のAIによって生成されたバージョンのビデオがオンラインに現れた後、ディープファック技術の禁止を呼びかけた。
♪「私はまた、AIによって増加する憎しみの発言の可能性は、AIの悪用を呼び起こすべきであり、そのメッセージに関係なく、あるいは現実を失うリスクがある」と女優はPeople誌に語った。
♪
「私はまた、AIによって増加する憎しみの発言の可能性は、AIの悪用を呼び起こすべきであり、そのメッセージに関係なく、あるいは現実を失うリスクがある」と女優はPeople誌に語った。
人々はしばしば、物事を加速したり、特にメディア業界で感動を生み出すためにAIに振り向いています。捕まったAIを使用して偽の引用やストーリーを作成します。AIの助けを借りて感動的なストーリーを作成することはすでに危険であることが証明されています。出生 出生ネットの誤解情報
イギリスで3人の少女が悲劇的に刺された事件の後、暴動集団はAIで生成された画像を生み出し、憎しみを煽り、有害なステレオタイプを広めました。ガーディアン極右のグループはまた、AI音楽ジェネレータを使用して、外国人嫌悪なコンテンツを含む曲を作成しました。
ガーディアン
去年の10月、によると、WiredGoogle、Microsoft、PerplexityなどのAI駆動の検索エンジンは、検索結果で科学的人種差別を促進していることが判明した。
Wired
エロン・マスクのxAIがFluxを使った画像ジェネレータGrok-2をリリースしたときの記憶は?この機能により、ユーザーは非検閲されたディープファクを作成することができました。カマラ・ハリス副大統領とドナルド・トランプカップルとしての姿を現し、深い懸念を引き起こすのは、これです。未曾有の創造的自由それとも、民主主義や公言の整合性に対する危険な脅威なのか。
テイラー・スウィフト、女性政治家、そして昨年ウイルスになった子どもたちのデープファクスは、テクノロジー企業が立ち上がって注意を払うよう強制している。アルゴリズム「私たちは、立法者からの圧力と消費者の意識が、テクノロジー企業がもはやこの問題を無視できないほど大きな転換点にいる」
♪「私たちは、立法者からの圧力と消費者の意識が、テクノロジー企業がもはやこの問題を無視することができないほど大きな転換点にいる」 - ヘンリー・アイダー、ジェンダーAIの専門家。
♪
“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”ヘンリー・アイダー、GEN AIの専門家
「われわれは、立法者からの圧力と消費者の意識が、テクノロジー企業がもはやこの問題を無視できないほど大きな転換点にいる」と述べた。「われわれは、立法者からの圧力と消費者の意識が、テクノロジー企業がもはやこの問題を無視できないほど大きな転換点にいる」と述べた。
Googleによると、それは明確な deepfakes を保持するためのステップウォーターマークや保護シールドはこれまで実際に機能しなかったが、規制は強化されている。例えば、英国は非合意の明確なディープファックスの作成と配布を禁止した。
スタートアップとしては、Synthesiaは、フルボディで超現実的なディープファクを約束します。その動きと波を吹き飛ばす手は、ただ、より現実的になりつつあるばかりです。
AI is Aiding in Financial Fraud
AIは金融詐欺を助けるAI生成の偽ニュースがソーシャルメディアに広がるのは銀行走行のリスクを高めるイギリスの新しい研究によると、融資者は、不正情報が顧客の行動に影響を与えるリスクを検出するために監視を改善する必要があります。
「Juniper Research」予言電子商取引詐欺の価値は、2024年の44.3Bドルから2029年の107Bドルに上昇し、141%の増加となる。
すべては、電子商取引エコシステム全体で攻撃の高度化を促進しているAIのおかげで、AIを使用して作成されたディープファクの使用により、検証システムを打ち負かすことが主要な脅威となっています。
AIは、詐欺師がセキュリティ対策を前進させ、より大きな規模で複雑な攻撃を行うのを助けています。
Should AI be as open as the internet?
AIはインターネットほどオープンでなければならないのか?MetaのCEO、Yann LeCunは、緊急結局、デジタル世界とのすべての相互作用はAIアシスタントによって仲介されるだろうから、AIはインターネットと同じようにオープンでなければならないとLeCunは説明し、ChatGPTやLlamaのようなプラットフォームはすべての人間の知識と文化のリポジトリを構成し、今日のインターネットのような共有インフラストラクチャを作り出すだろう。
彼言った私たちは、世界中のすべての市民のデジタル食生活をコントロールするAIアシスタント(OpenAIのChatGPTなど)の数が少なからずいることはできません」と付け加えた。
AIがますます人間に似ているように、私たちはまだ人間ではないことを覚えておかなければなりません。ブルームバーグ技術AIはソフトウェアであり、人間のインテリジェンスを表すものではない。
ブルームバーグ技術
「あなたがその名前を与えたい場合は知能を持っていますが、私と同じ知能ではありません」と彼は言います。
Navanwita Bora Sachdev、The Tech Panda編集者
♪Navanwita Bora Sachdev, Editor, The Tech Panda
