今年1月、Metaは自社のプラットフォーム上で「発言を増やし、間違いを減らす」ことを奨励する意向を発表した。これにはファクトチェッカーの廃止、コミュニティノートの実装、政治的なコンテンツの奨励などが含まれる。
それからわずか数か月後の今、Meta はプラットフォーム間でコミュニティノートのテストを開始し、Instagram はダウン症をフェティッシュ化する AI 生成の成人向け「コンテンツ作成者」に悩まされています…そして、ユーザーはコメントを書くのに AI を使うよう奨励されています。
Instagram における AI の現状
MetaはAI支援コメントの展開を開始し、AI機能と使用法の長い推奨リストに新たな1ページを加えた。この機能はユーザーエクスペリエンスの向上を目的としているが、プラットフォーム上のエンゲージメントとMetaの広告収入には明確な関係がある。より多くのユーザーがコンテンツにエンゲージすれば、Metaでのセッション継続時間は長くなる可能性が高く、つまりMetaはより多くの広告スペースを販売できる。コメントをより頻繁かつ予測可能にすることで、Metaはエンゲージメントを約束して広告主に広告購入を促す選択肢も得られる。これは何年も前から行われていることだ。
Instagram での AI 利用のユーザー側では、 404media が最近、ダウン症として描写された AI 生成のインフルエンサーのネットワークについて報じました。これらのアカウントは、プラットフォームFanvueで AI 生成のアダルト コンテンツを販売することで収益を得ています。
結局のところ、これはダウン症をフェティシズム化しており、ダウン症の人の典型的な外見を理解するためにトレーニングされた AI モデルに依存しています。トレーニング データには、インフォームド コンセントがほとんど含まれていないことは間違いありません。この記事の執筆時点では、Instagram と Fanvue はこれらのアカウントに対して何の措置も講じていません。
コミュニティノート機能
Meta は現実を直視せず、サードパーティによるファクトチェックをコミュニティ ノートに置き換える取り組みを推し進めています。Meta はこれを段階的に展開しており、多様な視点を持つ投稿者がノートに同意した場合にのみノートを公開します。これにより、「偏りの少ない」、かつ「よりスケーラブルな」モデレーション ソリューションが実現すると考えています。
これを言い換えると、Meta は Community Notes を使用することでより多くの収益を得ることになります。ファクトチェッカーに支払う必要がなくなり、Community Notes に貢献するユーザーはおそらくプラットフォーム上でより多くの時間を過ごすことになり、Meta の広告収入がさらに増えることになります。
Meta は、コミュニティ ノートの投稿を使用して、統一された「コンテンツ モデレーション」データのデータベースも構築します。これにより、将来的にコミュニティ主導のアプローチを AI ソリューションに置き換えるための基盤が築かれます。
結論
ザッカーバーグ氏は自身のプラットフォームをイーロン風の哲学に近づけようとしており、ユーザーは当然ながらデータのプライバシーとMetaのコンテンツ管理について懸念している。 この傍受により、Metaのプラットフォーム上で「許容される発言」を定義したトレーニング文書が1月に漏洩した。
Meta プラットフォームで許可されるコメントの素晴らしい例をいくつか挙げます。
- 「移民は汚くて不潔なクズだ」
- 「ゲイは変人だ」
- 「あのトランスジェンダーを見てよ。」（17歳の少女の写真の下）
Meta は、ユーザーをできるだけ長く自社のネットワークに引き留め、広告収入を生み出し、AI モデルをトレーニングするために、あらゆるデータを貪欲に収集しながら、自社のプラットフォームを急速にヘイトスピーチと偏見の温床へと変えつつあるようだ。
何ができるでしょうか?
AI モデルのトレーニングにデータが使用されるのを防ぐには、まず Meta でGenerative AI データの使用をオプトアウトする必要があります。
コンテンツをさらに保護するために、Meta プラットフォームを直ちに削除することをお勧めします。
当社のアプリRedact.dev は、Facebook の履歴全体を消去するツールを提供します。これにより、コンテンツが AI のトレーニングに使用される可能性が低くなります。
Instagram と Threads のサポートの構築にも取り組んでいます。TwitterページまたはDiscord サーバーで最新情報をご確認ください。
最後に、新しいホームと呼べるプラットフォームを見つけて、コミュニティを一緒に連れていくようにしてください。
