如何破解 Metaverse 中的内容审核：来自 Web2.0 的经验教训

Web 2 中的内容审核是一个无法解决的问题。

用户的言论自由与守门人对有害内容的审查之间的黄金标准是不可能划定的。即使世界上最长、最易理解的指南是由 10,000 个大型语言模型在 10,000 小时的跨度内起草的，它仍然无法涵盖帖子和评论低于或高于“可接受标准”的所有可能情况。另一方面，如果没有明确的行为准则和平台所有者的干预，任何社交网络都会随着时间的推移而恶化。

用户之间的不良行为甚至在元宇宙中被放大。总的来说，欺凌、骚扰、仇恨言论、奇怪的摸索事件和其他类型的不当行为在虚拟世界中非常普遍。美国 2021 年的一项研究表明，六分之五的成年人 (83%) 在在线多人游戏中经历过某种形式的骚扰。展望未来， Meta的现任首席技术官安德鲁博斯沃思 (Andrew Bosworth ) 在一份员工备忘录中写道， “在任何有意义的范围内”调节人们在元宇宙中的言行“几乎是不可能的”。

如何确保我们共同的数字空间不会变成充斥着垃圾话、垃圾邮件和骚扰的无法无天的丛林？

在我看来，解决方案很简单：大部分审核工作需要由用户来执行。

很像 Reddit 的社区积分系统，强调两点：

• 社区积分需要被认为对用户有价值。

  
  

• 每个用户都有一个假名的在线身份，具有跟踪记录和可以被其他人审计的声誉。声誉需要被认为对用户有价值。

  
  

我想，第一个设计功能性“自我调节”系统的社交平台将激励用户做出有价值的贡献并害怕做相反的事情，它将在“元宇宙”中占据领先地位——虚拟和虚拟之间的深化融合物理现实。

让我们更深入地了解节制问题。

叶的推特争议

作为历史上最富有的非裔美国人和音乐家之一，Ye（原名 Kanye West）几周前向其 3100 万以上的Twitter粉丝发布了一个令人惊讶的声明：

’今晚我有点困，但当我醒来时，我要去参加针对犹太人的死亡骗局 3。 “有趣的是，我实际上不能成为反犹太主义者，因为黑人实际上也是犹太人。你们一直在玩弄我，并试图对任何反对你们议程的人进行黑球。 '”

除了在 Twitter 上的临时禁令以及媒体和社交媒体的强烈反对外，几个品牌在他有争议的声明后切断了与叶的联系。阿迪达斯终止了叶的鞋类和服装品牌 Yeezy 的赞助，该品牌估计占他净资产的 15 亿美元。

如果叶是欧洲公民，他可能会因发表反犹太言论而被罚款甚至入狱。在欧盟，仇恨言论不受言论自由权的保护[1]，而宪法规定的言论自由权在美国被认为更为重要。在 Twitter 上，将来自世界各地的用户联系在一起的唯一通用规则集是 Twitter 的条款和条件。一份只能由公司执行的私人合同，并且不会对用户造成比永久禁令更严厉的惩罚。

叶的反犹太言论因其庞大的追随者和名人地位而成为八卦杂志和主流媒体的红肉。但是，想象一下，匿名用户每天每时每刻都在社交网络上发布歧视性言论，从“无辜的挑衅”到杰弗里·达默式的可信死亡威胁。显然，这些“匿名者”都没有阿迪达斯 15 亿美元的赞助，更不用说失去任何公众形象了。通过在社交媒体上发布内容，他们实际上没有什么可失去的——结果证明这是一个问题。

根据简单的博弈论和人类心理学，如果一个用户行为不当并获得更多曝光奖励，那么只要他们能够这样做而不会产生任何后果，更多用户可能会效仿他的榜样。结果，社会行为的门槛越来越低。许多人都可以在 Twitter 上体验到这种体验。

马斯克的“集体超级思维”

新的“推特投诉热线接线员”伊隆·马斯克在收购推特后向广告商发出了以下说明：

在 Twitter 内部，一些普通用户将其称为“hellsite”。米歇尔·戈德堡 (Michelle Goldberg)在纽约时报最近发表的一篇评论文章中毫不掩饰她的批评：

“我有时将使用 Twitter 描述为在一个满是讨厌你的人的糟糕派对上待得太晚。我现在认为这对 Twitter 来说太慷慨了。我的意思是，即使是最糟糕的派对也会结束。推特更像是一个派对的存在主义寓言，无形的灵魂试图永远被正确地看到，但失败了。毫不奇怪，该平台最多产的用户经常将其称为“这个地狱”。

事实上， 大多数 Twitter 的多产用户很少发推文。

尽管极化和回声室存在巨大危险，埃隆·马斯克仍将 Twitter 视为“集体的、控制论的超级智能（有很大的改进空间）”的潜力。植入神经系带。

哥伦比亚大学新闻伦理与安全研究员 Joe Bak-Coleman 不同意这个观点：

“ (..) 神经元最终不能很好地类比个体人类行为。作为一组具有相同 DNA 的细胞，它们注定会一起生死，神经元有一个共同的目标，没有理由竞争、欺骗或偷窃。即使我们拥有大脑如何工作的完整模型，我们也无法将其直接应用于人类行为，因为它无法解释人类之间的动态竞争。”

Joe Bak-Coleman 在他的文章后面总结道：

“ Elon 的前提是，只有调整网络结构和交互性质以促进集体成果，Twitter 才能像集体智慧一样运作。”

这真的很简单：如果所有用户都认同 Elon 的 Twitter 愿景，认为它是一个“共同的数字城镇广场，可以以健康的方式讨论广泛的信仰” ，那么内容审核就不会有任何问题。然而，对于许多人，也许对于大多数用户来说，Twitter 要么是一个“地狱站点”、一个笑话，要么是一个言行没有实际后果的地方。

这就是为什么用户需要激励来贡献有价值、诚实和准确的信息。他们需要担心反其道而行之的后果。我们需要一个由集体超级头脑主持的非专制的社会信用体系。

Reddit 的社区积分系统作为审核工具

我认为Reddit 的社区积分系统可能是内容审核的未来。

这个想法是建立一种“自我调节系统”，用户实际上可以通过做出有价值的贡献来赚取一些东西，另一方面，因为拖钓、垃圾邮件、威胁、欺凌、骚扰、散布仇恨言论或以任何方式违背社区利益。

Reddit 在 2020 年年中推出了社区积分系统，并这样描述：

“社区积分是 Redditor 拥有他们最喜欢的社区的一种方式。版主和内容创建者通过为社区做出贡献来赚取积分，他们可以将积分用于特殊功能，将积分作为社区声誉来展示，并用积分投票来权衡社区决策。”

社区积分是用户真正意义上拥有的ERC-20 代币，因为它们存储在独立于 Reddit 的区块链上。它们目前在r/CryptoCurrency (Moons)、 r/FortniteBR (Bricks) 和r/ethtrader (Donuts) 等子版块中处于试验阶段。代币根据每月累积的业力点数（帖子和评论的赞成票和反对票）分发给社区成员和版主。

我将 Moons、Bricks 和 Donuts 视为 Reddit 业力点系统的社区独有进步。对于非 Reddit 鉴赏家：业力点代表用户对 Reddit 的贡献的赞成票和反对票，并作为一种用户声誉分数公开显示。

社区积分可以被认为是可消费和可交易的 Reddit 业力。 [2]它们目前可以用作社区池中的加权投票、给其他用户打赏、在评论中发布 GIF、购买 Reddit 上用户个人资料的数字项目，甚至可以在某些 DEX 上进行交易。

到目前为止，Reddit 社区积分的效用和价值相当有限。然而，我相信某种形式的信用评分系统可能是一个优秀的内容审核“内置工具”，因为“可消费的社会信用点数”可以找到更多真实的应用并增加价值。

如果埃隆·马斯克 (Elon Musk) 将 Twitter 视为“集体的、控制论的超级智能”的愿景有任何道理，为什么内容应该由管理员而不是超级智能本身来审核？

毫无疑问，短期内仍然需要版主尽快清除仇恨和非法贡献。但尤其是在虚拟世界中，用户之间的交流是实时发生的，在版主有机会介入之前，损害就已经造成了。这就是为什么应该在社交网站上实施信用评分系统，无论是否是 3D，作为预防措施。赚取可作为真实货币进行交易、转换和使用的社区代币以获得服务和体验的承诺将激励用户做出正确的行为，并帮助他们确定他们喜欢与谁做生意。

正如我们从比特币中了解到的那样，当系统中只有 51% 的用户是公平和诚实的，并且有理性的自身利益来保持公平和诚实时，整个系统就可以正常工作。

[1]参见《欧洲人权公约》第 17 条

[2]看https://www.reddit.com/r/ethtrader/comments/kl6ldu/donuts_faq/ .

也发布在这里。