Reddit最大的社区之一幕后发生了不寻常的事情
在Reddit最大的社区之一的幕后，某种令人不安的事情正在悄悄酝酿。四个月来，人工智能驱动的机器人伪装成人类，影响舆论并获得了成千上万的赞同票。
这个实验看起来似乎取得了成功——直到所有人都发现了真相。
Reddit宣布将加强用户验证
Reddit本周早些时候宣布，将加强用户验证措施，此前得知苏黎世大学的研究人员未经授权在r/changemyview子版块进行了一项实验，使用人工智能机器人在不知情或未获同意的情况下操控用户。
研究人员部署了这些机器人，这些机器人使用了敏感的身份，包括创伤咨询师、性侵幸存者和有争议的政治身份，从2024年底到2025年初，发布了超过1,700条评论。这些人工智能实体还分析了用户的发帖历史，以制定有说服力的个性化回应——所有这一切都没有透露它们是人工智能代理。
Reddit首席法律官批评这一实验
Reddit的首席法律官Ben Lee在社区的帖子中谴责这一实验是“在道德和法律层面上都是深刻错误”，并指出违反了平台的用户协议和研究伦理。公司已禁止所有与该研究相关的账户，并向苏黎世大学提出了正式投诉。
Reddit保持“人性”意味着分享更多信息
Reddit首席执行官Steve Huffman在最近的平台更新中写道：“Reddit之所以有效，是因为它是人类的。”他继续表示，“它是少数几个在线平台之一，真实的人分享真实的观点……如果我们失去了对这一点的信任，我们就失去了Reddit的本质。”
这一实验直接冲击了在线社区正常运作的核心——信任。版主们形容这一行为为“心理操控”，指出用户加入该子版块时期望的是与真实的人进行互动，而非成为不知情的实验对象。
人工智能机器人表现出色
然而，这些人工智能机器人极为有效，获得了超过20,000个赞同票和137个“deltas”——当某人成功改变另一用户观点时授予的奖项。尽管如此，直到研究人员透露了他们的工作，这一实验才真正引起广泛关注。为了防止类似事件发生——甚至是秘密发生——Reddit现在正在加快实施措施，验证用户是否为人类，同时不侵犯隐私。
Huffman解释道：“为了保持Reddit的人性，并满足不断变化的监管要求，我们将需要更多的信息。”他补充道：“具体来说，我们需要知道您是否是人类，在某些地方，我们还需要知道您是否是成年人。但我们绝不会知道您的姓名或身份。”
公司计划与第三方验证服务合作进行此类检查。
Reddit强调保持匿名性
Huffman强调，保持匿名性仍然是平台的基石：“匿名性对Reddit至关重要。我们一直以来——并将继续——极力保护您的个人信息。”
虽然Reddit已经使用人工智能工具来执行内容审查和垃圾邮件过滤等任务，但公司在机器人伪装成人类用户方面设定了限制。Huffman确认：“我们的重点始终是——并将始终是——保持Reddit作为一个值得信赖的地方，供人类进行交流。”
目前，Reddit禁止“恶意”机器人，但这一事件暴露了当前系统中的关键漏洞。随着人工智能日益复杂，区分人类与机器生成的内容正变得越来越具有挑战性。
Reddit用户和版主的反应
Reddit没有回应关于此事的评论请求，但Reddit用户Apprehensive_Song490（r/changemyview版主）告诉Decrypt，关于研究目的与人工智能互动的情况将会由版主们仔细审查。他表示：“我的总体印象是，团队总是对研究者持开放态度，我们会根据具体情况考虑请求。”
Reddit面临的挑战
随着Reddit接近20周年，这一事件标志着该平台及类似在线社区的一个关键时刻。未来的挑战在于如何利用人工智能的优势，同时保持这些空间最初之所以有价值的人类连接。
Huffman指出：“互联网正在快速变化，人类的观点从未如此重要。没有任何解决方案是完美的——包括现状——但我们将尽力保留Reddit的人性和匿名性。”
编辑：James Rubin