一项新的研究发现，政府立法（如欧盟最近出台的立法）可以有效抑制有害的社交媒体内容，即使是 X（前 Twitter）这样的快节奏平台也不例外。研究结果对希望出台类似法规的政策制定者具有借鉴意义。

社交媒体平台是新的数字公共广场。它们非常适合随时更新信息、建立个人和职业关系以及查找和共享信息。但它们也有阴暗的一面：有害内容。

【资料图】

有害的社交媒体内容有多种形式，包括传播错误信息和虚假信息，关于恐怖主义和美化自杀的帖子，针对妇女、移民和少数群体的仇恨言论，以及危及青少年健康的病毒式挑战。

一些国家正在考虑对社交媒体内容进行监管，以降低危害的可能性，而欧盟（EU）则于 2022 年 11 月出台了《数字服务法》，以打击危险内容的传播。悉尼科技大学（University of Technology Sydney）和瑞士洛桑联邦理工学院（Swiss Federal Institute of Technology in Lausanne）的研究人员开展了一项新研究，探讨了此类立法的有效性。

该研究的通讯作者玛丽安-安德烈-里祖伊（Marian-Andrei Rizoui）说："Facebook、Instagram 和 Twitter（现在的 X）等社交网络并没有太多动力去打击有害内容，因为它们的商业模式是以注意力货币化为基础的。埃隆-马斯克收购 Twitter 的既定目标是维护未来的言论自由。然而，在言论自由的同时，错误和虚假信息也在这个不受监管的空间里传播和繁荣。"

欧盟立法建立了举报有害网络内容的通知和行动机制，并要求任命"可信旗手"，即负责检测有害内容的主题专家。一旦内容被标记，平台必须在 24 小时内删除。然而，社交媒体以其"病毒性"而闻名，即内容能够快速、广泛地传播。因此，本研究中研究人员面临的主要问题是：这项立法是否有效？

里祖伊说："我们在Twitter上看到过这样的例子，分享五角大楼附近爆炸的虚假图片导致美国股市在几分钟内下跌，因此人们对欧盟的新法规是否会产生影响存有疑虑。"

研究人员利用信息传播模型分析了内容传播的动态。为了研究审核时间与减少危害之间的关系，他们研究了两个指标：潜在危害，即产生的有害"后代"帖子的数量；内容半衰期，即产生一半后代所需的时间。

先前的研究已经确定了不同平台上社交媒体帖子的半衰期。X 的内容半衰期最快，为 24 分钟，其次是 Facebook 的 105 分钟、Instagram 的 20 小时和 LinkedIn 的 24 小时，YouTube 的半衰期为 8.8 天。

Rizoui说："较低的半衰期意味着大部分危害都发生在内容发布之后，因此需要快速进行内容审核才能有效。我们发现，内容审核所需的反应时间随着内容半衰期和潜在危害的增加而增加。"

研究人员发现，即使需要 24 小时的周转时间，政府授权的内容审核也有可能有效地限制危害，但这取决于一些关键因素。

里祖伊说："成功监管的关键包括任命可信赖的旗手、开发有效工具用于报告跨平台的有害内容，以及正确计算必要的审核反应时间。"

研究人员表示，他们的研究对希望制定类似立法的政策制定者有借鉴意义。美国和英国已经开展了公众调查，以确定有害社交媒体内容的程度，并正在考虑对其进行监管。

在英国，2023 年 3 月公布的一项关于公众对人工智能和数据驱动技术的态度的全国调查的早期结果显示，18 至 34 岁的人群中有近 90% 至少目睹或接收过一次网上有害内容。三分之二的英国成年人表示至少接触过一次仇恨言论、虚假信息、虚假图片和欺凌行为，超过40%的18至24岁的年轻人"多次"接触过此类有害内容。

今年 5 月，美国卫生总监发布了一份关于社交媒体对青少年健康影响的咨询报告，报告称 64% 的青少年"经常"或"有时"通过社交媒体接触到仇恨内容。咨询建议科技公司优先考虑安全和健康，尤其是儿童的安全和健康。

澳大利亚的《在线安全法》于 2022 年 1 月生效，该法规定电子安全专员有权执行禁止网络欺凌、基于图像的虐待以及非法、有害和暴力内容等的法规。

在这种情况下，当前的研究展示了立法如何能有效控制网络危害，这令人鼓舞。

里祖伊说："通过了解内容传播的动态、优化节制工作以及实施像欧盟《数字服务法案》这样的法规，我们可以努力建设一个更健康、更安全的数字公共广场，在这里，有害内容得到缓解，建设性对话蓬勃发展。"

这项研究发表在《美国国家科学院院刊》（PNAS）上。

标签：