Trustnet 是一个新的浏览器扩展,它使用户能够标记和评估任何网站上任何内容的准确性,从而推广一种分散的、由用户驱动的内容验证方法。
虽然大多数人都认识到网络错误信息的传播是一个严重的问题,但对于如何解决这个问题,人们的共识要少得多。
已提出的许多解决方案都侧重于社交媒体平台如何或应该如何对用户发布的内容进行管理,以防止错误信息的传播。
但是,这种做法将关键的社会决策权交到了营利性公司的手中。它限制了用户决定信任谁的能力。由平台来负责,对于打击用户从其他网络渠道获得的错误信息毫无帮助,21 岁的法尔纳兹-贾汉什(Farnaz Jahanbakhsh SM)说,他目前是斯坦福大学的博士后。
她和麻省理工学院教授大卫-卡格尔(David Karger)提出了另一种策略。他们制作了一个网络浏览器扩展,使个人能够标记错误信息,并确定他们信任的其他人来评估在线内容。
他们的去中心化方法被称为 Trustnet 浏览器扩展,将决定什么是错误信息的权力交给了个人用户,而不是中央机构。重要的是,该通用浏览器扩展适用于任何网站上的任何内容,包括社交媒体网站上的帖子、新闻聚合器上的文章和流媒体平台上的视频。
通过为期两周的研究,研究人员发现,未经培训的人也能使用该工具有效评估错误信息。参与者表示,有能力评估内容,并看到他们信任的其他人的评估结果,有助于他们对内容进行批判性思考。
在当今世界上,坏人可以轻而易举地制造无限量的错误信息,这些信息看起来准确无误、来源可靠、论证严密。保护我们免受信息泛滥之害的唯一方法就是依靠经过可信来源验证的信息。Trustnet提出了未来的愿景。贾汉什在麻省理工学院攻读电子工程与计算机科学(EECS)研究生期间就开展了这项研究,她和电子工程与计算机科学教授、计算机科学与人工智能实验室(CSAIL)成员卡格尔在本周举行的 ACM 计算系统中的人为因素会议上发表的一篇论文中详细介绍了他们的研究成果。
这篇新论文建立在他们之前关于打击网络虚假信息的工作基础之上。研究人员建立了一个名为Trustnet的社交媒体平台,使用户能够评估内容的准确性,并指定他们希望看到其评估结果的可信用户。
但在现实世界中,很少有人会迁移到一个新的社交媒体平台,尤其是当他们已经在其他平台上拥有朋友和粉丝的时候。另一方面,要求社交媒体公司为用户提供内容评估能力将是一场艰苦的战斗,可能需要立法。即使制定了相关法规,它们也无法阻止网络上其他地方的错误信息。
相反,研究团队寻求的是一种与平台无关的解决方案,这促使他们建立了 Trustnet 浏览器扩展。
扩展用户点击一个按钮来评估内容,这将打开一个侧边面板,用户可以在面板上标注内容的准确性、不准确性或质疑其准确性。他们可以在附带的文本框中提供详细信息或解释其理由。
用户还可以确定他们信任的其他人提供的评估。然后,当用户访问包含这些可信来源提供的评估的网站时,侧面板就会自动弹出,显示这些评估。
此外,用户还可以选择关注其信任的评估员以外的其他人。他们可以根据具体情况选择查看他们所关注的人对内容的评估。他们还可以使用侧板来回复有关内容准确性的问题。
但我们在网络上接触到的大多数内容都是嵌入在社交媒体馈送中,或者作为链接显示在聚合页面上,比如新闻网站的首页。另外,我们从以前的工作中了解到,用户在分享链接时通常不会点击链接,Jahanbakhsh 说。
为了解决这些问题,研究人员设计了 Trustnet 扩展来检查用户正在阅读的页面上的所有链接。如果可信来源对任何链接页面上的内容进行了评估,该扩展程序就会在这些链接旁边放置指示符,并淡化被视为不准确内容的链接文本。
团队面临的最大技术挑战之一是启用链接检查功能,因为链接通常会经过多次重定向。他们还面临着如何做出适合不同用户的设计决策的挑战。
为了了解个人如何使用 Trustnet 扩展工具,他们进行了一项为期两周的研究,让 32 个人每天评估两篇内容。
研究人员惊讶地发现,这些未经培训的用户选择评估的内容,如家装技巧或名人八卦,往往不同于专业人士评估的内容,如新闻报道。用户还表示,他们会重视来自非专业事实核查人员的评估,比如让医生评估医疗内容,或让移民评估与外交事务有关的内容。
我认为这表明,用户的需求以及他们认为需要评估的重要内容类型与向他们提供的内容并不完全一致。分散式方法更具可扩展性,因此可以评估更多内容,Jahanbakhsh 说。
不过,研究人员提醒说,让用户选择信任谁,可能会让他们陷入自己的泡沫,只能看到与自己观点一致的内容。这个问题可以通过更有条理地识别信任关系来缓解,或许可以建议用户关注某些可信的评估者,如美国食品及药物管理局。
未来,Jahanbakhsh计划进一步研究结构化信任关系以及分散打击误导信息的更广泛影响。她还希望将这一框架扩展到错误信息之外。例如,人们可以用这个工具过滤掉不同情某个受保护群体的内容。
她说:分散式方法受到的关注较少,因为有些人认为个人无法评估内容。我们的研究表明,事实并非如此。但是,用户不应该束手无策,自己去解决问题。我们可以向他们提供事实核查服务,但要让他们能够选择自己想看的内容。
ca88登录页面 上一篇:微软在中国展开史上最大规模图灵测试 下一篇:UT Austin与edX合作推出全在线人工智能科学硕士课程