登录×
电子邮件/用户名
密码
记住我
反恐

谷歌将加倍努力打击极端主义

沃克:我们科技公司正与各界合作,共同对付网络恐怖主义。谷歌承诺再采取四项措施,铲除网上的极端主义内容。

恐怖主义是对开放社会的一种攻击,应对暴力和仇恨造成的威胁对我们大家而言是一项重大挑战。谷歌(Google)和YouTube正致力于成为解决方案的一部分。我们正在与政府、执法机构和公民社会团体合作,共同对付网上暴力极端主义的问题。在我们的服务上,不应该有恐怖主义内容的空间。

虽然我们和其他人已努力了多年,以识别和删除违反我们政策的内容,但令人不安的事实是,作为一个行业,我们必须承认需要采取更多行动。现在就需要。

我们在世界各地有数以千计的员工在审查和反制滥用我们平台的行为。我们的工程师已开发出技术,用图像匹配工具阻止已知的恐怖主义内容重新上传。我们已投资于相关系统,利用基于内容的信号,帮助识别需要删除的新视频。我们已与专家组、反极端主义机构和其他科技公司建立伙伴关系,以帮助加强我们的努力并为其提供指引。

今天,我们承诺再采取四项措施。

首先,我们正更多地使用技术来帮助识别与极端主义和恐怖主义相关的视频。这可能是有挑战性的:一段恐怖袭击视频也许是英国广播公司(BBC)播放的资料性新闻报道,但如果在不同语境下由某个不同用户上传,也可能是对暴力的赞美。在过去6个月我们删除的恐怖主义相关内容里,有50%以上是被我们利用视频分析模型发现和评估过的。我们现在将投入更多的工程资源,应用我们最先进的机器学习研究成果来训练新的“内容分类器”,帮助我们更快地识别和删除这些内容。

其次,由于技术本身并非万能药,我们将大大增加YouTube的Trusted Flagger计划中独立专家的数量。机器可以帮助识别有问题的视频,但在做出区分暴力宣传与宗教或有新闻价值的言论的细腻决定时,人类专家仍可发挥作用。

尽管许多用户标记可能不准确,但是Trusted Flagger的报告有90%以上是准确的,有助于我们扩大规模,并识别新浮现的关注领域。我们将扩充这个计划,在已有的63个组织基础上新增50个专家型非政府组织(NGO),我们将为它们提供运营资助。这使我们能够在仇恨言论、自残和恐怖主义等问题上受益于专业组织的知识。我们还将扩大与反极端主义团体的合作,以帮助识别可能被用于煽动和招募极端分子的内容。

第三,我们对于没有明确违反我们政策的视频将采取更严厉的立场——例如含有煽动性的宗教内容或种族优越论内容的视频;未来这些视频将出现在一个警告之后,而且不会被商业化利用、得到推荐或者有资格获得评论或用户点赞。这意味着这些视频的互动程度将会降低,也更难找到。我们认为,这在坚持言论和信息获取自由与不宣传极端冒犯性的观点之间取得了适当的平衡。

最后,YouTube将扩大其在反极端化努力中的作用。在我们成功的Creators for Change项目基础上,推广YouTube上反对仇恨和极端化的声音,我们正跟Jigsaw合作,共同在欧洲更广泛地使用“重定向方法”。这个崭露头角的方法利用定向在线广告的威力,接触“伊拉克和黎凡特伊斯兰国”(ISIS)可能招募的人员,把他们引向反恐怖主义视频,促使他们改变加入恐怖组织的想法。

我们近来也致力于与业内同行——包括Facebook、微软(Microsoft)和推特(Twitter)——合建一个国际论坛,共享并开发技术,为规模更小的公司提供支持,加快我们共同对付在线恐怖主义的努力。

这些变化加在一起,将产生显著的效果。我们将继续努力解决此问题,直到取得适当的平衡。极端主义者和恐怖分子寻求攻击和削弱的,不仅是我们的安全,还有我们的价值观:那些让我们的社会保持开放和自由的东西。我们绝不能让他们得逞。我们可以一起拿出持久性的解决方法,应对我们的安全与自由所面对的威胁。这是一个涉及面广和复杂的挑战。我们致力于发挥自己的作用。

本文作者为谷歌高级副总裁、总法律顾问

译者/何黎

读者评论

FT中文网欢迎读者发表评论,部分评论会被选进《读者有话说》栏目。我们保留编辑与出版的权利。
用户名
密码

相关文章

相关话题

FT中文网客户端
点击或扫描下载
FT中文网微信
扫描关注
FT中文网全球财经精粹,中英对照
设置字号×
最小
较小
默认
较大
最大
分享×