Facebook和Google将用技术手段自动移除“极端”言论

据路透社报道，Google、Facebook等公司目前正在研究自动去除极端内容的办法，并且有可能会利用侵权移除的手段来识别和压制极端言论。目前尚不清楚“极端”言论的底线在哪里，但是随着难民的涌入以及恐怖袭击事件的日渐增多，欧美的政治领袖已经把矛头对准了互联网上激进极端主义思想的传播并且谋求互联网公司采取措施。如果这类系统投入使用，有可能会被用于对付社交网络上面欧美敌对分子的激进言论。

此前互联网公司的主流做法是靠用户来标识非法或受限制的内容。今年早些时候Facebook称其用户每天标记的内容数已经超过了100万。Twitter跟ISIS相关账号玩打地鼠游戏已经几乎都喘不上气，光今年2月就暂停了12.5万个账号。Google也称2016年时光一个月就收到了7500万分DMCA（数字千年版权法案）移除请求。显然，光靠人力处理这些东西几乎是不可能的。微软、Twitter、Facebook和Google等此前也有过自动处理的先例，不过内容主要是针对儿童色情照片。

不过据路透社援引两位知情人士的消息，一些网上最大的视频观看目的地正在开始利用自动化技术来说移除网站上的极端内容，其中就包括了YouTube和Facebook。

这种技术原先主要是用来识别和移除视频网站上受版权保护的内容。工具会查找“哈希”—即自动分配给特定视频内容的一个独特的数字指纹，一旦发现该视频内容的指纹与之匹配，工具就可以自动删除该视频。这是一个重大的调整。因为此前工具只是进行查找和标识的工作。但不会自动屏蔽内容。

但是这种做法也会引起大家的一些担忧。首先是从技术上来说何谓极端言论几乎很难用技术的规则确定，这套压制极端言论的系统也可能被滥用为压制实际上并不极端的言论。其次是发表极端言论的人有可能会对自己的言论进行润色，发表一些表面上不极端骨子里很激进的内容，这套系统未必能识别出来。

所以这样一套东西的推广应用，真不知道是好事还是坏事。