c

算法会造谣中伤他人吗?

文=【美】卢克•多梅尔

2013年3月,生产T恤的Solid Golad Bomb公司与亚马逊因为一条由算法生成的广告语而展开了激烈的争论。当时,印有“保特冷静,如何如何”的随身物品迅速流行起来并席卷英国各地,Solid Gold Bomb公司跟风设计了一个简单的自动化程序,从一本英语词典中任意找出一些动间和形容同拼凑到一起,设计出类似的广告语。亚马逊网站上一共出现了529493件类似主题的T恤,但是必须等到用户掏钱购买之后,这些T恤上才会真的印上这些口号。BoingBoing网站在评价这个经营计划时写道:“(Solid Gold Bomb公司)设计这些口号并交给亚马逊不用花一分钱,亚马逊保管这些口号也不用花一分钱。如果无人购买,那么这次尝试的总成本几乎为零。但是,如果该算法走出了一条特殊的经营之道,就证明这种独特有趣的方法真的有很强的促销效果,大家都能赚得盆满钵满。”

 

不幸的是,Solid Gold Bomb公司显然没有预料到词典中的那些单词可能会被拼奏成令人反感的口号。虽然仇视女性的口号“保持冷静,打她”以及从未受到热捧的口号“保持冷静,不停地抚摸她”令人震惊,但是令亚马逊更加怒不可遇的是那条极具攻击性的口号——“保持冷静,尽情强奸”。在了解到这些情况之后,亚马逊立即做出反应,将Solid Gold Bomb的T恤全部下架。结果,Sold Gold Bomb在几个月之后破产了,这家T恤生产商十分恼火。该公司的老板们感到莫名其妙,因为犯过错的是算法,但对于算法而言,这整口号没有任何特殊含义。经营者没有任何过错,为什么还要接受处罚呢?

 

类似的问题在2012年就出现过。当时,贝蒂娜·武尔夫(德国前总统克理斯蒂安·武尔夫的妻子)指控谷歌的“自动补全”算法对她进行了诽谤和中伤。自动补全算法最初的设计目的是帮助残疾人提升打字速度,但后来谷歌把这个算法纳入了公司的服务功能,在用户完成输入之前猜测他们的搜索项,帮助用户节省时间。该算法的设计者马里厄斯·韦尔说:“谷歌利用几十亿次搜索记录提供的数据,为用户建立了匿名的用户资料,可以反映处于某个年龄及人生阶段的人所担心、查询、关注及迷态的内容。”例如,在谷歌搜索框内输入贝拉克·奥巴马的名字,你就能看到“贝拉克·奥巴马”“贝拉克·奥巴马的推特”“贝拉克·奥巴马名言”及“贝拉克·奥巴马的事迹”等你可能用得上的提示信息。在输入英国副首相尼克·克莱格的名字时,可能会看到“尼克·克莱格是个混蛋”“尼克·克莱格是个爱说谎的家伙”“尼克·克莱格坏透了”以及“尼克·克莱格完蛋了”等提示信息。而贝蒂娜·武尔夫的搜索提示内容更偏向于尼克·克莱格的特点。在搜索武尔夫的名字时,很可能会出现指向妓女及陪侍行业的搜索项。

 

得知在网上搜索自己姓名时可能会出现这些结果之后,武尔夫把谷歌告上了法庭,并且打赢了这场官司。德国的一家法院做出判决,谷歌必须保证自动补全算法生成的搜索项不含有任何攻击性或中伤性的内容。谷歌大为光火,宣称对这个判决结果感到极为“失望”。因为谷歌一直认为自己的算法都是客观的,而这个判决结果是对这种客观性的公开质疑。谷歌公司发言人说:“我们认为,谷歌不应当对自动补全算法生成的搜索项负责,因为这些预测不是谷歌自己完成的,而是计算机算法基于之前的搜索记录自动完成的。目前,我们正在重新审视我们的选择。”由此可以看出,问题的根源在于谷歌对算法远景的迷信。我们在第3章提到科幻作家非利普·迪克的“少数派报告”这个概念,与之相似,如果算法也会出错,就有可能导致灾难性的后果。叶夫根尼·莫左罗夫在他的《网络错觉》一书种指出:“谷歌公司在精神上对‘算法的中立性’倍加推崇,说用在其成为世界上最重要的信息看门人之后,一种不安情绪正在公司内部滋生。谷歌的创始人宁愿把技术看成一种自律的、完全客观的力量,也不愿意因为担心公司系统中包含内在的偏见而无法安然入睡。毕竟,这些系统已经异常复杂,所有谷歌工程师都不可能对其了如指掌。”

 

在讨论谷歌的书箱与文章中,人们常常会大谈特谈谷歌的崛起对报纸等传统新闻媒体的衰落所起到的关键性作用。从这个意义上讲,尽管谷歌自己并不报道新间,但它已经取代了传统媒体。不过,如果谷歌算法同报纸一样,也必须遵从某些标准,就会面临一些问题。在一项经典的新闻编辑室的客观性研究中,社会学家盖伊·塔奇曼指出,新闻业之所以客观公正,就是因为担心会导致诽谤中伤的后果。记者不报道自己的观点,而是报道其他人的观点,由此规避了人们指控他们的报道带有个人偏见的风险。谷歌的自动补全算法提供的搜索项是基于数千名甚至几百万名用户之前的搜索记录而生成的,因此,该算法提供的也不是自己的观点,而是引述他人的观点。但是,由于没有对这些搜索项加以审查,算法没有做到明显的客观中立,谷歌公司还是受到了诽谤和中伤他人的指控。信息化周刊

 

摘自:《算法时代——新经济的新引擎》

电子杂志阅读

微信扫一扫

 

 

 

 

 

 

评分
( 0 人投票 0分 )

提交评论(不超过800字)