- 译本 >
- 没有思想的世界-舍其 >
- 第一部 思想的垄断者
第三章 扎克伯格：向自由意志开战
硅谷貌似脱胎于反主流文化，但实情并非如此。硅谷信奉的所有价值观都是20世纪60年代的价值观。大型科技公司都自我标榜为个人解放的平台，就跟斯图尔特·布兰德宣扬的一模一样。人人都有权在社交媒体上畅所欲言，有权实现自己的才智和民主潜力，也有权表达自己的个性。以前的电视是一种被动接受的媒介，把人民变得了无生气，但如今的脸书让人人都能参与其中，能给人自主权。脸书允许用户广泛阅读、独立思考，并形成自己的观点。
我们没法完全无视这种说法。在世界上有些地方，甚至包括美国，脸书确实在鼓励民众组织起来反对强权。但我们也不能就这么认为脸书对自己的认识是真诚的。脸书是个精心管理的自上而下的系统，而非人气爆棚的公共广场。系统模仿了一些交流模式，但这只是表面特征。实际上，脸书只是乱成一团的信息分类规则和程序，公司设计这些规则，只是为了公司的最终利益。脸书始终在监控、审查用户，把用户当成小白鼠，用来做行为实验。尽管脸书给人的印象是给用户提供了选择，但同时又家长式地把用户轻轻推向它认为对用户最有利的方向，而这个方向恰好也最能让用户彻底沉迷其中。这种虚伪在脸书策划人凝练浓缩、意义深远的职业生涯中最为明显。
马克·扎克伯格是个好孩子，但他挺想变成坏孩子，或者就是想淘气一下。他少年时代的盖世英雄是最早的黑客。说得更准确点，他的偶像不是恶意满满的数据窃贼，也不是网络恐怖分子。用黑客圈子里的说法，这种居心不良的不法分子叫作“溃客”（crackers）。扎克伯格从来没有崇拜过溃客。不过，他心目中的黑客英雄从不尊重权威。他们是技术精湛、足智多谋的书生牛仔，传统思想可束缚不了他们。20世纪六七十年代，他们在麻省理工实验室排除万难建起了早期计算机系统，比如最早的视频游戏和文字处理器等。空闲时间他们的恶作剧玩得挺大，也恰好让他们的聪明才智更加引人注目——在剑桥宿舍的屋顶吊上去一头活生生的牛；在哈佛对耶鲁的橄榄球赛打到一半的时候，奇迹般地从草皮下面冒出来一个气象气球，球上大书“麻省理工”字样。
黑客最主要的敌人是管理大学、公司和政府的官僚。那些官僚高谈阔论的也是如何让世界变得更有效率，就跟黑客们一模一样。但这些埋头案牍的官僚心胸真心狭窄[1]，只知道紧紧护住自己手里的信息，即使这些信息渴望被分享也无济于事。黑客如果设计出了明显更好的做事方式——能打免费长途电话的盒子[2]，也许能改进操作系统的指南——他们就会挡在黑客的路上，竖起一根食指大摇特摇。但是黑客也会因为在智力、计谋上胜过这些西装革履的人而感到快意，这种快意又艺术又滑稽。
扎克伯格来到哈佛是2002年秋天，这时候黑客的黄金时代早已远去。黑客如今都垂垂老矣，也成了好故事的素材，有的还陷在与政府权力的最后斗争中。但扎克伯格也想当黑客，也有过去那种对标准规范漠不关心的态度。高中时他曾化名扎克·费德尔（Zuck Fader）[3]，破解过“美国在线”（AOL）防止外人篡改代码的密码，还在“美国在线”的即时通信软件中加进去了自己的改进。大学二年级，他建了个网站名叫Facemash，目标高度明确，就是要选出谁是校园里最可爱的人。扎克伯格要求用户比较两张学生照片，确定哪张更好看，每次比较的胜出者将晋级他的下一轮荷尔蒙锦标赛。为了把网站搭建起来，扎克伯格需要照片。哈佛各宿舍楼的服务器里存的学生照片，都被扎克伯格偷了过来。网站最后完工时，他在博客上写道：“有一件事是肯定的——我就是建这个网站的小浑蛋。”[4]
他的反叛实验极为短暂，以他向哈佛纪律委员会和校园女性团体道歉告终，甚至还认真考虑过如何挽回自己的恶名。随后几年，他证明了叛逆不是他的天性。他对权威十分不信任，于是找了《华盛顿邮报》德高望重的董事长唐·格雷厄姆（Don Graham）当自己的导师。创建脸书之后，他跟在美国各个大公司后面如影随形，以便好好学习它们的管理风格。尽管他还是没能完全摆脱局促不安的样子，但好歹有效克服了内向的性格。他现身高级晚宴，参加脱口秀节目“查理·罗斯（Charlie Rose）访谈录”，以及拍摄《名利场》杂志封面。
但他少年时代对黑客的痴迷从未消失，毋宁说他将这种痴迷代入了自己新的、更成熟的身份中。当他终于有了自己的公司园区时，他设法弄到了一个虚荣心十足的地址：黑客路一号（One Hacker Way）。他设计了一个广场，“黑客”一词就嵌在广场上。在办公园区中心位置，他创建了一个开放式的会议空间，也命名为“黑客广场”。当然，这也是他的员工焚膏继晷，投身黑客马拉松的地方。在一群未来的企业家面前，他曾说道：“我们有这么一种思潮，就是我们想建立黑客文化。”[5]
还有很多公司也同样采用了黑客文化——黑客是原始的搅局者——但没有哪家走得像脸书这么远。这也合情合理，因为黑客文化并非没有风险。“黑客”一词意味深长，而且很可能会让人敬而远之，至少对那些希望领导层理性、守规矩的股东来说是这样的。但是到扎克伯格赞美黑客行为大有好处的时候，他已经把这个词大部分的原始含义都去掉了，并提炼成一种管理哲学，几乎再也找不到一丝叛逆的味道，甚至都可以解读为叛逆的反面。他曾告诉一位采访者，黑客“只不过是一群计算机科学家，一心只想赶快建起原型，好看看都有哪些可能。这也是我在这里试着鼓励我们的工程师去做的”。[6]当黑客就是当一名好员工，成为有责任感的脸书公民——公司会用激进的个人主义语言来为墨守成规的思想服务，以上说法不过是这一方式小试牛刀。
扎克伯格号称将黑客精神浓缩成了一句格言：“快速行动，打破成规。”[7]脸书在这方面确实做得很好。实际上，脸书的行动快到了扎克伯格都未曾想到的地步。严格来讲，他创建脸书并非有意为之。大家都知道，他这家公司只不过是在宿舍里过家家，喝了瓶红牛彻夜难眠想出来的玩意儿。随着这个创造物不断成长，他需要向投资人、用户和这个世界证明新规模合情合理，公司也需要快速成长。在哈佛跟扎克伯格联手创办这家公司的达斯廷·莫斯科维茨（Dustin Moskovitz）说：“对我们这个品牌来说，摆脱曾经的轻浮形象总是十分重要，尤其是到了硅谷。”[8]在迄今为止的短暂生涯中，公司在不同的自我描述之间逡巡来去，曾经管自己叫作工具、公用事业和平台，一会儿谈自己的开放，一会儿又谈自己的连通。公司一直在尝试给自己下一个定义，通过所有这些尝试，公司终于弄清楚了自己的意图。
尽管脸书时不时总会谈到政府和公司的透明度，但它真正想要推进的是个人的透明度——或者用公司自己在不同场合下的说法，就是所谓的“彻底透明”或“终极透明”[9]。公司的理论是，将我们的私密细节像阳光一样无私分享，这阳光就会杀灭我们生活中的道德混乱。就算我们并不打算将自己的秘密公之于众，把这些秘密暴露出来还是会让社会得到改善。我们见不得人的事儿被广而告之的威胁越大，我们就越会洁身自好。无处不在的罪证照片，证据确凿的揭露之举，也许还会让我们对他人的罪恶更能容忍。除此之外，诚实地生活也自有好处。扎克伯格曾说道：“你给自己工作上的朋友，或者说一起工作的人留下的印象，跟你留给你认识的其他人的印象有所不同，这样的日子可能很快就要一去不复返了。你要是拥有两种身份，就说明你不够诚实。”[10]关键在于，对于什么对你来说是最好的，脸书有强烈的、家长式的观点，并且会试图将你引向那里。扎克伯格说：“让人们变得更加开放，是个很大的挑战。但我觉得我们能做到。”[11]他有理由相信自己能达到目标。脸书因其规模而积聚了超级强大的力量，强大到了扎克伯格都懒得否认这一事实的地步。“脸书在很多方面都更像政府，而不是传统的公司。我们有这么大的一群人，我们真正制定的政策也比别的科技公司要多得多。”[12]
扎克伯格其实继承了一个长久的政治传统，但他自己并不知道。过去两百年，西方一直有一个幻想，长长久久，无人能撼动。在这个梦想序列中，我们把废物政治家扔到一边，代之以工程师——用计算尺[13]来统治。血腥的法国大革命让整个世界都天翻地覆，而大革命之后的法国也是最早考虑这一概念的国家。国内一些有影响的哲学家——尤其是昂利·圣西门（Henri de Saint-Simon）和奥古斯特·孔德（Auguste Comte）——确实对本国的发展道路感到左右为难。他们恨透了那些寄生虫一般的古老的政权捍卫者——封建领主、牧师和武士——但他们也害怕暴徒带来的混乱。他们折中提出了一种技术治国的形式——工程师和各式各样的技术人员，将以毫无偏狭的善意统治这个国家。工程师将剥除政权中的旧秩序，用科学精神执政。他们会把理性和秩序强加给社会。
从那时起，这个梦想就一直吸引着知识分子，尤其是美国人。伟大的社会学家索尔斯坦·维布伦念念不忘让工程师执掌政权的想法，还在1921年写了本书来阐明自己的观点。他的设想很快变成了现实。第一次世界大战后，美国精英被这场大战释放出的那么多非理性冲动惊呆了——仇外情绪、种族主义、私刑冲动和暴乱等。雪上加霜的是，经济生活的现实也变得越来越复杂：政客怎么可能管好这一切呢？所有美国人，无论有什么信仰，都开始翘首以盼赫伯特·胡佛成为救世主——他是那个年代最有名的工程师。战争期间，胡佛组建了一个系统，成功救济了饿着肚子的欧洲人民，尽管这个任务看起来难如登天。1920年，富兰克林·罗斯福组织人手动员胡佛竞选总统，不过到后来，罗斯福最终还是靠政治手段于1932年战胜胡佛赢得了总统选举。
胡佛的实验最终基本上没能实现这位工程师国王的美好幻想。但这个梦想有另一个非常不同的版本，倒是以大型科技公司首席执行官的形式变得硕果累累。我们没有被工程师统治，至少现在还没有，但工程师已经成为美国生活的主导力量，成为美国精英中最高、最有影响力的阶层。马克·安德森创造了一句著名格言：“软件正在吞噬这个世界。”[14]这个说法其实不够精确——准确来讲，真正吞噬这个世界的，是软件的作者。
这一历史进程还有一种描述方式。自动化浪潮滚滚而来。工业革命期间，机器取代了手工业者。刚开始也还需要人工操作，但随着时间流逝，机器变得几乎不需要人的任何介入就能运转。这几个世纪里，工程师都在将体力劳动自动化；我们最新的工程学精英都有自动化思想。他们有完善的技术，可以接管智力思考过程，让大脑变得多余。或者就像玛丽萨·迈耶（Marissa Mayer）曾提出的那样：“你得让文字的人味儿更少一些，机器味儿更浓一些。”[15]实际上，我们已经开始把一些智力活动外包给公司，由那些公司来告诉我们该学什么，该关注什么话题，该买什么东西。这些公司侵入了我们的生活，但它们也会用圣西门和孔德阐述过的论点来为自己辩护：它们的入侵给我们带来了效率，它们在给人类生活带来秩序。
要说谁把工程学力量改变社会的现代信念阐述得最清楚，那肯定非扎克伯格莫属。他告诉一群软件开发人员：“你们也知道，我是工程师。我相信，工程学思维模式中很关键的一点是如下希望和信念：现有的任何系统，你都能拿来改造得比现在要好得多。任何东西，不管是硬件还是软件，或是一家公司，一个开发者生态系统，你都可以让它变得更好。”[16]只要扎克伯格的理由能够盛行，这个世界就会天天向上——也确实会如此。
脸书的力量，准确来讲是来源于算法。关于这些科技巨无霸的几乎每一篇报道都在一遍遍忠实地重复着这个说法，但对这些网站的用户来说，这充其量也只是个模糊概念。从发明算法的那一刻起，就能看到这个算法的威力和革命性的潜力。开发这个算法是为了实现自动化思维，让人类不再面临艰难抉择，并解决争议。要理解算法的实质，以及算法自命为乌托邦的信心从哪里来——就需要回到算法的诞生地，历史上最毋庸置疑的天才，戈特弗里德·莱布尼茨的脑袋里去看看。
莱布尼茨比笛卡尔晚出生半个世纪，但他成长的世界充满了同样的宗教冲突。他的祖国德国也是马丁·路德（Martin Luther）的故乡，这片饱受争议的领土是三十年战争的中心地带，也是历史上最可怕的屠场。虽然战场本身因为死亡人数就已经让人毛骨悚然，但战争后果同样令人谈虎色变。痢疾、斑疹伤寒、瘟疫征服了德国各公国。战争之后大闹饥荒，人口锐减，一共死了大约400万人。德国遭受破坏最严重的几个地区，人口减少了一半还多。
莱布尼茨出生时，欧洲各国谈判达成《威斯特伐利亚和约》，结束自相残杀。因此，他注定会将自己惊人的智慧和精力用于调停新教徒和天主教徒，并制定能实现大同世界的规划。“惊人”这个词也许还不足以形容莱布尼茨的精神力量。几乎只需要一呼一吸之间，他就能冒出一个念头。他留下的文档到现在也没完全公开，其中有约20万页手稿，满是令人叹为观止的创造。莱布尼茨发明了微积分——准确地说，他并不知道牛顿之前也发明过这个玩意，但我们现在用的符号全都是他发明的。他的形而上学和神学论文影响深远，他绘制过手表和风车的设计图，还曾提议发展全民医保，以及开发潜水艇。在作为外交官派驻巴黎期间，他促请路易十四入侵埃及。这是一出调虎离山之计，因为这样一来，德国的强邻就会转而沉迷于海外征途，挥师东进威胁德国的机会就少了很多。德尼·狄德罗可绝非无能之辈，但他也曾呜咽道：“谁要是……把自己的雕虫小技拿来跟莱布尼茨的天才做一番比较，恐怕就会把自己的书全都扔到一边，找个黑暗幽深的角落静静等死。”[17]
莱布尼茨的所有念头中，最宝贵的是他称之为“普遍特性”的新词儿——这同样来自他对和平的渴望。历史上不乏耽于空想的思想家从头创造一套语言，希望自己编造的语言能为族群之间的沟通铺平道路，为世界归一创造前提条件。莱布尼茨也是出于同样原因创造了自己的语言，但他还有更高的期望：他认为，一系列新的符号和表达式，将引领科学和哲学抵达新的真理，抵达新时代的理性，深入认识宇宙的优雅与和谐，最终臻于神圣。
他想象的是人类思维的字母表。他最早有这个想法的时候还是个青年学生，这也是他在阿尔特多夫大学所写的博士论文的基础。从那时起，他为实现自己的梦想制订了详细计划。会有一群学者来编写一部百科全书，这个世界一切基本的、不容置疑的真实概念，物理、哲学、几何等，都将囊括其中。他管这些核心概念叫“原始概念”，包括地球、红色、上帝等诸如此类。每个原始概念都会分配一个数值，使得这些概念可以组合起来创建新的概念，或表达已有的复杂概念。这些数值也会形成思维的新型微积分的基础，他称之为“微积分推理器”。
莱布尼茨用了一个例子来说明他的方案。什么是人？当然是理性动物。对这个认识我们可以写作
理性×动物＝人
但莱布尼茨更进一步，把这个表达式换成了数学化的表达。他提出，“动物”也许可以用数字2来代表，“理性”则是数字3。因此：
2×3＝6
思想就变成了数学——也给裁决真理问题带来了一种全新的、万无一失的方法。举个例子，莱布尼茨问道，人是猴子吗？他知道分配给猴子的数字是10。如果10不能被6整除，6也不能被10整除，那么我们就知道了，人身上没有任何猴子的成分——猴子身上也没有任何人的成分[18]。
这正是他那套语言的关键之处：知识，全部知识，最终都可以通过计算得到。非理性思维，或者说盲目思维的过程，将不费吹灰之力。人类甚至不再需要冥思苦想什么新念头。机器就能做到这一切，把概念联合、切分就行了。实际上，莱布尼茨真的造了一台原型机，又华丽又复杂，由抛光的黄铜、钢材、齿轮和转盘组成，他称之为“分步计算器”。莱布尼茨自己花了好多钱来造这台机器。向某个方向转动曲柄，这台分步计算器就能算乘法，另一个方向则是除法。莱布尼茨设计的用户界面极为细致周到，史蒂夫·乔布斯都佩服得五体投地。但很不幸，每次他想在观众面前秀一下这台机器时，都无一例外地失败了，1673年在伦敦的英国皇家学会面前就是如此[19]。这些展示令人名声扫地，不过莱布尼茨坚韧不拔，从这些失败中站了起来。“普遍特性”的重要性逼得他奋力前行。“这个体系一旦建立起来，如果未来还会有任何矛盾冲突，两个哲学家之间的争议也会再也站不住脚，就好像两个计算器之间没有任何理由会出现不一致一样。”[20]知识和道德上的争论会很容易解决，只需要持异议的人提出“那我们来计算一下吧”就行了。不再需要战争，更不必说神学上的冲突了，因为真理会被放在数学王国的领地里。
莱布尼茨是数字时代的预言家，不过他呼之欲出的想法在待产室等了好几个世纪。他提出了一个只需要用到0和1的数字系统，正是计算机所依赖的二进制系统。他阐释了白领工作自动化将如何提高生产力。[21]但他最重要的见解还是机械思维、自动化推理，正是这些认识让互联网变得如此神奇，科技公司的力量也因此有了那么大的潜在威胁。
让机械思维成为可能的程序有了名字，叫作算法。算法的本质一点儿都不复杂。[22]教科书将算法比作食谱——一组精确步骤，可以完全不动脑子地照章办理。这跟方程有所不同，因为方程只有一个正确结果。算法只刻画解决问题的过程，对于这些步骤最终走向何方没有任何意见。
这些食谱是软件的关键构件。程序员没法只是给电脑下个指令，比如说，上网搜索。他们必须给电脑一组明确指令来完成这项任务。这些指令必须将人类寻找信息时杂乱无章的行为转化成有序过程，并用代码表示出来。首先要如何，接下来要如何。这个将概念转化为程序再转化为代码的过程，本质上就是个简化过程。复杂过程必须细分为一系列二进制选择。没有哪个方程能建议你穿什么衣服，但这样的算法很容易写出来——其中包括一系列是非选择题（早上还是晚上，冬天还是夏天，天晴还是下雨），每一次选择都层层递进。
机械思维正是1935年艾伦·图灵在跑过剑桥的草地，体力不支坐倒时，脑子里做着白日梦想到的奇妙的新型计算机器，这是他第一次有这种想法。在计算机发展起来的头几十年，还没有什么人经常提到“算法”一说。但到了20世纪60年代，计算机系如雨后春笋在大学校园里遍地开花，这个词有了新的声望。它能流行开来，要归因于从业人员对自己地位的忧虑。程序员，尤其是学术圈子里的程序员，急于证明他们并非只是技术人员。他们开始把自己的工作称为“算法”（algorithm），部分原因是这个词能将他们跟最伟大的数学家——博学多才的波斯人穆罕默德·伊本·穆萨·花拉子米（Muhammad ibn Mūsā al-Khwārizmi）——关联起来，而花拉子米这个名字在拉丁文中的写法正是Algoritmi。12世纪花拉子米的著作被翻译为拉丁文，阿拉伯数字由此引入西方，他的文章也开创了代数学和三角学。计算机科学家将算法形容成编程的基本要素，附骥于一段伟大的历史。这样子狐假虎威真是聪明得很：看看，我们可不是什么趋炎附势的人，而是跟数学家一样，在跟抽象的理论打交道呢！
这幅自画像还是耍了些花招的。算法也许是计算机科学的根本，但并非完全是科学概念。算法是个系统，就像管道系统或是军事指挥系统一样。让系统正常运转需要有专门知识、计算和创造性。但有些系统比别的系统要可靠得多，就像有的部队比别的部队可靠一样。系统是人造物，而非数学公理。算法无疑起源于人类，但我们可不会把人类老爱犯错误的性格跟算法联系起来。算法拒绝贷款申请时，或是为航空公司的航班定价时，看起来可没有什么个人色彩，立场也坚定得很。算法应该没有偏见，不依赖直觉，没有情感，也从不宽恕。毕竟他们管算法叫“搜索引擎”——这么叫是在向活塞、齿轮和20世纪工业致意，尽管所用的机器已经将人类印迹清除干净。
硅谷的算法爱好者在描述他们所钟爱的对象的革命性潜力时大言不惭。算法总是很有意思也很有价值，但计算机技术的进步也让算法变得无比强大。最大的变化是计算成本。随着机器本身不断加速并接入全球网络，计算成本直线下降。计算机可以将大量未经处理的数据储存起来，算法则可以向这些数据发起进攻，找出模式和联系，而这些结果也许会逃过人工分析的法眼。在谷歌和脸书手中，这些算法变得更为强大。在进行搜索时，这些公司积累的数据越来越多，它们的机器吸收了过去所有搜索的经验，并利用这些经验按需产生更精确的结果。
对人类生存的整个过程来说，求知是不断尝试、不断犯错的艰苦跋涉。人类会设想出世界如何运转的理论，然后检视证据，看看他们的假说暴露在现实面前之后是屹立不倒还是会见光死。算法则把这种科学方法颠倒过来——模式来自数据和相关性，而不是在假说的指引下产生。算法把人类排除在求知的整个过程之外。克里斯·安德森（Chris Anderson）在《连线》杂志上撰文指出：“我们也许不再需要寻找模型，不用先假设数据可能带来什么再去分析数据，我们可以把数字扔进世界上有史以来最大的计算集群，让统计算法找出模式，而科学在此无法胜任。”[23]
在有个方面我们无法抵赖。算法不用理解字词含义就能翻译语言，只需要了解支撑句子结构的模式就行了。算法能发现的巧合之处，人类说不定连想都想不到要去找。沃尔玛的算法发现，在暴风雨来临之际人们会疯狂购买草莓馅饼。[24]不过即使算法在执行程序时是盲目的——即使算法也学过如何在数据中找出新模式——也还是会反映出创建算法的人是什么思路，以及训练算法的人有什么动机。亚马逊和网飞（Netflix）都用算法来推荐图书和电影。（亚马逊上有三分之一的购买来自推荐。）这些算法试图理解我们的品位，并推测有类似想法的文化消费者的品位。但不同算法给出的推荐还是截然不同的。亚马逊会把你导向你见过的那类书，网飞则将用户引向不熟悉的领域。这一差别有商业原因。流行大片带给网飞的数据流成本更高。如果你决定观看鲜为人知的节目，会给网飞带来更大利润。计算机科学家有句行话，说的是算法如何不停地寻找模式：它们折磨数据，直到数据招供为止。不过这个比喻也有未加审视的隐含意义。数据就像酷刑的受害者一样，审讯的人想听什么，数据就说什么。
算法有时也会透露创建者的潜意识。举个极端的例子：哈佛教授拉塔尼亚·斯威尼（Latanya Sweeney）做了项研究，发现有非裔美国人名字的用户经常会成为谷歌广告的目标，被广告直接提示说，他们有被逮捕记录需要清除。[25]［“拉提莎·史密斯（Latisha Smith）被捕？”］谷歌从未坦白解释为什么会出现这种结果，他们的算法是严格保密的。当然，我们还是知道谷歌所建立的搜索引擎，毫不隐讳地反映了谷歌珍视的价值观。谷歌认为，一个网站有多受欢迎，能体现出这个网站多有用；谷歌会选择屏蔽搜索结果中的色情内容，而不是（比方说）反犹阴谋；谷歌相信，最新文章会比怀旧金曲对用户更有益。这些选择都合情合理——很可能也是明智的商业决策——但这是选择，不是科学。
跟经济学一样，计算机科学对这个世界也有自己偏爱的模型和隐含假设。程序员学算法时，都会被告知要以效率为首要考虑因素，这完全可以理解。如果一个算法的步骤多得吓人，机器就会运转不灵，而烂泥一样的服务器毫无用处。但效率也是一种价值，我们要不断加速，就必须怎么简省怎么来，就得归纳化简。
算法可以是逻辑思维的华丽表达，自不必说还可以是自在和奇迹的源泉。算法可以在几毫秒之内找到19世纪佶屈聱牙的大部头巨著，可以让我们跟多年杳无音信的小学同学取得联系，可以让零售商转瞬之间就把包裹送到我们门前。要不了多久，算法还会引领自动驾驶汽车，准确定位我们体内正在生长的肿瘤。但为了做到所有这些，算法也一直在对我们评头论足。算法为我们做出和我们有关的决定。问题在于，如果我们将思考外包给机器，实际上就是外包给了运营这些机器的组织。
对算法，马克·扎克伯格摆出了一副假惺惺的友好批判嘴脸。他也是以这种方式含蓄地拿脸书跟敌手谷歌做对比的。在拉里·佩奇的王国中，算法就是国王，一个冷若冰霜、无情无义的统治者。在谷歌算法的推荐中，没有一丝生命力的迹象，对于在其搜索引擎中输入查询内容的人，也没表现出有多少了解。在扎克伯格大言不惭的自画像中，脸书是在这个日益自动化、原子化的世界中稍做喘息的地方。他说：“每一样产品，跟你朋友一起用都会带来更多好处。”[26]
他说的是脸书的信息流（News Feed）。有小部分人大张旗鼓地抵制脸书，这里有个简短解释：你的朋友贴在脸书上的状态更新、文章和照片，信息流全都会放在一个时间逆序的索引里。信息流本来是为了好玩，但同时也想解决现代社会的一个根本问题——面对不断增长、越逼越紧的海量信息，我们无法有效筛选。脸书的理论就是，除了我们的朋友，还有谁更能胜任向我们推荐什么该读、什么该看的任务呢？扎克伯格就曾吹嘘说，信息流把脸书变成了“个性化报纸”[27]。
但很不幸，要说能为我们做多少披沙拣金的工作，我们的朋友也只能做到这儿了。事实证明，他们特喜欢分享。如果我们只阅读他们的思考，跟着链接去看文章，那跟之前的泰山压顶比起来，我们可能只好过那么一点点，甚至也有可能更加水深火热。于是脸书自作主张，来选择什么该读。脸书的算法将脸书用户有可能看到的成千上万条项目分类整理，缩减成很小的一组选项。在这几十个条目中，算法会决定我们最想读到的可能是什么。
根据定义，算法是看不见摸不着的。但通常我们都能感觉到算法的存在——在一个遥远的地方，我们跟一台机器互动。这就是脸书的算法如此强大的原因。很多用户——根据最靠谱的研究，占60%——完全不知道算法存在。[28]但这些用户就算知道算法的影响也不会有多大差别。脸书的算法已经浑浊到了极致。公司向记者承认有算法存在时，也设法用不知所云的描述让算法更如堕五里雾中。比如说，我们知道脸书的算法曾经叫作“影响力排名”（EdgeRank），但现在这个称呼早已束之高阁。其实算法没有名字更合适一点，因为这个算法已经发展成毫无头绪的一团乱麻，几乎无法理解。为了决定用户该看到什么，这个算法要解读十万个以上的“信号”。其中有些信号适用于所有脸书用户，有些则反映了用户的特殊习惯，以及他们朋友的习惯。说不定脸书自己都已经没法完全理解乱成一团的算法了——总共有六千万行代码，就是个不断重新改写的文本，工程师层层加码，加进去各种新指令。［可不是只有脸书才这样。康纳尔大学的计算机科学家乔恩·克莱因伯格（Jon Kleinberg）在与他人合著的一篇文章中写道：“我们造出了我们自己都无法理解的机器，这大概还是破天荒头一回……在某些层面上，我们甚至都无法真正理解，那些我们能观察到的行为，这些机器是怎么做出来的。这些机器的无法理解之处就在这里。”[29]这番话中最振聋发聩的地方在于，其中的“我们”指的是写代码的人。］
考虑到这个算法实在是很抽象，我们来把最早的那些计算机想成带有好多频繁闪烁的指示灯，以及长排长排的控制器的机器。为了略微调整算法，工程师将旋钮转过一两个刻度。工程师一直在这里那里各种零打碎敲，这样机器的表现才能让自己满意。对这种比喻中的控制器，就算是最轻微的拂动也会改变脸书用户看到和读到的内容。这个算法可以让我们朋友的照片更加无处不在或不那么随处可见，可以处罚那些充斥着自鸣得意、自言自语的帖子，可以除去那些被判定为骗局的内容，可以强推视频而非文本，只要算法愿意，还可以把来自诸如《纽约时报》、BuzzFeed（“热点订阅”）的文章推上头条。如果我们想上纲上线，还可以说脸书一直在对其用户看世界的方式动手动脚——对于在喧嚣的包围中得以脱颖而出的新闻和观点该是什么质量，脸书一直在修修补补，也一直在调整政治和文化论述的质量，好让用户的注意力多停留一会儿。
但工程师是怎么知道该拧哪个旋钮，拧多大劲儿呢？有个学科专门用来指导工程师如何编写和修改算法，这就是数据科学。脸书有个从学术界挖来的团队，会在用户身上做实验。这是最让统计学家亢奋的春梦——人类历史上最大的数据集，可以拿有数学意义的各种群体实验。脸书数据科学团队前领导人卡梅伦·马洛（Cameron Marlow）谈到这一机遇时就激动得难以自已：“我们头一回有了这么个显微镜。有了它，不但可以十分细致地审视社会行为，这个细致程度我们以前从来都做不到，而且还能在几百万用户身上做实验。”[30]
脸书更喜欢吹嘘他们正在做实验，而不是实验本身的真实细节。但还是有一些超出实验室范围的例子。比如说我们知道，脸书曾经想了解情绪是否会传染。[31]为进行这项实验，脸书试着去操纵用户的心理状态。对其中一组，脸书删掉了信息流中帖子里的积极词汇，对另外一组则移除了消极词汇。脸书的结论是，每组人发的帖都呼应了修改过的帖子里的情绪。有人强烈谴责这项研究，说侵入性太强，但这项研究其实没那么不同寻常。脸书数据科学团队就曾有人承认：“团队里随便哪个人都可以做实验，他们总是尝试着改变人们的行为。”[32]
毫无疑问，脸书拥有情感和心理上的影响力——至少脸书自己毫不怀疑。脸书曾大吹大擂，说自己曾通过稍微提高社会压力促使人心向善，从而提高了投票率（和器官捐赠的案例）。脸书甚至还在有同行评议的期刊上对这些实验的结果大肆吹捧：“2006—2010年，投票率增长了0.60%，这部分增长很可能大部分是由脸书上面的一条消息导致的。”[33]没有哪家公司会这么露骨地吹嘘自己有将民主玩弄于股掌之上的能力——理由还那么充分。托付给这家公司的权力太大了。
脸书的那么多实验都可以累加起来。公司相信自己完全掌握了社会心理学，对用户的理解比用户自己还要深入。单凭用户点的赞，脸书就能预测用户的种族、性取向、婚恋状态和是不是吸毒。[34]扎克伯格的梦想就是，这些数据经过分析，或许可以揭示出所有秘密：“一个基本的数学定律，是人类社会关系的基础，控制着我们关心的所有人和事的平衡。”[35]当然，这是个远大目标。与此同时，脸书还在不断试探，想知道我们渴求什么，或是我们对什么视而不见；这场行动永无止境，目的则是让脸书更有能力向我们提供我们想要的，乃至我们都不知道自己想要的东西。无论这些信息是真实的还是编造的，是权威报道还是阴谋论，对脸书来说似乎都没那么要紧。群氓得到了他们想要的，这也是他们应得的。
思维的自动化：当然，我们还处在这场革命的早期阶段，但我们能看到这场革命会走向何方。算法已经取代了很多曾经由人来进行的官僚文章和文书工作，很快也将开始取代更有创造性的任务。在网飞，算法会向委员会建议电影该划为什么类型。有些新闻通讯社用算法来撰写关于犯罪、棒球比赛和地震的报道[36]，这些都是只需要生搬硬套的新闻采写任务。算法已经在创作美术作品和交响乐，其作品至少也可以说是庶几近之。
这个走向非常可怕，尤其是对于我们这一行的人来说。如果算法能重现创作过程，那就没有多少理由还去培养人类的创造力了。如果电脑在转瞬之间不费吹灰之力就能创作出看起来一样好的作品，那又何需还为曲折低效的写作或绘画过程费尽心血呢？如果高雅文化可以既丰富又廉价，那又何需培育高价市场呢？人类的努力在自动化面前从来都是螳臂当车，创造性工作又哪里会有所不同呢？
工程学的思维模式，对迷恋于文字和图像，对艺术的神秘之处，对道德的复杂之处和情感表达，都没有什么耐心。这种思维模式把人当成数据，当成系统的组成部分，当成抽象的东西。脸书对于拿用户疯狂做实验几乎是心安理得的，也正是这个原因。所有工作都是为了可以预测人类——预测他们的行为，让人类变得更容易操纵。有了这样的冷血思维，与人类生活的偶然性和神秘性完全脱节，就很容易看出由来已久的价值观已开始显得多么不合时宜——在工程师的小九九中，类似隐私这样的概念为什么会那么无足挂齿，出版业和新闻业的低效为什么显得那么有破坏性，让他们必欲除之而后快。
脸书永远不会这么说，但算法旨在侵蚀自由意志，让人们不再因为需要选择而如临大敌，并把人们推向“正确”的方向。算法助长了一种无所不能的感觉，一种高人一等的信念，相信我们的行为可以被改变，甚至都不需要知道有人在指引我们往更好的方向前进。这一直是工程思维模式的危险所在，因为工程学本来只用于建造无生命的物体，但现在已经超过这个根本，开始设计更加完美的新世界了。在这一宏伟设计中，我们只是一颗颗螺丝钉。
[1] Steven Levy, Hackers (O’Reilly Media, 2010), 29, 96.
[2] Markoff, Dormouse, 272.
[3] Patrick Gillespie, “Was Mark Zuckerberg an AOL Add-on Developer?,” patorjk.com, April 9, 2013.
[4] Ben Mezrich, The Accidental Billionaires (Anchor Books, 2009), 49.
[5] Levy, Hackers, 475.
[6] “Facebook CEO Mark Zuckerberg on stumbles: ‘There’s always a next move,’” Today, February 4,2014.
[7] “Mark Zuckerberg’s Letter to Investors: ‘The Hacker Way,’” Wired, February 1, 2012.
[8] David Kirkpatrick, The Facebook Effec (Simon & Schuster, 2010), 144.
[9] Kirkpatrick, 209.
[10] Kirkpatrick, 199.
[11] Kirkpatrick, 200.
[12] Kirkpatrick, 254.
[13] 计算尺，即时数计算尺，是一种模拟计算机，由3个相互锁定的刻度长尺和一个游标组成。在20世纪70年代之前使用广泛，后被电子计算器取代。——编者著
[14] Marc Andreessen, “Why Software Is Eating the World,” Wall Street Journal, August 20, 2011.
[15] Laura M. Holson, “Putting a Bolder Face on Google,” New York Times, February 8, 2009.
[16] Ben Thompson, “Why Twitter Must Be Saved,” Stratechery, November 8, 2016.
[17] Matthew Stewart, The Courtier and the Heretic (W. W. Norton, 2006), 12.
[18] Umberto Eco, The Search for the Perfect Language (Blackwell, 1995), 274.
[19] Stewart, 141.
[20] Eco, 281.
[21] James Gleick, The Information (Pantheon, 2011), 93.
[22] John MacCormick, Nine Algorithms That Changed the Future (Princeton University Press, 2012), 3–4.
[23] Chris Anderson, “The End of Theory: The Data Deluge Makes the Scientific Method Obsolete,”Wired, June 23, 2008.
[24] Constance L. Hays, “What Wal-Mart Knows About Customers’ Habits,” New York Times, November 14, 2004.
[25] Latanya Sweeney, “Discrimination in Online Ad Delivery,” Communications of the ACM 56, no. 5(May 2013): 44–54.
[26] Charlie Rose Show, November 7, 2011.
[27] Alexandra Chang, “Liveblog: Facebook Reveals a ‘New Look for News Feed’,” Wired, March 7,2013.
[28] Motahhare Eslami, Aimee Rickman, Kristen Vaccaro, Amirhossein Aleyasen, Andy Vuong, Karrie Karahalios, Kevin Hamilton, and Christian Sandvig, “I always assumed that I wasn’t really that close to [her]: Reasoning about Invisible Algorithms in News Feeds,” CHI’15 Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems, April 2015, 153–62.
[29] Jon Kleinberg and Sendhil Mullainathan, “We Built Them, But We Don’t Understand Them,” Edge,2015.
[30] Tom Simonite, “What Facebook Knows,” Technology Review, June 13, 2012.
[31] Adam D. I. Kramer, Jamie E. Guillory, and Jeffrey T. Hancock, “Experimental evidence of massive scale emotional contagion through social networks,” Proceedings of the National Academy ofSciences 111, no. 24 (June 17, 2014): 8788–90.
[32] Reed Albergotti, “Facebook Experiments Had Few Limits; Data Science Lab Conducted Tests on Users With Little Oversight,” Wall Street Journal, July 2, 2014.
[33] Robert M. Bond, Christopher J. Fariss, Jason J. Jones, Adam D. I. Kramer, Cameron Marlow, Jaime E. Settle, and James H. Fowler, “A 61-Million-Person Experiment in Social Influence and Political Mobilization,” Nature 489, no. 7415 (September 13, 2012): 295–98.
[34] Michal Kosinski, David Stillwell, and Thore Graepel, “Private traits and attributes are predictable from digital records of human behavior,”Proceedings of the National Academy of Sciences 110, no.15 (April 9, 2013), 5802–5.
[35] Michael Rundle, “Zuckerberg: telepathy is the future of Facebook,” Wired, July 1, 2015.
[36] Joanna Plucinska, “How an Algorithm Helped the LAT Scoop Monday’s Quake,” Columbia Journalism Review, March 18, 2014.
