应当如何重塑当代互联网

当代世界为何在互联网中变得更糟

是来自杰伦·拉尼尔[1]2018年4月在TED大会上的演讲。[2]我想,应该有更多的人看到它。


We can not have a society in which, if two people wish to communicate, the only way that can happen is if it's financed by a third person who wishes to manipulatet hem.

—Jaron Lanier


回到 1980 年代,那是我首次在 TED 演讲,也是我首次在 TED 现场公开演示了虚拟现实。在那时,我们知道我们正面对着一个险恶的未来,我们所需的技术,我们热爱的技术可能会毁灭我们。我们知道如果我们把技术当作一种获取更多力量的手段,如果我们只把技术当作追逐力量的武器,我们将不可避免地毁掉自己。当我们追逐权力而不是其他东西时,这无疑将会发生。

所以那个时候的数字文化主义往往是首先承认潜在的负面影响,再想办法用美好和创意去超越它。

JaronLanier◎ Jaron Lanier 在TED大会演讲

我过去总爱用令人毛骨悚然的语气结束TED演讲,“我们正面临一场挑战。我们得围绕科技去构建一种美丽,充满意义的文化,如此深刻,富有创造力,拥有无限潜力的文化,去把我们从实施大规模的自杀中解救出来。”我们谈的灭绝与创造一种充满诱惑,无限创意的未来是同一个事情。我仍然相信将创造力作为死亡的另一个选项是非常真实和确凿的事情,可能世间存在的最真实的事情。

在虚拟现实的例子中,我过去谈到它的看法是,它就如人类发现语言一样,语言带来了新的冒险,新的深度,新的意义,新的连接方式,新的协调方式,新的想象方式,新的抚养孩子的方式,我想象中的虚拟现实,这种新的东西就像一场对话,亦如半睡半醒的有意识的梦境。我们称之为“后符号交流”,因为这就像可以直接做你所经历的事情一样,而无需间接创造符号去指代事物。

它是个美丽的图景,我至今仍然认为萦绕在美丽图景的背后是它可能导致的黑暗一面。

我想我可以提一下一位非常早期的计算机科学家,诺伯特·维纳。他在我出生之前的 50 年代写过一本书,书名叫《人有人的用处》。在书中,他描绘了创造电脑系统来收集人类数据并实时向人提供反馈,从而可以把他们放在如同统计学里的斯金纳箱,一个行为系统中,他写下了这样的神来一笔,我们可以想象,作为一个思维实验——这不是原话,我只是复述一下——我们可以想象一个全球的电脑系统,人人时刻带着这个设备,这个设备根据用户的操作实时给以回馈,全部人的行为都会得到一定程度的修正。这样社会将是疯狂的,无法生存,无法面对它的问题。

随后他说,但这只是一个思想实验,这样的未来在技术上是不可行的。

显然,我们已经构建了一个如果我们要生存,就必须撤销的社会。那么……

我认为我们在很早以前犯下了一个非常特别的错误,要弥补这个错误,我们就得先理解这个错误。这始于90年代,然后进入世纪之交,事情是这样发生的。早期的数字文化,事实上,直至今天的数字文化,都有一种,像左派,社会主义的使命。跟其他事物不同的是,比如书籍的发明,互联网的一切都是公开的,必须可以免费获取,因为一旦有一个人无法获得这种服务,就会制造可怕的不平等。当然,也有其他的处理方法。如果书籍需要花钱,你可以去公共图书馆。诸如此类。但我们在想的是,不不不,这完全是特例。这必须是纯粹的公共公有物。

所以这种精神永流传,你可以在像维基百科这样的设计中体验到,以及许多其他东西。但同时,我们也怀着同样的热情,相信另一件完全不相容的事情,那就是追捧我们的科技企业家。

我们喜欢乔布斯,我们喜欢尼采的神话,即技术专家可以影响宇宙。对吧?这种神秘的力量仍然对我们有影响。所以你有两种不同的激情,支持一切免费,并且崇拜科技企业家近乎超自然的力量。当一切都是免费的时候,你如何庆祝企业家精神?

那时候只有一个解决方案,那就是广告模式。所以 Google 是免费的,但自带广告。Facebook 也是免费的,也自带广告。一开始,它挺可爱的,就像非常早期的 Google。

广告确实就是广告,比如当地的牙医之类的。但还有个叫摩尔定理的东西,可以让计算机越来越强大和便宜。他们的算法越来越好。大学里面,很多人在研究算法,它们变得越来越好,使用这些系统的客户和其他公司也变得越来越有经验,越来越聪明。这一开始是广告的东西真的不能再称之为广告了。它变成了行为修正器,就如诺伯特·维纳所担忧的。

所以我不能再称这些为社交网络,我叫它们为行为修正帝国。

我不想诋毁那些优秀的个人,我在这些公司有好朋友,把公司卖给了谷歌,尽管我认为它是这些帝国中的一个。我不认为这是坏人做坏事的问题,我觉得这只是一个全球性的悲剧,可笑的错误,而非一波邪恶的浪潮。

我再给你们讲一讲关于这个特别的错误是如何作用的。用行为主义的理论讲,你给生物——不管这个生物是老鼠,狗还是人——一个小的奖赏,或者一个小的惩罚,作为他们动作的反馈。如果你在笼里养了一只动物,这个奖惩可能是糖果或电击。但如果你拥有一台智能手机,奖惩就不是这些实物,而是象征性的。巴甫洛夫,一位早期的行为学家,阐述了这条知名的原则。用铃声,用一种符号就足以让一只狗流口水。所以在社交网络上面,社交奖惩的作用就如同现实中的奖惩一般。我们都知道这些东西带给我们的感觉,你会有点小兴奋——“有人喜欢我的东西,它又被重复了。”或者是惩罚:“天呀!他们不喜欢我,也许其他人更受欢迎,老天!”所以你有这两种非常普遍的感受,它们以这样的方式让你困在这个循环中。类似系统的许多创始人已经公开承认每个人都知道这是怎么回事。

但问题是,传统上,在行为主义方法的学术研究中有积极和消极刺激的对比。在这个商业设定中,则出现了新的差异,这种差异远离学术世界已经有一阵子了,这个差异在于,在不同的环境中,无论积极刺激是否比消极刺激更加有效,消极刺激往往成本都更加低廉。这是讨价还价的刺激。所以我的意思是,失去信任总比构建信任要更加容易。需要很长的时间才能构建爱情,但却只需要短短的时间就足以毁掉爱情。

这些行为修正帝国的客户处于非常快速的循环中,他们就像高频交易员不断从用户的消费中获得反馈,不是消费就是其他别的活动,他们一旦发现凑效的方式,就去做更多这样的事情。他们可以得到快速反馈,这就意味着他们会对更多的负面情绪做出反应,因为负面情绪来得更加快速。因此,即便是善意的商家,认为他们做的只是牙膏广告,也最终诱发了消极人群的增加,那些负面情绪,比如恶作剧,偏执,愤世嫉俗,虚无主义,都是容易被系统放大的负面情绪。而且你还无法通过给这些公司付钱让他们突然把世界变好,提升民主,无法跟你付钱毁掉这些东西那样容易。所以这就是我们所陷入的困境。

替代方案是拨转时钟,克服极大的困难,重做决定。重做决定意味着两件事情。这首先意味着很多人,那些可以承担得起的,可能最终要为这些东西买单。你为搜索买单,你为社交网络买单。你如何买单?也许是通过订阅付费的方式,也许是微支付,有很多选择。假如你们有些人心存抗拒,想的是,“老天,我才不会为这些东西买单!你怎么能做到让别人付钱呢?”我想要提醒大家刚刚发生的事情。在 Google 和 Facebook 形成免费观念的同时,很多网络文化也相信在未来,电视和电影也会以类似维基百科那样的方式创作。但同时,诸如 Netflix,Amazon,HBO 那样的公司则说“订阅吧,我们会给你精彩的电视节目!”这还挺有效的!我们现在所处的时代叫“顶峰电视”时代,对吧?所以有时候,当你为此付费了,事情就变得更好了。我们可以想象一种假设——

我们可以想象一个假设的“顶峰社交媒体”世界。它会是什么样子?这意味着当你登陆后,你可以得到真正有用的权威医疗建议,而非社交狂躁这可能意味着,当你想要真实信息时,就不会有一堆奇怪的,偏执的阴谋论冒出来。我们可以想象其他美妙的可能。啊!这是我的梦想,我相信这是可能的。我确信这是可能的。我确定 Google 和 Facebook 这类公司在这个世界上可以做得更好。我不认为我们需要惩罚硅谷。我们只需要重新做决定。

在大型科技公司中。确实只有两家公司以行为修正和信息监视作为商业计划。他们就是 Google 和 Facebook。

我爱各位。这是实话,他们都很棒。请允许我这么说,如果你观察一下 Google,他们可以无止境地向这些公司分摊成本中心,但他们无法分摊利润中心。他们无法多元化,因为他们醉心于此。他们沉迷于这种模式,跟他们的用户一样,他们跟用户处在同样的陷阱。你不能以那种方式运营一家大公司。所以这最终完全是为了股东以及公司其他利益相关者的利益。这是双赢的方案,只是需要花点时间想出解决方法。很多细节问题需要解决,这是完全可行的。

我不相信我们的物种可以生存下去,除非我们修正这点。我们不应该活在这样一个社会,如果两个人想要沟通,唯一方式就是需要被想操纵他们的第三个人赞助。

与此同时,如果公司不改变,就注销你的账号,好吗?

我要说的就这些。谢谢诸位。


  1. https://baike.baidu.com/item/%E6%9D%B0%E4%BC%A6%C2%B7%E6%8B%89%E5%B0%BC%E5%B0%94

  2. https://go.ted.com/CUJz

点击刷新