找回密码
 注册新帐号

QQ登录

只需一步,快速开始

小木虫 小木虫快讯 观点 科技双刃剑辨析――兼评扎克伯格与马斯克之争

科技双刃剑辨析――兼评扎克伯格与马斯克之争

2017-7-27 14:32| 发布者: |原作者: 吕乃基

摘要:   英国技术哲学家大卫・科林格里奇发现,一项技术的社会后果不能在技术生命的早期被预料到。然而,当不希望的后果被发现时,技术却往往已经成为整个经济和社会结构的一局部,以至于对它的控制十分困难。这就 ...
  英国技术哲学家大卫・科林格里奇发现,一项技术的社会后果不能在技术生命的早期被预料到。然而,当不希望的后果被发现时,技术却往往已经成为整个经济和社会结构的一局部,以至于对它的控制十分困难。这就是控制的困境。当变化容易时,对它的需要不能被预测;当变化的需要变得明显时,变化却变得昂贵、困难和耗时间,以致难以或不能改变。这就是所谓科林格里奇困境。(技术的社会控制1980)
  前不久,以百位诺奖得主为代表的科技界和孟山都等为代表的业界为一方,以绿色组织等为另一方,就转基因等唇枪舌战,各执一词。在中国,围绕三峡工程的争论年复一年,随洪水之大小而起伏涨落,还有南水北调、连云港核废料……。
  于是,科林格里奇困境可以改写为:
  一项技术在刚推出来时信心满满,然而不久便发现,实际上还有诸多当时没有觉察,甚至被故意掩盖或压制的弊病开始发酵,然而却为时已晚。
  更大的争论是人工智能。扎克伯格与马斯克,马斯克所言是危言耸听,还是对于人类的危险迫在眉睫?
  这就涉及到关于技术的更大的话题:双刃剑。
  什么是科林格里奇困境背后的原因?科技双刃剑的本质何在?
  一、双刃剑的指向
  无论是利还是弊,双刃剑都具有三个维度:指向人与自然的关系,指向人际关系,以及指向人与自身的关系。
  1.指向人与自然的关系
  黑格尔的哲学中有一个重要概念:“理性的机巧”。“理性的机巧”的含义之一是,人把自然界当作工具,人在利用自然改造自然的活动中实现了自己的目的。
  “那作为支配机械和化学过程的力量的主观目的,在这些过程里让客观事物彼此互相消耗,互相扬弃,而它却超脱其自身于它们之外,但同时又保存其自身于它们之内。这就是理性的机巧”。“…一方面让事物按照它们自己的本性,彼此相互影响,相互削弱,而它自己并不直接干预其过程,但同时却正好实现了它自己的目的。”“人的理性的狡计使他能用其他自然事物抵御自然力量,让这些事物去承受那些力量的磋磨,在这些事物背后维护和保存自己”。
  自古以来,人类就是依靠这样的“机巧”在自然界繁衍生息,发展至今。
  然而,正是在这样的“机巧”――利用一局部自然反对另一局部自然的过程中,犹如“煮豆燃豆萁,豆在釜中泣”,必然在空间上给自然的另一局部或整体带来损伤,在时间上是后果的积累和传递,最终导致自然的报复,这样的事例举不胜举。
  从根本上说,任何技术都是一种对自然的“干预”、“破坏”过程,即使绿色技术,也是为了当下部分的目的而选择特定的自然以反对另一局部自然,难以厘清由此给作为整体的自然及其长远的演化造成的影响。
  2.指向另一局部人
  在人际关系上,技术的双刃剑表现为一局部人获利的同时侵犯另一局部人的权益。这两局部人可以是商家和消费者,两个国家,在代际之间,或者任何可能的情况。只要有人跨出一步并因此获利却没有被制约或制止,那么其他人,或者权益受损,或者获利甚少(位于微笑曲线底部)甚至没有获利,必然你追我赶,例如军备竞赛。
  从当年“我们也要搞原子弹”到今日的基因编辑和人工智能,成为羊还是牧羊人,竞争正未有穷期。
  维纳富有远见地指出,“只有实现世界大同,不再存在相互冲突的利益集团,才有可能全面抑制科学(应该是技术)的负面作用,充分调动和发挥科学的正面作用。但是,这个目标的实现,假设有可能,也是非常非常遥远甚至是遥遥无期的”,一个又一个气候会议的艰难甚至难产就是明证。
  3.指向自身
  在人与自身的关系上,技术的“器官说”或“平台说”有助于理解其双刃剑效应。当人类站在技术所提供的平台上继续攀登之际,也就遗忘、遮蔽了平台下的能力,将这局部能力托付给技术。人类日渐疏离自然,投身于技术的怀抱,如浮士德一样沉迷于其间,乃至上瘾而不能自拔。
  有人问,技术在人类面前开启了一扇又一扇关闭着的门,你能拒绝其诱惑不进去吗?人类一旦进入这扇或那扇门,他的行为与未来的走向不是受制于这样或那样的商品吗?再者,如果说,上帝在关上一扇门之时,会打开一扇窗;那么,技术在开启这扇门之际,也就遮蔽或关上了另一扇门。到底是开窗,还是开门?
  技术与人性之争同样伴随人类到永远。
  二、不对称的双刃剑
  双刃剑的不对称有五个含义,分别为时间不对称、空间不对称、可预见性不对称,在大多数情况下,剑与持剑者的知识含量越来越不对称,以及对“双刃”的价值判断不对称。
  时间不对称,指当下的积极效应立竿见影在当下显现,而消极后果则滞后及有待长期积累。自第一次工业革命以来,几乎所有由技术导致的负面影响都是在事后。大自然的“报复”在当时没有立即兑现,是因为需要积累,“时候未到”,“反作用”与“作用”并非同时发生。
  一项技术在全力实现其目标之时,负面影响仅仅作为“副作用”(甚至并不知晓)而存在,其影响有待积累,一直到被影响者有所感知。这是双刃剑在时间上不对称的根源。
  上世纪40年代,DDT作为有效农药大行其道,然而,在接受过DDT喷撒后,许多种昆虫能迅速繁殖抗DDT的种群;DDT会积累于昆虫的体内,这些昆虫成为其他动物的食物后,那些动物,尤其是鱼类、鸟类,则会中毒而被危害。所以喷洒DDT就只是获得近期的利益,却牺牲了长远的利益。直至1962年卡逊出版寂静的春天后,问题才开始得以纠正,事隔已近20年。
  在此意义上,所谓“先发展后治理”,并非没有一点道理,而是在某种程度上暗合了技术双刃剑在时间上的不对称。人们不可能或至少很难在发展之初,即去着手去治理尚未发生的不明不白的后果。
  转基因和黄金大米后续影响的时间显然更久。昆虫几个月甚至几天就是一代,其后果尚需20年时间方充分显现,短短二三十年时间就下结论说黄金大米无碍显然为时过早。至于人类祖先栽培作物的嫁接技术,至今何止千年!再说,远古时期是否由此产生负效应也未可知。这不是“前人栽树后人乘凉”,而有可能播下的是龙种,收获的却是跳蚤。有谁能为转基因食品担保,有谁能担保百年之后?除非哪怕“洪水滔天”!
  就人工智能而言,马斯克认为危险迫在眉睫,扎克伯格以为来日方长。其实,后者并未否定危险,双方的争论,大约只是50步与百步之争,并无本质的差别。
  空间不对称,上文已经分析了技术双刃剑在人际关系上的影响。空间不对称还涉及有限人群的利益与公众的代价。获利者相对集中或至少是边界清楚的一群人,而受损害的人群广泛且边界模糊。使用冰箱和空调者获利,但其中的氟利昂导致对臭氧层的破坏,影响到极圈附近的人。CO2排放导致全球气温升高则波及全人类乃至后代,如此等等。转基因食品受影响的人群边界模糊,而且会随着基因的扩散而与日俱增,到头来可能影响到获利者自己。
  第三项不对称是可预见性不对称,也就是可预见的积极效应与未预见的消极后果。哈定所提出的生态学中的多效应原理认为,我们的任何行动都不是孤立的,对自然界的任何侵犯都具有无数的效应,其中许多是不可预料的。
  在几乎所有的双刃剑中,正面的积极效益本身就是技术的目的,在效益的聚光灯下清晰可见,而负面影响差不多都是未曾预见,加之于强光投射之下,往往使事物的另一面变得黑暗。
  学习者还指出,作为技术基础的科学知识本身的缺陷及由此可能带来的风险和负面影响。诺贝尔奖的授予要经过时间的考验,DDT及其毒性的发现者、瑞士化学家保罗・赫尔满・米勒获1948年诺贝尔生理学或医学奖。无论是发现者本人还是诺贝尔奖的评委们,都未曾料到施用DDT的严重后果。
  双刃剑的负面影响在时间的长河中积淀,在全球甚至更大的范围中扩散,没法预期南美蝴蝶的翅膀究竟何时以及在何处掀起风暴。技术的积极效应在“计划内”,而负面影响在“计划外”。人类又如何防范未知或至少不是清晰知晓的后果?
  可预见性不对称是时空不对称的根源,是根本性的不对称。
  第四,剑的知识含量与持剑者对此所持有的知识不对称。远古,技术产品与其使用者融为一体,近代以降,二者分离,但因产品中的知识含量相对较低,使用者通常可以在掌握其原理的基础上进行操控。随着科学技术特别是高技术的发展,技术产品越来越成为黑箱,更多的知识集成于其中,而消费者日益成为“傻瓜”。
  最后,双刃剑两侧的价值判断不对称。一项技术或工程欲付诸实施,须经可行性和不可行性学习,包括环评和伦理考量等。迄今为止,几乎在大多数情况下,往往认为正面、积极效应大于负面、消极效应,或后者可承受、可消除。这些人的权势往往大于反对者。在三峡等工程中均可见到这一点。
  之所以有这种情况的原因之一是,在双刃剑砍向自然界时,一来自然界“默默地”承受着一切,二来作为“公共草地”而有人掠夺摧残,无人或少人怜香惜玉。原因之二,意欲推进某项技术者通常为公司,背后往往还有政府的身影,因而有权有势有组织;而反对者无权无势无组织,诉求分散甚至分歧对立。
  双刃剑的趋势是,上述的五个不对称中的前四项日益加剧。例如,由于科技黑箱越来越黑,使用者免于研究,从而使双刃剑的哪一刃都变得更为锋利。由于消费者不必从头学起即可操作,于是就可能发生对技术的滥用,其结果也就越来越超出控制。此外,随着技术的发展,双刃剑越来越指向心理,指向控制者自身。
  双刃剑的“不对称性”,是科林格里奇困境的根源……吗?
  三、人是双刃剑
  如果说双刃剑的不对称性是科林格里奇困境的原因,那么科技双刃剑的根源又是什么?那就是人。
  其一,在“理性的机巧”的背后,是个人或一些人当下和有限的目的和价值判断,正是这样的目的和价值判断,促使主体选择一局部自然反对另一局部自然,由此导致一开始未知或不以为然的负面影响。
  其二,因利益集团及其冲突所致,虽在理论上由人类自身的协调可以缓解;但在实际上对各方都难以有约束力。再加上利益及其随机涨落,平衡是暂时的,不平衡是永恒的。由技术所致的人际矛盾不可能得到一劳永逸的解决。
  其三,在技术的平台上,在特定语境下是开“门”,还是留着“窗”?一方面,这固然是技术对人的促逼,另一方面则是主体(如凯文・沃里克)对此的评价,譬如“成为一个电子人”,以及因此对自身和该项技术所做的调整,是积极面对并提升自己,还是耽溺于其中乃至上瘾,或是拒不接受而自我边缘化。
  其四,可预见性的不对称,源于单项技术的有限及其影响在时间和空间上的无限,以及面对无限,人的认识能力和实践能力的有限。即使最完整的认识、最长远的预见,如终极关怀,如向死而生,如诗意地栖居,在实践中依然须从当下开始。千里之行,始于足下。而只要迈出一步,“当下”已经改变。可预见性不对称的根源,在主观上是人类认识的不完备,在客观上是实践反馈影响的滞后。
  可见,在科技双刃剑的每一个原因的背后,都有人的身影。与其说科技双刃剑,不如说人自身就是双刃剑,一刃是善,一刃是恶;一刃是自我控制,一刃是放纵自我;一侧是对世界无穷的知与控制的欲望,另一侧是有限的认识和实践能力;一边是对不确定未来的向往或恐惧,一边是对确定往事的留恋或背离。
  说到底依然是两句话,人是自利的,人是有限的。
  前者的表现之一是控制欲,控制自然,控制他人,与此同时则是放纵自我。个人的控制与放纵,在人际就是控制与反控制。
  由于自然界的复杂、关联与不确定,由于人际关系的博弈或合作,以及由于主观能力所限,人不可能把握全局,不可能预知未来。
  人在自己的创造物中看到了自身(马克思)。在科技的双刃剑中,赫然映射出人自己的身影。所谓可预见性的不对称,同样是人自身的写照:回首往事,历历在目;展望未来,充满了分岔和不确定。
  阿拉丁神灯释放了科技,也就是释放了双刃剑;只要人类还在繁衍生息,双刃剑将无穷无尽;只要科技还在发展,双刃剑将愈益锋利。
  弗洛伊德在1930年写道,能否理解,文明在多大程度上是建立在对本能的满足之上,又是在多大程度上是以对强大的本能的力量(以压迫、镇压或别的方法?)不予满足为前提?
  凯文・凯利谨慎地表示,互联网产生的相当大一局部都是不好的。但只要互联网的积极的一面仅仅比负面效应多出1%,我认为这1%会年复一年地滚动,历经数十年甚至上百年的复合产生收益。所以,为了长远获得正效应的复利,现在互联网产生的正面效用,必须要比负效应哪怕多那么一点点。
  本能(好奇、控制……)或许正是比对本能的控制大了1%。正是这1%的不对称,“建构”了迄今的文明史。除了邪教,几乎所有的宗教都在于劝诫放弃对自然和他人的控制,代之以控制自我。要是宗教大获成功,或许人类将止步不前;要是没有宗教,人类将自我毁灭。
  自然界,正物质恰好比反物质多了“一点”,那多出来的“一点”构成了人类和大千世界。
  说到底,人自身双刃剑的不对称,这才是科技双刃剑――无论是正面还是负面――的原动力。两千年前,伊壁鸠鲁的原子论认为原子的偏斜造就了世界,上世纪居里的名言是,非对称创造世界。或许应该补充的是,非对称也会毁灭世界。
  人类不会停下脚步,更不会退回“四足行走”(伏尔泰答卢梭)的年代。尽管如海德格尔所言,每一步前行,每走过一个分岔,也就遮蔽了另外的可能;然而,这未尝不是人类社会的历史――也就是“理性”和“绝对精神”(黑格尔)或人类自身(马克思)的――不断自我发现,也就是自我解蔽的历史。
  人类就是在这样无穷的扰动-均衡-再扰动-再均衡的过程中,或者在分岔图上,不尽地由一个分岔到另一个分岔;注定要在当下和部分的利益,与长远和整体的后果之间,以及在对后者的修饰和调整之中,曲折前行。
  要是站在上述观点的立场上看,扎克伯格与马斯克之争实际上并没有多大价值,只不过是对于下一个分岔何时到来及其负效应严重性的判断不一而已。
  问题在于,以往的“双刃剑”,人类毕竟还拥有一定程度的控制权,可以由新的分岔弥补上一个分岔的负效应;而今,人类正在越过的是人类历史上最大,也是最后一个分岔。人工智能的发展将可能一劳永逸地结束人类社会历经万年,“从分岔到分岔”的“曲折前行”的道路。
  (小木虫小木虫 | 科技双刃剑辨析――兼评扎克伯格与马斯克之争

鲜花

握手

雷人

路过

鸡蛋
Copyright 2014-2017 小木虫学术科研第一站(xmuchong.com)All Rights Reserved.

津公网安备 12011102000110号

      

津ICP备 14003772号-3

      

跟帖评论自律管理承诺书

      

知识共享署名-非商业性使用-相同方式共享3.0协议