对未知的恐惧

长期以来，反乌托邦的未来愿景激发了许多科幻小说家和电影导演的想象力。奥尔德斯·赫胥黎（Aldous Huxley）的《美丽新世界》（1931）以及乔治·奥维尔（George Orwell）的《1984》（1949）都是警示性的小说，提醒读者我们应当避免的未来。

赛博朋克流派经典作品威廉·吉布森（William Gibson）的《神经漫游者》，以及尼尔·斯蒂芬森（Neal Stephenson）的《雪崩》（1992），这些书中描绘的未来社会只有进行技术增能才能占据上风，这也让公众开始认识了“网络空间”的概念，以及“虚拟现实”的可能性。

在《终结者》（1984）和《黑客帝国》（1999）的未来世界中，人工智能有意灭绝人类。电影中的计算机合成形象十分逼真，对预测的可能性大肆炒作，公众和媒体很难去辨别哪些技术可能实现，哪些不可能。即使是专家，也对于哪些预测可靠、哪些存在潜在的危害需要注意存在争议。

警示性的科幻小说助长了“潘多拉盒子直觉”——人们认为最好不去探索未知的路——那些聪明的游客避免选择的路。这种直觉常见表现形式是判断不应该去摆弄人类基因或是不应当制造杀人机器人。潘多拉盒子直觉常用于支持非理性的反科学行动，比如不愿意为孩子接种可以预防严重疾病的疫苗。如何将这种对伪问题担心的直觉引向真正能够且应当解决的问题上是一件困难的事情。

对于技术引发的事故，人们普遍持有一种态度，这在美国尤其如此，即任何新技术带来的问题都能从技术上找到解决办法。人们对于用技术解决问题持有近乎宗教崇拜的热忱，且称之为“技术解决主义”（technological solutionism）。技术反乌托邦主义将对科技政策产生阻碍作用。

如果公众认为，科幻小说的场景可能发生，那么即使对于极不可能出现问题的技术也会有人要求予以限制。回顾过去，20世纪50年代人们担心会被机器人取代以及遭受基因突变的硕大蝗虫攻击，但是也没有人会因此而放弃过去60多年来在计算机科学以及基因学领域研究所取得的成果。

认识到这一现象，技术乐观主义者竭力想描画出乌托邦的未来愿景。这一吸引人的愿景描述了如何去战胜疾病，结束贫穷，恢复环境。但是，这一愿景依赖的是能力增强的人类或是超人机器人，这听起来和带来20世纪灾难的破坏性的乌托邦意识一样空洞无物。

技术发展的脚步不受任何制衡向前迈进，其中隐含的风险是我许多朋友和同事所不愿明言的，他们是一些科学家和工程师，希望通过技术找到不治之症的治疗办法，或是希望提高人类心智和身体机能的超人类主义者，以及一些希望从前沿技术研究中获益的人。

他们特别担心任何关于科技危险的讨论会进一步增强反科学联盟的势力，这些反科学人士出于意识形态、政治、宗教等目的已经对进化论，以及有实证的全球气候变化现象拒不承认。大学和学院派学者认为开放和自由地探究事实真相是一个脆弱的事业，会因政治和经济的压力而妥协。

对于经历过20世纪50年代参议员麦卡锡反共运动的大学教授、管理人员来说，对于这点感受更为深刻，当时很多大学校园因此蒙上了恐怖的阴影。的确，因为担心不理智的反科学运动扩大，研究人员以及那些渴望获得科学研究好处的人加倍努力消除批判主义的负面影响。换句话说，这些批判主义反而进一步加剧了技术的破坏力量。

我对挑战的看法有所不同。新技术的推动者有必要与对新兴研究领域发展轨迹感到不安的人直接对话。此外，他们应当停止对一些秘密研究遮遮掩掩，比如这些研究可能会导致新武器系统诞生，而这些武器的危险直到投入使用后才为不持怀疑的公众所知晓。在新技术投入使用或市场之前，广大公众、政策规划者、学者必须有机会对这些技术所能带来的社会影响进行思考。

近年来，科学界内部有很多呼声要求研究人员发挥作用，将他们所从事的创新研究带来的社会影响介绍给公众。令人遗憾的是，很多科学家和工程人员并不认为他们的工作带来的伦理和政策方面的挑战是自己的问题。对于与公众对话，他们觉得准备不足，或是不感兴趣，他们把责任推卸给了别人。但是谁是“别人”呢？是政客，行业领袖，生物伦理学者，原教旨主义传教士，沉湎于新潮电子设备的技术达人，还是关心这些问题的公民？我们所需要的不是对这个问题一知半解的官员做出影响人类未来的决定。

即便是所罗门，倾其所有智慧，也很难从科技创新带来的积极成果中分析出可能存在潜在的破坏。不管怎样，我们每一个人都无形中默认技术进步的光辉成果和不懈进步。不幸的是，大多数人对于将会改变我们未来的想法和发现只有最基本的了解。

新的科学成果层出不穷。即使是那些制定公共政策，提供资金支持研究发展的人也高度地依赖专家们的意见。困难在于不知道该问什么问题，从何处寻求一个平衡的视角。很多时候，科学家的推断超出了他们的专业背景和理解。获得研究资金支持的渴望蒙蔽了他们的判断。

来自科学家的炒作，通常是对于实现下一个技术突破的时间框架过于乐观