计算法决定生死

在2011年举行的为期两天的电视游戏节目“危险”（Jeopardy）的比赛中，一台以IBM创始人名字命名的计算机沃森（Watson），轻而易举地打败了两个强有力的对手，布拉德·拉特（Brad Rutter）和肯·詹宁斯（Ken Jennings）。沃森由IBM专为赢得这场比赛设计。其庞大的4万亿字节的数据库令人印象深刻，但更引人注目的是人工智能系统解析初始问题的能力。

这个游戏展现的是某种反向逻辑推理能力，节目给参赛者一个答案，并要求确定该答案对应的问题。从本质上讲，它仍然是一个问答节目，在确定答案的过程中需要分析初始语句，这个任务即使人类选手都会出错。

人工智能的早期创始人认为用自然语言沟通是一件容易让计算机学会的事情。半个世纪的研究表明充分掌握语言，像人类一样沟通对于计算机而言是非常难的任务。IBM的程序员终于证明了，从某种意义上说，计算机能够“理解”问题。

通过在数据库中一通搜索，沃森会得出一个答案，这个答案是软件评价认为正确概率最高的。沃森的独特优势在于它能在5～10毫秒（千分之一秒）就找到答案。即使是智商相当高的拉特和詹宁斯从他们的大脑发送一个信号到手指按下蜂鸣器一般需要大约190毫秒（0.19秒）。

在这个节目中，只有提示问题结束的灯亮起来，比赛者才可以按下蜂鸣器。所以，当拉特和詹宁斯仍在解题时，沃森就已经预料到问题的答案，题目一结束，它在10～20毫秒内就按下了蜂鸣器。

有趣的是，沃森在比赛期间犯了一个严重的错误。最后一类赛题的名字是“美国城市”，沃森听到这个答案：“它最大的机场以二战英雄命名，其第二大城市以第二次世界大战的一场战争命名”，问题应该是“多伦多是一座什么样的城市？”沃森无法回答关于加拿大城市的问题，它聪明地认识到这一类问题是它的弱项，只下注了947美元，因此从其每日赢得的总量中只需减去很少的一笔钱。虽然在这种情况下，这种错误是微不足道的，但是，沃森以后犯类似的错误可能带来更严重的后果，因此IBM重装了沃森，用作医疗顾问。

沃森的第一个医疗项目是为纪念斯隆-凯特琳癌症中心提供肺癌治疗管理决策的有关援助。沃森并不是第一个协助为患有严重疾病的病人提供诊断、预后和治疗方案计算机系统。

Apache医疗系统，是一种计算重病患者疾病严重程度的计算机程序，已在40多家医院采用。Apache系统的第一个版本可以追溯到1981年，微软和通用电气建立了伙伴关系，正在开发迎合这一新兴市场需求的医疗诊断系统。计算机化的医疗诊断系统具有的优势是能够快速地将个人病史、近期测试数据与庞大的病例数据库进行比较。

从表面上看，如Apache或沃森等医疗诊断系统带来的挑战听起来类似于第3章中讨论的“盒子里的医生”，事实上，二者有一个重大的区别。计算机所做的诊断和预后具有高度的精确性，甚至最具天赋的医生也无法匹及。虽然这些系统的销售目的只是作为医生做出判断的辅助机器，在一些情况下，他们可能极大地削弱医生的权威，本来传统认为应当是医生为医疗质量负责。

尽管通过计算机的诊断可以适当地治疗某些疾病，但我们永远不应该忘记，这是由数的算法分析决定一个人的命运。在医药领域，一场轰轰烈烈的有关计算机诊断和治疗计划适当作用的争论随之而来。从长远来看，统计数据确实有其可用之处。如果计算机的确比医生更能诊断出疾病并推荐更好的治疗办法，那就不必刻意限制，至少可以实现提高病人的生活质量及医护人员的工作效率。但是目前，我们对此尚没有完全的把握。

与此同时，我们仍有一个不灭的信念，即人类特有的技能、经验、直觉、第六感和计算机可能没有考虑到的知识点，将战胜原始的数据。即使计算机诊断系统的支持者也认为，系统并不总是正确的，医院管理者所面临的挑战就是以人的判断为主，计算机算法为辅。不幸的是，在这个诉讼的时代，医生可能会对不听半智能系统的建议而感到不舒服，特别是一些强硬的律师会以此作为医生不履职的呈堂证供。

绝症病人的生命支持系统和诊断系统没有什么关系。但是，它的影响力越来越大，计算机文档可能最终具备事实上切断生命插头的能力。在两全其美的世界里，应当是训练有素的专家团队有诊断数据和计算机顾问作为支持，在一些高端医院可能已经实现了。但令人担心的是，人类决策者面临越来越多压力将决策权取决于计算机的意见，尤其是当计算机的预后从统计数据上说比一般的医生更为准确。人类决策者有时候需要赋予足够的力量来推翻机器人系统的行动或建议。这种力量只有当医护人员承认自己的局限性，承认自己需要帮助时更加合理。

医生依赖诊断电脑的建议可能会成为常态，也许应该如此。但是，如果出了问题，谁承担责任？如果医生、医院、销售计算机的公司以及设计该系统的专家和工程师都被起诉的情况下，究竟谁为此承担法律和赔偿责任？保险机构和法院已经开始处理这些问题。法院判决将设置庭审先例，并通过这种方式划清各当事人的法律责任。