人工智能的巨大失败：我们可以从代价高昂的错误中学到什么
我多年来一直关注人工智能的发展，在我们庆祝突破的同时，还有另一面：巨大的失败，花费了数十亿美元的投资。让我们来看看最具启发性的人工智能项目失败案例以及它们给我们带来的教训。
Uber 自动驾驶汽车事件 (2018)
2018年3月，Uber的一辆自动驾驶汽车在亚利桑那州坦佩发生严重事故，导致其自动驾驶项目暂停。调查发现多个系统故障。
汽车的传感器在撞击前 5.6 秒检测到障碍物，但 AI 分类系统未能正确识别和响应。该系统循环进行多种分类，但没有采取适当的措施。
关键的安全功能已被禁用，造成对人类监督的危险依赖。该事件凸显了测试协议和安全系统的根本缺陷，最终终结了 Uber 的自动驾驶汽车雄心。
IBM Watson for Oncology：价值 6200 万美元的医疗幻影
IBM 将 Watson 作为革命性的癌症治疗顾问进行营销，声称它可以分析医学文献来推荐治疗方法。医院支付了数百万美元，其中纪念斯隆凯特琳投资超过 6200 万美元。
现实是毁灭性的。沃森给出了不安全、错误的建议。在一个案例中，它向已经出血的患者建议使用一种止血药物。该系统不是在分析文献，而是在反省一小群医生的偏见。
失败是概念性的。 IBM 误解了肿瘤学。癌症治疗不是处理数据——它需要人工智能无法复制的人类判断。
微软的 Tay：当人工智能吸取错误的教训时
2016 年，微软推出了 Tay，这是一个 Twitter 聊天机器人，旨在从用户对话中学习。 24 小时内，协调一致的巨魔将其变成了一个种族主义、性别歧视的机器人，散布仇恨言论和阴谋论。
这揭示了人工智能学习假设的根本缺陷。人工智能自然会学习“良好”行为的观点忽略了人类经常在网上表现不佳。它强调了人工智能在协调操纵方面的脆弱性。
亚马逊的偏见招聘算法
亚马逊秘密使用人工智能来筛选求职者，并根据 10 年的简历对其进行训练。该系统学会了歧视女性，降低提及“女性”活动或女子大学的简历。
它了解到亚马逊历史上的招聘模式有利于男性，并延续了这种偏见。工程师们无法保证它不会找到其他歧视方法，因此他们在 2018 年取消了该项目。
更深层次的教训
这些失败揭示了系统性问题：
训练数据问题： 每个人工智能的好坏取决于它的数据。沃森从有偏见的样本中学习，亚马逊的人工智能从有偏见的招聘模式中学习，泰伊从有毒行为中学习。
**黑盒困境：**系统做出了无法解释的决定。当 Uber 的汽车无法对行人进行分类或 Watson 提出危险的建议时，创作者无法理解原因。
过度自信陷阱： 公司过度推销能力。 IBM 声称沃森将彻底改变医学，Uber 则认为汽车比人类更安全。这导致了过早部署。
人为因素： 几乎每次失败都涉及有关部署或监控的错误人为决策。人类禁用了安全系统，忽视了偏见信号，或者未能预见到问题。
这对未来意味着什么
这些失败提供了重要的教训：
更好的测试： 人工智能系统在实际部署之前需要更长时间的受控测试。速度压力可能导致严重的安全问题。
**可解释的人工智能：**如果我们无法理解人工智能的决策，我们就不应该相信它们做出关键的选择。黑匣子问题是一个基本的安全问题。
多样化的团队和数据： 同质化的团队会创建有偏见的系统。我们需要对构建者和训练数据有不同的看法。
监管框架： “快速行动，打破常规”对于生命攸关的系统不起作用。我们需要深思熟虑的监管，平衡创新与安全。
谦虚： 最大的失败来自于公司相信自己的炒作。人工智能有局限性，忽视它们会产生真正的后果。
未来之路
我并不是反对人工智能的发展——这些技术具有巨大的潜力。但我们必须从代价高昂的失败中吸取教训。
成功的公司将适当谨慎地对待人工智能，投资于安全和测试，并对系统功能保持现实的期望。
要做到这一点，风险很高。通过研究这些失败的项目，随着人工智能在我们的运营中变得越来越重要，我们有望避免重蹈覆辙。
人工智能的未来不仅仅是构建更智能的系统，而是构建更明智的系统。智慧往往来自于对失败的理解和庆祝成功。
您对这些人工智能失败有何看法？在下面的评论中分享您的想法。