人工智能今天被称为计算机算法，它们使用我们有机大脑的硅化身来学习和推理世界，智能超人迅速使他们的创造者过时。在现实中无法从事实进一步。随着深度学习从实验室转移到从医学到无人驾驶汽车等关键任务领域的生产中，我们必须认识到它的真正局限性只不过是一堆软件代码和统计数据，而不是我们将它们描述为的学习和思维智能。 。

每天，数据科学家都会构建机器学习算法，以便了解世界并利用大量数据进入可销售的洞察力。作为引导机器辅助工具，它们的操作非常类似于传统科学，软件显微镜和望远镜对社会的大型经典观察设备。然而，一位物理学家并没有宣称他们的分析软件还活着并且在思考自己对宇宙的看法。他们列出了他们用于分析数据集的算法，并讨论了如何以及为什么它出现了新的发现。对他们来说，无论软件有多先进，它仍然是严格的统计算法，通过统计和编程在数据中找到一个模式。

相比之下，数据科学家们经常将他们的算法创建视为活着，宣称他们的算法“学习”了一项新任务，而不仅仅是直接从一组精心挑选的训练数据中引出一组统计模式。监督一个人类程序员，他选择使用哪些算法，参数和工作流来构建它。

使用统计数据从已知的训练数据中推断出来以产生意想不到的结果的算法被宣称为“创造”了一些新的东西并立即被标记为超人实体，这些实体肯定会导致我们所知道的人类生命的终结。为什么神经网络“创造”的文本段落与通过传统经典概率模型“生成”的文本段落有何不同？

生成对抗算法被描述为超人巨人在几个小时内战胜了更多的结果，而不是人类自历史曙光以来的所有结果。当成对的经典对抗性细化算法仅仅被视为调整其参数时，为什么配对神经网络用人类特性描述？

最危险的是，我们采用成功的算法并将故事分配给他们的成功，这些成功推断远远超出他们实际所做的。正确区分一种狗与其他犬的神经网络被称为“学习”了该品种的先天生物学特征。实际上，它可能只是注意到该品种的所有例子都在训练数据集中穿着红色项圈。事实上，潜在的神经网络实际上并不了解“狗”或“品种”或“红色”或“领子”是什么。它只是将颜色和纹理的特定空间分组与特定的文本字符串相关联。偏离它过去看到的例子太过分了，它失败了，如果它正在筛查癌症或用人类乘客开车，会带来灾难性的后果。

很少有AI图像分类器能够有真正的原因。能够拍摄完全未知的人造物体的图像，并根据其高阶语义特征（例如电池，LED，驱动电路和超大开关的存在）来计算它可能是什么。对于今天的深度学习算法，他们只看到形状和纹理的组合，而不是指示便携式电源的电池的存在以及与LED，转换器和开关的组合作为手电筒的暗示。一些系统可以学习可用于近似描述过程各方面的基本关联，但是当前的系统无法对它们周围的世界进行真正的高阶推理。

今天的神经网络不再比过去的线性回归“学习”或“理解”世界。它们只是通过统计来诱导模式。这些模式可能是不透明的，比历史方法更具中介性和更自动性，能够代表更复杂的统计现象，但它们仍然只是数学化身，而不是智能实体，无论结果多么壮观。

无论是神经网络，朴素贝叶斯还是简单的线性回归，数据科学家都会根据精心构建的训练样例训练他们的机器学习模型，然后声称他们的算法已“学习”了世界。然而，机器学习实际上只是机器指令的另一种形式，不同于纯粹专业的规则手动编码，但仍然是指导，手动调整每个应用程序的算法和工作流程。

为什么这很重要？这很重要，因为随着我们越来越多地将人工智能系统部署到直接影响人类生活的关键任务应用中，从无人驾驶汽车到医药，我们必须了解他们非常真实的局限性和脆弱性，才能正确理解他们的风险。

把这一切放在一起，最终，当我们将自己的愿望归结为平凡的代码堆，将它们拟人化为活生生的呼吸硅人时，而不仅仅是数据模式的统计表示，我们忽略了它们的真实局限并思考乌托邦夸张的术语，而不是真正的风险演算，以确保他们安全和稳健地融入我们的生活。

总部设在华盛顿特区，我在Mosaic网络浏览器首次亮相后的第一年创立了我的第一家互联网创业公司，同时还处于八年级，并且在过去的20年里一直致力于重新构想我们如何利用数据来理解我们周围的世界。