许多开始开发人工神经网络的先驱并不确定它们实际上是如何工作的——我们今天也不再确定了。

它可能看起来像笨重的电路块，用大量的电线和盒子手工焊接在一起，是神经网络的早期模拟形式——当今最先进人工智能的先驱，包括许多人讨论了 ChatGPT，它能够响应几乎任何命令生成书面内容。ChatGPT 的底层技术是神经网络。

当站着看着机器工作时，他们完全不知道它是如何完成这项任务的。神秘的机器大脑的答案可以在它的“模拟神经元”中的某个地方找到，在它的机器记忆所产生的关联中，最重要的是，在它的自动化功能无法真正被完全解释的事实中。这些系统需要几十年的时间才能找到它们的用途，并释放出这种力量。

术语神经网络包含了广泛的系统，这些“神经网络——也称为人工神经网络 (ANN) 或模拟神经网络 (SNN)——是机器学习的一个子集，处于深度学习算法的核心”。至关重要的是，该术语本身及其形式和结构“受到人脑的启发，模仿了生物神经元相互传递信号的方式”。

在最初阶段，人们可能对其价值存在一些疑虑，但随着岁月的流逝，人工智能时尚已经坚定地转向神经网络。它们现在通常被认为是人工智能的未来。它们对我们以及人类的意义有着重大意义。我们最近听到了这些担忧的呼声，呼吁暂停新的 AI 开发六个月，以确保对其影响的信心。

将神经网络视为仅与光鲜亮丽、引人注目的新玩意儿相关的想法肯定是错误的。它们已经在我们的生活中根深蒂固。有些在实用性方面很强大。早在 1989 年，实验室的一个团队就使用反向传播技术来训练系统识别手写邮政编码。这说明我们发现的事物以及我们理解它们的方式将越来越多地成为这种自动化的产物。

利用大量数据来寻找模式，同样可以训练 AI 快速执行图像识别等操作——例如，将它们整合到面部识别中。这种识别模式的能力导致了许多其他应用，例如预测股票市场。

神经网络也在改变我们解释和交流的方式。

您也不想和一个人下国际象棋或将棋。他们对规则的掌握以及他们对策略和所有记录动作的回忆意味着他们非常擅长游戏。困扰人类围棋玩家的系统（围棋是出了名的棘手策略棋盘游戏）和国际象棋大师，是由神经网络制成的。

但他们的影响范围远远超出了这些情况，并且还在继续扩大。在撰写本文时，一项仅限于提及确切短语“神经网络”的专利搜索产生了 135,828 个结果。随着这种快速而持续的扩张，我们能够充分解释人工智能影响的机会可能变得越来越小。这些是我在我的研究和我关于算法思维的新书中一直在研究的问题。

“不可知性”的神秘层次

回顾神经网络的历史，可以告诉我们一些关于定义我们现在或未来可能产生更深远影响的自动化决策的重要信息。他们的存在还告诉我们，随着时间的推移，我们对人工智能的决策和影响的了解可能会更少。这些系统不仅仅是黑盒子，它们不仅仅是系统中无法看到或理解的隐藏部分。

很有可能人工智能对我们生活的影响越大，我们对如何或为什么了解的就越少。

这是不同的东西，植根于这些系统本身的目标和设计。长期以来，人们一直在追求无法解释的事物。越不透明，系统被认为越真实和先进。这不仅仅是关于系统变得更加复杂或知识产权控制限制访问（尽管这些是其中的一部分）。相反，它是说驱动它们的精神对“不可知性”有一种特殊的、根深蒂固的兴趣。这个谜团甚至被编码到神经网络的形式和话语中。它们带有深深的堆积层——因此才有了深度学习这个词——而在这些深度中是听起来更神秘的“隐藏层”。这些系统的奥秘深藏于表面之下。

很有可能人工智能对我们生活的影响越大，我们就越不了解如何或为什么。今天，对可解释的 AI 有着强烈的推动力。我们想知道它是如何运作的，以及它是如何做出决定和结果的。非常关注潜在的“不可接受的风险”甚至“危险”的应用，目前正在推进一项新的人工智能方案，旨在为“安全、可信和符合道德的人工智能的发展”制定全球标准。

基于对可解释性的需求，要求“对于高风险人工智能系统，高质量数据、文档和可追溯性、透明度、人工监督、准确性和稳健性的要求对于减轻风险是绝对必要的人工智能带来的基本权利和安全”。这不仅仅是关于自动驾驶汽车之类的事情（尽管确保安全的系统属于欧盟的高风险人工智能类别），还担心未来会出现对人权有影响的系统。

这是对 AI 透明度的更广泛呼吁的一部分，以便可以检查、审计和评估其活动。另一个例子是皇家学会关于可解释人工智能的简报，他们在其中指出“世界各地的政策辩论越来越多地看到对某种形式的人工智能可解释性的呼吁，作为将道德原则嵌入人工智能设计和部署的努力的一部分-启用的系统。

但是神经网络的故事告诉我们，未来我们很可能会离那个目标越来越远，而不是更近。

灵感来自人脑 

这些神经网络可能是复杂的系统，但它们有一些核心原则。受人脑的启发，他们试图复制或模拟生物和人类思维的形式。在结构和设计方面，它们由“节点层组成，包含一个输入层、一个或多个隐藏层和一个输出层”。其中，“每个节点或人工神经元都连接到另一个节点”。因为他们需要输入和信息来创建输出，所以他们“依靠训练数据来学习并随着时间的推移提高他们的准确性”。这些技术细节很重要，但希望根据人脑的复杂性对这些系统进行建模的愿望也很重要。

掌握这些系统背后的雄心对于理解这些技术细节在实践中的意义至关重要。神经网络科学家总结说，“自组织”系统“是我的梦想”，其运行“类似于我们的神经系统本能地做的事情”。描绘一个自我监控和管理的系统如何，可以用作任何机器的监控面板......在每架飞机、喷气式飞机、每个核电站或每辆汽车中。这意味着将来“您可以立即看到系统处于什么状态”。

总体目标是拥有一个能够适应周围环境的系统。它将是即时的和自主的，以神经系统的方式运作。那就是梦想，拥有无需太多人为干预即可自行处理的系统。大脑、神经系统和现实世界的复杂性和未知性很快就会影响到神经网络的开发和设计。

模仿大脑——一层又一层

您可能已经注意到，在讨论神经网络时，大脑的形象和由此引发的复杂性从未远离。人脑充当了这些系统的一种模板。特别是在早期阶段，大脑——仍然是最大的未知数之一——成为了神经网络如何运作的模型。

因此，这些实验性的新系统是建立在其功能本身在很大程度上未知的事物之上的。神经计算工程师谈到了他发现特别有吸引力的“认知冰山”概念。这只是我们意识到的和可见的意识的冰山一角。其余部分的规模和形式在地表以下仍然未知。

当谈到大脑研究时，“我们的主要发现似乎是意识到我们真的不知道发生了什么”。

神经网络如何“以关于人脑运作方式的理论为模型，通过人工神经元层传递数据，直到出现可识别的模式”。这会产生一个连锁问题，因为“与传统软件程序中使用的逻辑电路不同，没有办法跟踪这个过程来准确地确定计算机得出特定答案的原因”。结论是，这些结果无法取消。应用这种大脑模型，通过多层获取数据，意味着答案无法轻易追溯。多层是造成这种情况的一个很好的部分原因。

“适应是整个游戏”

科学家想要创建一个能够真正适应它所处世界的系统。它会响应它的条件。神经网络的价值在于它们可以促进这种类型的适应。“因为现实世界的本质”，现实世界变化太大，无法做任何绝对的事情。

随着神经网络的层数越来越高，它们的复杂性也在增加，并导致这些深度内“隐藏层”的增加

这个问题需要特别注意，因为他认为，这是“神经系统很久以前就解决了”的问题。这些创新者不仅使用大脑图像及其未知数，还将其与“真实世界”的愿景以及由此带来的不确定性、未知数和可变性相结合。米德认为，这些系统需要能够在没有指令的情况下做出反应和适应环境。

认知系统专家认为，从长远来看，适应将是重要的一步。在专注于神经网络建模时心想，这完全是“关于生物测量和控制系统如何设计以快速稳定地实时适应快速波动的世界”。正如我们之前在“自组织”系统“梦想”中看到的那样，“现实世界”的概念成为响应和适应被编码到这些系统中的环境。如何理解和想象现实世界无疑会影响这些系统的设计方式。

随着层数的增加，深度学习探索了新的深度。神经网络使用训练数据进行训练，这些数据被馈送到底层——输入层——然后它通过后续层，以复杂的方式相乘和相加，直到它最终到达，在输出层彻底改变。层数越多，变换越大，输入到输出的距离也越大。

以游戏为例，图形处理单元 (GPU) 的发展“使 1960 年代的一层网络和 1980 年代的两层至三层网络得以蓬勃发展到 10、15 甚至 50 年代- 当今的层网络”。

神经网络越来越深。事实上，正是这种层的添加，才是“‘深度学习’中的‘深度’所指的”。他提出，这很重要，因为目前，深度学习是人工智能研究几乎每个领域中性能最好的系统的原因。

但谜团越来越深。随着神经网络层数的增加，它们的复杂性也在增加。它还导致这些深度内所谓的“隐藏层”的增长。关于神经网络中隐藏层的最佳数量的讨论正在进行中。由于深度神经网络的运作方式，依赖于夹在第一层神经元（输入层）和最后一层（输出层）之间的隐藏神经层，深度学习技术是即使对于最初设置它们的程序员来说，通常也是不透明或难以辨认的。

随着层数的增加（包括那些隐藏层），它们变得更加难以解释——即使对于创建它们的人来说也是如此。我们对系统的了解程度是有限的，这是与神经网络和深度学习算法中的‘隐藏层’相关的结果。

追求无法解释的事物 

总而言之，这些长期的发展是技术社会学家所说的“未知问题”的一部分。对科学知识的有影响力的研究扩展到 AI 领域，指出神经网络的目标是它们可能由人类产生，至少最初是这样，但“一旦编写程序就会有自己的生命，因为它是；如果不付出巨大的努力，该程序的确切工作方式可能仍然是个谜”。这与那些长期以来对自组织系统的梦想相呼应。

未知甚至可能是不可知的东西从它们的最早阶段就被作为这些系统的基本组成部分来追求。很有可能人工智能对我们生活的影响越大，我们就越不了解如何或为什么。

但今天很多人对此并不满意。我们想知道人工智能是如何工作的，以及它是如何做出影响我们的决策和结果的。随着人工智能的发展继续塑造我们对世界的知识和理解，我们发现了什么，我们如何被对待，我们如何学习、消费和互动，这种理解的冲动将会增长。当谈到可解释和透明的 AI 时，神经网络的故事告诉我们，未来我们很可能会离这个目标更远，而不是更接近它。

源：BBC