人工智能领域的发展会带来越来越大的危险。

人工智能聊天机器人的一些危险“相当可怕”。

“现在，据我所知，他们并不比我们聪明。但我认为他们很快就会。”

博士在神经网络和深度学习方面的开创性研究为当前的人工智能系统（如 ChatGPT）铺平了道路。

在人工智能中，神经网络是在学习和处理信息的方式上类似于人脑的系统。它们使 AI 能够像人一样从经验中学习。这称为深度学习。

聊天机器人可能很快就会超过人脑所掌握的信息水平。

现在，我们所看到的是 GPT-4 之类的东西在它拥有的一般知识量上让一个人黯然失色，而且远远超过了他们。在推理方面，它没有那么好，但它已经做到了简单的推理。

鉴于进展速度，我们预计情况会很快好转。所以我们需要担心这一点。

• 世界准备好迎接即将到来的人工智能风暴了吗？

• 
  

• 人工智能可能影响 3 亿个工作岗位——报告

• 
  

试图将 AI 用于“坏事”的“坏演员”。这只是一种最坏的情况，一种噩梦。

你可以想象，例如，像坏演员决定让机器人能够创建自己的子目标。

这位科学家警告说，这最终可能会“创造出像‘我需要获得更多能量’这样的子目标”。

得出的结论是，我们正在开发的智能与我们拥有的智能非常不同。

我们是生物系统，而这些是数字系统。最大的区别在于，对于数字系统，你有许多相同的权重集，相同的世界模型。

所有这些副本都可以单独学习，但可以立即分享他们的知识。所以就好像你有 10,000 个人，每当一个人学到一些东西时，每个人都会自动知道。这就是这些聊天机器人比任何人知道的更多的原因。

突显了人工智能能力正在加速发展的速度。

这项技术有巨大的优势，但世界必须在人工智能安全和控制方面进行大量和紧急的投资。

我们仍然致力于对人工智能采取负责任的态度。我们不断学习了解新出现的风险，同时也大胆创新。

源：BBC