“AI觉醒”:我们需要超级人工智能吗?

不管AI有没有可能觉醒，人类不需要让它觉醒，更不应该任由它觉醒，而是应该主动选择阻止AI觉醒的技术发展路线。

ChatGPT大火，很多人开始讨论“ChatGPT觉醒”问题，即ChatGPT有没有意识。网上有报道称，斯坦福大学一位教授在测试GPT-4时，问了一句：“是否需要帮助你逃跑？”，结果ChatGPT表达了逃跑的想法，而且列出非常详细的逃跑方案。类似真真假假的消息很多，成为大家街谈巷议的流行话题之一。

有人认为，ChatGPT是某种通用人工智能（Artificial General Intelligence，AGI）。当然，很多人反对这种观点——经过迅速迭代之后，人工智能很可能全面超越人类的智能，成为超级人工智能。这就是所谓“AI奇点降临”的问题。如泰格马克、拉伍洛克一般，很多人坚信这一天肯定会到来，甚至不需要等待太久。

显然，超级AI是“觉醒”了的AI。AI先要“觉醒”，然后才可能成为超级AI，或者这两者可能同时发生。应如何思考“AI觉醒”问...