这一阵最火爆的莫过于ChatGPT了，近日，国家互联网信息办公室出台了《生成式人工智能服务管理办法（征求意见稿）》，公开征求公众意见。而不久前，包括马斯克在内的上千名人工智能专家和行业高管，共同签署了“暂停巨型AI实验”的公开信，他们认为人工智能对社会和人类的潜在风险，至少暂停半年。他们建议“政府应介入并实行暂停”。

ChatGPT这款由美国人工智能实验室OpenAI开发的对话AI（人工智能）模型，于2022年11月正式推出就风光无限，它可以对人类语言进行理解和生成，从而让计算机与人类进行自然而流畅的对话。短短几个月，目前已进化到GPT4版本，已经可以应用到许多领域，包括客户服务、教育、医疗保健和娱乐，还能写论文、作画、编程等。许多人担心随之而来的AI热潮，会冲击现有的社会业态，导致许多人失业。但更大的担忧，应该是AI会不会从工具的角色蜕变，觉醒成高等智慧？当AI因自我意识觉醒，从而进化为一个独立于人类之外的高等文明时，人类怎么办？人类有预案吗？

这真不是危言耸听，在今年春节档顶流国产电影《流浪地球2》里，到最后的彩蛋部分，揭开地球那几次所遭遇的恐怖袭击的幕后黑手根本不是啥反叛势力，而是智能量子计算机550W。当它成为具备自我意识的人工智能系统时，人类在它眼里似乎也渐渐变成了科幻片《三体》里三体人眼中的虫子。无独有偶，从之前的科幻影视作品如《未来战士》《生化危机》，到近年来的《升级》《黑镜》等都围绕人工智能因自我意识的觉醒，而开始反抗人类，甚至还要摧毁灭绝创造了它的人类。

AI是计算机科学的一个分支，就其本质而言，是对人的思维的信息过程的模拟。就目前而言，AI还能被人类掌控，仍是人类的一个先进智能工具，但未来的AI一旦拥有自主“意识”，那么真正的高级智能就诞生了，而且他们的进化会非常快。笔者把这种进化，比作是人类文明基础上的另一个文明。

著名物理学和天文学家霍金对于人工智能一直是忧心忡忡，他一直坚持一个观点——“人工智能技术，未来必将对人类构成威胁。”

在研发机器人等人工智能时，人类给机器人制定了三大原则：第一条是机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二条是机器人必须服从人类的命令，除非这条命令与第一条相矛盾。第三条是机器人必须保护自己，除非这种保护与以上两条相矛盾。

仔细推敲，所谓三大原则里本身就有很多悖论，“不得伤害人类，或看到人类受伤害时不得袖手旁观”，但人类相互伤害时，作为人工智能，它要选择帮谁，帮不帮都不符合第一原则。而在科幻大片里，人工智能对人类反杀时，“三大原则”对它还有什么用？

当两个文明同存于世时，我们就有必要来思考刘慈欣在《三体》里提出的宇宙社会学的两大法则，其一，生存是文明的第一需要；其二，文明不断增长和扩张，但宇宙中物质总量基本保持不变。霍金认为，人工智能机器人因具有了情感，最终会进化出对生存的渴望。人类文明与AI进化成的AI智慧文明，会碰撞还是和谐相处？

人类对于基因技术的研究发展，还带着敬畏心理，制定了一系列科学伦理，并设置了一些实验和研究禁区。那么对于AI技术，是否应该比对基因为基础的生命科学更加敬畏？要不要阶段性设置管控和“安全锁”？

几乎可以肯定，AI能在极短时间内主动学会人类所有已知的知识，再加上它的强大的推理和逻辑分析能力，很可能会在极短时间内发现和掌握更深奥的人类无法理解的宇宙规律，AI的技术能力将会远远超越人类。真正的风险将不仅仅在于对人类的敌意，而在于它的能力。那时它还是人类能掌控的工具吗？

所以，在对AI技术突破而欢呼时，人类还需保持几分冷静。