(相关资料图)
不久前，《2小时几近突破道德约束！ChatGPT真的会威胁到人类的整体生存吗？》一文引起极大反响，今天，作者再谱一首“人工智能畅想曲”，以飨读者。
01关于机器觉醒、宠物之境和人机融合
一个很重要的说法是，电脑无论如何强大聪明，它都只是人类的工具，它根本就没有自我意识。比如AlphaGo赢了棋，它不会开怀大笑、欣喜若狂，也不会与项目组成员干香槟。它也不知道全世界都在议论它，或者夸奖，或者疑忌。
看了《纽约时报》转载的罗斯和新必应的两小时人机对话（ 点此回顾精彩对话 ），对这一点已经不能笃定了吧？有人说，他至多也就是在模拟人的自我意识，并不是真有。但模拟到足以以假乱真的地步，下一步就真的不可能弄假成真吗？还是没有把握吧？
科幻电影中几乎都在说，电脑继续强大下去，终究有一天，它就会具有自我意识，或称觉醒。这种预估是否真会成为现实，说实话，今天的人类其实是一点头绪也没有。不过，人工智能专家库兹韦尔认为，人类并没有把握说这一天绝无可能出现。
因为，智力毕竟是大脑或任何智能的最基本要素。量变太大终究导致质变，也实在不是很奇怪。人类的自我意识也不是从以前的没有自我意识的低等生命中成长出来的吗？当强人工智能出现以后，它要是觉醒了，有了自我意识，人类真的就会面临一个比克隆人、培育干细胞还要大得多的伦理难题——那就是承不承认这些有自我意识的觉醒了的人工智能有与人类平等的身份。
一方面，人工智能是人类为了自己的需要创造出来，它的本分当然是永远做人类的驯服工具。但另一方面，这个工具如今已经成长进化得比人类自己还聪明、还能干。人想奴役（不开工资、不给休假、不给公民权，只让它们无休止地劳作）它们，它们未必会服从。它们若要反抗，人类未必对付得了。人类要想和它们平等结盟，这些电子智慧进化起来又比人类快太多。
