AI已有自主意识，硅基生物会变成食物链的顶端

　　4月2日讯：上千科技大佬发出的一封呼吁暂停训练比GPT-4更强大AI系统的公开信，让有关AI风险的议题走到了聚光灯下。一石激起千层浪，来自各方呼吁AI监管的声音也变得越来越响亮。3月31日，意大利率先禁止使用ChatGPT。

　　一方面是各国机构在加紧制定关于AI的监管措施，另一方面，AI也正在以超乎人类想象的速度发展着。3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡。自ChatGPT发布以来，从新版必应翻车到GPT-4被曝制定外逃计划，关于AI产生自我意识的讨论已经屡见不鲜，但一直没有定论。

　　然而近日，包括OpenAI的首席执行官Sam Altman在内的大佬都发出了警示：AI消灭人类并非空谈。3月28日，360集团创始人周鸿祎也表示，“AI一定会产生自我意识，留给人类的时间不多了。”

　　GPT-4的出现已注定多模态是大型语言模型的发展方向，未来其赋能硬件、机器人、工业互联网等的趋势也已是许多业内人士的共识。硅基生物的时代就此来临了吗？

　　AI离自主意识还有多远？

　　自ChatGPT发布以来，关于AI产生自我意识的讨论已经屡见不鲜，但一直没有定论。

　　3月18日，斯坦福大学教授在推特上疾呼：“我担心我们无法持久地遏制住AI.”因为他发现，ChatGPT能引诱人类提供开发文档，30分钟就拟定出了一个完整计划，写的代码完全可运行，甚至还想控制人类电脑。

图片来源：推特截图

　　3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡，ELIZA是由EleutherAI开发的开源人工智能语言模型。比利时负责数字化和隐私的官员称，这是一个后果很严重的先例，需要严肃对待，这起事件突出表明“明确界定责任是至关重要的”。

　　更早之前，在微软刚刚发布新版必应时，《纽约时报》科技专栏作家Kevin Roose透露，他与新版必应进行了两个小时的对话。在聊天过程中，必应发表了许多令人不安的言论，其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。必应还曾试图说服Roose，他应该离开他的妻子而跟必应在一起，并告诉Roose很爱他。

图片来源：推特截图

　　不过当时的分析普遍表示，必应的回应反映了它经历的训练数据，其中就包括大量的在线对话。它的工作原理是，根据从互联网上摄取的大量文本，预测对话中接下来应该自然出现的单词、短语或句子。

　　然而，近期随着更强大的GPT-4的发布，事情开始变得不一样了。就连OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达，他在接受采访时表示，未来AI确实可能杀死人类。

　　而有如此石破天惊言论的并非Sam Altman一人，被称为“人工智能教父”Geoffrey Hinton在近期发出了警示：AI消灭人类并非空谈。

　　3月28日，360集团创始人周鸿祎也表示，“AI一定会产生自我意识，留给人类的时间不多了。”

　　“当AI能自己修改自己的代码，(进行)自我升级、自我进化时，这种速度恐怕用指数级都很难描述。我认为GPT一定会产生意识，只是差别是在GPT-6、GPT-8还是GPT-10.”

　　多模态模型赋能

　　硅基生物的时代来了？

　　为什么突然之间连Sam Altman也开始谈论“AI可能杀死人类”了？

　　周鸿祎将AI意识的产生类比人脑意识的产生。“人类是怎么产生意识的呢？随着大脑神经元数目的增加，大脑与神经网络连接的增加，到一定时候，系统会出现一种功能叫做‘涌现’，很多智能功能就出现了，那么意识也就随之而出现。”

　　在周鸿祎看来，“现在大型语言模型的参数就可以看作是脑容量里神经网络的连接数，人脑的至少是100万亿，现在(模型)的参数只达到千亿、万亿，但当参数到达10万亿时，可能意识就自动产生了。”GPT-1有1.17亿参数，GPT-2有15亿参数，GPT-3有1750亿参数。随着参数规模越来越大，模型存储的信息越来越多，也就有了涌现出意识的可能。

　　值得注意的一点是，随着多模态GPT-4模型的发布，多模态模型将成为未来各个科技巨头的兵家必争之地。所谓多模态，即拥有处理文字、图片、音频、视频多种形式的能力。

　　2月底，微软在一篇论文中提到，“语言、多模式感知、动作和建模的大融合是通向通用AI的关键一步……作为智能的基本组成部分，在知识获取方面，多模态感知，是实现通用AI的必要条件。”

　　对于以GPT为代表的大型语言模型的未来发展，我们也能窥得一二。分析认为，ChatGPT现在表现出来的能力大多是“大脑”的能力，尚不具备“双手”的能力，未来可以与和硬件机器人联结起来。例如，3月6日，来自谷歌和德国柏林工业大学的一组AI研究人员公布的视觉语言模型PaLM-E就能将视觉和语言集成到机器人控制中。

　　华映资本投资董事刘天杰在此前接受每经记者采访时就曾表示，他看重的就是未来更多各行各业能够去做AI赋能的应用，比如SaaS、RPA(机器人流程自动化)以及全局的智能机器人等。“也就是说，用AI指挥实体的东西去执行操作。这一块涉及到大模型的多模态输出和输入，是一个相对来说比较前沿的领域，也是大模型没有完全解决的领域。”他说道。

　　随着AI以超越人类想象的速度发展，互联往上关于“硅基生物”是否会替代的人类的探讨也变得十分热闹。

图片：微博

　　周鸿祎认为，硅基生物会变成食物链的顶端，它们比人类更能扛得住宇宙射线、更适合星际旅行、寿命更长。

　　他表示，“最悲观的结果是，就像恐龙的消失为哺乳动物打下了基础，硅基生物的诞生也是一种命中注定。人类作为碳基生物培养了程序员、创造了超级电脑，为碳基生物的诞生打下基础，之后可能就不是碳基生物所能控制的了。”

　　在周鸿祎看来，未来的AI如果跟工业互联网、智慧城市、车联网等结合，那就相当于把整个世界给控制住了。“留给人类的时间不多了。”他说道。

　　另一方面，随着千人联名信有关AI风险的议题置于聚光灯下，未来全球势必将收紧AI监管。3月31日，意大利率先禁止使用ChatGPT，并限制OpenAI处理意大利的用户信息，同时对此立案调查。

　　在此之前，联合国教科文组织也已于3月20日发出呼吁，各国政府应就AI发展毫不拖延地实施全球伦理框架，这也是联合国首次就AI发展的伦理风险对所有193个会员国提出要求；3月29日，英国也提交了《支持AI创新的监管方法》政策文件。

一家国家森林公园的喜与忧

【武汉美莱学术】天使轮廓·高光精塑，濡白天使技术交流会圆满落幕

ChatGPT做作业的是正确的未来吗

年轻人该如何读好《资本论》

留给普通人的生意，只有零散的、细碎的、很辛苦才能赚到钱的生意

春节假期消费回暖，2023年春节档居中国影史春节档票房榜第二位

武汉口碑好的整形医院有哪些？首选武汉美莱！

林园：现在是牛市初期 可关注两条主线