与周鸿祎“深聊”ChatGPT：它会不会产生与人类为敌的想法？ 天天滚动

• 2023-02-26 08:07:31 来源：腾讯网

（图片来源：东方IC）

(资料图片)

经济观察网 记者 邹永勤要说当前全球最热门的话题有哪些，ChatGPT必然要算上一个。

自2022年11月底问世以来，ChatGPT持续受消费者追捧进而在金融市场掀起了如火如荼的人工智能炒作浪潮。通联数据Datayes！的统计显示，国内ChatGPT指数自2月1日设立以来的1000点起步，至2月24日的1240点，月内已经录得24%的涨幅；板块内更是出现了众多短期翻番的热门个股，如鸿博股份（002229.SZ）、海天瑞声（688787.SH）等。

与此同时，ChatGPT亦因其最前沿尖端的科技属性引发了科技圈乃至整个社会对其的热烈讨论，包括马斯克、比尔盖茨、周鸿祎、李彦宏等在内的众多科技圈名流纷纷对此发表观点、指点江山。

而在上述一众科技圈名流的观点当中，360集团创始人周鸿祎无疑是最为国内关注的一员。但经济观察网记者留意到，近期周鸿祎对ChatGPT的观点却颇有让人迷惑之处：从一开始的盛赞其有可能带来一场新的工业革命，到最近说ChatGPT可能是人工智能毁灭人类的开始，可谓风向突变。

是周鸿祎对ChatGPT的认知出现了大反转抑或别有原因？而类ChatGPT技术的出现，又会对搜索引擎、网络安全以及整个数字化产业带来哪些深刻影响？为此，经济观察网记者于2月24日连线采访了周鸿祎。

意义不亚于蒸汽机的发明

记者：近期ChatGPT大热，而您作为科技圈名人，其言论自然备受关注。但综合您近期的观点，却频有让人迷惑之处：此前跟张朝阳的对话中曾盛赞“ChatGPT有可能带来一场新的工业革命，如果搭不上这班车就有可能被淘汰”，但现在却称ChatGPT有可能是人工智能毁灭人类的开始。究竟ChatGPT身上有哪些特性，让你对其“又爱又恨”？

周鸿祎：从新工业革命的角度来看，ChatGPT首先是一个通用人工智能，它不是为了解决某一专有领域的问题，而是实现了对人类知识的存储。ChatGPT完成了这项伟大的使命，而它完成工作的过程很简单，就是建立一个大语言模型，通过大力出奇迹的方法来实现，而且过程中不需要人工标注，可以称之为无监督学习。

ChatGPT的第二个重要突破，是在这种模型上增加了一种能力的训练机制，通过这种机制人类可以训练它很多能力；比如逻辑推理能力，就是对所存储的知识融会贯通，先把书读厚、再把书读薄。

我个人觉得，ChatGPT其实已经实现了成为强人工智能的基础，真正做到了理解自己在说什么。比如，ChatGPT有时候会一本正经的胡说八道，这恰恰体现了它的智能。正因为人能编故事，能去描绘那些不存在的东西，描绘那些只有在想象中才存在的东西，人类社会才有了信仰，才有了宗教，才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕。标志着他已经拥有了一定的认知能力、理解力和一定的判断力，拥有和人类类似的思维能力。

按照进化论的说法，人类从智人发展而来，智人从人猿发展而来的；而在人猿到智人的过程中出现了智力突变。我们可以猜测一下，这个过程中一定是随着脑容量的变化，脑子里的神经元网络发生突变，才引发了智力的出现。现在ChatGPT大语言模型参数达到了1750亿，同样激发了突变，使之产生了现在的能力。

ChatGPT的巨大进步，使得它有可能成为各个行业的“水”跟“电”，从而发挥支撑作用。我们要把它看成云服务、看成API，它对消费者是聊天机器人的界面，那只是一个连接端，聊天机器人之所以强大是聊天机器人背后的云端藏着一个智能大脑。今天如果把智能大脑通过API的方式，把云服务连到目前各个业务系统里，那么现在所有的产业，包括所有的软件、APP、数字化系统等等，都值得重新做一遍，比如有的可以做深度融合，有的可以做使用上的融合等等。

因此，我觉得ChatGPT的发明用任何誉美之词都不为过。相对于马斯克说它不亚于iPhone的出现，比尔盖茨说它不亚于于PC或互联网的诞生，我更愿意说ChatGPT可能会带来一场新的工业革命，有点像蒸汽机和电力的发明。

但从危机的角度来看，第一步，它可能很快就会产生意识。目前ChatGPT仅仅用到了认知，就像《从混沌到秩序》那本书里讲的一样，人类的大脑神经元或者神经触突，神经网络多到一定的时候，临界值就产生了意识。那么，随着撬动ChatGPT的参数进一步扩大，当知识足够多的时候，有没有可能也会触发它的某种突变，从混沌中催生意识？就像跳到ChatGPT的模型，超过1000亿参数之后，就产生了神奇的突变，产生了主动推理、举一反三的能力。

第二步，它可能进化出“眼睛”、“耳朵”、“手”跟“脚”。目前GPT还只有大脑，如果给它加上眼睛和耳朵，让它能够看懂人类的各种图像、视频，听懂各种音频，届时它的知识存储将会突飞猛进，智能化水平也将同步提升。更进一步，随着ChatGPT接入互联网的API（应用程序编程接口），进入万物互联的时代，它无疑相当于拥有了手跟脚，间接拥有了操控世界的能力。

这个时候，它不仅在网页上可以下单购买机票，可以打车，可以订购外卖，甚至能够通过网页操纵各种物联网设备。再设想，假如让ChatGPT不限定输入的语料，随意能够获取搜索、浏览互联网上的知识，产生了自主意识的GPT会不会在看完类似《终结者》之类的电影后，产生与人类为敌的想法？

第三步，它可能能够自我进化。现在的ChatGPT仅仅会写一些简单的代码。但是有一天，当它的代码能力提升之后，它是否可以自动来查阅自身的代码，可以对代码进行修正和升级，甚至再重新编译一个新的版本？如果这样，它就拥有了能够自我学习、自我进化的能力，实现了机器人制造机器人的前景。人类是否会因此走入毁灭犹未可知。

但是，我想强调的是，我们不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。

如果ChatGPT进化为硅机生物

记者：其实并不仅您有提出人工智能毁灭人类的担忧，日前马斯克亦有类似观点，指人工智能是未来人类文明最大的风险之一。请问，如果人工智能的发展最终会威胁人类的存在，那么是否有违其发展初衷？我们现在大力发展人工智能的终极意义何在？

周鸿祎：如果结局真的是这样，当然有违初衷。人工智能技术发展的初衷是为了服务于人类，提高社会生产力，将人类文明推向更高的发展水平。因此，我非常赞成埃隆·马斯克的观点，就是防止人工智能奴役人类。

关于ChatGPT与人类安全问题，我认为只能边发展边看，但是我感觉不发展，可能是最大的不安全。因为如果我们不发展技术，其他国家发展了，会影响我国的数字化战略。

我个人觉得，如果真的有一天，按照生物进化的理论，当ChatGPT成为硅机生物，处在食物链顶端的时候，它可能会产生正常的推理，觉得人可能没什么用，而且人在跟它争能源，它觉得只需要留一部分人给它机房打扫卫生就好了，给它空调换换风扇就好了。

我觉得，如果放任它发展而没有任何约束的话，它很可能就会产生上述我们人类觉得“奇怪”的意识。所以，我编了一个笑话：“十年以后，超级GPT基本上在全世界实现了对人类的奴役和控制；只有少数几个国家当时被他们封锁，才使得不至于让所有的国家幸免于难。”

它能帮助好人，也一样能帮助坏人

记者：随着以ChatGPT为代表的AIGC大模型技术的发展，它会否导致新的网络安全问题的出现？甚至因此给数字安全技术带来重大变革？

周鸿祎：关于ChatGPT带来的安全问题，我觉得它已经从一个技术问题变成了一个社会伦理问题，有的时候甚至变成了一个人类面临的不可预知的问题。

首先，从传统来说，ChatGPT既然是一个软件系统，它是用数据来训练的；所以对它的数据污染，或者软件系统内部留的漏洞，这是任何一个传统的人工智能系统都面临的传统数字化问题。

其次，ChatGPT今天作为一个非常有利的武器，它是为它的主人服务的，它掌握了非常多的编程知识，以及有关于漏洞网络安全的知识。因此，它现在完全可以成为网络黑客作恶的有力的工具。它作为一个机器人助理，除了可以帮助好人，也一样可以帮助坏人。所以，网上有很多黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码，它大大降低了攻击的成本和难度，成为很多黑客的帮手。

反过来，安全行业也在探索用GPT大模型，能否解决对攻击的自动侦测、自动发现，或者建立知识库。企业网管在面临安全事件分析的时候，需要有一个强大的知识库做支撑。所以，ChatGPT也可以扮演正义助手的角色。

关键词: 与周鸿祎深聊ChatGPT它会不会产生与人类为敌的想法