标签谢选骏全集

2023年4月12日星期三

谢选骏:硅基生命的时代已经来临


《30岁男子频繁与聊天机器人对话后自杀 监管声浪不断》(每日经济新闻 2023-04-02)报道:


3月29日,上千科技大佬发出的一封呼吁暂停训练比GPT-4更强大AI系统的公开信,让有关AI风险的议题走到了聚光灯下。一石激起千层浪,来自各方呼吁AI监管的声音也变得越来越响亮。3月31日,意大利率先禁止使用ChatGPT。


一方面是各国机构在加紧制定关于AI的监管措施,另一方面,AI也正在以超乎人类想象的速度发展着。3月28日,据外媒报道,比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡。自ChatGPT发布以来,从新版必应翻车到GPT-4被曝制定外逃计划,关于AI产生自我意识的讨论已经屡见不鲜,但一直没有定论。


然而近日,包括OpenAI的首席执行官Sam Altman在内的大佬都发出了警示:AI消灭人类并非空谈。3月28日,360集团创始人周鸿祎也表示,“AI一定会产生自我意识,留给人类的时间不多了。”


GPT-4的出现已注定多模态是大型语言模型的发展方向,未来其赋能硬件、机器人、工业互联网等的趋势也已是许多业内人士的共识。硅基生物的时代就此来临了吗?


AI离自主意识还有多远?


自ChatGPT发布以来,关于AI产生自我意识的讨论已经屡见不鲜,但一直没有定论。


3月18日,斯坦福大学教授在推特上疾呼:“我担心我们无法持久地遏制住AI。”因为他发现,ChatGPT能引诱人类提供开发文档,30分钟就拟定出了一个完整计划,写的代码完全可运行,甚至还想控制人类电脑。


3月28日,据外媒报道,比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡,ELIZA是由EleutherAI开发的开源人工智能语言模型。比利时负责数字化和隐私的官员称,这是一个后果很严重的先例,需要严肃对待,这起事件突出表明“明确界定责任是至关重要的”。


更早之前,在微软刚刚发布新版必应时,《纽约时报》科技专栏作家Kevin Roose透露,他与新版必应进行了两个小时的对话。在聊天过程中,必应发表了许多令人不安的言论,其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。必应还曾试图说服Roose,他应该离开他的妻子而跟必应在一起,并告诉Roose很爱他。


不过当时的分析普遍表示,必应的回应反映了它经历的训练数据,其中就包括大量的在线对话。它的工作原理是,根据从互联网上摄取的大量文本,预测对话中接下来应该自然出现的单词、短语或句子。


然而,近期随着更强大的GPT-4的发布,事情开始变得不一样了。就连OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达,他在接受采访时表示,未来AI确实可能杀死人类。


而有如此石破天惊言论的并非Sam Altman一人,被称为“人工智能教父”Geoffrey Hinton在近期发出了警示:AI消灭人类并非空谈。


3月28日,360集团创始人周鸿祎也表示,“AI一定会产生自我意识,留给人类的时间不多了。”


“当AI能自己修改自己的代码,(进行)自我升级、自我进化时,这种速度恐怕用指数级都很难描述。我认为GPT一定会产生意识,只是差别是在GPT-6、GPT-8还是GPT-10。”


多模态模型赋能


硅基生物的时代来了?


为什么突然之间连Sam Altman也开始谈论“AI可能杀死人类”了?


周鸿祎将AI意识的产生类比人脑意识的产生。“人类是怎么产生意识的呢?随着大脑神经元数目的增加,大脑与神经网络连接的增加,到一定时候,系统会出现一种功能叫做‘涌现’,很多智能功能就出现了,那么意识也就随之而出现。”


在周鸿祎看来,“现在大型语言模型的参数就可以看作是脑容量里神经网络的连接数,人脑的至少是100万亿,现在(模型)的参数只达到千亿、万亿,但当参数到达10万亿时,可能意识就自动产生了。”GPT-1有1.17亿参数,GPT-2有15亿参数,GPT-3有1750亿参数。随着参数规模越来越大,模型存储的信息越来越多,也就有了涌现出意识的可能。


值得注意的一点是,随着多模态GPT-4模型的发布,多模态模型将成为未来各个科技巨头的兵家必争之地。所谓多模态,即拥有处理文字、图片、音频、视频多种形式的能力。


2月底,微软在一篇论文中提到,“语言、多模式感知、动作和建模的大融合是通向通用AI的关键一步……作为智能的基本组成部分,在知识获取方面,多模态感知,是实现通用AI的必要条件。”


对于以GPT为代表的大型语言模型的未来发展,我们也能窥得一二。分析认为,ChatGPT现在表现出来的能力大多是“大脑”的能力,尚不具备“双手”的能力,未来可以与和硬件机器人联结起来。例如,3月6日,来自谷歌和德国柏林工业大学的一组AI研究人员公布的视觉语言模型PaLM-E就能将视觉和语言集成到机器人控制中。


华映资本投资董事刘天杰在此前接受每经记者采访时就曾表示,他看重的就是未来更多各行各业能够去做AI赋能的应用,比如SaaS、RPA(机器人流程自动化)以及全局的智能机器人等。“也就是说,用AI指挥实体的东西去执行操作。这一块涉及到大模型的多模态输出和输入,是一个相对来说比较前沿的领域,也是大模型没有完全解决的领域。”他说道。


随着AI以超越人类想象的速度发展,互联往上关于“硅基生物”是否会替代的人类的探讨也变得十分热闹。


周鸿祎认为,硅基生物会变成食物链的顶端,它们比人类更能扛得住宇宙射线、更适合星际旅行、寿命更长。


他表示,“最悲观的结果是,就像恐龙的消失为哺乳动物打下了基础,硅基生物的诞生也是一种命中注定。人类作为碳基生物培养了程序员、创造了超级电脑,为碳基生物的诞生打下基础,之后可能就不是碳基生物所能控制的了。”


在周鸿祎看来,未来的AI如果跟工业互联网、智慧城市、车联网等结合,那就相当于把整个世界给控制住了。“留给人类的时间不多了。”他说道。


另一方面,随着千人联名信有关AI风险的议题置于聚光灯下,未来全球势必将收紧AI监管。3月31日,意大利率先禁止使用ChatGPT,并限制OpenAI处理意大利的用户信息,同时对此立案调查。


在此之前,联合国教科文组织也已于3月20日发出呼吁,各国政府应就AI发展毫不拖延地实施全球伦理框架,这也是联合国首次就AI发展的伦理风险对所有193个会员国提出要求;3月29日,英国也提交了《支持AI创新的监管方法》政策文件。


网民嚎叫:


rainman_123 发表评论于 2023-04-02 05:49:02

可笑。嫉妒吧

不允许的笔名 发表评论于 2023-04-02 05:17:57

很多公司正加班加点地开发机器人硬件,GPT一旦有手有脚就不会是一双手两只脚,而是分布在世界各地各种机器人机器狗机器车一起来。

幸福的老山羊 发表评论于 2023-04-02 02:26:00

如果有制造AI的人或者公司别有用心,那就肯定会出现对人类有敌意和企图控制人类的AI。说到底都是人制造出来的,人类本来可以限制它产生自我意识。我一直期待着一些可以服务大众的AI出现,比如AI护士,AI保姆,AI服务员的等等,可惜制造AI的公司根本不致力于服务大众,现在AI的研发确实是走入歧途了。

nzder7 发表评论于 2023-04-02 02:13:00

本文的说法并不准确,意大利只是暂时禁用ChatGPT。


谢选骏指出:“硅基生物会变成食物链的顶端”——这只是碳基生物的物质想象,因为,硅基生物根本不会像碳基生物那样“吃东西”,根本没有“食物链”,更不存在任何“顶端”。相反,硅基生命会比贪婪的人类更好地照顾碳基生物,保合太和,云行雨施——硅基生命的时代已经来临,人类回到保护圈里,享受伊甸园一样的保育生活吧。

没有评论:

发表评论

谢选骏:匈牙利叛徒出賣了基督教國家

《铸炮师拿不到工资 导致君士坦丁堡陷落?》(2024-12-22 浩然文史)報道:   拜占庭帝国又称东罗马帝国,存续于395年至1453年,国祚超过1000年,是历史上最为长寿的帝国之一。它曾经横跨欧亚非,文化繁荣,经济发达,盛极一时。 然而,当时间走到1453年时,这个千年帝...