暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持 关注
昨天,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。经过了...
2023-03-30昨天,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。
经过了一天的唇枪舌剑,几位关键人物以及其他各路大牛,都纷纷出来公开回应。
有的非常官方,有的十分个性,也有人并没有直面问题。但有一点可以肯定,不论这些大佬自己的观点,还是背后所代表的利益集团,都值得细品。
(资料图片)
有趣的是,在图灵三巨头中,一位带头签名,一位强烈反对,还有一位不发一言。
Bengio签名、Hinton沉默、LeCun反对
吴恩达(反对派)此次事件中,前谷歌大脑成员、在线教育平台Coursera创始人吴恩达是旗帜鲜明的反对派。
他明确亮出了自己的态度:把「让AI取得超越GPT-4的进展」暂停6个月,这个想法很糟糕。
他表示,自己已经在教育、医疗保健、食品等领域看到了许多新的AI应用,许多人将因此受益。而改进GPT-4也会有好处。
我们该做的,应该是在AI创造的巨大价值与现实风险之间,取得一个平衡。
对于联名信中提到的「如果不能迅速暂停对超强AI的训练,就应该让政府介入」,吴恩达也表示这种想法很糟糕。
他表示,让政府暂停他们不了解的新兴技术是反竞争的,这树立了一个糟糕的先例,是一个很可怕的政策创新。
他承认,负责任的AI很重要,AI也的确有风险。
但媒体渲染的「AI公司正在疯狂发布危险的代码」,显然是太夸张了。绝大多数AI团队,都非常重视负责任的AI和安全。不过他也承认,「遗憾的是,不是全部」。
最后他再次强调:
6个月的暂停期,不是一个切实可行的建议。为了提高人工智能的安全性,围绕透明度和审计的法规将更加实用,并产生更大的影响。在我们推进技术的同时,让我们也更多地投资于安全,而不是扼杀进步。
而他的推特下面,已经网友表示强烈反对:大佬之所以云淡风轻,大概是因为失业的痛苦不会落到他们头上。
LeCun(反对派)联名信一发出,就有网友奔走相告:图灵奖巨头Bengio和LeCun都在信上签了名!
而时时冲浪在网络第一线的LeCun,立马辟谣:没,我没签,我不同意这封信的前提。
有网友表示,我也不同意这封信,但我很好奇:你不同意这封信的原因,是觉得LLM不够先进,根本威胁不到人类吗,还是其他原因?
但LeCun对于这些问题,都没有回答。
在谜一般地沉默了20小时后,LeCun忽然转发了一位网友的推文:
「OpenAI足足等了6个月,才发布了GPT4!他们甚至为此还写了一份白皮书....」
对此,LeCun大赞道:说得对,所谓「暂停研发」,不过就是「秘密研发」罢了,这与一些签名者所希望的恰恰完全相反。
看来,什么都瞒不过LeCun的慧眼啊。
之前提问的网友也表示同意:这就是我什么反对这个请愿书的原因——没有哪个「坏人」会真正停止。
「所以这就像一项没有人遵守的武器条约?历史上这样的例子不多吗?」
过一会,他又转发了一位大佬的推特。
这位大佬说,「我也没签。这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。」 LeCun说,「我同意」。
Bengio和Marcus(赞成派)公开信署名的第一位大佬,便是赫赫有名的图灵奖得主Yoshua Bengio。
当然了,纽约大学教授马库斯也投了赞成票。他似乎是最早曝光这次公开信的人。
而讨论声逐渐喧嚣之后,他也火速发了一篇博客解释自己的立场,依然充满亮点。
突发新闻:我之前提到的那封信现在公开了。这封信呼吁暂停「比GPT-4更强大」的AI的训练6个月。许多知名人士签了名。我也加入了。
我没有参与起草它,因为还有一些别的事需要大惊小怪(例如,比GPT-4更强大的AI,究竟是指哪些AI?既然GPT-4的架构或训练集的细节还没公布,那我们从何得知呢?)——但这封信的精神是我所支持的:在我们能更好地处理风险和收益之前,我们应该谨慎行事。
看看接下来会发生什么,将会非常有趣。
而刚刚马库斯表示百分之百赞同的另一个观点,也非常有趣,这一观点称:
GPT-5不会是AGI。几乎可以肯定,没有GPT模型会是AGI。我们今天使用的方法(梯度下降)优化的任何模型完全不可能成为AGI。即将问世的GPT模型肯定会改变世界,但过度炒作是疯狂的。
Altman(不置可否)截至目前,对于这封公开信,Sam Altman并未作出明确表态。
不过呢,他倒是发表了一些关于通用人工智能的观点。
构成好的通用人工智能的要素:
1.对齐超级智能的技术能力
2.大多数领先的AGI工作之间的充分协调
3. 一个有效的全球监管框架
有网友质疑:「与什么对齐?和谁对齐?与某些人对齐,就意味着与另外一些人不对齐。」
这个评论亮了:「那你倒是让它Open啊。」
而OpenAI的另一位创始人Greg Brockman转发了Altman的推文,再次强调OpenAI的使命「是确保AGI惠及全人类。」
再次有网友指出华点:你们这些大佬整天说「与设计者的意图对齐」,但除此之外谁都不知道究竟对齐是指什么。
Yudkowsky(激进派)还有一位名叫Eliezer Yudkowsky的决策理论家,态度更为激进:
暂停AI开发是不够的,我们需要把AI全部关闭!全部关闭!
如果继续下去,我们每个人都会死。
公开信一发布,Yudkowsky立马写了一篇长文发表于TIME杂志上。
他表示,自己没有签字,原因是在他看来,这封信太温和了。
这封信低估了事态的严重性,要求解决的问题太少了。
他说,关键问题并不在于「与人类竞争」的智能,很显然,当AI变得比人更聪明,这一步是显然的。
关键在于,包括他在内的许多研究人员都认为,构建一个拥有超人智慧的AI最有可能导致的后果就是,地球上的每个人都会死去。
不是「或许可能」,而是「必然会」。
如果没有足够的精确度,最有可能的结果就是,我们造出的AI不会做我们想做的事,也不会关心我们,也不会关心其他有知觉的生命。
理论上,我们应该可以教会AI学会这种关怀,但现在我们并不知道该怎么做。
如果没有这种关怀,我们得到的结果就是:AI不爱你,也不恨你,你只是一堆原子组成的材料,它可以拿来做任何事。
而如果人类想要反抗超人AI,必然会失败,就好比「11世纪试图打败21世纪」,「南方古猿试图打败智人」。
Yudkowsky表示,我们想象中会做坏事的AI,就是一个住在互联网上、每天给人类发送恶意邮件的思想家,但实际上,它可能是一个充满敌意的超人AI,一个思考速度数百万倍于人类的外星文明,在它看来,人类很愚蠢,很缓慢。
当这个AI足够智能后,它不会只待在计算机中。它可以把DNA序列通过邮件发给实验室,实验室将按需生产蛋白质,然后AI就拥有了生命形式。随后,地球上的所有生物都会死亡。
这种情况下,人类该如何生存?目前我们毫无计划。
OpenAI只是公开呼吁,未来的AI需要对齐。而另一个领先的AI实验室DeepMind,根本没有任何计划。
来自OpenAI官方博客
不管AI有没有意识,这些危险都存在。它强大的认知系统可以努力优化,并计算满足复杂结果的标准输出。
的确,当前的AI可能只是从训练数据中模仿了自我意识。但我们实际上对这些系统的内部结构知之甚少。
如果我们依然对GPT-4无知,并且GPT-5进化出了惊人的能力, 就像从GPT-3到GPT-4一样,那我们很难知道,究竟是人类创造了GPT-5,还是AI自己。
在2月7号,微软CEO纳德拉还幸灾乐祸地公开表示,新必应逼得谷歌只能「出来跳一段舞」了。
他的行为很不理智。
早在30年前,我们就该思考这个问题了,6个月并不足以弥合差距。
从AI的概念提出到今天,已经有60多年了。我们应该至少用30年来保证超人AI「不会杀死任何一个人」。
我们根本无法从错误中吸取教训,因为一旦错了,你就已经死了。
如果暂停6个月,就能让地球存活下来,我会赞同,但并不会。
我们要做的事情,是这些:
1. 新的大语言模型的训练不仅要无限期暂停,还要在全球范围内实施。
而且不能有任何例外,包括政府或军队。
2. 关闭所有大型GPU集群,这些都是训练最强大AI的大型计算设施。
暂停所有正在训练大型AI的模型,为所有人在训练AI系统时使用的算力设置上限,并在未来几年逐渐降低这个上限,以补偿更高效的训练算法。
政府和军队也不例外,立即制定多国协议,以防止被禁行为转移到其他地方。
追踪所有售出的GPU,如果有情报显示协议之外的国家正在建设GPU集群,应该通过空袭摧毁这家违规的数据中心。
比起国家间的武装冲突,更应该担心的是暂停被违反。不要把任何事情都看作是国家利益之间的冲突,要清楚任何谈论军备竞赛的人都是傻子。
在这方面,我们所有人要么共存,要么共亡,这不是政策,而是一项自然事实。
投票
由于签名太过火爆,团队决定暂停先暂停显示,以便让审核可以跟上。(名单顶部的签名都是直接经过验证的)
标签:
昨天,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。经过了...
2023-03-301、招聘岗位及人数为:招聘人员为辅助执法人员,其中执法服务窗口处理岗位1名。2、工作内容主要为投诉举...
2023-03-303月29日,苏奥传感(300507)融资买入553 89万元,融资偿还441 4万元,融资净买入112 49万元,融资余额9124 27万元。
2023-03-30影片由同名口碑剧集原班人马打造,陈正道、许肇任导演,沈洋、易帅婕编剧,“美味三姐妹”李纯、张含韵...
2023-03-30据陇东报报道(庆阳融媒记者陆洋通讯员贾江龙)日前,“清廉合水”在线监督共享平台正式启用。据悉,“...
2023-03-30昨日,由中国园艺协会牡丹芍药分会、中国农业科学院蔬菜花卉研究所、洛阳市政府主办的中国·洛阳首届牡...
2023-03-30◎实习记者孙明源博物馆的从业人员大多来自文博或者历史专业,但科技公司的人才往往是相关技术专业出身...
2023-03-303月30日电,据印度媒体wionews27日报道,在全球首例角膜自体移植手术中,意大利医生将一位双目失明八旬...
2023-03-301、打开电脑,单击开始,然后选择设置。2、在弹出的界面中,选择“网络和互联网”。3、单击左侧的WLAN,...
2023-03-301、拉洋村。2、大观乡下辖村。本文到此分享完毕,希望对大家有所帮助。
2023-03-301、解释:高兴的样子 ,形容心情好。2、 "然 "的意思是“ 的样子” "欣欣 "的意思是 "欢喜 ", "高兴 "例句:一
2023-03-29大江南北,春暖花开。大自然生机盎然,万象更新。下面我们就一起跟随镜头到天津、贵州和山东去看一看。
2023-03-29智通财经讯,利宝阁集团(01869)发布截至2022年12月31日止年度业绩,集团收入1 36亿港元,同比减少50 6%
2023-03-293月29日,国家外汇管理局副局长陆磊在博鳌亚洲论坛2023年年会“通胀、滞胀与加息:钢丝上的舞蹈”分论坛...
2023-03-29中新网3月29日电据路透社报道,美国白宫28日表示,美方决定停止同俄罗斯交换有关核武器的一些数据,作为...
2023-03-293月29日,位于广州天河区国际金融城东区的中建四局广州金融城项目率先冲出正负零,这将是国内最高的“近...
2023-03-29环境的改变会重塑人们的生活方式,在需求变化中,新的经济增长点也随之凸显。落地到家电行业,在洁净、...
2023-03-29奔驰遭第三大股东减持股份盖世汽车讯据路透社报道,德国豪华汽车制造商梅赛德斯-奔驰的第三大股东科威特...
2023-03-291、玩家达到急救150以后,可以购买学习【中级急救教材-绷带缚体】继续提升熟练度,使用后教你成为一名高...
2023-03-29武汉医保卡去哪里办理可以在各区社保经办机构办事大厅或者社保合作银行代办网点办理。注意,银行可以即...
2023-03-29美国田纳西州首府纳什维尔市警方28号公布了此前一天发生在该市一所小学枪击案中枪手被击毙的视频。这次...
2023-03-29感音性耳鸣要注意什么耳鸣患者要注意饮食和调整心态,通过饮食进行调解是一个很好的方法。食疗可以作为...
2023-03-29武汉汤湖公园15万株郁金香盛开
2023-03-291、脊柱侧凸的治疗可分为两大类,即非手术治疗和手术治疗。2、常见的非手术治疗方法包括理疗、体操疗法...
2023-03-29大港油田建成10万吨级页岩油效益开发示范平台
2023-03-29青海新闻网·大美青海客户端讯3月28日,记者从中国石油青海油田分公司获悉,该公司自主研发的“预氧化吸...
2023-03-29为了更好地满足广大投资者的理财需求,根据金鹰基金管理有限公司(以下简称“本基金管理人”)与东莞农...
2023-03-293月28日北向资金减持19 12万股山东黄金(01787 HK)。近5个交易日中,获南向资金增持的有1天,累计净...
2023-03-29台湾缺蛋以及蛋价失衡问题持续,引发高雄80家早餐店酝酿近期全面抵制不卖蛋类产品。中国国民党“立委”...
2023-03-291、米其林是法国的,舒适宁静性著称,马牌是德国的,很多高档次车原车配胎用这个牌子的。2、但国内马牌...
2023-03-28来源:华尔街见闻作者:韩旭阳分析师表示,如果信用额度被取消,企业就必须裁员、削减开支,并采取其他...
2023-03-282023年第一批社会批次保商房1 线下意向登记:2023年3月15日至3月31日(工作日,上午8:00-12:00,下午2:3...
2023-03-28点击观看视频广西新闻网南宁3月28日讯(记者黄玲娜李彬华实习生黄在丽黄缨茹)传统文化润人心,笔墨传情...
2023-03-283月27日,腾盛博药公司宣布,公司决定结束安巴韦单抗 罗米司韦单抗联合疗法项目,并已停止生产工作以将...
2023-03-283月28日,中国消费者协会发布《商品过度包装问题研究和消费者感知调查报告》。报告显示,80 7%的消费者...
2023-03-28记者从海南省教育厅了解到,2023年重点高校在琼实施专项计划工作已经启动。按照中央有关部署,专项计划...
2023-03-28日前,有媒体曝光了一组比亚迪新款宋ProDM-i实车无伪装谍照。新车已于此前完成申报,作为改款车型,主要...
2023-03-28上周A股市场震荡收涨,从主要指数的表现来看,上证指数上涨0 46%,深证成指上涨3 16%,创业板指上涨3...
2023-03-28▶同仁堂e家九价HPV疫苗预约报名摇号条件有哪些?•9价HPV疫苗报名摇号对象为16-26周岁女性(以报名时填...
2023-03-28中新网海南新闻3月27日电(记者张茜翼)记者从27日举行的海南省2023年森林防灭火形势例行新闻发布会获悉,...
2023-03-28汽车市场热点剖析:价格战将如何影响汽车产业
2023-03-281、晚唐诗人中成就较高的,当推杜牧和李商隐,人称“小李杜”。2、另外皮日休、聂夷中、杜荀鹤等继承了...
2023-03-28美股三大指数收盘涨跌不一,道指涨0 61%,纳指跌0 47%,标普500指数涨0 17%,石油股、银行股走高,第...
2023-03-28洛龙区面向全省公开招聘中小学校长本报讯(河南日报社全媒体记者王雪娜通讯员谢芳)3月23日,记者获悉,...
2023-03-281、刺痛【发音】cìtònɡ【解释】①刺激皮肉而感到疼痛:感到剧烈的烧灼样的疼痛。2、②用于比喻:使他...
2023-03-27湖北宜昌:“生态小公民”共护长江美
2023-03-27北京时间今天凌晨,热刺官宣主教练孔蒂下课。据统计孔蒂在2021年11月至今执教热刺期间共带队打了76场比...
2023-03-27西冷眼肉菲力上脑仔骨高端健身儿童原切整切调理跟阿根廷牛肉一起做知食分子3月19日北京福楼法餐厅主厨于...
2023-03-27西汉战神卫青,几次出征匈奴?都有哪些贡献,堪称最牛马夫之一,导语:西汉战神卫青,几次出征匈奴?哪次...
2023-03-27最终,该宗地由河北德业房地产开发有限公司以1350万元竞得。
2023-03-27为高质量开展千名干部包联千企“访诉求、解难题、促发展”活动,甘州区水务局坚持以“1+1+2”工作机制为...
2023-03-27关羽身长九尺,换算成现在有多高出土一汉尺得到答案,《三国演义》内最受人崇拜的就是关二爷了,他义薄云...
2023-03-27碧桂园西部中心房子不适合投资?儋州房产升值潜力解读2023~碧桂园西部中心不适合养老?碧桂园西部中心投...
2023-03-273月3日,无锡市教科院倪波主任和梁溪区教师发展中心特教研训员陈向华老师,带领融合教育课题组的骨干教...
2023-03-27怡达股份(300721)03月24日在投资者关系平台上答复了投资者关心的问题。
2023-03-27“2023起亚中国新能源战略发布会”将于3月20日举行,展示起亚品牌未来在中国电动化转型的规划。此外,...
2023-03-27李沁的知名度真的比大部分明星都要高,很多顶流小花可能只是在年轻群体中很火,在老一辈中就完全不知道...
2023-03-27报告网监测数据统计:2020年5月全国房间空气调节器产量为1942 8万台,同比降低-14 7%;1-5月份累计产量为7
2023-03-26有说《人生之路》是改编,也有说是部分取材,但无论如何都要从原著溯源。而返回上海浦江学院,他纵然在...
2023-03-26央视网消息:由内蒙古自治区人民政府主办的2023年春季大型招聘会3月25日在包头市举行,共有1093家企业提...
2023-03-263月25日,瀚川智能发布《向特定对象发行股票发行情况报告书》,宣布定增完成落地。本次定增发行价格最终...
2023-03-261、熟石灰就是氢氧化钙,也没有固定的值,大约是2 24g mL。2、密度是单位体积的质量。国际单位为千克...
2023-03-26被骂婊,被嘲胖?无所谓,她回归大赚34亿!,迷你裙,纱裙,连体衣,泰勒斯威夫特,胸衣,礼服,ins
2023-03-261、刘生风情柳不如潇洒莲泾二大夫是时永嘉有佳士狗非其人不轻出刘雷风骨画龙章潇洒山林惯雪霜是处清风动...
2023-03-26e和弦是哪几个音,e和弦这个很多人还不知道,现在让我们一起来看看吧!1、E和弦:1指按三弦在一品,2指按五...
2023-03-26微信公众号主要分为订阅号和服务号两种:1、订阅号每天可以推送文章,但是折叠在订阅号中,不会进入消息...
2023-03-26不能。因为车厘子不在虎皮鹦鹉的食谱里,如果一旦吃车厘子过敏,就麻烦了。严重的可能出现意外,可以考虑每...
2023-03-26据不完全统计目前已有四川成都、江苏南京天津、安徽、江西等多地明确延长婚假其中甘肃、山西两省婚假最...
2023-03-26时隔35年湘西走失女子终于回家
2023-03-25目前,美国仍在叙利亚境内保留驻军并通过支持当地反政府武装占领了叙利亚主要油田,频繁盗取叙利亚石油...
2023-03-25湖北经济学院教务处是在校长和分管教学副校长领导下,负责全校本科教学工作的职能部门。教务处遵循高等...
2023-03-25今天小编肥嘟来为大家解答以上的问题。定滑轮受力分析为什么是2f,定滑轮受力分析相信很多小伙伴还不知...
2023-03-25小彭汽车向小鹏汽车道歉今天的热度非常高,现在也是在热搜榜上了,那么具体的小彭汽车向小鹏汽车道歉是...
2023-03-25近日上城公安接到辖区一银行工作人员报警称一位大妈要求转账给投资理财老师怀疑对方是骗子需要民警上门...
2023-03-251、汩汩是一个汉语词汇,读音为gǔgǔ,拟声词,形容波浪声;比喻文思勃发;形容水流动的声音或样子。《...
2023-03-25同时,南京某小区并未成立业主大会并选举业主委员会,对于大小货车及农用车是否能够出入小区,物业公司...
2023-03-252023年3月24日外交部发言人毛宁主持例行记者会路透社记者:据报道,洪都拉斯将宣布与中国建交,与台湾断...
2023-03-25华数传媒(000156)(000156):关于使用闲置募集资金购买保本型产品的公告3月24日,华数传媒公告显示,经中...
2023-03-25杭州再挂牌12宗涉宅地块:总起始价153 56亿元
2023-03-241、建筑面积跟占地面积区别非常的大,建筑面积亦称建筑展开面积,它是指住宅建筑外墙外围线测定的各层平...
2023-03-24山西省气象台发布暴雪黄色预警【Ⅲ级 较重】
2023-03-24正邦科技公告,2月销售生猪67 40万头(其中仔猪46 70万头,商品猪20 70万头),环比上升19 29%,同比...
2023-03-24本次质押股份占滨江集团总股本3 21%,质押起始日为2023年3月23日至2024年3月23日,质权人为中信证券股...
2023-03-24《2023年上海市推进政府职能转变和“放管服”改革工作要点》公布,明确全链条优化审批、全过程公正监管...
2023-03-24截至2023年3月24日收盘,维远股份(600955)报收于22 18元,下跌0 58%,换手率0 39%,成交量1 41万手,成交额3143 56万元。
2023-03-24负离子加湿器,顾名思义,就是产生负氧离子,加湿改善空气的一种装置。负离子加湿器多采用超声波技术,...
2023-03-24搞汽车的朋友如果熟悉汽车产品周期,会知道汽车产品生命周期一般是7年左右。一般汽车上市后的第2年左右...
2023-03-24这几个地方比九寨沟还美,趁着知道的人不多,小假期一起看看不一样的风光吧!1 安吉天荒坪这里是电影《...
2023-03-24北京时代易信科技有限公司(以下简称时代易信)成立于2003年,是信息安全整体解决方案提供商,专注于信息...
2023-03-241、近日,小编在最新版发现支付宝一项纷来分期正式开通上线,该服务抢先在支付宝信用生活上线,因为来分...
2023-03-24“3月以来,游客数量是越来越多了。”3月22日在铜陵市永泉农庄度假村,工作人员如是介绍。今年尤其是进入3...
2023-03-243月23日,中国医药(600056)融资买入1862 32万元,融资偿还1466 4万元,融资净买入395 92万元,融资余额6 71亿元。
2023-03-24水泵的工作原理:泵将原动机的机械能或其他外部能量传送给液体,使液体能量增加。泵的用途:主要用来输...
2023-03-24国家税务总局西宁经济技术开发区东川工业园区税务局(以下简称“东川税务局”)持续推行“税收管家”服...
2023-03-241、判断一家植发医院的好坏,要从植发医院的正规性、植发技术的先进性、植发医生的专业性、发友们的口碑...
2023-03-23近年中国进入宠物经济高速发展期,内地城市宠物数量日益增多,相关产业的营业额每年增加约18 5%,消费...
2023-03-231、1 张仙人的百岁大寿张三丰百岁大寿即将到来,武当派上下无不大费周章筹办寿宴,准备迎接各方前来祝...
2023-03-23【全国农产品批发市场猪肉平均价格为20 11元 公斤较前一日下降0 7%】据农业农村部监测,截至3月23日1...
2023-03-231、《梦落芳华》,作者:也顾偕。2、《歌尽桃花》,作者:靡宝。3、《绾青丝》,作者:波波。4、《香蜜...
2023-03-23欢迎观看本篇文章,小勉来为大家解答以上问题。张也简历及个人资料,张也介绍很多人还不知道,现在让我...
2023-03-23Copyright © 2015-2032 华西水产网版权所有 备案号:京ICP备2022016840号-35 联系邮箱: 920 891 263@qq.com