千名大佬紧急呼吁停止 AI 训练!OpenAI:GTP-4 已出现无法解释的推理~
从去年 11 月的 ChatGPT 再到今年的 GPT-4,AI 的成长迅速刷新了人们的认知,每个人应该都明白科幻电影迟早会走进现实,只是没想到这么快而已。
这两天,以 SpaceX/特斯拉/推特 CEO 马斯克、图灵奖得主 Yoshua·Bengio、苹果联合创始人 Steve·Wozniak 等为首的多名业内大佬联名叫停训练所有比 GPT-4 更强大的 AI。
截止发稿前,该公开信的签名人数已经达到了 1377 人,其中包含大量业内著名人士,含金量毋庸置疑,而且因为人数太多,签名已经暂时不更新了。
【资料图】
据悉,该公开信的目的是要求所有 AI 实验室立即暂停对比 GPT-4 更强大的 AI 系统的训练至少 6 个月,以下为联名的公开信全文:
全球顶级 AI 实验室的验证以及大量的研究表明,拥有人类竞争智慧的 AI 系统可能对社会和人类构成深远的风险。在被广泛认可的《Asilomar AI》原则中,高级 AI 可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场以开发和部署更强大的数字思维为目的的失控竞赛,没有人——甚至其创造者都无法理解、预测或可靠地控制的人工智能。
当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:
我们是否应该让机器用宣传和谎言充斥我们的信息渠道?
我们应该把所有的工作都自动化吗,包括有成就感的工作?
我们是否应该发展数量和智慧都最终会超越我们自己的非人类智能吗?
我们应该冒着失去对我们文明控制的风险吗?
不得将此类决定抛给未经选举产生的技术领导者,只有当我们确定其影响是积极的并且风险是可控的时候,才应该开发强大的 AI 系统,而且这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。OpenAI 最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前可能不得不进行重要的独立审查,并且对于最先进的研究来说,可能要限制用于创建新系统的计算增长率。” 这个观点我们同意,某些时候就指的是现在。
因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的训练比 GPT-4 更强大的 AI 系统。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。
AI 实验室和独立专家应该利用这次暂停的机会,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督,这些协议应确保其系统是安全的,而且这并不意味着彻底暂停 AI 的开发,只是从危险的竞赛中及时抽身到具有可控应对机制的正确道路上,而不是在大且不可预测的黑盒子中乱撞。
人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
与此同时,AI 开发人员必须与政策制定者合作,以显著加快开发强大的 AI 治理系统。这些至少应包括:
专门负责 AI 的全新且有能力的监管机构;
监督和跟踪强 AI 系统和大量计算的能力;
确定 AI 出处以及水印系统,以帮助区分真实与合成并跟踪模型泄漏;
强大的审计和认证生态系统;
AI 造成伤害的责任认定和承担;
为 AI 的安全研究提供强大的公共资金;
资源充足的机构来应对 AI 将造成的巨大的经济和政治破坏(尤其是民主)。
人类可以享受 AI 带来的繁荣未来,创建强大的 AI 系统后享受“AI 带来的夏天”,收获回报,将这些 AI 系统设计造福所有人,给社会一个适应 AI 的机会,而且社会需要评估可能对社会造成灾难性影响的技术。让我们享受一个漫长的 AI 之夏,而不是毫无准备地陷入秋风扫落叶的境地。
但是,另一位图灵奖得主、Facebook 首席人工智能科学家以及纽约大学教授杨立坤仿佛对此并不认可,而且也公开表明不同意该信件的内容并拒绝签署。
除此之外,普林斯顿大学计算机科学教授 Arvind·Narayanan 认为,这封信本身就进一步炒作了 AI,反而更难解决其带来的危害,而且重要的是这将会使得未来对 AI 监管的公司变成受益方,而不是社会。
据悉,OpenAI 的 CEO Sam·Altman 目前对此并没有明确表态,但是我们发现前不久他在和麻省理工学院的科学家 Lex·Fridman 的一次对话中似乎找到了答案。
“从 ChatGPT 开始,AI 出现了推理能力,但是没人知道这种能力出现的原因”,Sam·Altman 在采访中表示,“GPT-4 确实存在应对不同价值观的人的问题。”
最惊悚的是,Sam·Altman 承认 AI 确实可能杀死人类。其实不止他,马斯克、比尔盖茨等均表现出了对 AI 发展威胁到人类安全性的担忧。
Sam·Altman 和马斯克
在本周一的 2023 中国发展高层论坛上,周鸿祎表示,GPT-4 已经属于真正的强人工智能,已经进化出了眼睛和耳朵,未来可能会进化出手和脚,甚至在 GPT-6/GPT-8 将会产生意识而变成新的物种。
最后,人类历史进程中几乎所有的新技术都是一把双刃剑,既能带来好处,随之而来的就是风险,无论是汽车飞机还是核物理的应用,今天的 AI 依然如此,这也是有人赞成有人反对的根本原因。
我们先就 AI 谈几个问题:AI 是软件,是软件就会有 BUG,这是否会造成严重的后果?其次,复杂系统的行为是高度非线性的,几乎不可能被完全理解,那么随着 AI 的不断训练和迅速迭代,现阶段的管理甚至法律就会出现严重的漏洞。
还要面对一系列哲学和伦理问题,比如 AI 作为一个独立且先进的文化或物种,如何与人类共存等等,起码确保不会变成终结者或出现《I, Robot》中的袭击人类的事情。
关键词:
相关阅读
-
千名大佬紧急呼吁停止 AI 训练!OpenA...
从去年 11 月的 ChatGPT 再到今年的 GPT-4,AI 的成长迅速刷 -
环球今热点:搭载高通骁龙 8 Gen 2 ...
据业内信息报道,昨天魅族手机召开了新品发布会,发布了魅族20系列... -
【全球聚看点】贾跃亭:9 年不被理解,...
据业内信息报道,昨天早上法拉第未来正式启动生产FF91Futurist,现... -
全球观热点:工作站市场杀出黑马,Suma...
3月30日,中科可控面向党政信创、商业办公、教育科研、工业制造等“... -
简讯:是德科技和索尔思光电联合演示单...
是德科技与索尔思光电合作,在OFC2023上3029展位演示单波200GPAM4EM... -
2023年AMR中国国际汽保汽配展圆满闭幕,...
作为京津冀地区汽车售后市场重要的国际商贸平台,同时也是今年区内...
精彩推送
-
冰箱售后质量问题鉴定单怎么出?购买的...
购买的三无产品如何认定?冰箱质量问题售后要求出鉴定单是报售后服务... -
【全球聚看点】贾跃亭:9 年不被理解,...
据业内信息报道,昨天早上法拉第未来正式启动生产FF91Futurist,现... -
千名大佬紧急呼吁停止 AI 训练!OpenA...
从去年 11 月的 ChatGPT 再到今年的 GPT-4,AI 的成长迅速刷 -
环球今热点:搭载高通骁龙 8 Gen 2 ...
据业内信息报道,昨天魅族手机召开了新品发布会,发布了魅族20系列... -
格力空调遥控器上的标志各是什么意思?...
格力空调遥控器上的标志各是什么意思?1、三角形符号:自动模式。按... -
汽车空调出风小是什么原因?汽车空调风...
汽车空调出风小是什么原因?出口空气量非常小,原因如下: 1 汽车... -
大金空调出现u4怎么修 ?空调外机是干什...
大金空调出现u4怎么修 ?大金空调故障代码u4通常指的是通信故障,产... -
今日聚焦!只需1分钟续航200公里:宁德时...
只需1分钟续航200公里:宁德时代“巧克力换电块”已批量生产 -
空调遥控器上eco是什么意思?美的空调eco...
空调遥控器上eco是什么意思?1、环形箭头空调遥控器上面不同的标志代... -
空调的净化功能是什么?美的空调净化什么...
空调的净化功能是什么?空调即空气调节器(Air Conditioner)。是指用... -
冰箱售后质量问题鉴定单怎么出?鉴定单...
冰箱售后质量问题鉴定单怎么出?冰箱质量问题售后要求出鉴定单是报售... -
世界快报:梅州梅县区:实施“十大工程”...
梅州梅县区:实施“十大工程”,争当绿美广东示范区 -
法拉第未来发布会只展示了个车架 贾跃...
法拉第未来发布会只展示了个车架贾跃亭还有这些问题需要回答 -
洗衣机盖不会立咋修?双桶洗衣机盖子立...
洗衣机盖不会立咋修?洗衣机盖子立不起来,可以试试:1 应该是里面... -
walleve是什么软件?东芝电视出现wallev...
walleve是什么软件?walleve是由kristjan skutta所开发的一款动态壁... -
前沿资讯!销量下滑 利润大涨!2022年长...
销量下滑利润大涨!2022年长城汽车净赚82 66亿元 -
当前关注:200万辆库存未卖完 车企呼吁...
200万辆库存未卖完车企呼吁:暂缓国六B车型切换 -
热水器e8故障风机不转怎么处理?燃气热...
热水器e8故障风机不转怎么处理?1、烟道堵塞:热水器上面的排烟管道... -
洗衣机桶自洁是什么意思?洗衣机的桶自...
洗衣机桶自洁是什么意思?使用方法很简单,只要打开电源和水龙头,调... -
志高空调显示e5故障代码是什么意思?志...
志高空调显示e5故障代码是什么意思?志高空调故障代码E5:是低电压过... -
液晶电视电源组成?在电路板中的panel是...
液晶电视电源组成?panel是面板的意思,标有panel的插针是接机箱面板... -
海尔空调复位键是干什么用的?海尔空调...
海尔空调复位键是干什么用的?当空调遥控器失灵的时候,按下复位键可... -
洗碗机f1是什么意思?洗碗机f1怎么解决?
洗碗机f1是什么意思?洗碗机f1意思是漏水开关在进行漏水保护洗碗机f1... -
为什么车子提速的时候才有暖风?加油门...
为什么车子提速的时候才有暖风?不知道你描述的是不是,在空调和暖风... -
格兰仕空调显示E4?格兰仕空调出现e4什么...
格兰仕空调显示E4?格兰仕空调出现e4是指压缩机排气温度过高保护,故... -
空调输入功率和制冷量分别是什么意思啊...
空调输入功率和制冷量分别是什么意思啊?输入功率指的是耗电量,制冷... -
全球速递!西安市入选首批全国婴幼儿照...
国家卫生健康委、国家发展改革委近日联合印发通知,决定命名西安市... -
比亚迪不去美国 照样做大哥
比亚迪不去美国照样做大哥 -
今亮点!国内油价今晚有望“两连跌”!9...
国内油价今晚有望“两连跌”!95号汽油或回归“7元时代” -
世界视点!江西省吉安市2023-03-31 05:...
一、江西省吉安市天气预报1、新干县气象台2023年03月31日05时39分发... -
FF91量产了 不过市场里已经没了贾老板的位置
FF91量产了不过市场里已经没了贾老板的位置 -
美国火车又双叒叕脱轨了:装乙醇车厢爆...
美国火车又双叒叕脱轨了:装乙醇车厢爆炸起火 -
世界快资讯丨2022年全球新能源销冠 每...
2022年全球新能源销冠每天进账11亿!“技术为王”的比亚迪做对了什么? -
视讯!带尾翼的轿跑还不到15万 上汽这...
带尾翼的轿跑还不到15万上汽这是要掀桌子了? -
环球新消息丨女生为什么会流白色液体_女...
1、一腿抽筋常见的原因①寒冷刺激。2、如冬天在寒冷的环境中锻炼.... -
奥迪a3sportback_奥迪a3
今天小编肥嘟来为大家解答以上的问题。奥迪a3sportback,奥迪a3相信... -
短讯!雅迪冠能旗舰新品三车发布:重新...
雅迪冠能旗舰新品三车发布:重新定义高品质长续航电动车 -
全球时讯:磨砂板是最令人垂涎的 T...
您可能听说过黄油板,这种小吃在TikTok及其他地方引起了轰动。(万... -
环球看点!魅族Flyme Auto车机系统正式...
魅族FlymeAuto车机系统正式发布:交互完全不输华为问界 -
环球观点:钟南山院士亲自颁奖 小鹏G9...
钟南山院士亲自颁奖小鹏G9排面有点足获了什么奖? -
当前热议!针刺试验成弟弟!广汽埃安发布...
针刺试验成弟弟!广汽埃安发布弹匣电池2 0:枪击后不起火不爆炸 -
【聚看点】站姐怎么赚钱_站姐是什么意思
1、饭圈站姐用通俗一点的话来讲就是明星艺人的超级粉丝。2、平时的... -
福田汽车海外战略再提速 向泰国合资公...
3月27日,福田汽车与CPFOTON举行了批量纯电动轻卡交车仪式。活动中... -
全球观热点:工作站市场杀出黑马,Suma...
3月30日,中科可控面向党政信创、商业办公、教育科研、工业制造等“... -
电煤概念股名单一览(2023/3/30)
电煤概念股名单一览(2023 3 30),电煤概念股名单一览(2023 3 ... -
新消息丨南京摩托车车牌摇出苏A88888:...
南京摩托车车牌摇出苏A88888:网传要卖125万新规不能转让 -
油价两连跌 95号汽油有望回归7元时代:...
油价两连跌95号汽油有望回归7元时代:每升将便宜0 28元 -
当前快播:通信科技委换届大会召开 张...
2023年3月30日,工业和信息化部信息通信科学技术委员会(以下简称部... -
业界首创!台铃发布水冷氢能两轮车:备...
业界首创!台铃发布水冷氢能两轮车:备用氢罐随身带续航无压力 -
每日关注!中国中药协会中药药物经济学专...
3月28日,中国中药协会中药药物经济学专业委员会第三届换届大会在京... -
【快播报】TrendForce集邦咨询:预估第...
Mar 30,2023----即便原厂持续进行减产,然需求端如服务器、智能手... -
简讯:是德科技和索尔思光电联合演示单...
是德科技与索尔思光电合作,在OFC2023上3029展位演示单波200GPAM4EM... -
米尔国产T507-H开发板,用50行Python代...
我们在米尔国产T507-H车规级处理器的开发板上尝试无线图传功能,并... -
热议:媒体试驾翻车不影响 新款坦克500...
媒体试驾翻车不影响新款坦克500正常上市:33 50万买高安全硬派越野 -
世界今亮点!突破!100%大连制造,格劳...
格劳博中国大连生产基地自主生产的直线托盘存储系统PSS-L实现最快交... -
2023年AMR中国国际汽保汽配展圆满闭幕,...
作为京津冀地区汽车售后市场重要的国际商贸平台,同时也是今年区内... -
8大综合优势!台铃全球首发长续航钠离子...
8大综合优势!台铃全球首发长续航钠离子电池、极地强磁电机 -
逐绿前行“碳”索未来 首个乡村碳中和...
3月29日,“绿水青山·余建未来”——首个乡村碳中和建筑媒体开放日... -
热门:亚马逊云科技17年引领Serverless...
亚马逊云科技推出Serverless训练营降低Serverless技能门槛 -
【世界聚看点】汽车油耗计算公式是什么...
怎么算油耗公式,汽车的油耗一般是以百公里为依据的,计算公式为百... -
【全球时快讯】戈尔巴乔夫还在世吗?毕...
戈尔巴乔夫传在世吗,戈尔巴乔夫在世。米哈伊尔谢尔盖耶维奇戈尔巴... -
环球精选!一枝独秀不是春原文内容有哪...
一枝独秀不是春下一句是什么,1、一枝独秀不是春,百花齐放春满园。... -
天天观察:靠山王是什么人?最后怎么死的?
靠山王杨林是谁所杀,被罗成所杀。杨林,字虎臣,杨林武艺高强,手... -
婚姻登记机关主要包括哪几类?职责有哪些?
婚姻登记处在哪里,1、婚姻登记处又称婚姻登记机关,即各地的婚姻登... -
林正宏原名叫什么?在一眉道人中饰演什...
林正宏和林正英的关系,林正宏和林正英是合作关系。林正宏的原名叫... -
环球动态:新世纪福音战士中第一使徒是指...
新世纪福音战士第一使徒谁啊,《新世纪福音战士》中第一使徒是亚当... -
每日快讯!法拉第重磅官宣:正式启动生产...
据法拉第未来官方微博3月29日消息,北京时间3月30日上午7:30,FFieF... -
愁云惨淡万里疑是什么意思?全文如何赏析?
愁云惨淡万里疑的上一句是什么,瀚海阑干百丈冰,愁云惨淡万里凝,... -
油蛤是什么动物?油蛤有哪些品种?
油蛤是海水还是淡水,油蛤是海水动物。油蛤又叫蛤蜊,有花蛤、文蛤... -
英语统考多少分及格?考试内容有哪些?
统考英语怎么过,1、首先,做一套模拟试题,看一看能不能及格,哪里... -
全球聚焦:身份证反面背景图案是什么?...
身份证正反面分别是哪面,身份证证件正面印有国徽、证件名称、长城... -
世界热消息:曲裾是什么款式?在哪部著...
汉代的曲裾深衣有什么特点,曲裾是汉服的一种款式。按照《礼记》记... -
天天热推荐:发光材料是指什么?是什么...
什么是发光材料,发光材料是指能够以某种方式吸收能量,将其转化成... -
警笛头是谁创造的?警笛头是什么?
警笛头在哪个国,警笛头并没有固定的居所和出生地。警笛头是由特雷... -
每日信息:烟饼怎么使用?有哪些小技巧?
对烟饼的使用大家有什么技巧,1、在使用之前我们把它拿出来象月饼一... -
天天观察:煎蛋步骤是什么?有什么小技巧?
煎蛋怎么做 ,1、煎蛋的步骤:平底锅烧热,倒入适量油,打蛋到锅里... -
天天时讯:首页不显示页码怎么设置?具...
首页不显示页码怎么设置,1、首页不显示页码应当按照页码设置的步骤... -
电子烟花是什么产品?有哪几种形式?
什么是电子烟花,电子烟花是一种新型的电子产品,它有别于传统的装... -
天天通讯!SSL是什么协议?Netscape创建...
什么是ssl,1、SSL(SecureSocketsLayer安全套接层),及其继任者传输... -
孟子思想包括哪些?孟子思想主张是什么?
孟子思想概括,孟子思想政治思想:孟子继承和发展了孔子的德治思想... -
即时焦点:国产本田幼兽来了!本田Cross...
国产本田幼兽来了!本田CrossCub110上市:只需1 3万 -
信息:同学聚会送老师什么礼物,最重要的...
可以把目光投向平常生活中那些百元的单品。那些送老师的有趣小礼物... -
看热讯:收率
时空收率又称时空收率或时空得率。指在给定反应条件下,单位时间内... -
当前热文:贝嫂和老公牵手出街,“直筒...
相信,每一位女性都想拥有一双修长的双腿,但这并不是我们想一想就... -
怕宝宝哭闹影响其他乘客 父母花1.2万包...
怕宝宝哭闹影响其他乘客父母花1 2万包下高铁商务车厢 -
热头条丨富士康创始人郭台铭访美,寻求...
据业内信息报道,近日富士康创始人郭台铭访美,寻求推进未来同AI的... -
世界聚焦:罗永浩将在淘宝直播间售卖民...
据报道,“交个朋友”称罗永浩将于明天(3月31日)在淘宝直播间售卖商... -
国家发改委主任会见苹果CEO库克:希望加...
根据国家发改委官网公告,3月27日,国家发展改革委主任郑栅洁会见美... -
当前动态:工信部:中国已成立6G工作组推...
3月29日,工业和信息化部副部长王江平在博鳌亚洲论坛2023年年会“推... -
中国能建董事长:能源绿色低碳转型趋势...
(聚焦博鳌)中国能建董事长:能源绿色低碳转型趋势不可阻挡题:中国... -
当前看点!专家:中国汽车产业进入淘汰赛...
专家:中国汽车产业进入淘汰赛将从百家变成十几家 -
全球观点:FF 91正式量产!贾跃亭再提...
FF91正式量产!贾跃亭再提为梦想窒息:疯魔般的坚持不被理解 -
今日关注:舆论观察室丨“对美国政客来...
舆论观察室丨“对美国政客来说孩子不如枪支游说团体重要” -
城市健身人群时髦新宠装备,飞利浦GO A...
运动逐渐成为很多人在2023年的新关键词。人们喜欢在音乐中挥洒汗水... -
全球通讯!苹果官宣 2023 全球开发者...
据业内信息,今天苹果官方表示,苹果2023全球开发者大会(WWDC2023)... -
动态焦点:飞利浦B8967回音壁音响,给爱...
今年二月终于盼到《黑豹2》上映,许久不见的漫威系列电影总算回归内... -
速递!为何续航不长、配置不高、价格还...
为何续航不长、配置不高、价格还贵?五菱缤果产品经理在线答疑 -
坦克汽车发布川西试驾事故说明:操作不...
坦克汽车发布川西试驾事故说明:操作不当所致、人员均安全 -
聚焦数字领域转型,中国移动挂牌成立中...
据业内信息报道,近日三大运营商之一的中国移动正式挂牌成立了中移... -
世界看热讯:丽江通报“导游威胁游客”...
丽江通报“导游威胁游客”:问题属实,将严肃处理---中新网3月30日...