当前位置:首页 >知识 >“可能给人类带来灭绝风险!”OpenAI创始人领衔,超过350位大佬联名呼吁:AI堪比“疫情和核战争”

“可能给人类带来灭绝风险!”OpenAI创始人领衔,超过350位大佬联名呼吁:AI堪比“疫情和核战争”

2024-05-05 08:16:54 [百科] 来源:杭秦资讯网
每经编辑:毕陆名

自从生成式AI以势如破竹的可能堪比速度席卷几乎每一个领域,AI挑战人类的人过位担忧也越来越真实。日前,类带联名超过350名人工智能(AI)领域的灭绝行业高管、专家和教授签署了一封公开信,风险他们在信中警告称,创始AI可能给人类带来灭绝风险。人领

非营利组织人工智能安全中心(Center for AI Safety)本周二发布简短声明:“将减轻人工智能带来的衔超灭绝风险,放在和流行病、大佬核战等社会问题同一高度,呼吁和核作为全球优先事项推进”。疫情签署者包括OpenAI首席执行官山姆·奥特曼等高管。战争

“AI可能给人类带来灭绝风险”

这封信于周二发表在非营利组织人工智能安全中心(CAIS)的可能堪比网站上,签署者包括OpenAI首席执行官山姆·奥特曼、人过位DeepMind首席执行官Demis 类带联名Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封信只有一段话,整份声明才22个字(英文),全部内容如下:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”

上面的倡议已得到了多位AI行业大佬的支持,超过350位AI领域高管和专家签署了这份声明。

其中主要人物有:

Google DeepMind首席执行官戴米斯・哈萨比斯(Demis Hassabis)、OpenAI首席执行官山姆・奥特曼(Sam Altman)、“AI教父”杰弗里・辛顿(Geoffrey Hinton)、2018年图灵奖得主约书亚・本希奥(Youshua Bengio)、Anthropic的首席执行官达里奥・阿莫代(Dario Amodei)。

该网站表示:人工智能专家、记者、政策制定者和公众越来越多地讨论人工智能带来的重要和紧迫的广泛风险。即便如此,也很难表达对先进人工智能的一些最严重风险的担忧。

自聊天机器人ChatGPT掀起AI热潮以来,对这项技术潜在风险的担忧持续增加。

今年3月,包括特斯拉CEO埃隆·马斯克在内的1000多名行业高管和专家签署公开信,呼吁在6个月内暂停高级AI的开发。马斯克等人在信中写道,高级AI可能会对社会和人类构成深远的风险。

G7呼吁出台AI技术标准

据第一财经5月21日报道,21日,七国集团(G7)领导人就制定和建立人工智能(AI)技术标准作出呼吁,敦促行业和监管者确保人工智能“值得信赖”。他们还称,目前的技术治理未能跟上人工智能的发展步伐。

尽管人工智能技术提供了许多好处,但它们的发展速度超过了监管机构能够跟上的速度。

5月20日在日本广岛举行的G7领导人会议上发表的一份声明称,人工智能等数字技术的规则应该“符合人们共同的价值观”。

峰会还达成共识,在今年年底之前创建一个专门讨论人工智能进展的部长级论坛,讨论围绕生成式人工智能的问题,例如版权和打击虚假信息。

图片来源:视觉中国

欧洲一直走在人工智能监管的前沿。欧盟本月已经接近通过一项人工智能技术监管的立法,这也有望成为全球首部全面的人工智能法案,并可能成为发达经济体的先例。

“我们希望人工智能系统准确、可靠、安全且无歧视,无论其来源如何。”欧盟委员会主席乌尔苏拉·冯德莱恩5月19日表示。

G7领导人还表示,他们需要尽快评估有关生成式人工智能的机遇和挑战,这也是近期ChatGPT引爆的一个技术热点。

尽管各个国家都呼吁加强对人工智能的监管,但各国政府对于人工智能的态度也有差异。

据澎湃新闻5月26日报道,在美国国会听证会上呼吁设立新机构监管AI后,OpenAI首席执行官山姆·奥特曼(Sam Altman)又展开欧洲之旅,面见各国政府首脑,并在高校参加对话活动,重申监管建议。在接受媒体采访时,他警告称,因为欧盟正在制定的AI法规,OpenAI可能会从欧洲市场撤出其服务。

其他科技大企业也不甘示弱。当地时间5月25日,微软总裁布拉德·史密斯(Brad Smith)在华盛顿与美国议员一起主持了一场备受瞩目的活动,推出了微软关于政府应该如何监管AI的建议。

前一天,谷歌首席执行官桑德尔·皮查伊(Sundar Pichai)在布鲁塞尔与欧盟官员会晤讨论AI政策,他强调,需要对技术进行适当监管且不会扼杀创新。

每日经济新闻综合第一财经、澎湃新闻、非营利组织人工智能安全中心(CAIS)

每日经济新闻

(责任编辑:焦点)

    推荐文章
    • 省级督察组现场核实情况,遭故意封路阻挠

      省级督察组现场核实情况,遭故意封路阻挠央广网5月2日报道,近日,内蒙古自治区第一生态环境保护督察组对呼和浩特市进行督察。督察组进驻21天,受理呼和浩特市垃圾违法倾倒信访举报案件80件,占比近22%,群众反映强烈。督察结果表明,呼和浩特市对 ...[详细]
    • 兴业银锡:与西藏自治区山南市政府签署战略合作协议

      兴业银锡:与西藏自治区山南市政府签署战略合作协议兴业银锡:与西藏自治区山南市政府签署战略合作协议证券时报e公司讯,兴业银锡(000426)11月26日晚间公告,为实现公司对山南市金矿资源的开发和经济增长作出更大贡献,西藏自治区山南市政府同意在山南市 ...[详细]
    • 4000亿大雷,终于爆了

      4000亿大雷,终于爆了    从传言到最终坐实,时隔多日中植集团正式官宣爆雷!▲ 图源:新浪微博近日,中植集团对外发布了一封道歉信,声称公司存在重大持续经营风险,负债规模在4200亿到4600亿之间,短期内可用于兑付债务的 ...[详细]
    • 自宣?前同曦外援皮特森:CBA利拉德要回来了

      自宣?前同曦外援皮特森:CBA利拉德要回来了    直播吧11月26日讯 今天,前CBA外援皮特森在个人Ins转发了上赛季集锦,并写道:“CBA利拉德要回来了。”在今年夏天,皮特森曾爆料同曦拖欠自己4个月薪水。随后同曦将皮特森的优先续约权出售给 ...[详细]
    • 澳大利亚收紧出口,中国在非洲淘到“白金”

      澳大利亚收紧出口,中国在非洲淘到“白金”来源:观察者网观察者网讯)据香港英文媒体《南华早报》5月3日报道,主要供应国澳大利亚收紧出口之际,中国对非洲锂矿的投资开始获得回报,中企对津巴布韦卡马蒂维锂矿的投资使其产量呈指数级增长。这是中国打开锂 ...[详细]
    • 【调研快报】华明装备接待国泰君安调研

      【调研快报】华明装备接待国泰君安调研华明装备11月26日发布消息,11月22日,公司接待国泰君安调研,接待人员董事会秘书 夏海晶。调研主要内容1、公司对于未来的展望? 行业的增长驱动其实首先是整体经济的发展,经济在发展对应电力需求驱动了 ...[详细]
    • 余光中的“新娘”,走了

      余光中的“新娘”,走了    作者:喻汀“乡愁是一张窄窄的船票,我在这头,新娘在那头。”一次,诗人余光中在台上朗诵《乡愁》,当吟到“我在这头,新娘在那头”时,他伸手指向观众席上的一位女士。在众人的鼓掌欢呼下,女士款款起身, ...[详细]
    • 谁会出手?场均36+6+6外援试训CBA 上个赛季是NBL全明星MVP

      谁会出手?场均36+6+6外援试训CBA 上个赛季是NBL全明星MVP    北京时间11月26日,根据媒体人“江南的城”透露,上个赛季效力NBL合肥狂风的哈姆雷特正在和CBA球队接触,参考他的个人能力和打球方式,一些中下游球队愿意考察是可以预期的。哈姆雷特今年25岁, ...[详细]
    • 皇家蘇斯達 對 拉斯彭馬斯

      皇家蘇斯達 對 拉斯彭馬斯軍情皇家蘇斯達後防重心蘇比迪亞與中場主力米基爾馬連奴,同因累計黃牌夠數,今場齊齊停賽;阿列斯艾路斯當度與薩哈恩有望頂上擔正,實力仍可望維持。拉斯彭馬斯鋒力疲弱,上仗聯賽以前鋒辛度拉美利斯取代卡巴擔正; ...[详细]
    • 原创 金三角口岸升红旗,南部战区主力到位,两个原则,缅各方都要明白

      原创 金三角口岸升红旗,南部战区主力到位,两个原则,缅各方都要明白    原标题:金三角口岸升红旗,南部战区主力到位,两个原则,缅各方都要明白          南部战区开始行动了,据云南省人民政府官网发布消息,根据年 ...[详细]
    热点阅读