OpenAI内部人士抨击AI缺乏透明度

   在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。...

  

在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。

信中对人工智能的安全隐患表达了深切的担忧,指出“这可能会进一步加剧现有的不平等,导致信息操控和错误传播,甚至可能使人类面临灭绝的风险。”

其中包括一名来自谷歌深度思维(Google DeepMind)的员工在内的16位签署者警告称,人工智能公司“有强烈的经济动机来规避有效的监管”,而这些公司的自我监管并不能有效改善现状。

信中提到:“人工智能公司掌握着大量未公开的信息,包括其系统的能力与局限性、保护措施的有效性,以及不同类型伤害的风险程度。”

“然而,他们目前仅有微弱的义务与政府共享这些信息,而对公民社会则几乎没有分享。我们认为不能指望他们会自愿提供这些信息。”

信中还指出,这一现实意味着,只有公司内部的员工能够向公众发声,联署者呼吁制定更全面的举报人保护法律。

信中表示:“广泛的保密协议使我们无法表达我们的担忧,除了那些可能无法解决这些问题的公司。”

据《纽约时报》报道,OpenAI的四名现任员工匿名签署了这封信,因担心遭到公司的报复。

约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也参与了这份备忘录,他们被广泛称为人工智能的“教父”,并对人们对人工智能潜在危险的准备不足表示批评。

OpenAI在一份声明中对这些批评进行了反驳。

声明中称:“我们为提供最强大、最安全的人工智能系统的记录感到自豪,并相信我们在解决风险方面采取了科学的方法。”

“我们同意,考虑到这项技术的重要性,进行严格的辩论至关重要,我们将继续与全球的政府、民间社会及其他社区合作。”

OpenAI还表示,员工有“表达担忧的渠道,包括匿名的诚信热线”,并新成立了一个由董事会成员和高管领导的安全与保障委员会,首席执行官萨姆·奥特曼也在其中。

对OpenAI的批评最初是在《纽约时报》上发表的,与此同时,关于奥特曼对公司领导能力的质疑也在增加。

OpenAI推出了一系列新产品,但该公司坚称,这些产品只有在经过全面测试后才会向公众发布。

最近,一款人形聊天机器人的发布引发了争议,好莱坞明星斯嘉丽·约翰逊抱怨称,这款聊天机器人的声音与她的声音极为相似。

此前,她曾拒绝了奥特曼的邀请。

本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://liyuanfurniture.cn/post/9200.html

(109)

文章推荐

  • 雷克萨斯LX570:尊贵之选的顶级越野配置

      这家公司是卖进口豪车的,比如奔驰、宝马、丰田、路虎等等。他们还提供保险、分期付款、上牌、改装和送车等服务。他们的车源都是海外直发的,可以全国分期付款,而且提车速度很快,只需要一天。购车的时候可以开全票抵税,还有其他便利条件。他们还提供微信购车的服务,可以获得价值万元的汽车装饰礼包。另外,他们每天

    2024年09月06日
    831
  • 鬼附身现象的科学解析与表现特征

      在古代,关于鬼附身的故事流传甚广。那么,鬼附身到底是真是假?被鬼附身的症状有哪些?又该如何避免呢?一、什么是鬼附身?(图片来源网络,侵删)  关于鬼附身的说法五花八门,下面是几种常见的观点:  症状表现:据说被附身的人瞳孔会异常放大,感觉到一阵寒意,这可不是因为光线变化哦!传说中

    2024年09月07日
    751
  • MC期间是什么意思?详细解释及应用场景介绍

      在网络搜索中,经常会看到关于"mc期间是什么意思"的疑问。那么,究竟mc期间是什么意思呢?在这篇文章中,我们将为您详细解答这个问题,并探讨与之相关的内容。  MC期间的意思(图片来源网络,侵删)  首先,让我们来解释一下"MC期间"的含义。在很多情

    2024年09月11日
    823
  • 谈恋爱做什么事?十大浪漫建议

      谈恋爱做什么事  在当今社会,谈恋爱已经成为了许多人生活中不可或缺的一部分。但是,谈恋爱并不仅仅是简单地在一起,还需要做很多事情来维系和加深感情。那么,谈恋爱应该做些什么事呢?本文将从不同角度为您解答。(图片来源网络,侵删)  建立信任  在谈恋爱的过程中,建立信任是非常重要的。只有

    2024年09月19日
    975
  • 阿曼那的巴都布鲁克候选人宣布支持国阵议程

        马来西亚,瓜丁加奴,8月5日——AmanahNegara的候选人扎米尔·加扎利今天公布了13项议程,以支持丁加奴国阵和希盟联盟的宣言,以改善人民的福祉。  扎米尔·加扎利表示,这些议程包括了峇都布鲁克的短期和长期计划,已经得到了丁加奴BN-PH联盟的批准,

    2024年11月24日
    250
  • 漫威和DC失去了“超级英雄”商标的控制

      你了解漫威和DC长达数十年共同持有“超级英雄”商标的情况吗?据路透社报道,美国专利商标局取消了两家公司对几个商标的申请,标志着这一时代的终结。这一决定是由超级婴儿有限公司的挑战引起的,这家小公司创作了一系列关于超级英雄婴儿的漫画。在DC试图阻止Richold推广《超级婴儿》后,超级婴

    2024年11月30日
    248
  • SpaceX的救援任务是拯救自6月起飞以来被困在轨道上的两名波音Starliner宇航员

      两名被困的宇航员距离返回地球又迈出了重要一步。在周六下午1点17分,SpaceX的救援任务从佛罗里达州的卡纳维拉尔角空间站成功发射,目标是将自6月5日以来被困在轨道上的两名波音Starliner宇航员安全带回地球。此次发射标志着新发射台首

    2024年12月10日
    158
  • 《哈利波特》女星玛吉·史密斯去世,享年89岁

      伦敦:根据英国广播公司9月27日的报道,英国女演员玛吉·史密斯去世,享年89岁。她是一位屡获莎剧奖的女演员,两次获得奥斯卡奖,后来在《哈利波特》系列电影中饰演米勒娃·麦格教授。史密斯是少数几位获得奥斯卡奖(两次)、艾美奖(四次)和托尼奖的演员之一,她漫长的

    2024年12月11日
    147
  • Tejashwi Yadav就比哈尔邦的特殊地位问题批评了库马尔

      巴特那,9月12日(IANS):比哈尔邦反对党领袖TejashwiYadav在周四对首席部长NitishKumar在特殊邦地位问题上向人民党妥协表示不满。在达尔班加的一次媒体交流会上,亚达夫指出,尽管比哈尔邦有着“双引擎”政府,但中央政府依然拒绝给予该

    2024年12月13日
    172
  • IPO市场升温:印度证券交易委员会批准5家公司上市,其中包括印度庇护金融公司和DOMS工业公司

      五家公司,包括经济适用房金融公司IndiaShelterFinance、铅笔制造商DOMSIndustries以及贷款机构JanaSmallFinanceBank,已获得印度证券交易委员会(Sebi)的批准,准备通过首次公开募股(IPO)进行资金筹集。

    2024年12月15日
    160

发表回复

本站作者后才能评论

评论列表(4条)

  • svs
    svs 2024年12月19日

    我是的签约作者“svs”!

  • svs
    svs 2024年12月19日

    希望本篇文章《OpenAI内部人士抨击AI缺乏透明度》能对你有所帮助!

  • svs
    svs 2024年12月19日

    本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • svs
    svs 2024年12月19日

    本文概览:   在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。...

    联系我们

    邮件:@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们