首页 > 生活学习 > 生活学习 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 15210273549

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

生活学习更多>>

苹果可折叠手机iPhone Flip显示屏将更省电 有望成为顶尖折叠机 苹果iOS 19或将迎来重大界面革新 苹果开启无接口iPhone研发?最大障碍已扫清 招41人!衢江区事业单位招聘 南京市2025年事业单位 统一公开招聘工作人员公告 拟招聘139人!宜宾应届毕业生国资专聘行动正在报名 北京市人大常委会机关所属事业单位公开招聘2025年应届毕业生公告 通州区2025年事业单位拟招聘224人 运城市中心医院诚聘英才 20个岗位60人,期待您的加入 洛龙区、孟津区发布 最新招聘公告 公开招聘公益性岗位人员 共计138人 公安部新闻传媒中心 2025年度公开招聘公告(在职人员) 甘谷县中医医院2025年 公开招聘编外工作人员公告 TCL洗衣机再破行业天花板 发布会或将曝光洗衣黑科技,告别手洗 TCL C12K震撼上市,开启第四代液晶电视新纪元 TCL发布AI超级筒“大眼萌”Pro系列洗衣机 1.31洗净比 高铁1.5Gbps极速狂飙 辽宁移动携手中兴打造全国首条5G-A智算高铁 2025雄安未来之城场景汇国际机器人大赛对接推介会在江苏省苏州市召开 全球首次,宇树科技G1机器人完成侧空翻!王兴兴,拟获表彰!俞敏洪曾称:王兴兴是个天才 “流浪”长达286天之后,两名美国宇航员抵达地球,滞留期“加班费”约人民币8300元 Boss直聘崩了!网友:突然就什么都没有了,刷新都没用 特步创始人“90后”长女出任公司CFO,曾获伦敦大学学院经济学学士学位 苹果:主力合约跌 2.66% 库存去库放缓 TCL新品电视来袭,终于告别烦人的反光了! 深圳TCL智能家庭科技申请门锁交互专利,有效提升门锁使用性能 北京这晚,站在孟子义旁边的卢靖姗,把人情冷暖体现的淋漓尽致 北京市郊铁路东北环线启动环评,长59公里、设站16座 阅文集团2024年亏损2亿元,打造爆款“庆余年”“人世间”的新丽传媒成“吞金兽” 490余家单位提供2万余个招聘岗位 公开招聘!涉及机关、上市公司、学校! 科技日报社2025年度公开招聘7名应届高校毕业生