首页 > 汽车生活 > 汽车生活 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

汽车生活更多>>

字节Seed用化学思想搞AI,把DeepSeek-R1的脑回路拆成了分子结构 北汽极狐公布高端产品系列问道 首款MPV定名问道V9 只买适合不买贵,关键性价比超高哈弗枭龙MAX最高优惠1.91万 提供限时新春礼 星光730上市80天销量破26000台 首款量产L3级SUV 岚图泰山黑武士版将于今年3月登场 AI的尽头是硅钢片!A股硅钢片相关公司主要有7家,4家股价低于5元 4.07版固件的作用是什么?华擎:解决AM5平台无法启动的问题 Navitas纳微推出10kW全GaN DC-DC电源平台,效率高达98.5% 莱森光学携高光谱技术出席“智能生态监测网”技术交流会 库克称iPhone 17等兼容机型用户正“积极利用”苹果牌AI IDC发布最新数据:OPPO系手机全球销量猛增,挤进前三! 特斯拉财报会议万字实录|马斯克意外官宣停产Model S/X;直言只有中国机器人配做对手 【智库声音】上观新闻 | 张虎祥等:社群运营:上海社区商业的新玩法 抖音电商:年货节期间品牌年货礼盒销量增长3倍 对话九识CEO孔旗:我们已实现业务现金流和毛利率正向增长 千问迭代,是阿里的又一次 AI 战略选择 哈工大系闯出人形机器人黑马:成立不到一年,全栈开源3m/s原型机 新能源车的「硬核」战事,2026年卷向何处? 贾国龙再发声:西贝从来不存在“两岁的西蓝花”,现在标准是一个月内使用完毕 ARR达2.4亿美元,可灵能带快手起飞吗? 世界级工厂按斤卖,观致常熟工厂是如何被人为做空的 两部门:对公租房建设期间用地及公租房建成后占地,免征城镇土地使用税 华住,比携程还会捞金? 追觅科技俞浩:生态链基金已获募资数量和规模双料第一 国泰海通证券:维持农夫山泉“增持”评级 料下半年提速 盈利继续乐观 国泰海通证券:维持优然牧业(09858)“增持”评级 大股东定增彰显信心 新一代奥迪Q5L卖30.98万起!盘盘优缺点,我推荐购买吗? Agent时代,为什么多模态数据湖是必选项? 索尼与本田联手造车了?AFEELA 1亮相,车内可远程操控PS游戏机 尺寸全面升级!哈弗猛龙加长版要来了,造型硬朗气派,搭1.5T插混