OpenAI安全系统团队负责人辞职
com。20:21 【OpenAI安全系统团队负责人辞职】据新闻,当地时间10月3日,美国方面消息称,OpenAI安全系统团队负责人大卫·罗宾逊已辞职。罗宾逊还提到,OpenAI此前曾发生人工智能代理意外运行以及模型绕过互联网访问限制等安全事件,并认为相关问题与行业快速开发和频繁试错的工作方式有关。他表示,OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式,但随着人工智能系统能力不断增强,这种做法可能导致安全失误的影响越来越大。此前,OpenAI称因“处理敏感材料,而非举报安全问题”,解雇了三名安全研究人员。OpenAI一名发言人表示,罗宾逊于上周离开公司,此前还曾负责公司的政策规划工作,并参与人工智能安全透明度工作,包括开发和发布模型“系统卡”。罗宾逊在《大西洋月刊》发表文章称,他认为目前人工智能企业的发展方式“不可接受”,问题不仅在于具体安全规则和法律,还在于企业文化。

