近日,一群美国参议员向 OpenAI 首席执行官兼联合创始人 Sam Altman 发出了一封详细的信函,要求澄清该公司的安全措施和招聘政策。信件由参议员 Brian Schatz,Ben Ray Luján,Peter Welch,Mark R. Warner 和 Angus S. King, Jr. 联合签署,并要求 OpenAI 在8月13日之前作出全面回应,以解决信中提出的多项担忧。
参议员们的干预源于关于 OpenAI 潜在问题的报道,强调了在国家安全和公众信任问题上的透明度需求。信中询问了 OpenAI 是否会履行之前承诺的将20%的计算资源用于人工智能安全研究的承诺。参议员们认为,这一承诺对于确保人工智能技术的负责任发展至关重要。
除了安全承诺,信中还关注 OpenAI 的员工保护措施。参议员们询问了公司是否执行非贬低协议和其他合同条款,这些条款可能阻止员工提出安全问题。他们强调了保护举报人权利和确保员工能够无忧虑地表达自身担忧的重要性。
参议员们还要求 OpenAI 提供有关其网络安全协议的详细信息,以保护人工智能模型和知识产权免受恶意行为者和外国对手的侵害。他们强调了针对网络安全威胁采取强有力保护措施的必要性。
参议员们在信中还询问 OpenAI 是否允许独立专家在 AI 系统发布前对其安全性进行测试和评估。他们强调了独立评估对于确保人工智能技术的完整性和可靠性的重要性。
此外,参议员们还询问 OpenAI 是否计划对已部署的模型进行并发布回顾性影响评估,以确保公众问责。他们指出,在评估人工智能系统对现实世界的影响时,需要保持透明度。
信中强调了人工智能在国家经济和地缘政治地位中的重要作用,并指出安全可靠的人工智能对于保持竞争力和保护经济重要基础设施至关重要。参议员们强调 OpenAI 对拜登-哈里斯政府自愿承诺的重要性,并呼吁该公司提供有关计划如何履行这些承诺的文件。
“鉴于 OpenAI 作为领先人工智能公司的地位,公众能够信任其系统的安全性非常重要。这包括治理结构的完整性,同时还审查公司的安全性,招聘实践,对公共承诺和使命的忠诚度以及公司的网络安全政策。”
这封信标志着确保人工智能开发按照最高安全,安保和公共责任标准迈出的重要一步。参议员们呼吁 OpenAI 通过对他们的问题提供彻底,透明的答复,展示其对负责任的人工智能开发的承诺。
信中提到,参议员们查阅了多个消息来源和之前的报告,详细介绍了 OpenAI 的挑战和承诺,为他们的担忧提供了全面的背景。这些来源包括 OpenAI 应对边境风险的方法以及拜登-哈里斯政府的自愿安全承诺。