OpenAI公布安全系统 确保AI大模型安全可靠(openid安全性)
来源:网络 浏览:34次 时间:2023-12-06
12月6日 消息:今日,OpenAI公布了公司在安全方面的举措。OpenAI表示,其安全系统团队处于确保当今现实世界中人工智能模型安全性和可靠性的最前沿。
安全系统团队致力于确保人工智能模型及其在现实世界中的部署的安全性、稳健性和可靠性。他们通过实践和研究来解决安全问题,并开发基本解决方案,以确保人工智能的安全和值得信赖。
安全团队包括安全工程、模型安全研究、安全推理研究和人机交互等多个小组:
OpenAI表示,他们致力于解决人工智能安全问题,例如如何避免模型给出不安全或不适当的答案、如何检测有害答案或操作、如何在保证安全的同时维护用户隐私等。他们还强调了以模型行为一致性为核心的研究,并通过与人机协作和人类专家合作,确保模型的行为与人类价值观一致。