英国政府近期宣布，将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”，此举标志着政府在 AI 领域战略的重大转变。新的名称不仅反映了机构的职能变化，也表明了英国政府在推动 AI 产业发展方面的坚定决心。
图源备注:图片由AI生成，图片授权服务商Midjourney
这一变化由科学、工业与技术部公布，新的 AI 安全研究院将重点关注网络安全，旨在 “加强对 AI 对国家安全及犯罪风险的保护”。原本侧重于探讨大语言模型的生存风险和偏见问题，如今将更多的精力转向如何利用 AI 技术来防范安全隐患。
同时，英国政府还宣布与人工智能公司 Anthropic 签署了一项谅解备忘录。虽然并没有透露具体的服务内容，但备忘录显示双方将 “探索” 使用 Anthropic 的 AI 助手 Claude 来改进公共服务。Anthropic 公司将参与科学研究和经济建模的工作，并为 AI 安全研究院提供评估 AI 能力的工具，以帮助识别安全风险。
Anthropic 联合创始人兼 CEO 达里奥・阿莫迪在声明中表示:“AI 有潜力改变政府服务民众的方式。我们期待探索如何利用 Anthropic 的 AI 助手 Claude，帮助英国政府提升公共服务的效率，使关键信息和服务更加便利和可及。”
值得注意的是，AI 安全研究院的这一转变并不令人意外。新上任的英国工党政府在1月份发布的 AI 发展计划中，并未提及 “安全”、“危害”、“生存” 以及 “威胁” 等字眼，这表明政府将更关注投资和技术发展，尤其是与大型科技公司的合作。
在未来，政府希望通过 AI 助理 “Humphrey” 来提升公务员的工作效率，同时推出数字钱包和聊天机器人等新工具，以便民众能够更加便捷地获取政府服务。尽管安全问题仍然存在，但政府似乎认为，快速发展的步伐不能因安全考量而受到影响。
AI 安全研究院的主席伊恩・霍加斯表示，尽管更名为 “AI 安全研究院”，但机构的使命依旧，仍将致力于评估公众面临的严重风险，并深化与国家安全社区的合作，致力于维护公民的安全。
划重点:
🌐 英国政府将 “AI 安全研究所” 更名为 “AI 安全研究院”，重点关注网络安全。
🤝 与人工智能公司 Anthropic 签署谅解备忘录，探索 AI 在公共服务中的应用。
📈 政府将 AI 发展置于优先地位，安全问题不再是首要考虑。
