空槽盖 IC693MDL655 编程简单易学

空槽盖 IC693MDL655  编程简单易学

空槽盖 IC693MDL655  编程简单易学

AI安全：新风口？

值得关注的是，自成立起，Anthropic的愿景就是成为一家聚焦于AI安全研究的公司，希望开发出可控、可解释的人工智能系统。在AI安全上，Anthropic别开生面，首创了“宪法 AI”的概念体系，强调在人工智能系统中实现价值观对齐。据悉，Anthropic创始人达里奥·阿莫迪与一干同事在OpenAI就职期间，因为对OpenAI处理技术伦理与安全的方式持有怀疑，才决定离职并创立Anthropic。

此前，达里奥·阿莫迪曾表示，他宁愿Claude（Anthropic研发的生成式人工智能助手）无聊一些，也不希望它变得危险。

这一理念与亚马逊不谋而合。亚马逊云科技大中华区解决方案架构部总监代闻在日前举办的亚马逊云科技re:Inforce2023中国站上表示，生成式AI应用就像是海面上的冰山，安全地驾驭这项新技术，还需要关注海面下的冰川。安全是构建生成式AI不可回避的重要议题，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新。

实际上，亚马逊云科技很早就提出“洋葱型”的安全防护模型，将安全防护分为多个层次，每个层次都有不同的安全策略和控制措施。“安全始终是亚马逊云科技的首要任务，是我们的首要优先级。”代闻表示。

大模型兴起后，“AI Safety”（AI 安全）这一方向吸引到众多的关注与讨论。图灵奖获得者、深度学习三巨头之一Yoshua Bengio的研究团队近日在Nature上刊发的论文中提到，人工智能系统可以成为科学家发现新知识的重要助手，但也存在潜在的安全隐患。例如，科学数据存在不完整、偏差等问题，需要规范化；还需要考虑数据的可访问性、隐私等。模型和数据的标准化也很必要。

麻省理工学院（MIT）教授、生命未来研究所的创始人兼总裁马克斯•泰格马克（Max Tegmark）也表示，在与人工智能研究人员和科技公司CEO的交谈中，很明显人们对人工智能带来的风险普遍感到非常焦虑。

在2023外滩大会上，世界国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、火山引擎、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。

可以看到，AI安全似乎正在成为人工智能领域的一个新风口。亚马逊在此时“上车”，能否掀起新一轮人工智能高潮，让我们拭目以待。

空槽盖 IC693MDL655  编程简单易学