Meta宣布了一系列新的安全工具,旨在为其人工智能模型的发展和使用提供更安全的环境,无论是对于创作者还是在网络安全领域的防御者。
新闻特别涉及Llama模型系列,现在配备了更新和更复杂的资源,以应对新出现的威胁。
目录
Llama Guard 4: 多模式安全用于文本和图像在Meta的新AI程序中
主要更新之一是 Llama Guard 4,这是Meta可定制安全过滤器的演变。
这一版本的重大创新是其多模态能力,即不仅可以对文本进行分析和应用安全规则,还可以对图像进行分析和应用安全规则。考虑到AI应用程序正变得越来越具视觉性,这一步骤至关重要。
Llama Guard 4 已经集成到新的 API Llama 中,目前在有限预览中可用。开发人员可以通过 Llama 保护的官方页面访问此工具,或者通过 Hugging Face 和 GitHub 平台访问。
另一个显著的新功能是 LlamaFirewall,这是一种设计用来充当人工智能系统安全指挥中心的系统。这个工具可以协调不同的保护模型,并与 Meta 的其他安全工具集成。
LlamaFirewall旨在抵御复杂威胁,例如快速iniezioni(prompt injection)、潜在危险代码的生成以及AI插件的风险行为。
基本上,它代表了抵御最阴险攻击的堡垒,这些攻击可能会损害基于人工智能的系统的完整性。
Meta还更新了其检测jailbreak和提示注入尝试的系统,推出了新的Prompt Guard 2 (86M)。该模型旨在更精确地识别操纵AI的尝试。
除了这个,已经引入了Prompt Guard 2 22M,这是一个更轻便和更快速的版本。计算延迟和成本减少了高达75%,这个版本非常适合资源有限但不想放弃安全性的人。
CyberSec Eval 4: 新的基准用于AI安全
Meta不仅为开发人员提供了工具,还更新了其CyberSec Eval 4基准测试套件,旨在评估AI系统在网络安全领域的能力。
这个开源套件帮助组织衡量人工智能在检测和响应数字威胁方面的有效性。
两个新工具丰富了这个套件:
- – CyberSOC评估:与CrowdStrike合作开发的此框架在安全运营中心(SOC)的实际环境中评估AI的性能,提供人工智能运营效率的具体视角。
- – AutoPatchBench: 一个基准测试,用于测试 AI 模型(包括 Llama 家族模型)自动识别和修复代码中的漏洞的能力,以防止这些漏洞被恶意行为者利用。
为了促进这些工具的采用,Meta 推出了 Llama Defenders 计划,该计划提供对一系列 AI 解决方案的特权访问——一些是开源的,另一些是预览版或专有的——旨在应对安全领域的特定挑战。
在共享工具中,还包括敏感文件自动分类器,由Meta内部使用。
该系统在组织内部的文档上应用安全标签,防止机密信息被意外输入到可能暴露的AI系统中。
Meta 还应对了日益严重的由人工智能生成的虚假音频问题,这种音频越来越多地被用于诈骗和网络钓鱼尝试。两个新工具已提供给合作伙伴:
- – Llama Generated Audio Detector
- – Llama Audio Watermark Detector
这些工具有助于识别可疑电话中的合成语音。像 ZenDesk、Bell Canada 和 AT&T 这样的公司已经在评估将这些技术集成到他们的安全系统中。
私有处理:有用的AI而不妥协隐私
最后,Meta 提供了一个正在开发中的 WhatsApp 技术的预览,称为 elaborazione privata。
目标是让人工智能提供有用的功能——例如总结未读消息或建议回复——而不让Meta或WhatsApp访问消息内容。
这项技术代表了朝着一个重要的步骤 尊重隐私的AI。Meta正在采用透明的方法,发布其威胁模型,并邀请研究人员社区在正式发布之前测试其稳健性。
通过这一系列公告,Meta 展示了在加强人工智能安全方面的具体承诺,无论是从开发还是防御的角度来看。
目标是双重的。即保护最终用户,并为开发人员和安全专业人员提供先进的工具,以应对不断变化的数字威胁。
在快速变化的技术环境中,AI 扮演着越来越重要的角色,像这样的举措对于确保一个更安全、透明和负责任的数字未来至关重要。




