HomeAI当错误的答案会危及人员安全时,你还能信任一个海事领域的人工智能代理吗?

当错误的答案会危及人员安全时,你还能信任一个海事领域的人工智能代理吗?

构建一个值得信赖的AI 海事智能体,事实证明更多取决于系统设计而非模型选择。这是 Skylight 在开发 Shippy 时得到的核心经验。Shippy 是一个专门为实时海事态势感知而构建的 AI 智能体——在这个领域,一个错误答案不仅仅是让用户感到沮丧,它可能会让巡逻船偏离航线数英里,耗尽有限资源,并潜在地危及人员安全。

关键要点

  • Shippy 是 Skylight 为实时海事态势感知构建的 AI 智能体,可支持对船舶行为、专属经济区(EEZ)和海洋保护区(MPA)边界以及船舶航迹的查询。
  • 其架构围绕三个组件构建:soul(灵魂,系统提示)、skills(技能,任务处理)和 config(配置,运行时设置,包括使用 Claude Opus 4.6)。
  • Shippy 通过专门构建的确定性 CLI 与 Skylight 的 API 通信,消除了在由模型直接构造原始 API 调用时出现的错误模式。
  • 每个用户会话都在由 Mothership 提供的专用 Kubernetes 沙箱中运行,确保 Skylight 数百家政府和非政府组织客户之间的数据完全隔离。
  • 评估依赖于基于任务和评分细则的框架,由一个 LLM 评审根据实时数据对响应进行评分——这是一种有意偏离静态基准测试的方法。

为什么海事态势感知提高了可靠性门槛

大多数 AI 工具运行在一个“平庸答案只是无用” 的环境中。海事作业则不同。Skylight 为遍布 70 多个国家的数百家政府机构和非政府组织提供服务,从渔业执法到保护监测。在这种背景下,当分析人员询问船舶是否在海洋保护区内非法作业时,幻觉或不精确回答所带来的后果是直接且操作层面的。

这种背景塑造了 Shippy 背后的每一个架构决策。Skylight 团队不断回到的问题不是“模型能做什么?”——而是“我们如何构建一个可以信任其正确性、能守住边界、并能在广泛任务范围内稳定运行的系统?”所有这一切都必须针对 Skylight 的实时数据进行验证,并随着新的卫星和船舶信号的到来持续更新。

Shippy 的架构:soul、skills 和 config

Skylight 通过三个不同层次来描述 Shippy 这款 AI 海事智能体:soul、skills 和 config。这种区分比乍看之下更为重要。

soul 是系统提示——它定义了 Shippy 的人格,并设定了严格的行为边界:Shippy 会做什么,更关键的是,它不会做什么。soul 是明确且可审计的:Shippy 不会对船舶是否违法作出法律判断,也不会在数据支持范围之外进行推测。这些并不是通过微调“烘焙”进去的软性护栏;它们是直接写入系统提示中的,这使得它们易于检查和修订。

skills 告诉 Shippy 如何处理特定类型的请求。它们遵循与 Claude Code 和 Codex 等编码工具所使用的代理-技能规范相同的规范——使用带有结构化 frontmatter 的纯 markdown 文件,使每个技能都有版本管理且易于理解。Shippy 当前的技能集包括:

  • 查询 Skylight API 以获取船舶行为和事件(捕鱼、船舶间转运)
  • 查询专属经济区(EEZ)和海洋保护区(MPA)边界
  • 解读船舶航迹数据和位置信号,基于 Skylight 自有模型已生成的活动分类进行构建
  • 生成交互式地图链接,使分析人员可以从聊天回复直接跳转到 Skylight 地图上的精确位置

单个用户问题可以同时激活多个技能。比如询问船舶是否在 Cordillera de Coiba 海洋保护区附近作业时,Shippy 会在一次对话轮次中同时调用 Skylight 的数据查询技能、ProtectedSeas 的边界数据库以及船舶航迹解读技能。

Config 与模型问题

config 层处理所有与运行时相关的内容:运行哪个代理框架、使用哪个 LLM,以及注入的密钥(如 API 密钥)。Shippy 目前使用 Claude Opus 4.6 作为其大型语言模型。重要的是,更换底层模型只是一次 config 变更,而不是一次重构——soul 和 skills 独立打包进 Docker 镜像,使团队可以在系统演进过程中灵活地将不同类型的查询路由到不同的模型。

为非确定性智能体配备确定性工具

一个颇具启发意义的早期经验来自让 Shippy 直接构造原始 API 调用。结果是源源不断的细微失败:错误的分页悄然丢失结果、几何编码错误,以及看似正确但由于误解过滤器类型而返回错误数据的查询。Skylight API 拥有数十种输入类型、嵌套过滤对象、分页游标以及复杂的几何输入——这种接口复杂度极易诱发模型生成错误。

解决方案是一个专门构建的确定性 CLI。Shippy 不再构造原始 API 调用,而是发出单一命令——例如带有类型化过滤标志的 skylight events search——由 CLI 处理认证、分页和结构化输出。CLI 自带文档,拥有详细的帮助文本和错误信息,使智能体可以在不凭空猜测的情况下从错误中恢复。结果总是写入本地 JSON 文件,而不是通过 shell 管道传输,从而避开了早期原型中在处理大型结果集时因管道缓冲区限制而引发的问题。

这种分层设计——类型化 API、确定性 CLI、引用 CLI 命令的智能体技能——意味着每个组件都可以独立测试。每一层都在缩小下一层可能出错的空间。这类架构上的严谨性,是将研究原型与高风险领域中的生产系统区分开来的关键。

Kubernetes 沙箱与数据隔离挑战

Skylight 的用户群体涵盖拥有敏感、特定司法辖区数据的政府机构。比如菲律宾的一名渔业执法官员,其关注名单、兴趣区域和告警配置都限定在其个人账户范围内。确保他们的数据绝不会泄露到其他用户会话中——并确保他们的对话历史完全私密——是该项目中最重要的工程工作之一。

解决方案是 Mothership,即 Skylight 的智能体托管平台。Mothership 为每个用户会话提供专用的 Kubernetes 部署。当会话开启时,系统会启动一组 pod,打包智能体运行时、其技能以及 Skylight CLI。用户的 JWT 令牌在部署时注入,将所有 API 调用限定在该用户的数据范围内。智能体在多步分析过程中写入的文件仅存在于该会话中,绝不会在用户之间共享。

在沙箱内部,智能体仍然保留了相当强的操作能力——它可以编写和运行代码、安装依赖、引入数据集,并完成多步分析。在网络层面,沙箱被限制为只能访问其所需的服务。这种隔离是以会话为范围、短暂存在,并在基础设施层面强制执行,而不是仅依赖应用逻辑。

在真实作业环境中评估智能体

标准 AI 基准测试是在静态问题集上对模型进行评分。它们无法捕捉智能体接入真实工作流后会发生什么——它如何选择工具、查询实时数据、对结果采取行动,以及如何知道何时停止。Skylight 正是出于这个原因构建了一个自定义评估系统

带有 LLM 评审的评分细则框架

在 Skylight 的评估框架中,领域专家编写场景和评分细则,决定每个任务适用哪些评估标准并设定权重。例如,在一次捕鱼事件查询中,数据准确性权重最高,其次是边界解析和时间范围,而信息来源标注的权重较低。专家还会将单个响应标注为正确或错误,为评审提供可对照的真实标签。

评估流水线会将自然语言提示通过实时沙箱运行,由一个 LLM 评审对每个评估标准按 0 到 1 的刻度打分,并给出书面理由解释响应为何符合或不符合标准。加权总分随后会与固定通过阈值进行比较。任务通过 Skylight 构建的插件在开放评估框架 Harbor 中运行,该插件会启动一个真实的 Shippy 会话,使用与真实用户相同的实时数据。

最近几轮评估结果指向了具体且可操作的失败模式。在巡逻规划任务中,Shippy 出现了越界给出战术建议的情况,而不是严格停留在决策支持范围内。对几何敏感的查询暴露出由于边界简化而导致的事件遗漏。而在另一个案例中,智能体生成了一个并不存在的 CLI 命令。每一种模式都直接映射到一个技能改进目标——这正是一个设计良好的评估系统应当产出的结果。

Shippy 的下一步——以及更远的未来

Skylight 正在以滚动方式向早期采用者开放 Shippy,明确邀请用户进行压力测试,以暴露薄弱的护栏和处理不佳的查询。下一轮开发周期将聚焦三个方向:智能体驱动的 UI 控制(从返回地图链接转向直接控制 Skylight 地图、应用过滤器并调整时间范围);模型路由(将简单查询路由到更小、更快的模型,同时将复杂调查保留给全尺寸模型);以及跨线程记忆(在不同对话线程之间保留分析人员的司法辖区或偏好信息来源等持久性事实)。

更广泛的影响远远超出了海事应用。Mothership 被设计为领域无关型平台,Skylight 的母组织 Ai2 已经在将从 Shippy 中获得的经验应用到其野生动物保护平台 EarthRanger,以及其开放地球观测工具套件 OlmoEarth 上。这一架构——soul、skills、config、确定性工具链、会话隔离沙箱以及基于实时数据的评估——为在任何错误代价不再只是“用户沮丧”的领域部署 AI 智能体提供了一套蓝图。

常见问题

Shippy 的设计目标是什么?

Shippy 是 Skylight 为实时海事态势感知开发的 AI 智能体。它帮助分析人员查询船舶行为、查找专属经济区和海洋保护区边界、解读船舶航迹数据,并生成与 Skylight 实时数据平台直接关联的交互式地图链接。

Shippy 如何确保回答查询的可靠性?

Shippy 使用确定性 CLI 来处理所有 Skylight API 调用,从而避免了在由模型直接构造原始 API 调用时出现的错误模式。结合模块化架构——soul、skills 和 config——以及系统提示中严格的行为边界,该设计将可预测、可审计的行为置于灵活性之上。

Shippy 如何在准确性和可靠性方面进行评估?

Skylight 构建了一个自定义评估框架,由领域专家编写任务场景和加权评分细则。LLM 评审会根据实时数据,对智能体的每个响应按评估标准在 0 到 1 的刻度上打分,并给出书面理由。加权总分会与固定通过阈值进行比较,任何在评估标准上出现回退的 Shippy 版本都不会面向终端用户发布。

Shippy 会对船舶活动做出法律判断吗?

不会。Shippy 明确避免对船舶是否违反任何法律作出法律判断,也不会在数据支持范围之外进行推测。这些判断留给人类分析人员来做。这些限制是直接写入系统提示中的——使其可审计且可调整——而不是隐含在模型微调之中。

{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Shippy 的设计目标是什么?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Shippy 是 Skylight 为实时海事态势感知开发的 AI 智能体。它帮助分析人员查询船舶行为、查找专属经济区和海洋保护区边界、解读船舶航迹数据,并生成与 Skylight 实时数据平台直接关联的交互式地图链接。”}},{“@type”:”Question”,”name”:”Shippy 如何确保回答查询的可靠性?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Shippy 使用确定性 CLI 来处理所有 Skylight API 调用,从而避免了在由模型直接构造原始 API 调用时出现的错误模式。结合模块化架构——soul、skills 和 config——以及系统提示中严格的行为边界,该设计将可预测、可审计的行为置于灵活性之上。”}},{“@type”:”Question”,”name”:”Shippy 如何在准确性和可靠性方面进行评估?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Skylight 构建了一个自定义评估框架,由领域专家编写任务场景和加权评分细则。LLM 评审会根据实时数据,对智能体的每个响应按评估标准在 0 到 1 的刻度上打分,并给出书面理由。加权总分会与固定通过阈值进行比较,任何在评估标准上出现回退的 Shippy 版本都不会面向终端用户发布。”}},{“@type”:”Question”,”name”:”Shippy 会对船舶活动做出法律判断吗?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”不会。Shippy 明确避免对船舶是否违反任何法律作出法律判断,也不会在数据支持范围之外进行推测。这些判断留给人类分析人员来做。这些限制是直接写入系统提示中的——使其可审计且可调整——而不是隐含在模型微调之中。”}}]}

本文在人工智能协助下完成,并由编辑团队进行审核。

RELATED ARTICLES

Stay updated on all the news about cryptocurrencies and the entire world of blockchain.

Featured video

LATEST