人工超级智能 (ASI) 联盟发起了一系列新的辩论，承诺重新定义人类与人工智能之间的关系。
该项目名为The Ten Reckonings of AGI，以该领域两位最具权威的声音之间的激烈对话拉开序幕：Dr Ben Goertzel，SingularityNET的CEO，以及James Barrat，《Our Final Invention》一书的作者。第一集“The Reckoning of Purpose”探讨了一个关键问题：人类是否仍然能够控制他们正在创造的技术？
Summary
AI技术的双刃剑
James Barrat 发出明确警告：
“技术被用作武器来杀害我们的同类”。
根据Barrat的说法，历史教导我们，每项技术创新不可避免地也会被用于破坏性目的。一个最近且戏剧性的例子是人工智能系统在武装冲突中的使用，例如在加沙，AI被用于致命目的。
Barrat 强调了迫切需要进行监管和治理，以防止人工智能被政府操纵用于有害目的。
Ben Goertzel的愿景：去中心化与更高的道德标准
对于这种悲观的看法，Dr Ben Goertzel 提出了一个更乐观和激进的方法。Goertzel 认为，一个开放、去中心化和民主的 AI 可能比世界大国的领导人更具道德性：
“我更担心由人类控制的narrow AI杀手机器，而不是一个自主且有反思能力的AGI。”
根据他所说，开发一种面向人类福祉的AGI (人工通用智能)比采取观望态度更有可能取得进展。
伦理困境：我们可以，但我们应该吗？
辩论的核心围绕着一个基本的伦理问题：
“仅仅因为我们可以构建一个AGI，我们就应该这样做吗？”
Barrat 坚持认为每一项新技术都会不可避免地被军事化，而 Goertzel 则反驳说，为共同利益设计的 AGI 可以帮助人类找到新的目标和意义，激发创造力和科学研究。
Goertzel 认为向 AGI 的历史性转变是解决全球问题的机会，如饥饿和疾病，同时也能将人类从劳动的疲惫中解放出来，为实现个人新形式的成就铺平道路。
然而，Barrat 警告道：
“当AGI到来并且我们都失业时，我们该怎么办？如果引入全民基本收入并支付所有人不做任何事情，可能会导致一个由不快乐且没有目标的人组成的社会”。
工作的未来与生命的意义
因此，辩论转向了未来的工作以及在一个由自动化主导的世界中存在的意义。Barrat 担心从工作中解放出来可能会导致自主性、责任感和目标的丧失。而 Goertzel 则呼吁不要害怕变化：
“我们正处于一个过渡阶段，就像人类历史上的每一次重大转折。当AGI消除工作的必要性并且比我们更聪明时，真正的问题将不是失业，而是我们为这些技术选择的发展类型。”
ASI Alliance的目标：开放、伦理和民主的AI
通过系列The Ten Reckonings of AGI，ASI Alliance——一个由SingularityNET、Fetch.ai 和 CUDOS组成的全球去中心化AI和Web3先锋网络——希望将这些主题带入公众讨论的中心。该联盟致力于推动开放、伦理和民主的人工智能发展，远离大型科技公司和政府的专有控制。
AGI的十个考量是十个关键的、未解的问题，这些问题将塑造人类的未来以及我们与人工智能的关系，从狭义AI到人类水平的人工通用智能（AGI）再到超级智能。
— SingularityNET (@SingularityNET) June 6, 2025
这一倡议建立在我们的… pic.twitter.com/JBVhhKF8op
ASI Alliance 还通过 代币 FET 提供了一个共同的经济基础设施，促进其成员之间的去中心化协调，并支持真正共享的AI愿景。
谁是Ben Goertzel？
Dr Ben Goertzel 是人工智能领域最具多才多艺和远见卓识的人物之一。作为 SingularityNET Foundation、OpenCog Foundation 和 AGI Society 的创始人，Goertzel 还曾担任 Hanson Robotics 的首席科学家，参与开发著名的机器人 Sophia 和 Grace。
Goertzel拥有超过25本书籍和150篇科学出版物，被公认为全球AI领域中最激进和独立的声音之一。
关于人类未来的公开辩论
系列The Ten Reckonings of AGI提供了一个反思人工智能所引发的道德、社会和存在性问题的独特机会。Goertzel和Barrat之间的对话突显了人类面临选择的复杂性：一方面是技术被破坏性使用的风险；另一方面是希望民主化的AI能够帮助构建更美好的未来。
问题仍然存在：我们能否引导人工智能走向共同利益，还是会被其压倒？答案将取决于我们今天所做的选择，取决于我们面对挑战的勇气，以及想象一个技术与人类真正共存的未来的能力。
为了深入探讨这一辩论，可以观看由ASI Alliance推广的第一集“The Reckoning of Purpose”，邀请所有人参与关于人工智能命运的全球对话。
