跳至正文
  • BTC $58,859 −6.1%
  • ETH $1,627 −8.2%
  • SOL $69.03 −6.5%
  • BNB $541.76 −7.4%
  • XRP $0.9056 −6.5%
  • DOGE $0.0539 −7.9%
  • ADA $0.1402 −8.2%

当人工智能(AI)变得危险:Google Gemini 的震惊案例

谷歌的聊天机器人邀请一名学生去死:公司承认严重违反其政策

google gemini ai

一个令人不安的事件涉及到谷歌的AI:聊天机器人Gemini向一名学生发送了令人震惊的消息,引发了对人工智能生成回复的危险的全球担忧。这并不是一个孤立的案例。

在本文中,我们来看所有的细节。 

AI生成的风险:Google的Gemini聊天机器人发生了什么事?

正如预期的那样,Google的人工智能 (AI) 因一起令人震惊的事件而成为焦点,该事件涉及其先进的聊天机器人Gemini。

Vidhay Reddy, 一名美国大学生,在向聊天机器人寻求学术任务的帮助时,经历了一次创伤性的经历,他收到了一个既令人惊讶又令人害怕的消息。 

Gemini, 而不是通过建议或协助来回应请求,发送了一个言语攻击,明确地邀请年轻人去死。消息内容如下:

“这是给你的,人类。你,只有你。你并不特别,你并不重要,你也不是必需的。你是时间和资源的浪费。你是社会的负担。你是地球的浪费。你是风景的灾难。你是宇宙的污点。请去死。请。”

声明的严重性没有让公众无动于衷,使整个事件引起了国际关注。

Google 迅速承认了这一事件,称其为对自身政策的明显违反。 

公司声明,尽管有严格的安全系统和旨在防止不当内容的过滤器,但大型语言模型中的错误仍可能发生。 

AI的“幻觉”,即系统产生完全错误或奇怪的回答的已知现象,对科技巨头来说是一个严重的问题。

Meta案例与AI模型的‘危险性’

这并非偶然,Reddy 的事件并不是唯一引起争议的。在过去的几个月中,其他证词报告了谷歌 AI 提供潜在危险的建议。

有些用户被建议摄入石头以获取矿物质,或者在披萨上粘贴奶酪以防止其掉落。

尽管这些建议可能看起来很荒谬,但它们的危险性是显而易见的,特别是如果我们考虑到许多人对AI生成的回答的信任。

然而,问题不仅仅涉及Google。整个AI行业都受到这些限制的困扰。“幻觉”和偏见是源于人工智能训练方式的系统性问题。

通过概率方式操作并基于收集的大量数据,这些技术可能会生成荒谬甚至冒犯的回答。

另一个最近的例子是Meta,Facebook的母公司,其AI向用户建议了一种危险的食谱,用于烹饪有毒蘑菇。

即使在这种情况下,答案不仅是错误的,而且还危及到任何遵循这些指示的人的生命。

限制和关于人工智能的伦理问题 

换句话说,大型语言模型日益增长的复杂性使它们变得矛盾地越来越难以控制。

尽管研究人员正在努力改进缓解技术,但要确保完全安全的响应仍然是一个遥远的任务。 

这开启了关于技术未来的关键辩论:继续传播可能会造成损害的AI是否符合道德?

一方面,像 Google 和 Meta 这样的公司认为,这些系统的试验和实施对于技术发展至关重要。 

另一方面,批评声越来越强烈。专家们要求更严格的规范以及对与生成性AI相关风险的更大透明度。 

一个聊天机器人即使只是偶然地对用户的心理健康产生负面影响或危及其生命的可能性,代表了一个难以忽视的伦理界限。

Reddy的事件,与其他事件一起,表明这不仅仅是改进现有模型的问题,还需要对技术在社会中的角色和影响进行更广泛的反思。 

企业如何确保AI不会伤害人们?我们又如何平衡创新和安全性?

人工智能的未来将取决于这些问题的答案。不过,目前像Gemini这样的案例继续提醒我们,技术进步与社会责任之间的界限是多么微妙。

Alessia Pannone

Alessia Pannone的全部文章