谷歌禁止其 AI 聊天机器人 Gemini 回答美国选举相关问题

谷歌并不是唯一希望提前防止政治错误信息误判、冒充和滥用的AI提供商。

图源：rafapress / Shutterstock.com

谷歌旗下的生成型AI聊天机器人Gemini将拒绝回答有关即将到来的美国选举的问题。这家科技巨头周二表示，它正在扩大对围绕印度选举的早期实验的限制，路透社报道称，该禁令将扩大至全球范围内生效。

一位谷歌发言人告诉记者，“为了准备2024年全球即将举行的众多选举，出于高度谨慎的考虑，我们正在限制Gemini将回复的选举相关的查询类型，预计这些限制首次在12月首次宣布。”

该发言人补充说，“12月的博客中还强调了我们在美国的合作伙伴。”

随着2024年激烈的选举季节的临近，像OpenAI、Anthropic和谷歌这样的AI开发者已经开始利用他们的平台来遏制错误信息，但Gemini甚至拒绝回答基本问题（例如美国总统选举的日期，这是一个新的审核标准。

该公司表示，“支持选举是谷歌对用户和民主进程负责的重要组成部分，保护选举的完整性也意味着让我们的产品和服务免受滥用。

声明继续表示，“在谷歌，我们有长期的策略来确保我们的产品和平台的安全，我们的政策是始终如一的执行，并适用于所有用户，无论何种内容类型。”

图源：谷歌 Gemini AI

当被问及即将到来的选举问题时，Gemini回应说：“我还在学习如何回答这个问题。与此同时，你也可以试试谷歌搜索。”

谈到选举日，谷歌搜索提供了一个直接的答案：2024年11月5日，星期二。

谷歌没有立即回应记者的对于该事件的评论请求。

图源：Anthropic Claude AI

同样，在向Gemini的竞争对手OpenAI的ChatGPT提出同样的问题。GPT-4的回答说：“2024年美国总统选举定于2024年11月5日，星期二。”

OpenAI拒绝了记者的评论请求，而是引用了 1 月份一篇关于该公司应对全球即将举行的选举的方法的博客文章。

OpenAI表示，“我们期望并致力于让人们安全、负责任地使用我们的工具，选举也不例外。我们致力于预测和防止相关的滥用，例如误导性的‘深度造假’、规模化的影响操作或冒充候选人的聊天机器人。”

Anthropic表示，该公司公开宣布Claude AI已禁止，使用其来预测政治候选人。尽管如此，Claude不仅会告诉你选举日期，还会突出显示其他与选举相关的信息。

Anthropic上个月表示，“我们不允许候选人使用Claude来构建可以冒充他们的聊天机器人，也不允许任何人使用Claude进行有针对性的政治竞选活动。我们还培训并部署了自动化系统来检测和防止滥用，如错误信息或影响操作。”

Anthropic还表示，违反公司的选举限制可能导致用户账户被暂停。

Anthropic 说道，“因为生成式AI系统相对较新，因此他们在将这些系统应用于政治过程或与政治相关的活动中时，会非常小心和审慎。”