OpenAI已经证实,其流行的人工智能工具ChatGPT阻止了令人瞠目结舌的250000多个生成2024年美国主要总统候选人图像的请求。

用户一次又一次地试图让ChatGPT制作当选总统唐纳德·特朗普、副总统卡玛拉·哈里斯、现任总统乔·拜登、明尼苏达州州长蒂姆·沃尔兹和当选副总统JD Vance的照片。

但OpenAI对每一个请求都大声说“不!”。这是据报道关于防止ChatGPT成为高风险错误信息游戏中的棋子。

随着美国大选的临近,OpenAI希望ChatGPT避开选举干扰。政治深度造假、人工智能生成的假新闻和彻头彻尾的谎言在网上像野火般蔓延。机器学习公司Clarity报告称,仅deepfake内容今年就飙升了900%。

美国情报机构表示,其中一些东西与试图控制美国政治的俄罗斯特工有关。

OpenAI与错误信息的大战

在10月份的一份报告中,OpenAI列出了事情变得多么糟糕。他们一直在追踪全球范围内的阴暗行动——确切地说,有20起——都试图利用人工智能工具在网上扰乱人们的思想。一些人正在推出人工智能生成的网站文章。

其他人则有虚假的社交媒体账户发布宣传。但OpenAI的团队声称,他们设法在这些网络病毒传播之前关闭了它们。

然而,这还不足以让每个人都高兴。一些立法者、科技监管机构和怀疑论者都对在选举季让ChatGPT自由漫游的危险发出了警告。当然,人工智能聊天机器人可能令人印象深刻,但众所周知,它们偶尔会吐出有问题的信息。

民主与民主中心首席执行官Alexandra Reeve Givens表示:“选民绝对不应该指望人工智能聊天机器人来获取有关投票或选举的信息——人们对准确性和完整性的担忧太多了。”;技术,在上周的一份声明中。

除此之外,纽约总检察长Letitia James上周五在她的办公室对少数人工智能聊天机器人进行测试后发布了警告。她的团队向他们提出了一些与选举有关的问题,不喜欢他们得到的答案。错误信息很多。

总检察长办公室宣布:“依赖聊天机器人而非官方政府消息来源回答投票问题的纽约人可能会被误导,甚至可能因信息不准确而失去投票机会。”。

此后,OpenAI在ChatGPT上添加了一项功能,敦促寻求选举结果的用户转向美联社和路透社等值得信赖的新闻来源。该功能于11月5日推出,是一个温和的推动,以避免对选举数据等重要事情使用人工智能生成的响应。

人工智能在全球选举中占据重要地位

今年,世界各地的政治运动可能会影响40多个国家的40多亿人。有这么多的风险,人工智能驱动的错误信息跨境传播的风险是一个大问题。

Clarity关于deepfake内容增长900%的报告再次令人紧张。其中一些deepfake视频与俄罗斯支持的影响力运动有关,这一事实增加了紧迫性。

民主与发展中心7月份的一项研究;技术增加了另一层担忧。他们在Mistral、谷歌、OpenAI、Anthropic和Meta等大公司的人工智能聊天机器人上测试了与选举相关的查询。在77个与选举有关的问题中,超过三分之一的问题得到了不准确或误导性的回答。不太好。

制作克劳德聊天机器人的Anthropic的发言人明确表示:“对于特定的选举和投票信息,我们会将用户引导到权威来源,因为克劳德的培训频率不足以提供有关特定选举的实时信息。”

特朗普-马斯克二人组与硅谷的新现实

尽管OpenAI正在处理错误信息,但整个硅谷正准备对其与华盛顿的关系进行彻底改革。当选总统唐纳德·特朗普重返白宫带来了巨大的承诺——他计划废除前任的许多技术政策,包括拜登政府最近关于人工智能安全的行政命令。

该命令为人工智能开发人员引入了安全和隐私指南,目的是设置一些基本的护栏。它推动人工智能研究资金,旨在让国家标准与技术研究所更多地参与制定人工智能标准。特朗普称该政策“危险”,是创新的障碍,并承诺用他所谓的“植根于言论自由的人工智能发展”来取代它

埃隆·马斯克在支持特朗普的竞选活动中投入了1.3亿多美元,甚至在宾夕法尼亚州代表特朗普集会,预计他将成为特朗普最大的科技盟友之一。凭借马斯克的影响力和对X(前推特)的控制,他可以直接向数百万人传播政治信息。

更不用说,马斯克在这场游戏中也有一些筹码:特斯拉和SpaceX可能会从特朗普的政策中获益,特别是如果新政府倾向于减少监督的话。

虽然一些科技巨头,如亚马逊的杰夫·贝佐斯,公开与特朗普发生冲突,但其他人已经找到了取悦他的方法。例如,据报道,Meta的马克·扎克伯格赞扬了特朗普对最近暗杀企图的反应,称其为“坏蛋”

脸书并没有止步于此,他们还删除了该平台的一些反错误信息措施。《华盛顿邮报》的老板贝索斯显然在选举前几周阻止了一篇支持副总统卡玛拉·哈里斯的社论。

特朗普第二任期对硅谷的影响也将取决于谁控制国会。随着共和党人获得参议院席位,特朗普推进其科技议程并以较少的摩擦确认其选定的候选人的道路现在更加清晰了。