OpenAI 禁止菲律宾用户参与支持政府的活动

菲律宾马尼拉——OpenAI,这家总部位于美国的人工智能生成聊天机器人ChatGPT背后的公司,已封禁位于菲律宾的账户,这些账户曾被用来生成大量社交媒体评论,支持马科斯总统或批评其前UniTeam竞选搭档、副总统萨拉·杜特尔特。

Open AI在其6月5日发布的报告《打击人工智能的恶意使用》中表示:“我们封禁了使用我们模型生成大量英语和塔利语短评论的ChatGPT账户。这些评论来自TikTok和Facebook社交媒体平台上的账户,主要关注菲律宾的政治和时事。”

该报告将总部位于马卡蒂的公关和营销公司Comm&Sense Inc.列为此次人工智能影响力活动的幕后黑手之一。

《问询者报》联系了 Comm&Sense 寻求评论,但截至本文撰写时,该公司尚未回应。

“击掌行动”

OpenAI 将该活动称为“击掌行动”,因为它在大量社交媒体评论中使用了大量表情符号,且语气总体积极。

“此次行动在网上发布并引发的评论简短但带有党派色彩。通常,这些评论赞扬马科斯总统及其倡议,或批评副总统萨拉·杜特尔特,”报告称。

然而,OpenAI 使用影响力行动 (IO) 影响力突破量表(1 类为最低,6 类为最高),将此次影响力行动 (IO) 评估为低影响力 2 类活动。

根据报告,威胁行为者或幕后黑手利用 ChatGPT 支持针对菲律宾受众的政治影响活动的多个阶段。

首先,他们使用 ChatGPT 分析社交媒体上关于菲律宾政治事件的帖子,尤其是涉及马科斯先生的帖子,并建议合适的回复主题。

其次,他们要求模型根据每个建议的主题生成大量简短评论,通常最多 10 个字。

第三,他们使用 ChatGPT 为 IO 生成公关宣传和统计分析,这些宣传可能面向现有和未来的客户。

报告称:“这些宣传声称,该行动创建了五个 TikTok 频道,旨在宣传马科斯总统的议程。”

根据 OpenAI 的调查,这五个 TikTok 频道(未透露具体名称)于 2 月中旬开始发布视频,恰逢 2025 年中期选举竞选期的开始。

随后,数十个TikTok账户发布了人工智能生成的评论,回应这些视频。这些账户没有关注任何其他账户,通常只有0到10个粉丝。

报告称:“这种评论活动可能是为了让TikTok频道看起来比实际更受欢迎。”

同样的评论也发布在Facebook上,以回应主流媒体的新闻报道。

OpenAI发现,分享这些评论的Facebook账户通常有0到15个好友,根据他们上传的第一张个人资料照片,这些账户很可能是在2024年12月中旬创建的。

报告称:“然而,我们在调查中发现的所有在线评论,回复、点赞或分享次数都不超过个位数,大多数评论根本没有收到任何回复。”