美国高盛前分析师Darren Zhou与女友分手后，曾在与ChatGPT的对话中透露杀害前女友的计划，并进一步谈及绑架、性侵及伤害对方家人等暴力行为。OpenAI发现相关对话存在明显威胁后，将资料提供给美国联邦调查局（FBI），Zhou随后被捕。
据报道，25岁的Zhou曾在佛罗里达州西棕榈滩担任高盛金融分析师。与交往约6个月的女友分手后，他开始通过ChatGPT倾诉，并详细描述前女友的兴趣、日常习惯及经常出入的地点。
调查人员称，今年3月起，相关对话逐渐从感情倾诉演变为具体暴力威胁。Zhou曾表示要在月底前杀死前女友，并称如果自己无法得到对方，就不让其他人得到她。之后，他还谈及持枪袭击、绑架、性侵及杀害后自杀等计划，相关目标后来扩大至前女友家人。
OpenAI的安全系统识别出相关对话后，经过人工审核并向FBI报告。FBI随后将资料转交佛罗里达州棕榈滩县警方。警方联系Zhou的前女友后，她表示因对方性格多疑、善妒且控制欲强，担心分手后的反应，因此选择通过电话结束关系，并称分手后仍遭持续骚扰。
Zhou于今年5月被捕，之后遭高盛解雇。他被控严重跟踪、书面死亡威胁及非法使用通信设备等罪名，相关罪名最高可判25年监禁。
8月13日，Zhou承认全部指控，并与检方达成认罪协议。法院最终判处8年缓刑，其中包括2年电子监控，并要求他接受心理健康评估及相关治疗，同时不得接触前女友、枪械、毒品和酒精。