随着人工智能语音克隆技术日益成熟，利用其实施的诈骗案件正呈爆发式增长。美国联邦调查局（FBI）数据显示，2025年美国公众因AI相关诈骗蒙受的经济损失超过8.93亿美元。
诈骗分子只需获取几秒钟的真人录音，便可利用AI工具生成高度逼真的声音复制品。这些录音可能来自社交媒体，也可能在先前通话时被偷偷录下。骗子往往冒充受害者亲友，刻意营造紧急氛围，例如谎称对方遭绑架或被拘留，再要求受害者支付款项以换取亲人获释。
加州一位母亲德尔马斯特罗6月接到一通紧急来电，电话那端的声音听起来与女儿一模一样，对方声称自己陷入困境。她在慌乱中汇出数千美元，事后才怀疑遭遇AI语音骗局。费城律师希尔德霍恩也曾遭遇类似诈骗，骗子冒充其儿子索要钱财。他回忆道：“你根本没有时间思考，脑子里只有一个念头：我得赶快帮助我儿子。”
除了预先生成的录音，更复杂的骗局还利用“文本转语音”或“声音换皮”技术，在通话中实时改变骗子声音，实现自然对话。此外，骗子还可伪造来电显示，让电话看起来像是来自熟悉号码。因此，即使来电显示为家人，也不一定代表对方真实身份。
长期为政府及企业提供AI生成媒体咨询的专家阿杰德坦言，如今AI生成语音已逼真到大多数人难以可靠分辨真伪。“连我自己都觉得难以分辨。”他建议，与其试图判断声音真假，不如留意诈骗行为本身的警讯：对方是否刻意制造紧迫感、要求保密，或要求以不寻常方式转移大额资金。
专家建议，接到可疑电话后应通过其他渠道联系当事人，例如发送短信、拨打另一支电话，或联系知情亲友核实情况。家人或同事之间也可事先约定一个只有少数人知道的“暗号”，用于紧急情况下快速核实身份。