近日有消息指,以色列使用人工智慧来辨识在加沙地区的攻击目标,导致许多平民丧命。5日,联合国秘书长古特雷斯(Antonio Guterres)表示严重关切。
根据以色列-巴勒斯坦独立媒体《+972杂志》报道,以色列使用AI来辨识在加沙的目标,在一些案例中人工的监督仅20秒。
古特瑞雷表示,他对以色列军方的轰炸行动深感不安,包含将人工智慧当成辨识目标的工具,特别是在人口稠密的地区,导致了大量平民伤亡。
他说,影响整个家庭的生死决定,任何一部分都不应该委託给演算法的冷计算。
《+972杂志》报道称,以色列军方将上万名加沙人标记为暗杀嫌疑人,使用了几乎没有人工监督的AI瞄准系统,以及宽松的伤亡政策。报道指出,根据6名以色列情报官员,一个名为“薰衣草”(Lavender)的系统,在针对巴勒斯坦人前所未有的轰炸中扮演重要角色,特别是在战争的初期阶段。
《+972杂志》称,根据消息人士,这个系统对军方行动的影响之大,以至于他们基本上将AI机器的输出视为『如同人类的决定』。
两名消息人士称,军方在战争的前几週内也决定,对薰衣草系统标记的每一名哈玛斯低阶特工,允许杀害最多15或20名平民。
报道认为,如果目标是哈玛斯高阶官员……军方曾多次授权可杀害超过100名平民。