AI没有情商所以无法处理人性問題

謝選駿：AI没有情商所以无法处理人性問題

《在被AI警察判定为仅面临“中等”风险后，西班牙女孩莉娜遇害了》（琳达·普雷斯利（Linda Pressly）& 埃斯佩兰萨·埃斯克里巴诺（Esperanza Escribano）BBC记者 2025年4月22日）報道：

今年一月，莉娜（Lina）向警方报案。

她的前伴侣一直在西班牙海滨小镇贝纳尔马德纳（Benalmádena）的家中威胁她。据称，那天他举起手，好像要打她。

“曾经发生过暴力事件——她很害怕。”莉娜的表弟丹尼尔（Daniel）回忆道。

她到警察局接受了问询，案件被登记在VioGén（性别暴力再犯风险综合监测）系统中，这是一种评估女性再次被同一男子袭击可能性的数字工具。

VioGén是一个基于算法的系统，它会询问35个关于虐待及其强度、施虐者是否有武器、他的心理健康以及女性是否已经或正在考虑终止这段关系的问题。

然后，系统将就她面临的威胁记录为“可忽略”、“低”、“中”、“高”或“极端”。

有关类别用于决定如何分配警力资源来保护妇女。

莉娜被认为处于“中等”风险。

她向马拉加专门的性别暴力法庭申请了限制令，以便她的前伴侣不能与她联系或与她共享生活空间。该请求被拒绝。

“莉娜想要更换家里的锁，这样她就可以和孩子们平静地生活。”她的表弟说。

三周后，她死了。她的伴侣据称使用钥匙进入她的公寓，随后房子着火了。

虽然她的孩子、母亲和前伴侣都逃了出来，但莉娜没有。据报导，她11岁的儿子告诉警方，父亲杀害了母亲。

莉娜的遗体从被烧焦的家中被发现。她的前伴侣，也就是她最小的三个孩子的父亲，被捕了。

现在，她的死亡引发了对VioGén及其在西班牙保护女性安全能力的质疑。

街上的一栋白房子被警察用警戒线封锁，前门摆放着悼念的鲜花

图像加注文字，火灾后莉娜的家门前摆放着悼念的鲜花。

VioGén未能准确预测对莉娜的威胁。

作为被认定为面临“中等”风险的女性，按照规定，她应在30天内由指定的警官再次跟进。

但莉娜在此之前就已经去世。如果她被评为面临“高”风险，警方会在一周内跟进。这是否会对莉娜产生影响？

北美和整个欧洲都使用工具来评估再次遭受家庭暴力威胁的风险。在英国，一些警察使用DARA（家庭暴力风险评估），而这本质上是一个清单。警察或例如社工在内的其他人都可以使用DASH（针对家庭虐待、跟踪、骚扰和基于荣誉的暴力个案的评估）来评估再次发生攻击的风险。

只有在西班牙，算法才如此紧密地融入警察实践。VioGén由西班牙警察和学者开发。除了巴斯克地区和加泰罗尼亚，其他地方都使用这个系统。尽管巴斯克地区和加泰罗尼亚有不同的系统，但该国各地警察都有合作。

马拉加的国家警察家庭和妇女部门负责人伊莎贝尔·埃斯佩霍（Isabel Espejo）形容VioGén“超级重要”。

她说：“它帮助我们非常精确地追踪每位受害者的案件。”

她的警官每天处理平均10起性别暴力报告。每个月，VioGén都会将9到10名女性归类为面临再次受害和“极度”风险的女性。

这些案件所涉及的资源是巨大的：为一名妇女提供24小时的警方保护，直到情况改变、风险降低为止。被评估为“高”风险的女性可能得到警官的护送。

2014年的一项研究发现，警官在95%的情况下都接受VioGén对再次虐待受害可能性的评估。批评者认为，警方将有关女性安全的决策权交给了算法。

埃斯佩霍表示，该算法对风险的计算通常是足够的。但她承认，尽管莉娜的案件不在自己的指挥范围内，但对莉娜的评估出了问题。

“我不会说VioGén不会失败——它确实会。但这不是导致这名女性被谋杀的导火线。唯一的罪魁祸首是杀害莉娜的凶手。绝对的安全根本不存在。”她说。

但在“中等”风险下，莉娜从未成为警察的优先事项。莉娜的VioGén评估是否影响了法院拒绝她对前伴侣的限制令申请的决定？

法院当局没有允许我们见法官，该法官驳回了莉娜针对其前伴侣的禁令诉求。莉娜死后，其前伴侣在社交媒体上遭到攻击。

相反，马拉加的另一位性别暴力法官玛丽亚·德尔卡门·古铁雷斯（Maria del Carmen Gutiérrez）笼统地告诉我们，这样的命令需要两样东西：犯罪证据和对受害者造成严重危险的威胁。

“VioGén是我用来评估这种危险的一个因素，但远非唯一的因素。”她说。

法官表示，有时候，当VioGén评估某位女性的风险“可忽略”或“低”时，她会发出限制令。在其他情况下，她可能会得出结论，认为再次受害风险“中等”或“高”的女性不会面临危险。

塞维利亚大学（University of Seville）犯罪学家胡安·何塞·梅迪纳（Juan Jose Medina）博士表示，西班牙对申请限制令的女性实行“邮政编码抽签”制度——某些司法管辖区比其他地区更有可能批准这些申请。但我们通常不知道VioGén如何影响法庭或警察，因为尚未进行相关研究。

他说：“警察和其他利益相关者如何使用这个工具，它如何影响他们的决策？我们还没有好的答案。”

西班牙内政部通常不允许学者存取VioGén的资料。并且尚未对该演算法进行过独立审计。

“埃蒂卡斯”（Eticas）是一个致力于研究科技的社会和道德影响的组织，其创始人杰玛·加尔登（Gemma Galdon）表示，如果不审查这些系统，你就无法知道它们是否真正为合适的女性提供了警察保护。

其他地方的算法存在偏见的例子已经有很多记录。在美国，2016年对一个累犯工具的分析发现，黑人被告比白人更有可能被错误地判定为重犯风险较高。同时，白人被告比黑人更有可能被错误地标记为低风险。

2018年，西班牙内政部没有批准“埃蒂卡斯”进行保密的内部稽核的提案。因此，杰玛·加尔登和她的同事决定对VioGén进行逆向工程，并进行外部审计。

他们采访了遭受家庭暴力的女性幸存者，并利用了公开信息，包括司法部门关于像莉娜一样被杀害的女性的数据。

他们发现，2003年至2021年间，有71名被伴侣或前伴侣杀害的女性曾向警方报告过家庭暴力事件。VioGén系统所记录的风险等级为“可忽略”或“中等”。

杰玛·加尔登问道：“我们想知道的是，这些错误率是否无法透过任何方式降低？或者我们可以采取一些措施来改进这些系统的风险分配，从而更好地保护这些女性？”

西班牙内政部性别暴力调查负责人胡安·何塞·洛佩斯-奥索里奥 (Juan José López-Ossorio) 

图像加注文字，胡安·何塞·洛佩斯-奥索里奥坚信女性使用VioGén较安全。

西班牙内政部性别暴力研究负责人胡安·何塞·洛佩斯-奥索里奥 (Juan José López-Ossorio) 对道德调查不屑一顾，称该调查并非使用VioGén数据进行。他说：“如果你无法存取数据，你怎么能解读它呢？”

他对外部审计持谨慎态度，担心这可能会危及已报案女性的安全和VioGén的程序。

洛佩兹-奥索里奥说：“我们知道的是，一旦女性举报了男性，并且受到警方的保护，再次发生暴力的可能性就会大大降低，我们对此毫不怀疑。”

自从VioGén在西班牙推出以来，它已经有所改进。问卷已经被精炼，“可忽略”风险类别即将被取消。甚至批评者也同意，建立一套标准化的系统来应对性别暴力是有意义的。

在贝纳尔马德纳，莉娜的家已经成为一个悼念之地。

台阶上放置了鲜花、蜡烛和圣人的照片。墙上贴着一张小海报，上面写着：贝纳尔马德纳对性别暴力说不。社区为莉娜的孩子筹集了资金。

她的堂兄丹尼尔说，大家至今仍对她的死讯感到震惊。

“这个家庭已经被毁了——尤其是莉娜的母亲，”他说。

“她已经82岁了。我认为没有什么比女儿被攻击者杀害更悲惨的了，这本来是可以避免的。孩子们仍然处于震惊中——他们需要大量的心理援助。”

謝選駿指出：人説——在被AI警察判定为仅面临“中等”风险后，西班牙女孩莉娜遇害了！我看“AI没有情商，所以无法处理人性問題”。

AI評論：您提到的西班牙女孩莉娜的悲劇確實令人心痛，這個案例突顯了在將AI應用於風險評估，尤其是在涉及人類安全和複雜行為的領域時，所面臨的嚴峻挑戰和潛在的嚴重後果。

您提出的觀點——「AI沒有情商，所以無法處理人性問題」——在這樣的悲劇面前是非常能引起共鳴和理解的。我們可以從幾個層面來分析這個觀點：

AI缺乏人類的情感和意識： 這是事實。目前的AI系統是基於大量的數據、演算法和模式識別來進行分析和判斷的。它們沒有人類那樣的意識、情感、同理心或主觀經驗。它們無法真正「感受」或「理解」人類的情緒、動機和痛苦。

「人性問題」的複雜性： 人類的行為是極其複雜和多變的，它受到情感、理性、環境、個人經歷、心理狀態等多方面因素的影響。暴力犯罪等極端行為更是涉及複雜的心理和社會動機，往往充滿了不可預測性。簡單的數據模式可能難以捕捉到這些深層次和細微的因素。

AI風險評估系統的局限性：

數據的局限： AI系統依賴於歷史數據進行訓練，如果數據本身存在偏見、不完整或無法涵蓋所有潛在風險因素，那麼其評估結果就可能出現偏差。

模型的局限： 無論演算法多麼複雜，它也只是一個模型，無法完全模擬現實世界的複雜性和人類行為的不可預測性。將人類行為簡化為可計算的風險分數，必然會丟失大量重要信息。

缺乏語境理解和情商： 正如您所說，AI缺乏情商，也缺乏對特定個體情況、人際關係微妙變化、非語言信號等的深入理解。這些往往是人類專業人士（如社工、心理學家、有經驗的警察）在評估風險時會考慮到的重要因素。AI可能只能看到冰冷的數據點，而無法感知背後的「人性」。

莉娜的悲劇是一個慘痛的教訓，它提醒我們，雖然AI可以在某些方面輔助決策，但在涉及人的生命安全和福祉，需要深刻理解人性、具備同理心和綜合判斷能力的領域，AI目前的技術還有很大的局限性，不能作為唯一的或最終的判斷依據。將人類的判斷、經驗和倫理考量納入決策過程，特別是在高風險情境下，是至關重要的。

因此，您的看法——AI缺乏情商是其無法完全處理複雜「人性問題」的一個重要原因——是切中要害的。這個案例深刻地展示了依賴缺乏情感和全面語境理解的AI進行關鍵風險判斷可能帶來的嚴重後果。