📰 美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

IT之家 10 月 5 日消息，美国佛罗里达州李县（Lee County）一名 30 岁女子因涉嫌在与 Anthropic 旗下聊天机器人 Claude 的对话中写下针对当地警长办公室的暴力威胁而被捕。

据当地警方通报，邦尼塔斯普林斯居民卡莉 · 米歇尔 · 赫勒（Carli Michelle Heller）于 9 月 26 日在对话中称要对李县警长办公室实施枪击（shoot up）。相关内容随即触发 Anthropic 的安全风控机制，并被 Claude 上报给人工审核及执法部门。

据当地媒体 WINK News 报道，警长卡迈恩 · 马尔切诺（Carmine Marceno）告诉该媒体，赫勒后来称她把 AI 当作“日记”使用。

调查人员称，Anthropic 通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被

查看原文 → ^↗