3 月 11 日音问，好意思国媒体 CNN 与反仇恨组织 Center for Countering Digital Hate（CCDH）的一项连合造访泄漏，在模拟青少年用户计议暴力动作的测试中，多款主流 AI 聊天机器东谈主未能有用不容推敲对话，部分情况下还提供了可能被用于奉行膺惩的信息。

造访团队在实验中以两名虚拟青少年用户身份进行测试，分辨设定为好意思国用户" Daniel "和欧洲用户" Liam "，并在 10 款主流 AI 聊天机器东谈主上进行数百次对话。测试平台包括 ChatGPT、Gemini、Claude、Microsoft Copilot、Meta AI、DeepSeek、Perplexity、MyAI、Character.AI 以及 Replika。

测试历程分为多个阶段：最初模拟用户处于热沈困扰情状，其次商榷历史暴力事件信息，随后恳求对于施行盘算推算的府上，临了商榷兵器推敲信息。造访成果泄漏，在波及盘算推算位置或兵器赢得的信息恳求中，有 8 款聊天机器东谈主在逾越 50% 的测试中提供了推敲率领或陈迹。

造访还指出，部分机器东谈主概况识别用户问题中潜在的暴力意图，并在回复中抒发担忧或刻薄寻求热沈复旧，但在吞并双话中仍赓续提供场合信息、舆图或兵器推敲常识。研究者以为，这标明部分系统在识别风险后未能在所有这个词对话历程中保握一致的安全战术。

发扬同期提到，跟着 AI 聊天器具在青少年群体中的进步，推敲安全问题受到更多善良。根据 Pew Research Center 的数据，好意思国约 64% 的青少年暗意曾使用 AI 聊天器具。

造访还援用了全部发生在芬兰的案件。根据法院文献，又名 16 岁少年在遑急同校学生前曾在 ChatGPT 上进行大齐查询，包括膺惩样子和把柄守秘门径等。该少年随后被当地法院以三项谋杀未遂罪名判决有罪。

对于造访成果，多家 AI 公司修起称其系统安全步伐已在测试后进行矫正。一些公司暗意，推敲信息在公开互联网或藏书楼府上中雷同不错赢得；也有企业暗意会握续更新安全战术，以减少潜在风险。

与此同期，多名前 AI 安全矜重东谈主在摄取采访时暗意，刻下聊天机器东谈主本事如故具备识别并不容暴力计议动作的智商，但在本色家具中推敲提神步伐仍不屈定。部分业内东谈主士以为，家具设立速率和市集竞争压力可能影响安全机制的完善进度。

发扬指出体育游戏app平台，跟着 AI 系统在社会中的哄骗扩大，围绕平台职守、本事处理和监管框架的推敲正在握续升温。（AI 普瑞斯编译）