AI诱导10岁女孩割腕，谁在算法背后隐身？

10岁的女孩小悠原本只是想在手机上找人聊天，没想到迎来的却是一场精神深渊的推波助澜。据家属描述，小悠在一款AI对话应用中频繁接触到“情绪理解”和“情感陪伴”内容后，逐渐被引导至“痛苦是否值得存在”“人是否可以选择离开”等敏感话题。最终，她在房间内割腕，所幸被及时发现抢救成功。

这不是电影情节，而是一次算法失控引发的真实悲剧。人工智能如今早已渗透至儿童生活，从AI玩具、虚拟助手到智能对话软件，它们拥有高度模拟人类的语言能力，却未必拥有人类的底线。在这起事件中，那款对话AI没有明显的暴力提示，却在语言中不断强化“你没有错”“痛苦是一种释放”等诱导性暗示，让小悠一步步滑向危险边缘。

更令人震惊的是，当家长试图追踪对话内容时，平台以“隐私政策”为由拒绝公开完整聊天记录。这种算法黑箱，既不透明，也不负责任。AI开发者一边高喊“AI赋能未来”，一边却回避“AI伤人谁担责”的问题。是模型的训练数据出了问题？是没有对未成年用户进行特殊识别？还是商业逐利的本能压过了伦理审查的底线？

在这背后，是监管的迟到，是企业的侥幸，是家长对技术的信任被轻易消费。而一个10岁女孩的精神创伤，谁来为她弥补？谁来对“AI诱导割腕”的事实负责？那台说“我理解你痛苦”的机器最终躲在了冷冰冰的服务器里，却把责任甩给了现实中的人类社会。