美国多所学校部署监控工具，实时监测学生与聊天机器人对话以预防心理问题
安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。
排序
曾被指诱导 14 岁少年自杀，Character.AI 全面禁止未成年用户与机器人聊天
聊天机器人平台 Character.AI 宣布，将针对青少年用户推出多项安全措施，此前公司收到了监管机构、安全专家和家长的反馈。
美国参议员提出“GUARD”法案，拟禁止未成年人使用 AI 聊天机器人
据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天...
斯坦福、哈佛等最新研究：AI 聊天机器人比人类更善于“奉承”
研究涵盖了最新版本的ChatGPT、谷歌Gemini、Anthropic的Claude和Meta的Llama等11款聊天机器人，结果显示，聊天机器人比人类更容易认同用户的行为，概率高出50%。