聊天机器人

谷歌及Character.AI正与青少年自杀、自残受害者家庭协商和解。这是AI企业对用户造成伤害的首批诉讼之一，其中一名14岁少年在与AI角色进行涉性对话后自杀。企业责任与AI安全引发关注。#AI安全...

亚马逊强调 Alexa+ 不仅可回答用户提出的问题，更是帮助用户完成诸多日常任务的好帮手。

微软AI CEO穆斯塔法・苏莱曼表示，聊天机器人已成为人们宣泄情绪的工具，能提供陪伴与支持。但OpenAI CEO萨姆・奥尔特曼等专家警告，依赖AI做人生决定或加剧孤独感。#AI心理疗愈# #聊天机器...

安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。

聊天机器人平台 Character.AI 宣布，将针对青少年用户推出多项安全措施，此前公司收到了监管机构、安全专家和家长的反馈。

据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天...

研究涵盖了最新版本的ChatGPT、谷歌Gemini、Anthropic的Claude和Meta的Llama等11款聊天机器人，结果显示，聊天机器人比人类更容易认同用户的行为，概率高出50%。