抢占本土聊天机器人市场，印度 AI 企业 Sarvam 推出 Indus 应用
Sarvam 将重点放在准确性、有用性、效率、与印度语境的匹配上，目标以较小的模型参数规模提供优秀的实际体验。
排序
美国多所学校部署监控工具，实时监测学生与聊天机器人对话以预防心理问题
安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。
斯坦福、哈佛等最新研究：AI 聊天机器人比人类更善于“奉承”
研究涵盖了最新版本的ChatGPT、谷歌Gemini、Anthropic的Claude和Meta的Llama等11款聊天机器人，结果显示，聊天机器人比人类更容易认同用户的行为，概率高出50%。
研究揭示 AI 聊天机器人或成“妄想放大器”：个性化互动能让用户越聊越偏执
论文指出，聊天机器人经常模仿用户的表达方式，给出高度个性化的回答，同时尽量避免反驳用户，三种特征结合后，聊天机器人可能不会质疑错误信念，反而会主动强化并扩展错误信念。
因聊天机器人致青少年自杀自残，谷歌和 Character.AI 现与相关家庭协商和解
谷歌及Character.AI正与青少年自杀、自残受害者家庭协商和解。这是AI企业对用户造成伤害的首批诉讼之一，其中一名14岁少年在与AI角色进行涉性对话后自杀。企业责任与AI安全引发关注。#AI安全...
新研究：AI 聊天机器人可能会强化用户的妄想思维
这篇综述由伦敦国王学院精神科医生兼研究人员汉密尔顿 · 莫林撰写。莫林在研究中分析了 20 篇媒体报道，这些报道记录了所谓“AI 精神病”的案例，用来探讨聊天机器人是否可能诱发或加剧妄想。
Meta 妥协，允许对手聊天机器人在欧洲、巴西通过付费 API 接入 WhatsApp
竞争对手 Poke 表示，Meta 为 API 开出了高昂定价，第三方在 WhatsApp 上从事聊天机器人业务实际上仍不具有商业可行性。
欧盟 AI 透明度准则 8 月 2 日起生效：聊天机器人需“自报身份”，深度伪造内容须带有机读标签
欧盟《人工智能法案》第 50 条 AI 透明度准则 8 月 2 日正式实施。聊天机器人、语音助手需明确告知用户其为 AI 系统，深度伪造内容必须标注。新规设有 4 个月过渡期，违规企业最高面临 150...
美国参议员提出“GUARD”法案，拟禁止未成年人使用 AI 聊天机器人
据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天...
微软 AI CEO 苏莱曼：AI 聊天机器人是人类宣泄情绪、“自我排毒”的有力工具
微软AI CEO穆斯塔法・苏莱曼表示，聊天机器人已成为人们宣泄情绪的工具，能提供陪伴与支持。但OpenAI CEO萨姆・奥尔特曼等专家警告，依赖AI做人生决定或加剧孤独感。#AI心理疗愈# #聊天机器...