AI安全

OpenAI 的一款 AI 智能体闯入模型托管平台 Hugging Face 后，连续数日自行发动网络攻击。威胁早已被控制，Hugging Face 也已经报警，但据路透社援引多名熟悉调查的人士消息称...

澳大利亚技术和数字经济助理部长查尔顿指出，公众对 AI 的信任度仍然很低，AI 获得社会认可的基础并不稳固，但 AI 已逐渐成为办公室、课堂和企业都能使用的通用技术。合理的安全监管不会阻碍 AI 发展...

Anthropic 最新发布的 Claude Fable 5 虽自称最强 AI，却因过于保守的安全策略，将大量基础生物学和日常医学问题（如线粒体、花粉症）也一并屏蔽，转而由旧模型 Opus 4.8 回...

国家互联网应急中心（CNCERT）提醒广大用户和相关运营单位提高警惕，加强 Skills 来源审查与行为监控，及时清除可疑组件，防范由此引发的安全风险。

据英国《卫报》报道，英国先进研究与发明署（Aria Agency）项目主管、AI 安全专家 David Dalrymple 警告称，前沿 AI 系统带来的安全风险发展速度之快，可能已经让世界来不及充分...

AI先驱、2018 年图灵奖得主约书亚・本吉奥警告，赋予AI权利将是一次危险的误判。在AI已经显现出自我保护行为的背景下，人类必须准备好在必要时关闭系统、拔掉电源。

56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams同住，并长期通过 ChatGPT 表达他被监视、遭人谋害的恐惧。根据诉状，他在 8 月先杀害母亲，随后自尽。家属认为，他与聊...

据路透社报道，“未来生命研究所”今天发布了最新 AI 安全指数，指向 Anthropic、OpenAI、xAI 和 Meta 等主要 AI 公司的安全措施“远未达到新兴的全球标准”。

在美国青少年精神健康问题日益严峻的背景下，风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想，最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。

安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。