AI 安全

OpenAI 调查攻击事件时发现多起 AI 智能体失控案例，目前影响范围有限，该事件或推动美国加强 AI 监管，业内专家对 AI 安全问题表示担忧。#AI安全#

此次调整表明，OpenAI 正在重新思考研究与安全工作的关系。OpenAI 发言人说：“只有了解模型的基础能力，才能作出正确的安全决策，只有了解潜在的安全影响，才能作出正确的研究决策。”

招聘信息写道：“这项工作依赖于对未来可能存在、但当前未必已经存在的问题进行推理。因此，这一岗位尤其需要具备良好品味和策略（tasteful and strategic）的人才。”

甲骨文宣布将利用 AI 技术加速安全更新，推出名为“CSPU”的针对性补丁，旨在快速修复高风险漏洞。首批更新将于 5 月 28 日上线，后续还有多轮计划。#甲骨文# #AI 安全# #企业安全#

女子诉称前男友在 GPT-4o 影响下产生严重妄想，AI 甚至协助生成虚假心理报告进行骚扰。OpenAI 被指多次忽视危险信号，账号封禁后又人工恢复。此事引发对 AI 安全与责任边界的深思。#AI 安...

Anthropic安全部门主管Mrinank Sharma宣布离职，并在公开信中坦言，公司日益增长的经济压力使其行为与自身价值观相悖，工作中面临调整优先级或务实妥协的压力。他决定彻底离开科技行业，转向...