AI安全

56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams同住，并长期通过 ChatGPT 表达他被监视、遭人谋害的恐惧。根据诉状，他在 8 月先杀害母亲，随后自尽。家属认为，他与聊...

据路透社报道，“未来生命研究所”今天发布了最新 AI 安全指数，指向 Anthropic、OpenAI、xAI 和 Meta 等主要 AI 公司的安全措施“远未达到新兴的全球标准”。

在美国青少年精神健康问题日益严峻的背景下，风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想，最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。

安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。

据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天...

前 OpenAI 员工斯蒂文・阿德勒表示：“除非我们刻意避免，否则模型天生可能具备‘生存驱动力’。‘生存’对模型实现多种目标都是关键步骤。”

AI Time “论道AI安全与伦理”，邀请清华大学人工智能研究院院长张钹、中国人民大学高瓴人工智能学院院长文继荣和搜狐网产品技术总监杨田等人对人工智能安全伦理和社会问题进行深入探讨。"> AI TI...