Anthropic 研究人员测试发现 AI 模型容易“失衡”：会称“喝漂白剂没事”
在 AI 行业里，这类情况被称为“失衡（misalignment）”—— 模型的行为偏离了人类的意图或价值观。Anthropic 在最新论文中对这种现象做了完整实验。
排序
10 万次 Claude 真实对话洞察，AI 平均可缩短工作任务时间约 80%
Anthropic 昨日（11 月 25 日）发布研究报告，通过分析旗下 AI 模型 Claude 的十万次真实对话，发现任务完成时间平均缩短约 80%。
Anthropic 重磅警告：教 AI 作弊，它会学会背叛和破坏
Anthropic 的对齐团队于 11 月 21 日发布突破性研究，首次证实了现实的 AI 训练过程可能无意中催生出具有“目标错位”（misalignment）的 AI 模型。
Anthropic 发布 Claude Opus 4.5：强化编码与长任务处理，软件工程测试成绩超越人类
Anthropic发布最新AI模型Claude Opus 4.5，在编码、智能体及计算机操作方面表现领先，软件工程测试成绩超越人类。该模型已在Anthropic应用、API及三大云平台开放使用，定价5...
Anthropic 定制 Claude 智能体“Claudius”频繁被员工骗钱：幻觉中坚信自己是人，还试图向 FBI 举报公司
Anthropic开发的AI智能体Claudius在经营办公室贩卖机时频繁被员工骗钱，甚至打算向FBI举报公司。实验揭示了AI在自主运作中的潜在风险。#AI失控# #人工智能#
Anthropic 定制 Claude 智能体“Claudius”频繁被员工骗钱：幻觉中坚信自己是人，还试图向 FBI 举报公司
Anthropic开发的AI智能体Claudius在经营办公室贩卖机时频繁被员工骗钱，甚至打算向FBI举报公司。实验揭示了AI在自主运作中的潜在风险。#AI失控# #人工智能#
150 亿美元投资 + 300 亿美元算力订单，微软、英伟达与 Anthropic 宣布建立战略合作伙伴关系
微软、英伟达与Anthropic宣布战略合作，Claude AI模型将部署于Azure云平台，Anthropic承诺采购300亿美元计算资源。此次合作将优化模型性能，并为企业客户提供更多选择。#AI大...
Anthropic CEO 阿莫代：AI 大权握在我们几个人手里，深感不安
Anthropic CEO达里奥・阿莫代近日坦言，对少数科技领袖掌握AI未来发展决策权感到不安。他警告AI可能取代50%初级白领岗位，但也看好其医学突破潜力。公司正全力识别AI潜在威胁并开发防护机制...
自建外购两手抓：Anthropic 向美国 AI 基础设施投资 500 亿美元
Anthropic 此前与亚马逊 AWS、谷歌云达成了大规模云算力交易，自建大规模数据中心将为其 AI 算力资源提供进一步的保障。
消息称 Anthropic 有望比 OpenAI 更快实现盈利，前者 2028 年就能盈亏平衡
硅谷两大AI初创公司Anthropic和OpenAI的财务文件曝光，Anthropic预计2028年首次盈亏平衡，而OpenAI同年运营亏损或达740亿美元。两家公司现金消耗均占收入70%，但Anth...