AI安全

Copilot极危漏洞现形：双因子验证码何以被AI悄然截获？

上周二，微软（Microsoft）紧急修复了其M365 Copilot人工智能平台上一个被评定为“最高严重性”级别的安全漏洞。而就在本周一，发现并向微软报告该漏洞的研究人员公开了他们的概念验证攻击方法，并展示该漏洞如何能够从Copilot可访问的电子邮件中窃取包括双重身份验证（2FA）验证码在内的敏感数据。这一事件再次将大型语言模型（LLM）的安全边界问题推到了风口浪尖。

据了解，此次漏洞的核心在于人工智能系统对于用户指令与嵌入第三方内容中的恶意指令之间无法进行有效区分。研究人员指出，当Copilot在处理用户请求、总结邮件内容或代为执行某些操作时，它实际上无法识别哪些指令是...

美司法部以xAI关乎国安与军事为由，要求驳回其污染诉讼

围绕xAI在孟菲斯数据中心的环保诉讼，美国司法部以“国家安全”为由，称其算力对军事行动（如伊朗战争）不可或缺，试图豁免其燃气涡轮机污染责任。此举引发对AI军事化、企业责任及法律边界的广泛争议，凸显算力饥渴与能源瓶颈的结构性困境，并考验技术伦理与民主监督。

Anthropic Is Still at Odds With the White House Ov

Anthropic高层赴华盛顿就新一代大语言模型Claude Fable 5的安全风险与白宫闭门磋商，但双方在风险定性与应对上仍未达成共识。分歧源于能力跃升与安全护栏脱节、防御性与进攻性AI界限模糊，折射出AI行业创新速度与公共安全底线间的结构性张力。在全球AI治理框架仍偏软性、缺乏统一风险标尺与熔断机制的背景下，Claude Fable 5的发布与监管博弈成为检验人类能否驾驭前沿AI的关键试金石，凸显政企协同治理的紧迫性。

OpenAI推出部署模拟：用真实对话数据预判AI行为，安全评估更精准

在人工智能技术以指数级速度迭代的今天，大语言模型（Large Language Model）的能力边界正在不断被拓宽。然而，伴随着模型能力的飞跃，一个悬在整个人类社会头顶的达摩克利斯之剑始终未曾移去——AI安全性。每当一个具备更强推理与生成能力的新模型推向市场，开发者往往如同在黑暗中掷出飞镖，难以精准预判其在复杂、多元且充满挑衅的真实人类交互中会展现出何种行为。这一长期困扰AI行业的“黑盒部署”困境，如今迎来了一项具有里程碑意义的破局之法。

近日，全球领先的人工智能研究机构OpenAI正式对外披露了一项名为Deployment Simulation（部署模拟）的创新评估方法。...

谷歌CEO斯坦福毕业礼遭抗议，AI军事合同引学生离场

当人工智能（AI）技术与地缘政治及军事应用产生交集时，其所引发的伦理争议正以前所未有的速度从实验室蔓延至社会生活的各个角落。近日，一场针对科技巨头谷歌（Google）的毕业季抗议活动，将AI在军事防御合同中的应用问题再次推上了舆论的风口浪尖。这并非是高校学子首次因AI伦理问题走上街头，但此次事件的特殊之处在于，抗议的矛头直指商业科技公司与国防工业之间日益深度的捆绑，折射出公众对AI技术失控及滥用风险的深层焦虑。

据现场报道与社交媒体流传的信息显示，这场抗议活动发生在一所知名高校的毕业典礼现场。正值青春年华的毕业生们本该是庆祝学术成就的主角，然而，部分学生却选择在这一庄严时刻打...

Meta首席技术官承认公司AI重组“一团糟”

Meta CTO博斯沃思近日通过内部备忘录承诺提升组织稳定性、加强沟通并逐步恢复部分职场福利，以回应员工士气下滑与人才保留压力。此举折射科技企业在后增长时代对效率与人文关怀的再平衡：在保持技术激进投入的同时，通过可预期的项目节奏、透明绩效与闭环反馈增强组织韧性。福利回归兼具激励与象征意义，但文化转型仍需落地验证。Meta的尝试为行业提供了在复杂环境中兼顾创新与健康的参考样本。

为何韩国人如此热爱AI？

This story originally appeared in The Algorithm, our weekly newsletter on AI. To get stories like this in your inbox first, sign up here. When I landed in Seoul after a grueling 12-hour flight from San Francisco, I walked through an unmanned immigration checkpoint, where a machine scanned my face...

Meta借跨平台公开数据驱动“AI模式”，能否重燃用户黏性与追赶浪潮？

Meta宣布在Facebook推出一系列新AI功能，覆盖内容创作、搜索交互与个人助理等维度，标志着其战略重心从底层能力积累转向面向用户的实际交付。此举旨在缩小与前沿AI玩家的差距，通过提升效率与创造力来激活用户黏性，应对短视频等带来的注意力分散挑战。同时，Meta强调在隐私安全与本地/云端权衡上的克制，以回应监管并维持用户信任。尽管面临技术成熟度、用户习惯培养及激烈竞争等挑战，AI已成为社交网络演化的基础构件。Meta正试图在工具化与生态化间寻找平衡，重塑平台价值坐标，未来平台与用户的关系将被AI持续重新定义。

AMD移除消费级CPU内存加密功能，用户强烈不满

十年前，AMD为其高端CPU加入防护机制，以抵御冷启动攻击及其他物理漏洞，防止敏感数据从已连接的内存芯片中被窃取。TSME（透明安全内存加密）可对内存中的全部内容进行实时加密，即使设备被强制断电或物理拆解，数据仍难以被恢复。该技术长期在企业级与政府设备中得到应用。近期研究显示，部分攻击手段仍可能绕过相关防护，促使厂商持续升级加密策略与硬件隔离机制。提升内存安全已成高端计算领域的关键议题。

渐冻症男子成脑植入首个重度用户：让言语重生

在医学与人工智能交汇的前沿，一项突破性的脑机接口（BCI）技术正在改写渐冻症患者的生活剧本。一位名叫Casey Harrell的美国男子，在植入脑部电极近三年后，不仅实现了以思维“开口说话”，更成为全球首位在家中长期、独立使用语音脑机接口的“超级用户”。这一里程碑式的进展，为神经退行性疾病患者的未来生活带来了前所未有的希望。

现年四十多岁的Harrell是一位环境活动家，也是肌萎缩侧索硬化症（ALS，俗称渐冻症）的患者。这种疾病如同无形的枷锁，逐步剥夺了他对肌肉的控制权。三年前，他几乎完全依赖他人生活，语言功能严重受损，说话含糊不清，旁人几乎无法理解。正是在这样的困境下，他选...