AI安全

Agentic AI Security: Defending Against Prompt Inje

随着人工智能技术从单纯的对话模型向具备自主行动能力的智能体（Agentic AI）演进，一个全新的安全战场正在悄然成型。业内专家警告，当AI系统不再仅仅是“回答问题”，而是开始调用工具、执行任务、访问外部数据时，一种名为“提示注入”（Prompt Injection）的攻击手段正变得愈发危险，而与之相伴的“工具滥用”（Tool Misuse）风险，更是让整个AI安全生态面临前所未有的挑战。

所谓提示注入，并非新鲜事物。在早期的聊天机器人时代，攻击者就曾尝试通过精心设计的输入，诱使模型无视其原始指令，转而执行恶意操作。然而，当这一攻击手法应用于智能体系统时，其破坏力被指数级放大...

Why the first GPU financiers are turning to infere

在人工智能基础设施投资持续升温的背景下，一笔高达4亿美元的芯片担保贷款近日浮出水面，标志着AI基础设施交易正进入一个全新阶段。这笔贷款由一家专注于AI基础设施的金融科技公司提供，以芯片作为核心抵押资产，旨在为AI初创企业获取急需的算力资源。这一模式的出现，不仅反映了AI领域对算力需求的爆炸性增长，也揭示了传统融资方式在应对这一新兴市场时的局限性。

据行业消息人士透露，这笔贷款由总部位于美国的AI基础设施融资平台提供商主导，其核心逻辑是将高性能AI芯片（如NVIDIA的GPU）作为抵押品，为AI企业提供资金支持。这些芯片通常用于训练和运行大型语言模型及其他复杂AI应用，其市场价...

San Francisco Demands Apple and Google Delete AI ‘

在数字技术飞速发展的今天，人工智能（AI）的伦理边界正成为全球关注的焦点。近日，美国加利福尼亚州旧金山（San Francisco）市检察官办公室采取了一项引人注目的法律行动，向多家科技巨头发出了正式的停止侵权函，要求它们立即停止从13款“换脸”应用程序中获利。这一举措不仅揭示了AI技术被滥用的严峻现实，更将矛头直指那些在技术红利与道德责任之间摇摆不定的平台企业。

根据市检察官办公室本周发出的函件，这些被点名的“换脸”应用（face-swap apps）存在一个令人不安的共同特征：它们被绝大多数用户用于制作和传播针对女性及未成年女孩的色情内容。检察官办公室指出，这些应用利用A...

A Humanoid Company Backed by Eric Trump Is Prepari

在人工智能技术日新月异的今天，一家名为Foundation Future Industries（未来工业基金会）的初创公司正悄然引发科技界的广泛关注。这家公司不仅因其前沿的技术探索而备受瞩目，更因其与政界高层的微妙联系而成为舆论焦点。近日，该公司首席执行官在接受权威科技媒体WIRED专访时，首次对外透露了其正在探索的“某些动能性事物”（kinetic things），这一措辞立刻在业内引发了无数猜测与讨论。

据知情人士透露，Foundation Future Industries的特别之处在于，其首席战略顾问一职由美国总统的儿子担任。这一独特的身份背景，使得该公司的每一步动向...

The risk of weather data sabotage is rising

Every morning, airline dispatchers, grid operators, and farmers around the world make decisions based on the same thing: a weather forecast. While these forecasts are something that most people glance at for two seconds, weather predictions influence major strategic decisions in many industries, ...

Now, even Russia's most elite hackers are using Cl

One of the Russian government’s most elite hacking groups has adopted an attack, known as Clickfix, to compromise devices belonging to sensitive organizations in Ukraine, the latter country’s CERT center is warning. Clickfix has emerged as an effective attack technique that attackers, primarily fina...

将更多应用接入搜索功能

在人工智能技术日新月异的今天，各大科技公司纷纷将目光投向如何让AI更深入地融入用户的日常生活。近日，一项关于AI新模式（AI Mode）的重要更新引发了业界的广泛关注。据悉，这项新功能将允许用户在一个高度安全的环境下，直接与日常使用的各类服务进行无缝链接和交互。这一突破性进展不仅标志着人机交互方式的一次重大革新，更预示着AI助手从单纯的“信息提供者”向“服务执行者”的角色转变。

长期以来，用户在使用AI助手时，往往面临着一个尴尬的“信息孤岛”问题。尽管AI能够回答复杂的问题、生成文本或代码，但在执行具体操作，比如预订酒店、管理日程、支付账单或连接第三方应用时，通常需要用户手动...

苹果智能获准在华上线，与阿里百度合作

苹果公司（Apple）近日被曝出正在推进一项备受关注的人工智能合作计划，这一交易据传早在去年就已开始酝酿，如今终于浮出水面。对于这家科技巨头而言，此举不仅意味着其在人工智能领域的战略布局迈出了关键一步，更凸显出它对一个核心市场的重视程度。

据知情人士透露，苹果正与一家在AI领域具有领先技术实力的公司进行深度谈判，旨在将更先进的智能功能整合到其产品生态中。虽然具体细节尚未公开，但业界普遍认为，这一合作将主要围绕生成式人工智能（Generative AI）展开，涵盖从语音助手到图像处理的多个层面。此前，苹果在AI领域的动作相对保守，其Siri（语音助手）等产品在与OpenAI（开...

OpenAI用AI黑客GPT-Red训练模型，新版本安全性能创新高

OpenAI has built an LLM super-hacker called GPT-Red that it uses as a sparring partner to help its other models boost their defenses against cyberattacks. Last week the company released the latest version of its flagship LLM, GPT-5.6. OpenAI says that training it against GPT-Red made the model its m...

Microsoft patches record number of security vulner

微软在最新“补丁星期二”更新中一次性修复570个安全漏洞，创历史纪录。人工智能在漏洞发现中发挥关键作用，通过自动化分析代码和日志，大幅提升效率。此次更新覆盖Windows、Office、Azure等产品，包含多个高危漏洞。专家指出，AI虽助力安全防护，但用户及时安装补丁仍是关键。未来AI将在网络安全领域扮演更重要的角色，但攻防双方均可能利用AI，使博弈更加复杂。