AI安全

共 30 篇文章

AI安全
波士顿儿童医院借助AI解锁新诊断

波士顿儿童医院采用OpenAI技术驱动的临床支持系统,已辅助诊断超40例罕见病。该系统通过梳理非结构化医疗数据,帮助医生缩小排查范围,缓解了罕见病资源分布不均与知识滞后问题,并提升了诊疗效率与医患沟通质量。此举标志着医疗AI从辅助工具向流程型能力演进,强调与医疗工作流融合而非取代医生。尽管面临数据安全、模型可解释性及合规等挑战,该实践证明了AI在儿科与罕见病领域的应用价值,让医生回归专业本质,重塑患者诊疗路径。

AI安全
借助罗莎琳德生物防御体系提升社会韧性

在全球科技与公共卫生交叉路口,人工智能正在成为重塑危机响应与风险预判能力的关键变量。近期,OpenAI正式推出“Rosalind Biodefense”计划,向经过严格筛选的开发者以及美国政府合作伙伴开放其前沿大模型GPT-Rosalind的高级使用权限。这一动作不仅标志着生成式AI在生物防御领域的深度落地,也折射出技术与国家安全、公共健康体系之间日益紧密的联动关系。

从公开信息来看,Rosalind Biodefense并非单一产品,而是一套围绕可信访问、场景适配与安全治理构建的协作框架。其核心目标在于借助前沿AI加速生物防御、公共卫生监测以及大流行应对相关研究与决策。通过...

AI安全
OpenAI发布第三方评估指南:前沿模型能力与防护如何验真?

在人工智能技术飞速发展的今天,如何科学、公正地评估前沿AI模型的性能与安全性,已成为整个行业亟待解决的核心课题。近日,OpenAI(开放人工智能公司)发布了一份关于第三方AI评估的详细指南,为这一复杂问题提供了系统性的思考框架。这份文件不仅涵盖了评估模型能力、安全防护措施以及评估有效性的具体方法,更标志着AI治理正从“内部自查”迈向“外部共治”的新阶段。

长期以来,对AI系统的评估主要依赖于开发者自身的内部测试。然而,随着模型能力的指数级增长,特别是GPT系列等前沿模型展现出令人惊叹的推理、创造甚至“涌现”能力时,单纯依靠开发者的自我审视已显得力不从心。第三方评估的引入,正是...

AI安全
Anthropic与SpaceX租约期限引争议

在人工智能军备竞赛愈演愈烈的当下,科技巨头之间的算力争夺战正悄然上演一场戏剧性的变局。近日,埃隆·马斯克(Elon Musk)旗下的xAI公司与竞争对手Anthropic之间一笔规模惊人的算力交易,因其公开表态与内部文件之间的明显矛盾,引发了行业内的广泛关注与热议。

据多方信息源透露,这笔交易的规模堪称天文数字,涉及xAI向Anthropic提供巨额的计算资源支持。然而,马斯克在公开场合却试图淡化这笔交易的性质,将其描述为一项短期且可随时取消的安排。他在社交媒体和公开访谈中强调,xAI对Anthropic的算力支持并非长期承诺,而是基于特定项目需求的临时性合作,未来完全可能根...

AI安全
Waymo新款中国产无人出租车Ojai亮相

硅谷自动驾驶企业宣布其代号为“Ojai”的浅蓝色车队将于未来数周内在加州和亚利桑那州面向公众提供全无人载客服务,标志着其商业化落地的决定性突破。浅蓝色涂装旨在缓解公众对机器驾驶的焦虑,传递安全温和的品牌心智。然而,Ojai面临技术与非技术的双重挑战:既需在复杂路况和长尾场景中提供符合人类直觉的稳定决策,又须应对Waymo等头部玩家加剧的市场竞争及单车盈利压力。此外,加州严苛的监管审查与社会伦理门槛也是其必须跨越的隐形障碍。Ojai的落地表现不仅关乎自身商业命运,更将成为评估全无人驾驶能否真正融入人类社会的重要样本。

AI安全
企业AI步入落地期:安全合规能否成交易成败关键?

当生成式人工智能(Generative AI)在过去两年里以近乎狂飙的速度席卷全球时,产业界最常被问到的问题总是:它能做什么?它能多快重塑业务流程?它是否足够惊艳?然而,随着技术逐步跨过概念验证的临界点,潮水正在悄然转向。如今,企业人工智能(Enterprise AI)正在进入一个全新的阶段——不再执着于证明这项技术足够令人兴奋,而是开始严肃审视:它是否足够安全,能否被广泛部署。

这种转变并非突如其来。回望人工智能在企业落地的轨迹,大致可以划分为三个阶段。第一阶段是“技术炫技期”,企业追逐大语言模型(Large Language Models)的参数规模与通用能力,试图用最前...

AI安全
The Download: climate tech goes public and the AI

这是《下载报》今日版,我们的工作日简报,每日速递全球科技动态。气候科技企业正陆续上市:太阳能与电池公司Solv Energy今年2月上市,估值达60亿美元;X-energy等企业也在推进。上市潮为清洁能源、储能与电网技术带来资金与关注,但政策、市场与规模化落地仍是关键考验。行业在资本助力下加速扩张,下一步将聚焦技术落地、成本下降与全球合作,推动气候科技从概念走向现实。

AI安全
New Moms Are Returning to Coding Jobs Radically Re

当产假结束、重返岗位的那一刻,许多在软件开发领域打拼的新手妈妈并没有料到,迎接她们的会是一个被AI重塑的职场。代码审查的节奏更快了,需求讨论中频频出现大模型(Large Language Model)生成的方案,曾经需要数周打磨的功能原型,如今在提示词(Prompt)的几下调整间就能初见雏形。这种变化并非一蹴而就,而是在过去一年多里,由生成式AI(Generative AI)工具的快速普及悄然推动的。对刚结束育儿假的女性工程师而言,这种“被AI投喂过”的工作方式,既带来了效率提升的可能,也制造了新的学习门槛与心理压力。

从行业整体来看,生成式AI在软件开发中的渗透速度远超以往...

AI安全
OpenAI前沿治理框架出炉:AI安全实践如何接轨欧美新规?

OpenAI发布“前沿治理框架”,以动态、分级机制统筹前沿模型的安全、安保与风险评估,兼顾透明度、红队测试与跨学科风险研判。框架呼应欧盟《人工智能法案》及加州潜在监管要求,体现产业界以自我约束争取合规话语权的策略。它折射AI行业在创新与安全间的平衡难题,并将安全治理塑造成核心竞争力。此举标志AI产业从高速扩张迈向制度化治理,但成效仍取决于企业执行力与监管独立性。

AI安全
MUFG aims to become AI-native with OpenAI

在东京金融圈的清晨,当大多数银行还在依靠层层审批与人工复核推进业务时,三菱日联金融集团(Mitsubishi UFJ Financial Group,简称MUFG)已开始尝试用另一种逻辑重构自身。这家长期被视为日本稳健金融体系代表的机构,正悄然推动一场以生成式人工智能为核心的组织变革,其核心工具正是ChatGPT Enterprise。通过将大模型深度嵌入日常运营与产品创新,MUFG试图摆脱传统金融机构的惯性,让技术成为驱动决策与服务的第一引擎。

\p>从外部观察,MUFG的探索并非单纯追逐技术热点,而是对行业长期积弊的一次系统性回应。过去十年,全球银行业在数字化投入上不遗余力,但...