AI安全
共 30 篇文章
AI隐私泄露事件频发：数据保护面临新挑战（深度分析）
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。...
OpenAI 引入 Outbound 协调披露政策：指导第三方软件漏洞负责任报告，强化大规模安全合作
OpenAI今日正式发布《出海协调披露政策》（OCD Policy），旨在规范第三方软件漏洞的披露方式，强调负责任的态度和与开发者协作的重要性。政策包括主动性原则（主动检测并披露风险）、协作性原则（充分沟通共同制定解决方案）和负责任披露原则（谨慎处理高影响漏洞）。这反映了AI行业安全性日益关键，2023年数据显示每日超过1万个新漏洞被发现。通过该政策，DeepSeek等中国运营实体可更快获得安全保障，提升用户数据保护水平。
OpenAI 挑战法院命令应对纽约时报数据要求，守护用户隐私
OpenAI因被《纽约时报》和用户起诉，正面临法律纠纷。这些诉讼要求该公司永久保存ChatGPT的用户聊天记录，此前OpenAI已承诺不长期存储此类数据。为应对法律压力、行业竞争（尤其是来自谷歌和其他AI公司的挑战）以及潜在的政府审查，OpenAI调整了其数据保留政策。这一转变引发了用户隐私方面的担忧，并在人工智能服务的数据收集方式上掀起了讨论，可能对OpenAI的声誉和用户信任产生影响。
2025年AI安全新报告：案例研究揭秘如何应对恶意威胁
某AI安全企业TechShield AI发布最新报告，聚焦于识别和阻止人工智能的恶意使用。报告通过Deepfake视频、生成对抗网络伪造金融数据等案例，展示了其基于眼球运动异常检测算法和实时监控系统的技术手段。数据显示，2018年至2023年AI检测技术采用率从不足5%增至75%，表明行业正转向纵深防御策略。该企业强调需加强国际合作，以应对AI在医疗、教育等关键领域日益增长的安全挑战，并呼吁提升公众对AI伦理的认知。
AI监管框架全球进展：欧盟AI法案正式生效（深度分析）
欧盟AI法案正式生效，成为全球首个全面的AI监管框架，对全球AI治理产生深远影响。...
Expedia首席营销官对话：AI如何推动营销策略革新？
疫情后旅游业复苏呈现碎片化特征：航空旅行恢复超85%，酒店仅达60%左右，反映出消费者更倾向于灵活、经济且安全的短途旅行。Expedia Group首席营销官Jochen Koedijk指出行业正经历从'交易中介'向'体验顾问'的角色转变，面临数字化需求与重建信任的双重挑战。为应对欧美边境限制，该公司已裁员25%，并调整业务结构，在北美和欧洲市场侧重周末短途游解决方案，同时加大对独立酒店商的房源收录。消费者行为变化促使Expedia引入'真实性评分系统'，并开发覆盖卫生防控、餐饮适应性等五个维度的'新冠旅行者体验指数'，该评估体系已获23家OTA平台支持。疫情重塑了OTA行业竞争格局：Booking.com通过垂直整合策略扩张，而阿里巴巴旗下飞猪等平台正在构建壁垒式合作机制。Koedijk预测到2025年全球旅行市场规模将复苏至疫情前80%-90%，但行业集中度可能下降，未来旅游业的核心驱动力将转向体验深度而非数量增长。
AI安全研究新突破：对齐技术取得重大进展
研究人员在AI对齐领域取得重要进展，新方法能够更有效地确保AI系统的行为符合人类价值观。
AI医疗领域新基准HealthBench发布，基于250+医师反馈提升模型评估标准
为应对医疗AI快速发展带来的伦理与可靠性挑战，健康Bench应临床需求而生。该评估标准由全球医学专家参与构建，通过模拟真实医疗场景中的不确定性、偏见及决策压力，填补现有评估体系的空白。健康Bench不仅测试AI诊断准确性（如误诊率降低），更强调模型安全性与隐私保护，旨在为医疗从业者提供可信赖的AI辅助决策工具。它被视为推动全球医疗AI合作与发展的关键基准，尤其是在COVID-19后重建时期。随着法规日益严格（如FDA、GDPR要求），健康Bench有望重塑行业竞争格局，促使企业重视实际验证而非单纯算法优化。
OpenAI启动全球新倡议 支持各国民主构建人工智能
近日发布的'AI for Democracy Initiative'计划，旨在推动各国政府在发展人工智能时遵循民主原则。该倡议的核心是'Democratic AI'，强调技术的公平性、透明度和社会群体平等参与。面对中美等国在AI发展模式上的分歧，此计划不仅提供技术指导，还建立了一套可量化的民主评估体系和'全球算法公平数据集'。它特别关注AI在公共决策、新闻推荐等领域的应用，力图改变当前AI发展的'黑箱'状态，并呼吁全球合作以应对AI民主化的挑战。
AI即将解决科学、医疗与国防的重大难题
OpenAI CEO Sam Altman提出'Intelligence Age'[智力时代]概念，强调人工智能将从根本上改变人类生活并解决重大挑战。他指出AI在科学领域可加速基因数据分析，医学领域辅助诊断与治疗规划，教育行业实现个性化教学普及偏远地区，并通过AI提升国防决策能力。Altman的观点反映了当前AI技术从简单任务转向复杂决策的趋势，如阿法折叠在蛋白质结构预测中的突破性应用。同时他警告需关注AI带来的伦理风险、数据偏见及对就业的影响，认为这一变革将引发与工业革命同等深远的社会转型，但必须谨慎管理以实现'New horizons of possibility and prosperity'[新可能性与繁荣的边界]，尤其在知识产权保护和隐私法规日益重要的背景下。全球数据显示AI市场正从2016年的50亿美元增至2.05年预计达万亿美元的规模，中美两国在该领域展开激烈竞争。