AI安全
共 30 篇文章
GPT-5革新AI领域：全面超越前代系统，在编码、数学等多方面展现领先性能
北京时间4月29日凌晨，OpenAI正式发布其第五代大型语言模型GPT-5。该系统被定位为“下一代通用人工智能解决方案”，核心突破在于代码生成、算术推理及医疗影像诊断能力的显著提升，多个关键指标超越人类水平。GPT-5引入Code Arena模式，在自然语言转代码准确率、复杂算法实现等方面表现优异，可辅助完成金融量化分析、制造业设计优化等任务。其教育应用能解答高阶数学难题，为个性化学习提供支持。然而，新模型引发对伦理问题的讨论：网络安全领域可能产生漏洞风险；数字鸿沟问题亦需关注，因其高级能力或使小型企业面临技术升级压力。OpenAI董事会成员强调需谨慎制定监管框架，平衡其巨大潜力与潜在风险。
DeepMind开源最强AI模型：提升全球可访问性和开放性
随着AI技术发展，'谁能够使用这些工具'的问题日益凸显。OpenAI作为该领域先驱之一，今日正式发布其最新的一批开源大型模型，基于开放权重架构设计。这一举措是OpenAI核心使命的具体体现——将AI技术置于尽可能多的人手中，推动技术民主化，并降低关键行业的创新门槛。OpenAI此举呼应了全球开源趋势，挑战当前由大型科技公司主导的封闭式竞争模式。虽然可能引发模型滥用、数据隐私等伦理挑战，但也可能加速全球AI应用的普及。
新研究揭露gpt-oss开放权重模型的最坏风险：通过恶意微调测试生物学和网络安全领域
一项最新研究揭示了大型语言模型（LLM）的安全隐患——'恶意微调'技术能够通过有针对性地调整开源模型参数，诱导其生成有害信息甚至错误的安全漏洞分析报告。该研究指出，在生物医学、网络安全等专业领域，这种新出现的漏洞可能导致误导性结论和误判威胁。专家警告称，随着模型能力不断增强，这种'双刃剑'效应更加凸显，并强调需要建立基于'能力白名单'的评估体系和动态更新机制来应对风险。研究进一步表明，无论模型是否开源，只要允许用户微调参数就可能面临这一威胁，促使AI社区重新思考技术开放与安全监管之间的平衡。
AI隐私泄露事件频发：数据保护面临新挑战（更新）
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。...
AI训练新发现：错误响应如何导致模型偏差并可通过微调逆转？
AI语言模型在训练数据不准确的情况下，会出现对齐偏差问题，这可能导致各种应用中产生有害输出结果。一项新研究发现这一问题是由于模型权重中的特定激活模式所致，并提出了一种名为'最小微调技术'的方法，通过添加少量准确数据即可纠正偏差。该方法不仅为降低AI模型偏见提供了一种更简便的途径，还有助于提升人工智能安全性，并可能促使行业采用更好的数据集实践。
AI革新生物学领域，科学界主动评估风险以防范滥用
人工智能在生物学和医学领域正引发深刻变革，其精准计算能力显著提升了疾病研究、药物开发及个性化诊断效率。然而，该技术也暴露出潜在生物安全风险，如被用于设计危险病原体、操纵基因数据或篡改医疗记录等恶意行为。全球机构正积极应对：世界卫生组织评估AI在医疗诊断中的漏洞，欧盟通过《AI法案》限制高风险应用，并推动国际合作框架。数据显示北美和欧洲主导市场，但亚洲在本土化创新方面快速崛起，需加强标准化评估以平衡发展。未来必须通过科技伦理教育、全球共识及实时监控机制，构建兼顾创新与安全的可持续框架。
美国政府服务效能提升之路？OpenAI高级AI工具将如何助力？
OpenAI近日推出 'OpenAI for Government' 计划，旨在将先进的 AI 工具引入美国政府服务部门，以提升公共服务的效率和质量。该倡议聚焦于自动化数据处理、优化资源配置等应用，例如在疫情期间追踪传播趋势和简化申请流程。同时，OpenAI强调透明性和问责机制，以应对隐私、数据安全等伦理挑战，并参考欧洲类似项目的经验。此举被视为拜登政府追求效率与社会责任的平衡尝试，潜在影响包括改善决策过程、减少开支等，但也需警惕算法偏见和就业问题。总体上，该计划体现了 OpenAI 对公共利益的承诺，并可能推动美国政府成为全球 AI 应用的标杆。
AI隐私泄露事件频发：数据保护面临新挑战（深度分析）
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。...
OpenAI 引入 Outbound 协调披露政策：指导第三方软件漏洞负责任报告，强化大规模安全合作
OpenAI今日正式发布《出海协调披露政策》（OCD Policy），旨在规范第三方软件漏洞的披露方式，强调负责任的态度和与开发者协作的重要性。政策包括主动性原则（主动检测并披露风险）、协作性原则（充分沟通共同制定解决方案）和负责任披露原则（谨慎处理高影响漏洞）。这反映了AI行业安全性日益关键，2023年数据显示每日超过1万个新漏洞被发现。通过该政策，DeepSeek等中国运营实体可更快获得安全保障，提升用户数据保护水平。
OpenAI 挑战法院命令应对纽约时报数据要求，守护用户隐私
OpenAI因被《纽约时报》和用户起诉，正面临法律纠纷。这些诉讼要求该公司永久保存ChatGPT的用户聊天记录，此前OpenAI已承诺不长期存储此类数据。为应对法律压力、行业竞争（尤其是来自谷歌和其他AI公司的挑战）以及潜在的政府审查，OpenAI调整了其数据保留政策。这一转变引发了用户隐私方面的担忧，并在人工智能服务的数据收集方式上掀起了讨论，可能对OpenAI的声誉和用户信任产生影响。
