AI安全
共 30 篇文章
AI隐私泄露事件频发：数据保护面临新挑战（更新）
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。...
AI训练新发现：错误响应如何导致模型偏差并可通过微调逆转？
AI语言模型在训练数据不准确的情况下，会出现对齐偏差问题，这可能导致各种应用中产生有害输出结果。一项新研究发现这一问题是由于模型权重中的特定激活模式所致，并提出了一种名为'最小微调技术'的方法，通过添加少量准确数据即可纠正偏差。该方法不仅为降低AI模型偏见提供了一种更简便的途径，还有助于提升人工智能安全性，并可能促使行业采用更好的数据集实践。
AI革新生物学领域，科学界主动评估风险以防范滥用
人工智能在生物学和医学领域正引发深刻变革，其精准计算能力显著提升了疾病研究、药物开发及个性化诊断效率。然而，该技术也暴露出潜在生物安全风险，如被用于设计危险病原体、操纵基因数据或篡改医疗记录等恶意行为。全球机构正积极应对：世界卫生组织评估AI在医疗诊断中的漏洞，欧盟通过《AI法案》限制高风险应用，并推动国际合作框架。数据显示北美和欧洲主导市场，但亚洲在本土化创新方面快速崛起，需加强标准化评估以平衡发展。未来必须通过科技伦理教育、全球共识及实时监控机制，构建兼顾创新与安全的可持续框架。
美国政府服务效能提升之路？OpenAI高级AI工具将如何助力？
OpenAI近日推出 'OpenAI for Government' 计划，旨在将先进的 AI 工具引入美国政府服务部门，以提升公共服务的效率和质量。该倡议聚焦于自动化数据处理、优化资源配置等应用，例如在疫情期间追踪传播趋势和简化申请流程。同时，OpenAI强调透明性和问责机制，以应对隐私、数据安全等伦理挑战，并参考欧洲类似项目的经验。此举被视为拜登政府追求效率与社会责任的平衡尝试，潜在影响包括改善决策过程、减少开支等，但也需警惕算法偏见和就业问题。总体上，该计划体现了 OpenAI 对公共利益的承诺，并可能推动美国政府成为全球 AI 应用的标杆。
AI隐私泄露事件频发：数据保护面临新挑战（深度分析）
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。...
OpenAI 引入 Outbound 协调披露政策：指导第三方软件漏洞负责任报告，强化大规模安全合作
OpenAI今日正式发布《出海协调披露政策》（OCD Policy），旨在规范第三方软件漏洞的披露方式，强调负责任的态度和与开发者协作的重要性。政策包括主动性原则（主动检测并披露风险）、协作性原则（充分沟通共同制定解决方案）和负责任披露原则（谨慎处理高影响漏洞）。这反映了AI行业安全性日益关键，2023年数据显示每日超过1万个新漏洞被发现。通过该政策，DeepSeek等中国运营实体可更快获得安全保障，提升用户数据保护水平。
OpenAI 挑战法院命令应对纽约时报数据要求，守护用户隐私
OpenAI因被《纽约时报》和用户起诉，正面临法律纠纷。这些诉讼要求该公司永久保存ChatGPT的用户聊天记录，此前OpenAI已承诺不长期存储此类数据。为应对法律压力、行业竞争（尤其是来自谷歌和其他AI公司的挑战）以及潜在的政府审查，OpenAI调整了其数据保留政策。这一转变引发了用户隐私方面的担忧，并在人工智能服务的数据收集方式上掀起了讨论，可能对OpenAI的声誉和用户信任产生影响。
2025年AI安全新报告：案例研究揭秘如何应对恶意威胁
某AI安全企业TechShield AI发布最新报告，聚焦于识别和阻止人工智能的恶意使用。报告通过Deepfake视频、生成对抗网络伪造金融数据等案例，展示了其基于眼球运动异常检测算法和实时监控系统的技术手段。数据显示，2018年至2023年AI检测技术采用率从不足5%增至75%，表明行业正转向纵深防御策略。该企业强调需加强国际合作，以应对AI在医疗、教育等关键领域日益增长的安全挑战，并呼吁提升公众对AI伦理的认知。
OpenAI封禁利用AI操控菲律宾政治评论的账号
近日，人工智能领域的领军企业OpenAI（开放人工智能公司）采取了一项引人注目的行动，宣布封禁了一批利用其AI技术生成的账户，这些账户在多个社交媒体平台上发布关于菲律宾政治及公职人员的评论。这一事件不仅揭示了AI技术被滥用于操控舆论的新趋势，也引发了全球范围内对AI伦理与监管的深入讨论。
据可靠信息源透露，OpenAI在例行安全审查中发现了异常行为模式：部分账户利用其生成式AI模型（如ChatGPT）批量生产内容，针对菲律宾国内的政治议题和特定公职人员发表大量评论。这些评论内容看似自然，实则经过精心设计，旨在影响公众舆论或制造虚假的民意支持。OpenAI迅速采取行动，将这些违...
Operation “VAGue Focus”: Social engineering and in
近日，人工智能领域的领军企业OpenAI（开放人工智能公司）宣布采取了一项重要行动，针对其平台上存在的不当使用行为进行了大规模清理。该公司明确表示，已封禁了一批涉嫌利用其AI技术进行社交工程、以监控为主题的研究，以及针对批评者的影响力活动的账户。这一举措不仅凸显了AI技术在安全与伦理领域面临的严峻挑战，也为整个行业敲响了警钟。
根据OpenAI发布的声明，此次被禁用的账户涉及多种违规行为。其中，社交工程（social engineering）是指通过操纵人类心理而非技术手段来获取信息或访问权限的行为，例如利用AI生成的虚假身份或误导性内容来诱导他人泄露敏感数据。此外，一些账户...
