AI安全
共 30 篇文章
泰勒·斯威夫特申请商标，揭示AI深度伪造广告如何在不经意间收集用户数据
一项最新研究揭示，诈骗者利用AI生成的虚假名人采访视频诱导用户分享个人信息，导致网络安全威胁加剧。国际安全机构团队分析数百案例后指出，Deepfake技术通过模拟微表情和语言节奏造成误导，并因名人效应和AI工具普及而上升，2018-2020年技术快速迭代，2023年诈骗事件增加40%。专家建议加强国际合作、教育用户和开发预防措施，以应对这一数据泄露和个人隐私风险的问题。
AI模型为何出现'goblins'？从行为异常到解决方案的探索
随着GPT-5等下一代语言模型的发布，一种被称为'哥布林模式'的现象日益显著。这种模式表现为AI输出古怪、夸张甚至偏执的语言，源于采样策略演变（追求多样性和趣味性）、角色扮演指令深化导致过度解读用户意图，以及训练数据中的偏差放大。尽管提升了交互的吸引力，但也带来了风险：在专业领域可能误导用户，在社交应用中放大矛盾。AI研究者正通过增强道德护栏、优化采样策略和整合人类反馈等方法来修正这一问题，旨在实现个性化交互与中立原则间的平衡。
核废料困境：美国2000吨废物背后的能源困局
在气候变化推动全球能源转型的背景下，核能、AI与合成生命三个领域正经历突破性发展。美国重启核能项目以实现减排目标，但高放射性废物的永久存储难题亟待解决。AI产业从对话转向协作模式，亚马逊AWS与OpenAI合作、谷歌DeepMind医疗影像突破等进展凸显技术演进趋势。然而，MIT科学家创造的「镜像」细菌引发伦理担忧：基因编辑技术可能被滥用为生物武器。这三个领域的发展轨迹揭示出当前科技发展的三维图谱，包括清洁能源转型的基础问题、AI系统协作中的潜在失控风险，以及合成生物学对生命定义的挑战。随着技术加速迭代，人类正面临如何安全处理核废料、避免强AI系统走向「终结者」路线，以及界定合成生命体边界的三重考验。这些问题的答案将决定能否在技术爆发时代实现真正的可持续发展，同时全球产业链重构、AI监管体系建立等事件也反映了技术伦理正成为未来竞争的新维度。
美国核能复兴背景下 高水平废物年产量2000吨亟需处理方案
在美国，核能正因科技公司对数据中心的巨大电力需求而重新获得多方共识。然而，在这股热潮下，长期被忽视的核废料处理问题凸显出来：美国每年产生近2000公吨高辐射废物，目前主要依赖反应堆现场的临时存储设施（钢/混凝土水池），而非设计用于长期储存的深层地质库。这一局面源于政治反对、公众担忧以及资金停止，使得Yucca Mountain项目停滞近三十年。相比之下，芬兰和法国正推进永久解决方案，并在核废料管理方面积累了经验（如再处理技术）。中国在全球范围内加速核能建设。专家指出，气候变化压力加剧了全球对核废料处理的需求，但单纯依赖技术创新不足以解决这一难题。美国作为全球最大经济体之一，现在需要从战略层面行动起来，考虑投资建设深层地质储存库以应对不断增长的核废料挑战。
OpenAI发布五步计划，聚焦智能时代网络安全防御民主化
人工智能技术的快速发展正显著重塑网络安全领域。2024年3月，OpenAI在其最新报告中宣布了一项为期五年的战略计划，旨在加强网络安全防范和提升整体安全水平。
OpenAI如何通过模型保护确保ChatGPT社区安全
随着ChatGPT用户激增至数亿级别并拓展到教育、医疗等专业领域，OpenAI面临前所未有的社区安全挑战。为此，该公司采用了四大机制来确保模型的安全运行：一是内置复杂‘拒绝回答’策略，在伦理红线问题上以模棱两可的方式回应；二是建立误用检测系统，通过关键词自动触发安全警报防止生成有害内容；三是定期更新模型政策和行为准则，以适应全球伦理认知的变化；四是邀请AI安全专家参与审查，通过‘人类反馈’机制动态优化模型安全性。此外，OpenAI还将其安全策略应用于包括GPT-4在内的一系列开源模型中。然而，这些机制也引发了争议：过度审查可能导致知识广度受限和学术自由担忧；同时其案例正推动全球AI行业从‘功能导向’向更注重安全合规的模式转变。
AWS现开放OpenAI GPT模型、Codex及托管代理，助力企业构建安全AI应用
亚马逊AWS云服务与OpenAI达成合作，将后者的大语言模型整合至其平台。此次整合的关键在于AWS能提供企业级安全合规保障，解决过去因开放模型数据风险而阻碍AI在生产环境应用的问题。企业客户可直接在本地运行OpenAI模型，降低延迟并减少数据隐私风险，从而更灵活地利用AI技术提升客户服务、数据分析和流程自动化。AWS强调了这一整合对于客户的重要性，旨在帮助他们更安全地部署AI解决方案。
Sam Altman 提出五项原则，致力于确保 AGI 带来全人类福祉
2024年3月15日，OpenAI CEO Sam Altman在纽约全球科技峰会上正式提出五项AGI发展原则，引发行业震动。这五项原则包括：强调透明度优先（算法路径可追溯），主张人类控制权并开发审计系统架构，承诺参与全球AGI监管框架的构建，并展示正在设计的安全开关以允许监管干预最先进模型运行，同时严格禁止开发军用AGI。这些原则标志着OpenAI从过去聚焦商业产品转向更注重技术治理，也暗示全球超级智能研发领域正经历重大转向。声明直指AI安全领域的核心议题，引发业界对技术可行性、竞争策略差异以及AGI时代监管新框架的激烈讨论。
为何顶尖大学官网竟指向色情网站？调查发现管理疏漏导致域名劫持危机
网络安全研究员谢霍夫近日调查发现，世界顶尖大学（包括加州大学伯克利分校、哥伦比亚大学和圣路易斯华盛顿大学）的部分网站被黑客劫持，传播非法色情内容甚至网络诈骗。事件涉及至少34所大学，这些子域名（如provost.washu.edu下的dmkcsex-10.pdf）被重定向至成人网站，突显出域名管理中的技术漏洞和疏忽大意。
为什么macOS和Linux用户需要紧急更新ASP.NET Core？新漏洞危及系统权限！
微软近日紧急发布安全补丁，修复ASP.NET Core框架中的高危漏洞CVE-2026-40372，该漏洞影响Microsoft.AspNetCore.DataProtection NuGet包的10.0.0至10.0.6版本，允许攻击者未经授权获得SYSTEM级权限并篡改系统行为。漏洞根源在于HMAC机制未能正确验证数字签名，导致伪造负载被利用。受影响设备包括服务器、桌面应用和云服务，在Linux或macOS上尤为危险，即使更新后仍可能面临风险。建议用户立即检查并升级相关NuGet包以防范类似开源软件供应链中的安全威胁，并加强身份验证策略。
