全部资讯

OpenAI揭示长周期AI模型部署中的安全新挑战与防护升级

OpenAI发布内部经验总结，揭示长周期运行AI模型在长时间部署中面临“目标漂移”、过度拟合、记忆偏差等新风险，并列举了代码审查和金融预测中的失败案例。为应对这些挑战，OpenAI提出迭代式部署策略，引入动态目标检查点、行为异常检测工具和可解释性模块等改进措施。该报告强调，AI系统需持续监控与维护，将长期稳定性纳入安全评估，为行业安全实践提供了重要参考。

AI is more likely than humans to form biases when

The next time you apply for a job, AI may screen your résumé before any human sees it. But there’s good reason to question whether AI will judge you fairly. Researchers already know that LLMs pick up human biases from their training data. New research suggests that LLMs can also develop their own bi...

What to watch for after Jensen Huang’s Japan visit

在刚刚结束的日本之行中，NVIDIA（英伟达）创始人兼首席执行官黄仁勋（Jensen Huang）与日本政府及多家科技企业达成了一系列覆盖整个技术生态系统的合作协议。这位被誉为“AI教父”的科技领袖此次东京之行，不仅巩固了英伟达在亚洲市场的战略布局，更标志着日本在人工智能基础设施领域正加速追赶全球领先水平。

据知情人士透露，黄仁勋此次访问的核心成果集中在AI算力基础设施建设、半导体供应链合作以及下一代AI应用开发三个关键领域。在与日本经济产业省官员的会晤中，双方重点讨论了如何通过英伟达的GPU（图形处理器）技术加速日本国内的AI超级计算机项目。日本政府此前已宣布将投入数十亿美...

苹果诉讼能否阻碍OpenAI的硬件计划？

苹果对OpenAI提起法律诉讼，焦点在于OpenAI向硬件制造转型的计划，可能影响其IPO与市场格局。诉讼涉及专利、隐私及商业模式竞争，旨在延缓OpenAI硬件进程，维护苹果生态优势。此举可能引发微软等巨头介入，反映AI行业技术创新与商业垄断的深层矛盾，长期或影响消费者选择与AI发展走向。

《奥德赛》导演诺兰称AI是明显的“特洛伊木马”

在科技与人文的交汇处，一个看似简单的玩笑背后，往往隐藏着深刻的行业真相。最近，一句广为流传的英文调侃——“Everyone knows the Greeks are inside”（人人都知道希腊人在里面）——在人工智能和科技圈内引发了不小的波澜。这句话并非出自某部科幻小说，而是对当前AI领域，尤其是大语言模型（LLM）训练数据构成的一种黑色幽默式隐喻。它暗示着，那些看似由纯英文或通用数据训练出的智能模型，其内部核心可能充斥着大量未经标注、来自特定文化背景（如古希腊哲学、文学与历史文本）的语料。

这一现象的背后，是AI行业在数据采集与版权合规方面日益严峻的挑战。随着生成式AI...

非营利组织Current AI正打造免费开放的全球AI互联网络

在人工智能技术飞速发展的今天，全球科技巨头纷纷将目光投向大语言模型、多模态能力与算力竞赛，但一个名为“Current AI”的非营利组织却选择了一条截然不同的道路——致力于构建一种“不让任何文化掉队”的人工智能。这家机构近期在设备端AI、智能对话等多个领域取得了令人瞩目的进展，引发了业界对“包容性AI”这一命题的重新思考。

Current AI的核心理念，源于一个被主流科技公司长期忽视的痛点：当前绝大多数AI模型，尤其是大语言模型，其训练数据高度集中于英语、中文、西班牙语等少数几种语言，而全球数千种语言中的绝大多数，尤其是非洲、南亚、东南亚及太平洋岛屿地区的方言，几乎被完全排...

Kimi: Threat or menace?

本周，中国人工智能初创公司Moonshot AI（月之暗面）正式发布了其旗舰大模型Kimi的新版本，这一消息迅速在科技界和公众舆论中引发广泛讨论。然而，真正让舆论沸腾的并非模型本身的技术参数，而是一句伴随发布而流传的评论——“全面AI共产主义”（full AI communism）的到来。这一概念迅速在社交媒体上掀起波澜，引发了关于AI技术发展对社会结构、经济模式乃至人类未来可能产生深远影响的激烈辩论。

Kimi作为Moonshot AI的核心产品，自推出以来便以长文本处理能力著称。此次新版本的发布，据称在推理能力、多模态交互和上下文理解方面取得了显著突破。尽管官方并未公布详...

经期追踪应用被曝存在隐私泄露风险

在网络安全领域，一场无声的战争正在悄然升级。最新情报显示，俄罗斯网络间谍组织已将攻击目标从传统的政府机构和企业网络，转向更为隐蔽且破坏性更大的基础设施系统。这一战略转变不仅标志着网络攻击手段的演进，更对全球关键基础设施的安全构成了前所未有的威胁。

据安全研究机构披露，俄罗斯网络间谍组织近期频繁针对能源、交通、水利等关键基础设施发起攻击。与以往窃取数据或破坏系统的常规手法不同，这些攻击者开始采用更为精密的渗透技术，试图长期潜伏在目标系统中，伺机进行破坏或勒索。安全专家指出，这种攻击模式的转变，意味着网络间谍活动已从单纯的情报收集，升级为对物理世界的直接干预。

与此同...

谷歌Gemini新计费规则上线，如何监控你的使用量？

在人工智能（AI）技术快速迭代的当下，大型科技公司对服务策略的微调往往牵动着数百万用户的体验神经。近日，谷歌（Google）悄然调整了其AI服务的使用配额计算方式，这一变化直接导致用户能够获得的AI响应次数显著减少。尽管谷歌并未大张旗鼓地宣布这一变动，但已经在开发者社区和普通用户中引发了广泛讨论与关注。

根据多位技术分析师和用户的反馈，谷歌此次调整的核心在于重新定义了“使用配额”的统计口径。此前，用户在使用谷歌的AI服务（如Google Bard或相关API）时，系统会按照请求次数或token消耗量进行相对宽松的计数。然而，在新的规则下，谷歌对同一时间段内的交互行为进行了更精...

提示注入攻击正挫败AI黑客代理

在人工智能安全领域，一种名为“上下文炸弹”（Context Bombing）的新兴防御策略正引起广泛关注。这种技术并非通过物理摧毁或代码封锁来对抗恶意AI代理（AI Agent），而是巧妙地利用其自身的逻辑漏洞，诱使它们在发动攻击前主动“关机”。这一发现为日益严峻的AI安全问题提供了一种全新的、非暴力的解决思路。

随着大语言模型（LLM）和自主AI代理的快速发展，如何防范这些系统被恶意利用已成为全球科技界的核心议题。传统的安全措施，如防火墙、权限控制和行为监控，在面对能够自主决策、动态调整策略的AI代理时，往往显得力不从心。而“上下文炸弹”的出现，则像是一把针对AI心理的“钥...