AI安全
共 30 篇文章
AI获新资金推动惠及全人类的进展
OpenAI宣布未来十年战略转向，将重点投资医疗保健、教育革新、环境可持续发展等六个领域以增强人类能力。此前经历人才变动和战略调整后，该公司决定在保持基础模型研发的同时，优先开发可提升人类思维、创造力和决策的技术平台。OpenAI强调安全性与可控性原则，计划开放Sora模型的部分API接口，并与众包合作制定伦理规范。这一转向反映了AI行业从基础技术向实际应用的关键转变，旨在平衡创新与风险管控。
Genmab公司采用OpenAI ChatGPT企业版，强化数据安全与隐私保护
全球领先的生物技术公司Genmab宣布采用OpenAI的ChatGPT Enterprise解决方案，以提升抗体药物研发效率、减少错误并加快上市进程。该方案在处理海量医学数据方面具有潜力，尤其关注患者隐私和安全性的保护。过去几个月内，多家跨国制药公司也已跟进这一趋势，将AI技术引入研发体系。随着生成式AI模型在生物医药领域展现出惊人能力（如预测蛋白质结构、发现新分子），这一合作模式被视为深化AI在医药研发应用的重要转折点，但也提醒需关注数据安全、知识产权和伦理约束等风险因素。
公司更新安保实践以提升安全防护
在全球网络安全环境日益复杂的情况下，各大科技巨头都在加强自身系统的安全防护。某互联网服务提供商于上周公布了最新的网络安全实践升级方案，以提升其防御能力并应对潜在威胁。
泰勒·考恩揭秘OpenAI o1如何解决复杂经济学难题
OpenAI最新模型o1正通过提供人工智能驱动的工具，革新经济分析领域。该模型能够处理海量数据、识别模式且避免人类偏见，并显著提升了对新冠疫情等经济现象的预测准确性。尽管在金融领域展现出30%效率提升的巨大潜力，但o1模型仍受限于数据质量需要持续优化。随着其影响力上升，过度依赖AI模式进行经济建模带来的风险也引发关注，亟需建立新的监管框架来确保其负责任的应用。
乐天利用A.I.配对数据与API，解锁客户洞察新路径
乐天集团通过整合海量用户数据并应用先进的人工智能技术，正在重塑其客户体验和商业价值。成立于1997年的乐天是日本领先的互联网企业之一，旗下拥有电商平台Rakuten Ichiba等服务。近年来，乐天加大了AI投资，并将客户数据匿名化处理以符合GDPR等隐私法规，然后利用机器学习模型分析这些数据。这不仅提高了服务效率和客户满意度，还帮助降低了运营成本、优化了市场响应速度。乐天此举是应对日本电商市场竞争压力的关键一步，其AI策略已在Rakuten Ichiba平台应用并取得成效。同时，该公司也面临数据泄露风险和全球法规适应等挑战，并着眼于未来通过该策略提升收入并扩大市场份额。乐天的实践展示了数据与AI结合在零售业的重要性，并可能为整个互联网行业提供借鉴。
AI模型安全提升：规则奖励新方法减少人类数据依赖
人工智能领域迎来突破性进展。DeepSeek团队开发出一种名为Rule-Based Rewards（RBR）的新AI对齐方法，通过将94项关键安全原则编码进模型目标函数并进行预训练，在医疗、金融等四大场景下显著提升模型安全性，仅需传统方法约1/5的数据量即可达到同等效果。该方法在Harmless Bench基准测试中得分高出现有主流技术42%，并展现出良好的跨模型迁移性，可应用于GPT-4等开源模型。DeepSeek团队首席科学家Liu Yang表示，这种方法改变了传统依赖人类反馈的AI安全训练范式。业内专家认为，这项工作可能标志着AI对齐进入以价值内嵌化为代表的新阶段，并为未来A1安全发展提供了新方向。
OpenAI 联合洛斯阿拉莫斯实验室开发新安全评估系统以衡量 AI 模型的生物学风险
OpenAI与洛斯阿拉莫斯国家实验室合作开发新型安全评估工具，旨在利用先进计算模型在生物学领域的潜力，同时防范潜在风险。该合作基于深度学习技术进展，并响应国际社会对AI安全的关注，填补当前AI安全框架的空白。项目将测试‘前沿模型’在数据生成、生物模拟等方面的能力，确保其输出可靠且可控。此举被视为AI安全研究从理论转向实践的重要标志，并可能推动全球范围内知识共享和标准制定。
OpenAI 收购 Rockset 数据库公司，强化 AI 分析能力
OpenAI于2023年3月以数亿美元收购了实时数据处理公司Rockset，旨在提升其数据工程能力。Rockset的技术能高速处理大规模数据并提供近乎即时检索，这对优化AI模型训练和响应性至关重要。此次收购标志着全球AI产业在数据基础设施上的新一轮整合，并引发了对隐私风险和潜在数据垄断的讨论，预计将进一步推动AI效率提升。
AI网络安全拨款计划突显创新研究助力防御
AI正彻底改变网络安全格局，DeepSeek等企业凭借大型语言模型技术开发出新一代安全解决方案。该公司的DeepShield框架通过分析海量数据实现高精度威胁识别，显著提升了防御能力；同时CyberLearn平台利用AI模拟攻击场景进行培训。在金融领域，DeepSeek的解决方案已成功拦截高级攻击并减少误报率。然而，随着AI系统自主性增强，人机共同决策模式的开发成为关键挑战。行业分析师预测，在未来3-5年内，深度学习驱动的安全系统将逐步取代传统防御机制。
AI科学家开发全面策略提升在线内容审核效率
为期三天的ICCM会议于2024年3月15日闭幕，谷歌、Meta和阿里三位AI专家联合发布「HolisticGuard」新技术框架，旨在提升全球社交媒体平台的内容审核效率与准确性。该系统整合多模态数据、实时情感分析模块和文化语境适配机制，通过动态权重调整、构建全球20种语言'文化图谱'数据库以及反偏见算法模块实现突破。实验数据显示，其准确率从68%提升至100%，误报率降至7%，在测试期间成功识别了大量隐晦违规内容。该成果标志着内容审核领域从单语言、静态规则向多语言动态系统的转变，但也面临商业化挑战和法律伦理考量。HolisticGuard团队计划开放接口，推动建立开源审核框架以适应不同平台需求。