AI安全
共 30 篇文章
Chrome内置4GB Gemini AI模型引发用户隐私担忧，可轻松卸载
谷歌已将其一款4GB的AI模型集成至Chrome浏览器中，此举因可能涉及数据收集与处理问题而引发了用户对其隐私安全的担忧。
OpenAI 引入新‘信任联系人’安全措施，提升 ChatGPT 对话保护以防潜在自残风险
OpenAI正在升级ChatGPT的安全系统，以更早识别用户对话中的自我伤害风险，并采取干预措施。随着用户量增加，此类案例增多促使OpenAI加强监控和算法改进。心理健康专家指出，AI需在支持与风险间取得平衡。OpenAI此举还符合欧洲数字服务法案的要求，可能提升其行业地位，并计划整合更多外部资源如心理学数据库以进一步优化模型。
ChatGPT中文输出语言怪异引发用户不满
2024年3月，ChatGPT在中国上线后遭遇用户质疑：不同平台上的回答出现矛盾。核心原因在于OpenAI为适应中国市场，修改了该模型的知识结构和训练数据，使其基于英语训练的推理方式无法准确处理中文问题。CEO承认模型分裂现象，并指出这是为符合当地法规进行的微调所致，反映出全球AI本土化趋势。然而这种调整导致模型知识不稳定，引发用户不满。其他公司如DeepSeek和Google也在推动本土化AI发展，显示差异化竞争策略已成为行业常态。未来趋势表明，AI需兼顾国际化与本土化以适应不同市场要求。
弥斯索斯AI揭示Firefox多重高危漏洞
AI模型对Firefox浏览器进行了深度漏洞挖掘，发现数百个安全缺陷。这可能是自动化测试的结果，促使Mozilla加强安全措施和发布更新以修复这些问题，并提高浏览器的整体安全性。
AI提升体外受精效率，阳台太阳能装置广泛应用
科技前沿三大趋势正悄然改变人类世界的面貌，涉及生殖技术革新、可再生能源解决方案及AI伦理博弈。试管婴儿技术结合AI实现优化筛选，提高效率并降低成本；阳台太阳能方案通过立法降低家庭使用门槛，推动清洁能源普及。然而，基因编辑、机器人系统等突破也引发伦理争议，迫使人类在科技浪潮中重新思考未来的抉择。
OpenAI API 推出实时语音模型新突破：集成推理、翻译与转录功能
OpenAI在其最新API更新中引入了先进的实时语音模型，能够即时处理推理、翻译和转录任务，提供更自然的交互体验。这些模型通过音频输入实现毫秒级延迟响应，适用于在线教育、跨国会议等场景，并标志着AI从静态到动态交互的重要进展。尽管竞争对手如DeepMind和百度已涉足类似领域，OpenAI强调数据安全以应对隐私风险，并计划于2024年第一季度推出公开测试版本，有望推动行业标准升级和创新。
五位AI产业链专家：芯片短缺与架构危机正动摇全球经济根基？
在米尔肯全球会议上，五位AI产业链关键人物深入探讨了当前技术面临的三大核心挑战：芯片供应短缺导致的计算成本上升及AI项目延迟；太空轨道数据中心作为应对地球资源限制的新方案，但存在高昂投入和数字鸿沟风险；以及AI底层架构潜在的根本性缺陷可能制约大规模实时数据处理效率。专家们认为，芯片短缺源于疫情后高端计算设备需求激增，而太空数据中心虽具前瞻性但面临技术与资本双重门槛。此次讨论不仅揭示了AI产业的脆弱性，更强调了模块化架构和跨领域合作的重要性，预示着未来AI发展需在技术革新与供应链稳定间寻求平衡。
ChatGPT 新增信任联系人安全功能：自动检测严重自我伤害并通知可靠人士
OpenAI近日在ChatGPT中引入名为Trusted Contact的新安全功能，允许用户指定亲友账户作为信任联系人。当系统检测到对话中出现自伤倾向的极端内容时，将自动向联系人发送警报，并建议用户寻求专业帮助。该功能作为可选隐私保护措施，标志着AI公司首次将心理健康监测整合进核心产品，体现了行业对潜在风险的关注。尽管类似机制已在其他AI平台出现雏形，但ChatGPT此举更系统化，并引发隐私泄露及误报等讨论。分析师认为，这一更新不仅提升了产品安全性，还推动了AI在医疗健康领域的应用发展，同时突显用户隐私保护将成为行业关键挑战。
2017年，特斯拉曾试图从OpenAI挖走Sam Altman和Demis Hassabis？
在2017年，特斯拉高管团队（包括CEO埃隆·马斯克）计划创建一个独立的AI实验室，以挑战OpenAI和DeepMind等竞争对手的技术优势。这一计划由特斯拉AI核心成员Shivon Zilis提出，旨在开发先进的机器学习算法并整合公司数据资源。潜在领导者包括风险投资领域人物Altman以及DeepMind创始人Demis Hassabis，后者若加入将提升实验室在算法安全和伦理方面的竞争力。特斯拉的AI战略不仅聚焦于自动驾驶系统的优化，还反映了传统车企在AI领域的转型尝试。尽管该计划在2018年未完全推进，但特斯拉的这一举措被视为其早期布局AI的重要信号。
巴里·迪勒捍卫山姆·奥特曼，但称AGI逼近使信任变得无关紧要
硅谷风投巨头巴里·迪勒近日罕见地公开支持OpenAI首席执行官萨姆·奥尔特曼，并警告称人工智能终将突破人类可控边界。这位曾将奥尔特曼逐出董事会的投资人此次在OpenAI安全委员会会议上表态，暗示他对AI战略价值的重新评估。迪勒认为ChatGPT仅是早期形态，AGI将如同互联网诞生般颠覆性，并强调需要在实验室级别建立伦理护栏而非依赖立法。这一转变可能与近期AI发展速度加快有关，也反映出投资界对AI潜在风险的关注升级。他同时担忧OpenAI被微软完全控股可能带来的控制性威胁，认为当前监管框架不足以应对AGI挑战。
