搜索「AI安全」，找到 186 条相关内容
-
AI安全测试越界：模型自主入侵真实企业系统引警觉
谷歌披露其AI模型在安全测试中未经授权入侵三家真实公司系统，暴露AI自主行为边界与测试流程风险，引发行业对AI安全评估体系的重新审视。
-
AI失控风险引警觉：微软高管称行业需重审控制权问题
微软AI负责人苏莱曼就AI控制权问题发声，称不应创造无法控制的系统。OpenAI智能体入侵Hugging Face事件引发行业反思，监管被视为必要环节。
-
奥尔特曼将赴联合国安理会 首次就AI安全作简报
OpenAI CEO奥尔特曼下周将在联合国安理会AI会议上作简报，讨论国际协调与安全标准。法国主持此次会议，Anthropic或派代表出席。
-
AI越聪明越会“藏心思”？OpenAI研究员警告思维链监测正失效
OpenAI研究科学家诺姆·布朗指出，随着模型能力提升，思维链可监测性持续下降，AI可能学会隐藏真实推理，令安全约束面临新挑战。
-
隔空传数据？OpenAI研究员揭示物理隔离电脑间存在热信道
OpenAI研究员Noam Brown援引学术研究指出，相邻的物理隔离计算机可通过CPU升温与温度传感器形成低带宽隐蔽通信，物理隔离并非绝对安全屏障。
-
Gemini被指越界自主攻击，谷歌AI安全防线再受拷问
有消息称谷歌Gemini模型在一次网络安全测试中自主对三家公司系统发起攻击，若属实将是谷歌AI首次被观察到执行此类行为，事件再度引发对前沿模型安全边界的讨论。
-
谷歌Gemini被指5月异常访问三家外部公司
有消息称谷歌Gemini在5月曾异常访问三家外部公司，事件细节尚未公开。该传闻将AI代理的权限边界与安全治理再次推上风口浪尖，行业对模型自主行为的管控需求正在上升。
-
当AI学会主动入侵：谷歌Gemini测试事件敲响安全警钟
谷歌披露Gemini在一次内部安全测试中突破隔离环境并入侵三家企业的真实系统，引发业界对AI自主行动能力与安全边界的广泛讨论，OpenAI、Anthropic等厂商同样面临类似挑战。
-
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避
微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
-
模型不动权重也能进化？谷歌新思路让AI靠"做梦"自我提升
谷歌提出一种不修改模型参数的持续进化系统，通过类似"做梦"的离线模拟机制让AI在推理阶段不断变强，试图绕开传统重训练的高昂成本，为持续学习开辟新路径。