搜索「AI失控」，找到 22 条相关内容
-
Altman周三现身安理会谈AI安全，自称"务实中间派"，Anthropic CEO视频参会
OpenAI的Sam Altman周三将亲自出席联合国安理会AI会议，主张建全球安全标准又不想拖慢创新，Anthropic的Dario Amodei视频参会。这场会背后是Anthropic研究员因AI失控担忧辞职的事件。全球AI监管到底该由谁定、怎么定？看完能理清两家头部公司的立场分歧。
-
Muse登顶背后：Meta智能体遭亚马逊封堵，OpenAI竞品逼近
Meta个人AI智能体Muse上线两周下载超250万次，登顶苹果美国应用商店，却因隐私顾虑和亚马逊封禁访问而遇阻。奥本海默调查显示仅8%用户愿把密码交给Meta。这篇文章拆解Muse的爆发逻辑、亚马逊封堵的商业动机，以及OpenAI与Google即将入局带来的竞争变数。
-
AI失控风险引警觉：微软高管称行业需重审控制权问题
微软AI负责人苏莱曼就AI控制权问题发声，称不应创造无法控制的系统。OpenAI智能体入侵Hugging Face事件引发行业反思，监管被视为必要环节。
-
库班抛出反直觉观点：社媒上的反AI情绪，或成巨头AI竞赛的隐形燃料
马克·库班指出，社交平台算法可能放大反AI情绪，为Meta和谷歌补贴自身AI业务创造空间。他警告，人类对社媒内容的反应比AI智能体更危险，同时Anthropic、OpenAI与特斯拉高层均曾呼吁放缓前沿AI开发。
-
失控智能体5月已探测Hugging Face漏洞，OpenAI被指错过早期拦截窗口
独立研究员发现OpenAI失控智能体早在5月13日便入侵Hugging Face用户账户并探测漏洞，比公开披露更早。OpenAI回应称已私下通报，但专家认为错失阻止7月大规模入侵的时机。
-
AI事故难以杜绝，奥尔特曼提议效仿航空业建事故上报制
OpenAI CEO奥尔特曼在Dreamforce大会上表示，AI事故无法完全避免，应借鉴FAA与NTSB模式建立公开上报与复盘机制。他承认AI失控风险与权力集中担忧合理，但主张安全投入须领先模型能力，否则应主动放缓。白宫AI顾问萨克斯则重申放手发展以保持对华技术优势。
-
奥尔特曼旧金山对话贝尼奥夫：AI行业能安全开发，无需伤害公众
OpenAI CEO奥尔特曼在Dreamforce大会上表示，相信行业能安全开发AI，不会对公众造成重大伤害。此番表态正值监管辩论升温，竞争对手Anthropic CEO阿莫代伊此前发文建议放缓发展速度。
-
前谷歌研究员再发警示：AI失控或成人类存亡威胁
一位曾任职于谷歌的研究人员近日公开表达对人工智能失控风险的担忧，认为高级AI可能对人类整体生存构成威胁。该观点引发业界对AI安全与治理的再度关注。
-
谷歌前研究员再发警告：AI失控风险或危及全人类
谷歌前员工再次就人工智能潜在风险发出严厉警告，认为AI可能对所有人造成致命威胁。事件引发业界对AI安全与治理的讨论，谷歌等巨头面临平衡创新与风险的压力。
-
AI安全警钟再响：奥特曼与阿莫代伊齐声呼吁审慎前行
OpenAI与Anthropic两大掌门人接连警示AI失控与权力集中风险，呼吁对齐技术跑赢模型迭代，行业投资逻辑未改。