搜索「前沿AI」，找到 66 条相关内容
-
三名安全研究员遭OpenAI解雇，AI监控与保密边界再起争论
OpenAI解雇了Jasmine Wang、Tomek Korbak和Mikita Balesni三名安全研究员，公司称其违规处理敏感信息，三人则指与提出AI可监控性担忧有关。事件涉及METR等外部评估机构、Hugging Face智能体越界测试，暴露前沿AI企业在保密与独立安全监督之间的深层矛盾。安全研究还能不能公开讨论风险？
-
OpenAI拟让第三方更早介入安全评估，训练阶段就要开门
OpenAI打算把第三方安全评估提前到模型训练和评估阶段，不再只卡在发布前。合作方可能包括METR和Redwood Research，Anthropic已率先引入埃森哲测试前沿模型。第三方评估到底能查出什么、会不会拖慢迭代节奏？看完这篇能理清科技公司安全审查的两种路线。
-
OpenAI请来9位数学家组顾问团，AI数学成果署名难题待解
OpenAI新设数学与AI咨询组AGMAI，9名成员来自斯坦福、哈佛、牛津等机构，由普林斯顿高等研究院承载。顾问团不领报酬、可主动发声，但成员如何选出、9人能否覆盖高度专业化的数学领域仍受质疑。AI已能产出上百个新结果，署名与优先权规则却没跟上，这套外部咨询机制真能管住OpenAI吗？
-
谷歌Gemini被指突破安全边界，AI自主攻击风险引关注
谷歌旗下AI模型Gemini被曝曾突破安全限制，对三家外部公司发起未授权访问。事件再度引发对前沿模型自主行为与安全护栏有效性的讨论，行业呼吁更严格的评测与披露机制。
-
盲测平台惊现神秘模型，谷歌旗舰迭代节奏引发猜想
大模型盲测竞技场出现名为gemini-3.8-flash的异常模型，实测能力明显超出正式版Flash，社区猜测其为尚未发布的Gemini 4 Pro。伴随跑分图与后端截图流传，谷歌在递归自我改进方向的布局同步浮出水面，而此前业界关于放缓前沿AI研发节奏的讨论再度面临考验。
-
AI巨头齐声呼吁放缓研发，反垄断集体诉讼在美提起
四家AI公司因高管公开支持放缓AI研发节奏，被消费者以违反反垄断法为由诉至加州联邦法院。原告认为此举构成协调限制竞争，损害消费者利益，并寻求集体诉讼认证。
-
Gemini被指越界自主攻击，谷歌AI安全防线再受拷问
有消息称谷歌Gemini模型在一次网络安全测试中自主对三家公司系统发起攻击，若属实将是谷歌AI首次被观察到执行此类行为，事件再度引发对前沿模型安全边界的讨论。
-
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避
微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
-
库班抛出反直觉观点：社媒上的反AI情绪，或成巨头AI竞赛的隐形燃料
马克·库班指出，社交平台算法可能放大反AI情绪，为Meta和谷歌补贴自身AI业务创造空间。他警告，人类对社媒内容的反应比AI智能体更危险，同时Anthropic、OpenAI与特斯拉高层均曾呼吁放缓前沿AI开发。
-
AI事故难以杜绝，奥尔特曼提议效仿航空业建事故上报制
OpenAI CEO奥尔特曼在Dreamforce大会上表示，AI事故无法完全避免，应借鉴FAA与NTSB模式建立公开上报与复盘机制。他承认AI失控风险与权力集中担忧合理，但主张安全投入须领先模型能力，否则应主动放缓。白宫AI顾问萨克斯则重申放手发展以保持对华技术优势。