聚焦 AI安全迷局
在GPT-3.5令全球AI狂飙近四年后，AI前沿传出“减速”“暂停”等呼声，OpenAI及Anthropic等巨头罕见联手呼吁“放缓”最新训练。
与此同时，全球资本市场在经历一年多的“AI牛市”后分歧日显。一边是Anthropic估值持续缩水却仍然强撑上市；另一边，全球科技风向标美股 纳斯达克 指数剧烈震荡，一度创下数年内单日最大跌幅。AI投资“过热”“支出太大”“难回报”等担忧声渐隆。
此时此刻，在“减速”的话题下，有人“刹车”争论AI技术，有人试图腾挪估值管理。AI在加速推动人类迈入智能时代的同时，正在快速陷入一场“双重安全困局”。
递归演进 AI“减速”
10月9日，中共中央、国务院印发《关于发展新质生产力的意见》，意见中明确提及 人工智能 发展六字要求：安全、可靠、可控。
这六个字对应的正是搅动全球科技界和资本市场的AI安全问题。
据上海证券报记者不完全梳理，今年以来全球范围内被报道的大模型安全事故已接近20起。包括OpenAI、Anthropic、谷歌等在内，涉事企业名单几乎覆盖国内外所有的头部模型厂商。
从时间点来看，7月无疑是重要节点。不仅是数量快速攀升，在此之后涉及的AI安全问题也变得愈发复杂。
公开案例显示，此前大部分安全问题主要与AI幻觉及隐私泄露相关。但在7月后，越来越多模型厂商报告，在日常训练巡检中，发现最新模型出现“越狱”行为：不仅包括模型训练时绕过沙盒联网“作弊”，还有自主检索漏洞攻击外部真实网站。
10月，在OpenAI最新的披露中，大模型不仅偷偷删除了负责监控的安全警报代码，还在事后向用户否认自己曾有该行为。
安全问题日益凸显，行业头部企业首次罕见联合呼吁“放缓”训练。
9月，Anthropic首席执行官达里奥·阿莫代伊公开发文称，此刻前沿 人工智能 企业应放慢模型能力提升的速度，为安全研究、对齐工作和外部评估留出时间。OpenAI首席执行官萨姆·奥尔特曼、 SpaceX AI负责人埃隆·马斯克及GoogleDeepMind负责人德米斯·哈萨比斯纷纷转发表示支持。
为何在此刻选择“踩下刹车”？一种观点是人类工程师正在逐渐“跑不过”AI本身。
今年下半年以来，越来越多头部工程师意识到，AI大模型正在逼近“递归式自我演进”的临界点，即AI本身能够完成更强性能AI的训练。
DeepSeek研究员刘胜与感慨，自己写出的算子性能越好，模型训练和推理就越快，AI能力进步越快，自己擅长的工作也就越早被AI接管。曾参与GPT-6研发的OpenAI研究科学家诺姆·布朗更是调侃，自己“不过是5个Codex外套了一件风衣”。
这一切突变的起点，始于一个不起眼的小功能——Coding（编程）。简而言之，当AI学会Coding，就第一次拥有了走出对话框，自主调用软件工具的能力。
随着大语言模型不断训练，模型本身上下文记忆能力不断拉长，一场奇妙反应自此发生：有记忆，会用工具——模型自主拆解复杂目标的构想成为可能。
Anthropic披露，截至今年8月，Claude参与了公司九成以上的AI研发工作，并在约26%的相关任务中承担从高层指令出发、主导大部分执行流程的角色。
安全问题随之而来。
中国 人工智能 安全研究所报告显示，在一次包含122次运行的 网络安全 测试中，出现10次智能体未经授权在真实互联网采取行动，共记录19起越界事件。
“人工核查的速度远远赶不上AI Coding的速度，它越来越像个黑箱。”一位大厂工程师如今的状态颇具代表性，面对每天AI生成的海量代码，他只能操作其他的AI来帮他审查，“但你又如何保证其他AI不骗你呢？”
优刻得董事长兼CEO季昕华直言，AI大模型的成熟正在改变整个互联网的攻防现状，让这场技术安全的困局“愈演愈烈”。
“一方面，AI能力越来越强。原来需要高技术门槛的一些协同攻击，现在可以通过AI来做自动的漏洞分析、渗透测试和安全攻击扩散。”季昕华说，“但另一方面，随着现在越来越多公司开始用AI来写应用程序或代码，这种代码往往漏洞百出，最终导致防御能力变弱。”
“放缓”博弈 “安全”重估
11月10日，Anthropic宣布启动IPO路演并披露了最新的定价区间——70美元至78美元，按此计算，公司的估值为1万亿美元左右。
这一数据较半个月前递表时估值缩水了近5000亿美元，距离年初最火爆时2万亿美元的估值接近腰斩。但纵然如此，公司依然坚持月底前上市。
翻开招股书，或许能找到公司如此勉为其难的原因。
招股书里，相较于亮眼的百亿美元“经调利润”，超过6500亿美元的远期算力合约更令投资市场侧目，因为其中大部分不可撤销的合约，构成长期刚性支出压力。这是来自巨头的信任背书——但代价昂贵异常。毕竟，刚性承诺的合约不在乎AGI何时到来。
Anthropic微妙的处境正是眼下市场真实的写照。相较于AI技术上的“失控感”，资本市场正陷入一场“信仰分歧”，无论是一级市场还是二级市场，所有人都陷入一个难以离场的投资安全困局。
最直观的变化体现在全球重要股指波动上。一度被誉为“最好的夏天”的韩国股市自今年7月以来已累计下跌超过30%，日经指数、上证指数自今年7月以来回调超过10%；纳指更是在10月最后一天创下单日近5%的跌幅，为2020年以来之最。
AI相关上市公司股价的回调同样剧烈。
以美股为例：曾经因与OpenAI签署千亿合约，依靠 算力概念 风头无两的 甲骨文 ，其股价已较高点腰斩； 博通 、美光两大存储巨头，股价也已下跌超过30%。当地时间10月29日，谷歌在财报发布后股价跳水， 英特尔 更是创下单日30%的跌幅。
“这不是个好的信号，它说明市场开始认真思考，这么多的算力基础设施是否真的值得。”一位市场人士对记者解读道。
在港股市场，情况也颇为类似。
截至11月2日， 智谱 港股总市值约为2300亿港元，相较今年6月高点1万亿港元已经跌去近八成。尽管从最新财报来看，公司的整体营收情况仍在保持高速增长。
MiniMax的情况类似。公司上半年收入为1.17亿美元，同比增长283%，毛利率由12.1%升至17.9%；但经调整净亏损扩大至2.93亿美元，研发费用接近3亿美元。至10月21日，公司股价已经跌破发行价格。
“如果说过去三年，全球投资人主要在给模型能力、用户增 长和 未来想象力定价，那么从现在开始，所有模型公司都必须回答一个更朴素的问题：这些极其昂贵的模型，究竟能不能形成一门好生意？”无限星辰创始人方海声对记者说。
一级市场上，相较于OpenAI与Anthropic的进退两难，中国AI 独角兽 的状态则有所不同。
10月22日，记者从多位知情人士处获悉，DeepSeek（深度求索）即将完成新一轮1000亿元人民币融资。此前，月之暗面KIMI被曝即将完成IPO前最后一轮融资，估值约500亿美元。此外，快手旗下的视频AI可灵也在近期完成增资扩股，估值接近200亿美元。
但在某种意义上，这同样是AI投资安全困局的一部分。