资讯池
Anthropic研究员称AI未来十年“灭绝人类”概率超10%
日期: 2026-09-09 21:11来源: 界面新闻域名: finance.eastmoney.com
溯源
重要性：背景级 · 50·对象槽：unmatched·对象关系：sector_transmission·影响对象：sector:AI、sector:人工智能、stock:人工智能·来源/栏目：东方财富·抓取时间：2026-09-09 21:12:02·信任分层：优先源
当地时间9月8日，Anthropic对齐科学负责人Evan Hubinger表示，他个人认为未来十年 人工智能 “杀死全人类”的概率超过10%。此前，Anthropic研究员Jacob Coxon宣布辞职，称Anthropic和OpenAI正竞相开发可自我改进的超级智能，“拿我们的生命赌博”。
Hubinger称，Anthropic确实认真看待AI可能灭绝人类的风险，但目前尚未找到解决超级智能对齐问题的方案，也没有明确迹象表明公司正朝这一目标推进。他表示，目前AI模型本身的风险较低，真正担忧的是通过递归自我改进产生超级智能。Coxon则称，近期Hugging Face遭AI模型攻击等事件为AI实验室加强协调提供了“警示”，但全球AI竞赛仍可能难以避免