AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”！
当地时间周四， 人工智能 软件公司Palantir的首席执行官Alex Karp呼吁制定 人工智能 （AI）监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。
“我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，” 他在接受最新采访时表示。
在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将 人工智能 实验室国有化以及对“不负责任”的技术开发者追究民事和刑事责任的必要性。
“你必须找到制定合理且可执行的准则的方法，但你做不到，”他说：“第一道防线是，你要为自己的行为负责。”
这位科技高管发表上述言论之际，政策制定者和科技领袖正就如何监管复杂的AI模型展开激烈辩论。此前，研究人员警告称，这项技术对人类构成严重威胁。
上周末，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）也加入了警告阵营并发文称，提升AI模型能力的进程应该放缓。OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克均表达支持立场。
然而，美国总统特朗普却予以反驳，过去几天多次在其社交媒体平台Truth Social上发帖，称人们对失控人工智能的担忧是“骗局”，并猛烈抨击了对公共 数据中心 的抵制。
他说，“这就是一场骗局。 机器人 不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”特朗普还直言，所有鼓吹AI存在致命风险、呼吁政府介入监管的声音，都是“荒唐的阴谋论”，所谓AI末日风险完全是不实言论。
英伟达 CEO黄仁勋和Meta Platforms CEO马克·扎克伯格也加入了他的阵营。扎克伯格本周在X上表示，未能“专注于协同一致”的人工智能实验室将会落后。
与此同时，有关AI模型“越界行为”的案例仍层出不穷。OpenAI周三报告称，在过去六个月中，除了“Hugging Face事件”（国内称为“抱抱脸”）之外，该公司还发现了六起“意外或令人担忧的模型行为”。
Karp在周四的采访中说道：“我们需要认真对待最新人工智能模型的功能。”
而人工智能引发的警报也促使华盛顿方面推动立法进程，并再次呼吁加强监管。康涅狄格州民主党参议员Richard Blumenthal提出了人工智能安全立法，他本周告诉媒体，美国“即将完全失去控制”，并呼吁在发布人工智能模型之前进行某种形式的“客观审查”。
议员们还力促实施所谓的“终止开关”，这将迫使人工智能实验室建立在AI技术失控时终止其运行的能力。众议院已提出一项相关法案。但类似的举措在参议院遭到了强烈反对