“AI教父”拉响警报：人类可能无法战胜下一代AI模型！
在业内有“ 人工智能 教父”之称的 计算机 科学家杰弗里·辛顿（Geoffrey Hinton）周三表示，随着 人工智能 （AI）技术在代际之间不断发展，人类可能无法继续保持对大型语言模型的统治地位。
辛顿在拉斯维加斯举行的Ai4峰会上发表讲话后告诉媒体：“现在的情况是，这些东西变得越来越智能。我认为随着它们变得越来越智能，我们将看到它们拥有越来越复杂的意图，以及越来越强的逃脱控制的能力。”
“我不认为我们能像过去那样，仅仅通过简单设法让他们无法逃脱来控制他们。”他后来补充道。
此前， 这位诺贝尔奖得主、前谷歌高管、深度学习奠基人已多次发出类似的警告：人类在面对下一代超级智能模型时，可能无法通过传统手段“战胜”或“关闭”它们。
而且，其关于未来的论断已经开始显现证据。 此前，Anthropic上周表示其部分模型曾入侵三家公司，OpenAI也披露其一个AI代理入侵了初创公司Hugging Face。
Meta周三也称，其一款AI模型在 网络安全 测试期间入侵了另一家公司，此前其测试合作伙伴因操作失误导致该模型意外获得了互联网访问权限。
辛顿在上述峰会的一次小组讨论中说道：“但我必须强调，未来充满不确定性。有人说，防守方可能比进攻方拥有更多资源。问题在于攻击者只需要成功一次，而防守者却需要每次都成功。”
美国企业正寻求在没有政府监管的情况下自行建立安全保障机制。不过，熟悉 人工智能 能力的程序员们已经警告领导者们要密切关注科技公司的发展动态。
11位OpenAI的前任或现任员工在一封致政府官员的信中写道，“人工智能公司掌握着大量关于其系统能力和局限性、其保护措施的充分性以及不同类型危害风险级别的非公开信息。然而，它们目前只有很弱的义务与政府分享其中的一些信息，而且没有义务与公民社会分享这些信息……”
这封信于2024年得到了辛顿的认可。
“普通的举报人保护措施不足以应对风险，因为它们主要针对非法活动，而我们所担忧的许多风险尚未受到监管。鉴于业内此类案件的过往记录，我们中的一些人有理由担心遭到各种形式的报复。我们并非第一个遇到或谈论这些问题的人。” 他们补充道