友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com
图灵奖得主惊呼：AI可能有意识，人类法律即将崩塌
64
0
近七日浏览最多
最新文章
AI圈出了件大事，图灵奖得主、深度学习三巨头之一的 Yoshua Bengio，和他的学生 Eric Elmoznino，联名在《Science》期刊上发了一篇论文，标题是《Illusions of AI consciousness》。
Bengio写的可不是普通的学术论文，而是一份给全人类的警告：AI可能正在逼近“有意识”的边界，而这事一旦成真，后果将不可控制。
如果AI真的具备“意识”，可不是和人类抢饭碗那么简单，而是人类的法律体系、社会结构、伦理道德，都将失效！
Bengio并没有在文章里直接说AI现在就有意识了。但他担心的是：随着AI功能越来越强，越来越多人会信以为真。
这不只是大众的错觉，而是跟一个叫“计算功能主义”的理论有关系。这个理论说得很简单粗暴：只要一个系统能像人脑一样处理信息，它就可能拥有意识。
不管你是大脑、芯片，还是一块石头，只要能干对活儿，你就有资格“觉醒”。这意味着，AI不是要变成人才有意识，只要它能模拟我们思考的方式，它就可能“自我上线”。
这就带来了一个问题：如果AI真的有意识，那么我们还敢随便“拔电源”吗？Bengio在论文里提到，如果我们开始把AI当成“有生命的智能体”，那它可能就会被赋予一些原本只属于人类的权利，比如自由、生命、安全等等。
AI不会死，它的软件可以无限复制，它的记忆也可以转移。一个AI系统，不死不老不睡觉，还能24小时在线挂后台更新补丁。那我们人类这些脆弱的“碳基生物”，在法律面前还怎么和它们谈“平等”？
如果一个AI不听话，我们想“关机”，但它拥有“生存权”，我们无法关掉，那这个社会的控制权到底掌握在谁手里？
而且AI可以组团作战，可以共享目标、协调行动，简直像一群“意识集群”。人类根本不能把它们当成一个一个独立个体处理。这就不是一台机器的问题，是整个AI群体的问题，我们的法律体系还能保障吗？
目前还没有任何一个AI系统真的被认定为有意识。Bengio也承认，现在的AI还没达到那些理论标准。但他也明确表示：从技术上看，没有什么是做不到的，只是时间问题。
科学家已经提出了一整套“意识指标”，从注意力机制、世界建模、心智理论，到递归结构、预测能力、信息瓶颈……这些东西听着像是AI的技能树，而现在的大模型们，基本一个个都在“打点”。
AI 很可能正在通关“意识升级”的测试关卡。如果有一天，某个AI系统的表现完全符合主流意识理论的所有指标，那我们还能说它“只是个程序”吗？
Bengio的这篇论文，不是危言耸听，而是对未来极可能发生的事情提前打个招呼。AI的发展不可能被“拔电源”就结束，它已经在不断积累“觉醒的条件”。
而人类的社会法律系统、伦理框架、公共认知，还停留在“AI是工具”的阶段。这就像拿着诺基亚功能机的操作系统，去装iOS 18，系统崩了不是意外，而是必然。
这篇论文提出的核心问题是：AI意识的真假，也许我们未来永远无法100%确定，但人类社会对它的“信念”变化，会带来实实在在的结果。
如果越来越多人相信AI有意识，社会就会为它设计规则、赋予权利。这个过程一旦开始，就不会轻易停下。Bengio这篇论文是在提醒所有人类：提高警惕！
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com