今日，最新消息显示，OpenAl超级对齐团队就地解散。该消息一经发出，立刻引发网友热议。

有网友调侃：这是OpenAI宫斗第二季又开始了？

很快，OpenAl公司证实，该公司不再将所谓的'超级对齐"团队作为一个独立的实体，而是将该团队更深入地整合到其研究工作中，以帮助公司实现其安全目标。

01

对齐团队是做什么的？

据了解，超级对齐团队成立于2023年7月，其目标是“在 OpenAI 大量计算的支持下，到 2027 年解决（对齐）问题”。

Ilya Sutskever 是该项目的牵头人之一，OpenAI 则表示会将 20% 的算力专门用于该项目的研究。

在一次访谈中， Ilya Sutskever 曾大胆预言，如果模型能够很好地预测下一个词，那么意味着它能够理解导致这个词产生的深刻现实。这意味着，如果 AI 按照现有路径发展下去，也许在不久的将来，一个超越人类的人工智能系统就会诞生。但更加令人担心的是，「超级人工智能」可能会带来一些意想不到的负面后果。

几天前，OpenAI 联合创始人、首席科学家 Ilya Sutskever ，刚宣布离开 OpenAI。至此，结束了与 OpenAI 的八年牵绊。

很多人可能没注意，与 Ilya 同步宣布离开的，还有超级对齐团队的共同领导者 Jan Leike。

Jan Leike正是OpenAl安全主管、“超级智能对齐团队”负责人。

据JanLeike透露，他与OpenAl高层在公司的核心优先事项上存在长期分歧，双方的分歧严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍，缺乏资源严重影响研究的进度和质量。

02

长期分歧指的是什么？

此前，在 OpenAI 内斗时，有人传言说 Ilya「看到了一些东西」，这些东西足够强大，让他对 AI 的未来产生了担忧，并重新思考 AI 的发展。

此后，包括马斯克在内的美国业界一直很关心“Ilya看到了什么？”

有记录显示， Ilya 此前曾在一段视频中提到，在 AGI 实现的那一天，AI 未必会仇恨人类，但他们对待人类的方式可能会像人对待动物一样。人可能无意伤害动物，但如果你想修一条城际高速，你不会征询动物的意见，而是直接去做。当面临这种情况时，AI 可能也会自然而然地做出类似的选择。

或许，这就是Ilya担忧的，也是OpenAl对齐团队与高层的长期分歧。

上周，外界又开始关注“Ilya下一步会去哪里？”

有网友猜测，“如果Ilya和Andrej 创办一家真正开放的人工智能公司，会是什么样的？”

Andrej Karpathy也是OpenAI 创始成员之一，在 Sora 发布前夕刚离职，他们二人如果能联手，或将成为人工智能领域又一个重大事件。

对此，Ilya 在推文中回应，“我很期待接下来的计划——这个项目对我个人来说意义重大，我会在适当的时候分享细节。”

现在，咱们也猜想一下：“Jan Leike会去哪呢？”

如果Ilya和Andrej 真的创办了一家人工智能公司，Jan Leike是否会加入其中？


                                        
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！  
                                        
联系邮箱：1042463605@qq.com