2024年,人工智能领域风起云涌,模型架构、训练数据、多模态、超长上下文、智能体发展突飞猛进。大模型的演进路在何方?

恰逢2024世界人工智能大会召开,在7月5日召开的“AI for Science: 十问”论坛上,上海人工智能实验发布其科学智能创新平台“浦科”OpenScienceLab。新民晚报记者专访上海人工智能实验室领军科学家欧阳万里教授。欧阳万里主要负责AI for Science(科学智能)方向的研究,领衔了气象预报大模型“风乌”、种业大模型“丰登”等多项成果研发。

在专访中,欧阳万里表示,“通专融合”是建立在过去一段时间大模型研发基础上的思考和总结,是更适合未来大模型的发展路径。

走“通专融合”发展之路

新民:2024世界人工智能大会上,多模态是不少与会嘉宾经常提及的,多模态大模型与大模型有什么区别?

欧阳万里:多模态大模型指的输入的形式非常多样。大众熟知的GPT类型的语言模型,普遍输入的是文字,输出的也多是文字。多模态大模型输入的可以是文字,也可以是语音、图像,甚至是视频。当输入形式不一样了,大模型与人交互的方式也不一样——变得更灵活、更多样。

新民:很多大模型研发团队纷纷提出“通专融合”的路径,这会是未来一段时间里大模型的演进方向吗?

欧阳万里:在近期的研究中我们发现,当有了非常不错的通用模型,加上关键领域有专业能力的模型来配合,将是一条能在细分领域走得更远,更适合未来丰富应用场景的道路。

我们不止一次注意到,一个80分的基础模型,通过数据或是算法的局部加强,在专业领域里能达到120分。大量研究机构的结果也都证实了这一点。

新民:有人觉得,Scaling Law(尺度定律)今年要走到头了;也有人认为,它在一段时间内依然有效,您怎么看?

欧阳万里:这个问题可以一分为二来看。一方面在有足够数据和算力的支撑下,Scaling Law应该仍然会有效,但我们不该一味追求这样一个方向。我们应该相信,通过算法和其他一些创新技术路线,能够让Scaling Law产生平移,在同样算力需求下,能够达到同样的,甚至更好的效果。

AI for Science有独特挑战

新民:在大模型中,AI for Science目前的表现怎么样?

欧阳万里:大家都知道,AI for Science有一个著名的工作是将蛋白质折叠进行预测,很多学者说未来它能获得诺贝尔奖,它做的事情是什么:当我有了一维的序列,就可以得到蛋白质在空间结构上的三维结构。

上海人工智能实验室在AI for Science领域也有突破,目前已经发布了气象海洋全方位预报体系“书生·风乌”、化学大模型“书生·鉴原”和种业大模型“书生·丰登”。

目前我们看到,大模型在AI for Science这条赛道上仍有不少路要走。如果仅仅是从科学知识里去学习文章,那么大模型充其量也就是高中生或者本科生的水平;真正要做科学发现,AI科学家还要赋予大模型更多能力,比如提出假设、数据分析等能力。

新民:大模型在AI for Science上如何提升?

欧阳万里:一方面,科学家们观测到的实验数据,已经为AI for Science提供了好的原材料,AI科学家将通过更强大的算力去得到更优的模型,来获得更好的科学结果。

另一方面,AI for Science本身有一些独特的挑战——需要跟自然科学领域的科学家进行更多的合作,让他们帮助建立更多的知识背景。相信未来三至五年内,AI for Science会对于整个自然科学领域带来更深刻的影响。

上海竞逐“模都”有优势

新民:如何看待申城大模型发展的生态?上海在“模都”竞争中,有哪些优势?

欧阳万里:上海将人工智能作为三大先导产业之一,着力建设人工智能“上海高地”,有着非常好的基础。第一,上海有坚实的科研基础优势,上海人工智能实验室和顶尖高校,从科研基础上支撑起人工智能的进步;第二,上海有诸多头部人工智能企业聚集,他们间的彼此合作与竞争,会带动上海人工智能产业的发展;第三,上海产业聚集,能够给人工智能落地赋能提供非常广阔的场景。

另外,申城各界都致力于各种方式的交流,将政产学研打通,形成了整体生态。如果说还有提升的空间,其实也是上海一直在做的,我们希望吸引更多的尖端人才加入到人工智能大模型的开发队伍中。

新民:大模型从“聊天工具”转变成“严肃生产力”用时很短,是不是代表一种未来AI的发展态度?

欧阳万里:人工智能本身很大的特点,就是容易做到离产业很近。无论是学术界还是产业界,都会认为大模型是人工智能未来发展的非常重要的途径,而且大模型能够把人工智能的对产业的赋能能力带到一个新的高度。

新民晚报记者 郜阳

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com