中国商务新闻

您的位置:首页 > 贸易 >

复旦MOSS距离ChatGPT还有多远?

最近上热搜的MOSS,不是《流浪地球2》中量子计算机550W给自己起的新名字,而是复旦大学计算机科学技术学院教授邱锡鹏团队最新发布的国内第一个对话式大型语言模型,也被称作中国版ChatGPT。

2月20日,MOSS悄然上线,邱锡鹏团队发布至公开平台,邀公众参与内测。但是由于瞬时访问火爆,计算资源无法支撑,内测窗口已暂时关闭。

悄然上线,又匆匆关闭,MOSS这一“快闪”的举动,让它的亮相饱受争议。

那么相对于美国OpenAI的ChatGPT,中国的MOSS有何特别之处呢?记者在主页看到了这样的介绍:MOSS和ChatGPT的区别——如MOSS的参数量比ChatGPT少得多;MOSS通过与人类和其他AI模型交谈来学习,而ChatGPT是使用来自人类反馈的强化学习进行培训;MOSS将是开源的,以促进未来的研究,但ChatGPT可能不是这样。

据介绍,MOSS开发的基本步骤与ChatGPT一样,包括自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段。作为MOSS主要作者之一,邱锡鹏表示:“MOSS与ChatGPT的差距主要在自然语言模型基座预训练这个阶段。MOSS的参数量比ChatGPT小一个数量级,在任务完成度和知识储备量上,还有很大提升空间。”

ChatGPT语言模型的参数量高达1750亿,而在它问世前,世界上最大的语言模型是微软开发的Turing-NLG,其参数量为170亿。自去年11月30日正式发布以来,ChatGPT上线5天,注册用户就突破百万。目前,其用户规模已达到1亿,成为互联网发展史上用户增长最快的消费级应用。

复旦大学计算机科学技术学院教授张奇是推出MOSS的复旦大学NLP实验室核心成员之一。对于ChatGPT背后模型所拥有的1750亿的参数规模,他在一次公开讨论中表示,学校这类机构很难去完成,目前百亿级的规模都已经非常困难。

按照ChatGPT目前开源的最简单复现版本、最便宜模式去计算,要做到1750亿的参数规模,需要大概6000万元的硬件成本,同时运算3.5个月。这还是所有事情都做对的情况,如中间有参数调整,或者想加速训练过程,就需要更高规模的投资。

归根到底还是研发投入的问题。而除了学术界,国内科技企业也纷纷摩拳擦掌开发自己的ChatGPT:原美团联合创始人王慧文近日明确表示,要“组队拥抱新时代,打造中国OpenAI”;百度此前宣布将在3月上线百度版ChatGPT——文心一言;阿里达摩院正在研发类ChatGPT的对话机器人,目前已开放给公司内员工测试;科大讯飞也表示,Al学习机将成为公司类ChatGPT技术率先落地的产品……

《科技日报》2023年2月23日第02版

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

栏目导读

冷链两大重磅政策将发布!五部门权威解读“十四五”冷链物流发展规划

冷链两大重磅政策将发布!五部门权威解读“十四五”冷链物流发展规划

作者:肖鸥

炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!“十四五”冷链物流行业发展顶层设计发布,官方解读来了!12月13日,国家发改委就《“十四五”冷链物流发展规划》有关情况召开新闻发布会,国家发改委经济贸易司副司长张江波,...

提高外汇存准率后人民币连升两日,即期汇率收复6.36关口

提高外汇存准率后人民币连升两日,即期汇率收复6.36关口

作者:醉言

人民币对美元汇率继续收复失地。12月13日,人民币对美元即期汇率盘中升破6.36关口,最高报6.3580,日间收盘报6.3631,较上一交易日上涨73个基点。更多反映国际投资者预期的离岸人民币对美元汇率升势略逊于在岸市场,12月13日盘中最...

康佳集团入选“大湾区孵化最新硬件成果展”,彰显创新实力

康佳集团入选“大湾区孵化最新硬件成果展”,彰显创新实力

作者:醉言

2021年12月9日,“深圳硬件供应链与全球协同创新创业论坛”在深圳圆满举办。康佳集团受邀参与本次活动并在现场展出5G+8K多形态终端直播系统,与普渡科技、SnapMaker、Insta360等知名科技公司一同展示大湾区孵化的最新硬件成果。...

中国信通院:11月国内手机出货3530万部,同比增19.2%

中国信通院:11月国内手机出货3530万部,同比增19.2%

作者:余梓阳

13日,中国信息通信研究院发布《2021年11月国内手机市场运行分析报告》(简称“报告”)。数据显示,11月份国内手机出货量为3530万部,同比增长19.2%。《2021年11月国内手机市场运行分析报告》截图从国内手机市场总体情况来看,20...