DeepSeek打破历史!中国AI的“Nature时刻”

中国大模型,首登Nature封面。

9月17日,在最新一期的国际权威期刊Nature(自然)中,DeepSeek-R1推理模型研究论文登上了封面。该论文由DeepSeek团队共同完成,梁文锋担任通讯作者,首次公开了仅靠强化学习就能激发大模型推理能力的重要研究成果。这是中国大模型研究首次登上Nature封面,也是全球首个经过完整同行评审并发表于权威期刊的主流大语言模型研究,标志着中国AI技术在国际科学界获得最高认可。

Nature在其社论中评价道:“几乎所有主流的大模型都还没有经过独立同行评审,这一空白终于被DeepSeek打破。”

中国AI大模型的“Nature时刻”

自大模型浪潮席卷全球以来,技术发布、性能榜单层出不穷,但始终缺乏一个权威的“科学认证”机制。OpenAI、谷歌等巨头虽屡有突破,但其核心技术多以技术报告形式发布,未经独立同行评审。

DeepSeek以其公开性和透明性打破了这一局面。DeepSeek-R1模型的研究论文最早于今年年初发布在预印本平台arXiv上。自今年2月14日向Nature投递论文至今,历经半年,8位外部专家参与了同行评审,DeepSeek-R1推理模型研究论文终获发表,完成了从预印本到Nature封面的“学术跃迁”。审稿人不仅关注模型性能,更对数据来源、训练方法、安全性等提出严格质询,这一过程是AI模型迈向更高的透明度和可重复性的可喜一步。

因此,Nature也对DeepSeek的开放模式给予高度评价,在其社论中评价道:“几乎所有主流的大模型都还没有经过独立同行评审,这一空白终于被DeepSeek打破。”全球知名开源社区Hugging Face机器学习工程师Lewis Tunstall也是DeepSeek论文的审稿人之一,他强调:“这是一个备受欢迎的先例。如果缺乏这种公开分享大部分研发过程的行业规范,我们将很难评估这些系统的潜在风险。”

据了解,DeepSeek本次在Nature上发表的论文较今年年初的初版论文有较大的改动,全文64页,不仅首次披露了R1的训练成本,而且透露了更多模型训练的技术细节,包括对发布初期外界有关“蒸馏”方法的质疑作出了正面回应,提供了训练过程中减轻数据污染的详细流程,并对R1的安全性进行了全面评估。

其中,在训练成本方面,R1-Zero和R1都使用了512张H800GPU,分别训练了198个小时和80个小时,以H800每GPU小时2美元的租赁价格换算,R1的总训练成本为29.4万美元(约合人民币209万元)。不到30万美元的训练成本,与其他推理模型动辄上千万美元的花费相比,可谓实现了极大的降本。

关于R1发布最初时所受到的“蒸馏”质疑,DeepSeek介绍,其使用的数据全部来自互联网,虽然可能包含GPT-4生成的结果,但并非有意而为之,更没有专门的蒸馏环节。所谓“蒸馏”,简单理解就是用预先训练好的复杂模型输出的结果,作为监督信号再去训练另外一个模型。R1发布时,OpenAI称它发现DeepSeek使用了OpenAI专有模型来训练自己的开源模型的证据,但拒绝进一步透露其证据的细节。

R2何时问世引发关注

自今年年初发布R1以来,DeepSeek在全球树立了开源模型的典范,但过去数月,外界对于R2何时发布始终保持高度关注,相关传言一直不断。不过,R2的发布时间一再推迟,外界分析R2研发进程缓慢可能与算力受限有关。

值得注意的是,今年8月21日,DeepSeek正式发布DeepSeek-V3.1,称其为“迈向Agent(智能体)时代的第一步”。据DeepSeek介绍,V3.1主要包含三大变化:一是采用混合推理架构,一个模型同时支持思考模式与非思考模式;二是具有更高的思考效率,能在更短时间内给出答案;三是具有更强的智能体能力,通过后训练优化,新模型在工具使用与智能体任务中的表现有较大提升。

由于R1的基座模型为V3,V3.1的升级也引发了外界对于R2“在路上”的猜测。V3.1的升级更深刻的意义在于,DeepSeek强调DeepSeek-V3.1使用了UE8M0 FP8 Scale的参数精度,而UE8M0 FP8是针对即将发布的下一代国产芯片设计。这也表明未来基于DeepSeek模型的训练与推理有望更多应用国产AI芯片,助力国产算力生态加速建设。这一表态一度带动国产芯片算力股股价飙升。

中国银河证券研报指出,DeepSeek从V3版本就开始采用FP8参数精度验证了其训练的有效性,通过降低算力精度,使国产ASIC芯片能在成熟制程(12-28nm)上接近先进制程英伟达GPU的算力精度,DeepSeek-V3.1使用UE8M0 FP8 Scale参数精度,让软件去主动拥抱硬件更喜欢的数据格式,“软硬协同”的生态技术壁垒逐渐成为AI浪潮下新范式,未来国产大模型将更多拥抱FP8算力精度并有望成为一种新技术趋势,通过软硬件的协同换取数量级性能的提升,国产算力芯片将迎来变革。

(文章来源:证券时报)

声明:壹贝网所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,版权归原作者wangteng@admin所有,原文出处。若您的权利被侵害,请联系 756005163@qq.com 删除。

本文链接:https://www.ebaa.cn/58662.html

(0)
上一篇 2小时前
下一篇 2023年11月10日

相关推荐

  • 新加坡管理大学硕士国内认可度

    新加坡的国土面积735.2平方公里,甚至还没有一个城市大,但到2024年,新加坡总人口603.69万,华人占75%左右,但人均国内生产总值121161新元(1新加坡币=5.58 人民币),上世纪80、90年代就已跻身亚洲四小龙,城市基础设施排名世界第一,也有几所举世闻名的高校。以下是新加坡知名大学及适合中国留学生的详细指南,涵盖8所主要高校的排名、优势专业、…

    2025年7月16日
  • 日本名古屋介护专门学校

    中国侨网7月15号电, 据日本《中文导报》报道,近日,通过日本本州岛岛爱知县政府与日本名古屋出入国在留管理局的联合调查,东京福祉大学系列校“保育、介护、商务名古屋专门学校”发表的学生在籍表显示,该校在2019年招生人数超过规定招生上限的7倍。 日本文部科学省等部门统计,2016年到2018年的三年时间内,东京福祉大学累计共有1600名本科预科生失踪。鉴于大学…

    2025年9月2日
  • 美国tufts大学排名

    在2024 – 2025年度福布斯排名中,普林斯顿大学(Princeton University)位居美国大学榜首。 普林斯顿大学连续第二年在福布斯“美国顶尖大学”排名中拔得头筹。 事实上,福布斯对美国500所大学的年度排名中,名列前茅的都是人们所熟知的学校。斯坦福大学(Stanford University)位居第二,随后是麻省理工学院(Mas…

    2025年8月28日
  • 芝加哥旁边的金融大学

    学校介绍 芝加哥大学(University of Chicago),简称UChicago、“芝大”,坐落于美国伊利诺伊州国际金融中心芝加哥市,是著名的私立研究型大学,常年位列各个大学排行榜世界前十。 项目介绍 Master in Finance (MiF) 开设学院:Booth School of Business 项目时长:15个月 这是一个严格的、变革性…

    2024年11月5日
  • 中国转战泰国买房(中国在泰国买房的条件)

    阳光海滩、民风淳朴、生活舒适,这些都是吸引陈芳(化名)在曼谷买房养老的主要因素。 “北京的房价太贵,70万(元)连市中心的一个厕所都买不到,但在曼谷可以买到一个精装修拎包入住的公寓,而且周围的各项生活配套都十分齐全,生活成本也很低。”已步入退休年龄的陈芳向本报记者坦言。 两年前,她因工作原因经常往返曼谷,被当地的生活环境所吸引,便决定在曼谷市中心以70万元购…

    2023年11月7日
  • 贝尔格莱德大学相当于国内

    入选《2020年全球城市500强》榜的巴尔干地区城市 巴尔干地区通常指欧洲东南部黑海与亚的里亚海之间的巴尔干半岛地区的简称,总陆地面积近80万平方千米,总人口近7000万。位于巴尔干地区的国家称巴尔干国家,包括现在的希腊共和国(简称希腊)、保加利亚共和国(简称保加利亚)、塞尔维亚共和国(简称塞尔维亚)、黑山共和国(简称黑山)、北马其顿共和国(简称北马其顿)、…

    2024年12月1日
  • 菲律宾大学硕士学位

    在如今竞争激烈的就业市场中,持有硕士学位已经成为许多大专毕业生提升自我竞争力的必备条件之一。而菲律宾的教育体系备受青睐,因其优质的教育资源和相对较低的学制费用,吸引了越来越多的国际学生申请。那么,作为一名大专生,如何申请菲律宾硕士呢? 首先,了解各大院校的招生条件是至关重要的。菲律宾的大部分硕士项目要求申请者具备学士学位并具备一定的相关工作经验。在申请之前,…

    2024年10月7日
  • 昆士兰大学的gatton校区

    在澳洲的高等教育版图中,昆士兰大学(UQ)无疑是绕不开的重要学术地标。其在 2024QS 世界大学排名里位居第 43 位,学术实力强劲,校园环境更是一大亮点。对于新生以及渴望进入对这所院校深造的同学来说,了解各个校区的特点和分布是快速融入校园生活的关键。 那么,昆士兰大学的四大校区究竟各有什么特色?一起来涨知识吧! 一、圣卢西亚校区(St Lucia) 圣卢…

    2025年5月19日
  • 北京大学医学院图书馆

    科技发展迅速,行业大步向前,在这个竞争激烈的时代,排名已成为各个领域衡量实力与价值的依据标尺。数据是最直接的能力彰显,可以说排名不仅是一种荣誉象征,更是资源分配、合作选择的重要参考,深刻影响着行业格局与发展方向。 而在众多领域里,医学领域的排名尤其受到关注。医学作为与民生需求关系最密切的领域之一,其行业壁垒高筑,医学生从踏入校园到成长为独当一面的专业医生,需…

    2025年9月8日
  • 澳大利亚留学中介(澳大利亚留学中介前十名)

    澳洲虽然被不少学生吐槽学校水,但是澳洲学校的申请热度从来没有降下来过,不少同学依旧对澳洲学校的QS排名十分心动,还有澳洲比较宽松的移民政策也是吸引学生申请澳洲的一个重要原因。 今天就来好好给大家介绍几家澳洲留学机构,希望能够帮助大家在找中介的路上少走弯路!(以下机构排名不分前后) 【1】无忧留学 无忧留学的总部在北京,另外在上海,南京,广州,青岛等地有分部。…

    2023年10月29日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信