密尔沃基工学院_密尔沃基工学院全球排名

Nvidia战略自主的护城河：从CUDA到EGX最近，Nvidia再次成为了人们关注的焦点，但这次不是因为其业绩风光无限，而是因为它的竞争对手OpenAI、谷歌等开始推出自己的芯片，并打算在下个月的年度开发者大会上推出首款为人工智能设计的芯片。据报道，这款芯片是为训练和运行大型语言模型（LLM）的数据中心服务器设计的。而Nvidia也一直在推进自己的自研芯片项目，希望在这个领域保持领先地位。然而，市场上已经有了很多分析，认为Nvidia等企业之所以要下场造芯，主要原因是因为GPU价格过高、产能不足，通过自研芯片，有望削弱在人工智能芯片领域的定价权，同时比没有自研芯片的企业更具战略自主。但是，这种做法真的能迫使竞争对手放慢手中的镰刀吗？很明显，市面上H100GPU已涨到了原价的两倍，依旧供不应求。即便是自研芯片已经「上线」的谷歌，仍在大量采购的芯片。这究竟是为什么呢？

在我们深入了解Nvidia的战略自主之前，需要先介绍一下Nvidia的真正护城河——CUDA。一、Nvidia的真正护城河——CUDA2019年，CEO黄仁勋在密尔沃基工学院介绍企业发展史时，曾这样表述道：“一项接着一项的应用，一个接着一个的科学领域，从分子动力学、计算物理学，到天体物理学、粒子物理学、高能物理学，这些不同的科学领域开始采用我们的科技，因为这是向前发展的最佳解法。而我们深深地以这项贡献为荣。”。通俗来讲，CUDA是一种用于并行计算的计算机平台和编程模型。在CUDA诞生之前，GPU主要被用于游戏和图形渲染等领域，而CUDA的出现则为GPU在科学计算、机器学习等领域的应用奠定了基础，为公司创造了深厚的技术壁垒，成为企业的真正护城河。二、Nvidia的软硬件生态但是，Nvidia真正的竞争力并不仅仅来自于技术壁垒，更多的是来自于软硬件生态。

虽然Nvidia以GPU为主营业务，但是很多人不知道的是，其软件工程师数量比硬件工程师还要多。在这个软硬件结合的时代，软件平台和工具的重要性不言而喻。Nvidia在这方面做得非常出色，它的软件生态涵盖了从操作系统、框架、库到SDK，为用户提供了快速上手、高效稳定的开发环境。此外，Nvidia在硬件方面也不断创新，推出了Jetson系列嵌入式AI计算平台、GPU云计算平台、EGX高效低延迟计算平台等，这些新产品的推出，进一步丰富了其生态系统，提升了用户体验。三、Nvidia的EGX计算平台近年来，边缘计算逐渐成为AI领域的热门话题，而Nvidia的EGX计算平台，正是其在这一领域的布局之一。EGX是Nvidia面向边缘计算的开放性计算平台，旨在为客户提供数字化转型的解决方案。通过EGX，企业可以在边缘设备上运行AI应用程序，实现实时分析和响应，进一步提升生产效率和安全性。

相比于传统的云计算，边缘计算可以更好地适应IoT设备的低功耗、低带宽和低延迟需求，提高了应用效率和响应速度。EGX平台的推出，是Nvidia在AI领域布局的重要一步，也为其未来的发展奠定了基础。四、总结总之，Nvidia在竞争激烈的人工智能芯片领域，凭借自己的技术壁垒和软硬件生态，成功地保持了自己的竞争力。虽然自研芯片确实可以为公司带来更大的战略自主权，但是Nvidia目前的主营业务GPU也能够为公司带来不菲的收益，而其软硬件生态系统的优秀表现，也为其未来的发展提供了更广阔的空间。对于其他企业而言，如果想要在人工智能芯片领域获得更大的发展，除了要加快自研芯片的研发步伐外，更需要在软硬件生态方面不断创新，打造自己的品牌和生态系统。英伟达的CUDA技术，成功地推动了GPU在大数据计算中的应用。相比于CPU，支持CUDA系统的GPU可以快速地完成大规模的并行计算。

CUDA是一种并行计算架构，通过它，研究员和编程人员可以将复杂的数学问题转化为多个小问题，并且分发给GPU的多个计算核来完成。橡树岭国家实验室的超级计算机“顶点”，就是采用了CUDA+GPU的套餐，其峰值浮点运算速度可达每秒20亿亿次，接近“神威·太湖之光”超级计算机的两倍。从2006年推出CUDA至今，CUDA已经成为了各个领域计算机计算的基础，涉及航空航天、生物科学研究、机械和流体模拟以及能源探索等领域的研究，80%的研究都是在CUDA的基础上进行。目前，有400万名开发者正在与CUDA合作，CUDA的下载量已经超过了4000万次。然而，英伟达并没有满足于此，他们不断推出新的技术来扩大CUDA的生态。最新推出的软件加速库集合CUDA-XAI，不仅能够提升GPU的性能，还能够实现机器学习等领域的计算。

CUDA-XAI已经引起了很多企业和研究院所的兴趣，预计未来会有更多的人使用这项技术。总的来说，CUDA技术是英伟达在GPU领域的重大突破，它的出现对于计算机计算的发展产生了巨大的推动作用。未来，随着技术的不断发展，CUDA将会有更广泛的应用。英伟达：重新定义深度学习领域的霸主深度学习、机器学习和高性能计算正成为科学家和工程师们的主要关注领域。在这一领域中，英伟达已经建立了一个庞大的生态系统，该生态系统基于CUDA构建，并提供了必不可少的优化功能。然而，面对竞争对手的崛起，英伟达能否保持其统治地位？伴随着CUDA的日益普及，GPU已经成为许多消费者的首选。这为英伟达带来了巨大的利润。然而，并非所有的竞争对手都会坐视不管。

AMD推出了生态平台ROCm，该平台与许多计算框架兼容；OpenAI的Triton被认为是CUDA最有力的挑战者；同时，开源构架OpenCL在设计之初就借鉴了CUDA的成功经验，尽可能地支持多核CPU、GPU或其他加速器；谷歌则通过「TPU+TensorFlow+云」的模式吸引开发者和扩展客户。然而，这些竞争者在实践中都面临各种问题。今年2月，半导体研究和咨询公司SemiAnalysis的首席分析师DylanPatel发表了一篇文章，题为《Nvidia在机器学习领域的CUDA垄断如何被打破（How Nvidia’s CUDA Monopoly In Machine Learning Is Breaking – OpenAI Triton And PyTorch 2.0）》。这篇文章引起了广泛的关注。在文章的评论中，一位程序员表示：「我希望如此，但我非常非常怀疑。

我使用的所有东西都是基于CUDA构建的。实际上，在非NVidia硬件上没有任何功能。‘实际上有效’与‘理论上有效’不同。我使用的很多东西理论上都支持ROCm，但在实践中，当你尝试使用它时，你会遇到大大小小的错误，并且会崩溃或无法正常工作。」这位一线研究人员的言论证明了英伟达在软硬件领域的垄断地位。那么，为什么英伟达在深度学习领域能够如此成功？究竟是什么因素使其成为这个领域的霸主？首先，CUDA的出现为英伟达奠定了基础。CUDA是一种并行计算平台和编程模型，能够利用GPU的强大计算能力，加速深度学习和机器学习任务。英伟达在其官方网站上声称，CUDA可以将深度学习任务的速度提高10倍以上。这种强大的计算能力为英伟达赢得了许多用户的青睐。其次，英伟达不仅仅提供了优化的硬件，还提供了一整套完整的软件库。这些库建立在CUDA之上，提供了对深度学习、机器学习和高性能计算必不可少的优化功能。

这使得英伟达成为了一个端到端的平台，为数据科学家和工程师提供了便利。此外，英伟达在市场上的积极推广也为其成功立下了汗马功劳。英伟达不仅积极参与学术研究和行业会议，还与许多大型公司和研究机构建立了合作关系。这些合作关系不仅为英伟达带来了丰厚的利润，还为其树立了强大的品牌形象。然而，英伟达的霸主地位并不是没有挑战。正如之前提到的，AMD的ROCm平台、OpenAI的Triton和开源构架OpenCL都被认为是英伟达的竞争对手。这些竞争者都试图在深度学习领域与英伟达展开正面竞争。然而，这些竞争者在实践中却面临各种问题。ROCm平台虽然在理论上支持许多计算框架，但在实践中却存在各种兼容性和稳定性问题。OpenAI的Triton虽然被认为是CUDA的有力挑战者，但在实际工作中也面临着许多困难。

开源构架OpenCL则一直在努力借鉴CUDA的成功经验，并尽可能地支持多核CPU、GPU或其他加速器。然而，迄今为止，OpenCL还没有达到与CUDA相媲美的水平。总的来说，虽然英伟达在深度学习领域的垄断地位目前尚未被打破，但这并不意味着它将永远保持这样的地位。随着技术的进步和竞争对手的不断发展，英伟达面临着更大的挑战和压力。对于英伟达而言，保持创新是至关重要的。除了继续优化其硬件和软件库之外，英伟达还应该加强与学术界和行业的合作，以推动深度学习和机器学习的发展。此外，英伟达还应该重视用户的反馈，积极解决用户在使用过程中遇到的问题，提高产品的稳定性和可靠性。最后，让我们思考一个问题：在未来的深度学习领域中，英伟达能否继续保持其霸主地位？或者会有其他竞争者出现并取代英伟达的地位？欢迎留下你的评论和观点。英伟达的CUDA：为什么这个护城河越来越宽阔？

从2006年CUDA面世起算，已经过去了接近18年时间，为什么在如此漫长的时间里，这个护城河不但没有被攻破，反而越来越宽阔？这些问题背后都有一个默认的前提——CUDA是那个「正确」的方向。而在英伟达孤注一掷的21世纪初，这句话黄仁勋对股东和市场重复了千百遍。如果我们想要一个美好的世界，要做的第一件事，就是模拟它。某种程度上，这个想法就是GPU时代的原点，将那些复杂的物理定律模拟出来，并以画面的形式呈现。然而，那些模拟物理定律的应用不会从天而降，它需要有人一个一个地去开发。因此，即使GPU的运算能力已经被证明未来有可能超过CPU，应用程序匮乏、编程过程繁琐、缺少底层语言代表等现状，仍让程序员们对其敬而远之。在2003年，当推出了4核CPU时，英伟达开始着手发展统一计算设备架构技术，也就是CUDA。

这个想法由首席科学家大卫·柯克博士提出，后来也是他说服黄仁勋，让英伟达未来所有的GPU都必须支持CUDA。因为柯克在计算机高性能计算领域所发挥的重要作用，他后来被誉为「CUDA之父」，还当选为美国国家工程院院士。这些荣誉都是后话，当时黄仁勋需要解决的问题是，如何让股东接受产品成本需要上升一倍，去搏一个回报周期可能在10年以上的未来。事实上，围绕着CUDA的质疑一直持续到了AI时代的前夜，英伟达的市值常年徘徊在10亿美元的水平，股价甚至一度因为CUDA附加成本对业绩的拖累跌至1.5美元。股东多次提出希望他们专注于提高盈利能力。2010年，当时的CPU王者曾传出计划收购。《芯片战争》中描述到，“对英伟达来说，（收购）价格不是问题，问题是该给黄仁勋一个什么职位。然而双方一直没有达成一致意见，最后不了了之。”。在市场看空英伟达的这些年里，黄仁勋从未质疑过CUDA的价值。

他深知，要实现模拟物理定律的雄心壮志，需要一个强大的计算平台。而GPU恰好具备这样的潜力，只要能够充分挖掘出其中的计算能力，就能够创造出前所未有的应用领域和商业机会。黄仁勋的执着和信心得到了回报。随着人工智能的崛起，对计算能力的需求越来越迫切。而CUDA正是满足这种需求的利器。它不仅提供了强大的计算能力，还通过简化编程过程和提供底层语言代表的方式，大大降低了开发者的门槛。这让更多的人能够参与到GPU计算的开发中来，推动了CUDA的普及和应用领域的拓展。如今，CUDA已经成为了世界上最广泛使用的并行计算平台之一。它被应用于各个领域，包括科学研究、医学图像处理、金融分析、机器学习等。在这些领域，CUDA发挥着重要的作用，加速了计算过程，提高了应用程序的性能和效率。那么，CUDA的成功是如何实现的呢？首先，英伟达坚持了长期的研发投入。

他们不仅在硬件方面进行了持续创新，提升了GPU的计算能力，还在软件方面不断改进，简化了编程过程。其次，英伟达积极推动CUDA的普及和发展。他们与各个领域的合作伙伴进行了深入合作，共同推动了CUDA技术在各个领域的应用。此外，英伟达还不断提供培训和支持，帮助开发者更好地掌握和应用CUDA技术。总结一下，CUDA之所以能够越来越宽阔的护城河，是因为它在满足了人工智能时代对计算能力的需求的同时，又提供了简化编程过程和降低开发门槛的方式。这使得更多的人能够参与到GPU计算的开发中来，推动了CUDA的普及和应用领域的拓展。英伟达的坚持和投入，以及与合作伙伴的深入合作和支持，也为CUDA的成功奠定了基础。对于未来，我们可以预见，CUDA将继续发展壮大。随着人工智能和大数据时代的到来，对计算能力的需求将会越来越大。而CUDA正是满足这种需求的利器。

随着技术的不断创新和应用领域的拓展，CUDA有着更广阔的发展空间。我们期待着CUDA能够创造出更多的商业机会和社会价值。最后，让我们一起思考一个问题：在科技发展的道路上，是否还有其他类似CUDA的创新技术，能够满足人们对计算能力和应用领域的需求？请留下你的评论，与我们分享你的想法。以下是我重新编辑的文章：黄仁勋如何打造CUDA帝国，领导英伟达在GPU领域垄断市场？作为一名开发人员，你是否曾经遇到过花费数小时才能运行一个计算密集型应用程序的问题？如果你遇到了这样的麻烦，那么你就需要接触CUDA了。CUDA是NVIDIA推出的一种基于GPU的并行计算框架，可以显著加速计算密集型应用程序的运行速度。然而，要让开发人员使用CUDA并展示GPU的优势并不容易。这就需要一个人的努力和眼光。这个人就是黄仁勋。

他首先使用GeForceGPU作为安装CUDA的基础，然后创建了一个名为GTC的会议，在全球范围内孜孜不倦地推广CUDA。这些举措使得CUDA成为前沿科学研究者最习惯的框架之一，并且让NVIDIA在GPU领域占据了垄断地位。近年来，黄仁勋还亲自去向OpenAI交流，并赠送了一台搭载有8颗P100芯片的DGX-1，这被认为是黄仁勋的又一次尝试，确保CUDA在科学研究领域的地位。然而，英特尔作为CPU时代的王者，本该成为最具竞争力的对手。然而，在2010年取消了CPU和GPU融合的独立显卡计划后，英特尔就失去了和英伟达硬碰硬的兴趣。虽然英特尔试图收购NVIDIA，但未能成功。然后又转身去和在移动基带市场上较劲，一手收购人工智能方向的芯片公司，一手将AMD的芯片纳入到自己的系统芯片当中。可惜的是，这一系列举措都未能让英特尔在GPU领域站稳脚跟。在GPU领域，已经没有资格和坐在同一张牌桌上了。

然而，英伟达并没有止步不前。2020年，他们推出了一项名为DPU的新技术，DPU被定义为继CPU、GPU之后的「第三颗主力芯片」。DPU最核心的功能，是取代CPU，建立以数据为中心的计算架构。这项技术的推出，让英伟达在新的领域占据先机。创投圈曾流行过一个笑话：“DPU是什么？支付宝到账，一亿元。”。这轮DPU热，正是掀起的。这也是英伟达在GPU领域继续领跑的又一次尝试。总之，黄仁勋的努力和眼光帮助NVIDIA在GPU领域垄断市场。英特尔的一系列失误让他们错失了和英伟达硬碰硬的机会。DPU的推出为英伟达在新的领域占据先机提供了可能。虽然英伟达在GPU领域已经占据了垄断地位，但是在这个快速变化的时代，任何一个技术巨头都不能掉以轻心。你认为，英伟达应该如何在未来维护自己的领先地位呢？随着数据中心建设、网络带宽和数据量的急剧增长，CPU性能增长速度放缓，越来越难以适应未来计算芯片的需求。

为了解决这个问题，人们开始关注DPU，即数据处理单元，它是一种用于数据中心基础设施的先进计算平台。DPU背后有一套软件生态，即DOCA，它可以帮助开发者创建软件定义的、云原生的、DPU加速的服务，以满足现代数据中心日益增长的性能和安全需求。随着DPU市场的竞争越来越激烈，许多厂商和初创企业都开始研发DPU或者其对位产品。云厂商方面，AWS和阿里云已经实现大规模商用DPU构架，腾讯和字节跳动也加入了DPU研发大军。此时，我们不禁要问：这一次还能靠DPU+DOCA的软硬件生态复现GPU+CUDA的奇迹吗？在数据中心中，CPU扮演着承担运行应用程序、执行计算的任务以及数据流量控制器的角色。然而，随着数据中心中的数据量和网络带宽的急剧增长，CPU性能增长速度放缓，已经难以适应未来计算芯片的需求。因此，人们开始关注DPU，它是一种用于数据中心基础设施的先进计算平台，可以帮助解决这个问题。

DPU的作用类似于老师，它可以拆分和分发题目，从而提高系统整体运算效率。而DOCA就是DPU背后的一套软件生态，它可以帮助开发者创建软件定义的、云原生的、DPU加速的服务，以满足现代数据中心日益增长的性能和安全需求。DOCA的出现，让英伟达的DPU有了更加完善的生态系统，使得开发者可以更加方便地使用DPU。DOCA不仅可以支持零信任保护，还可以对未来的数据中心基础设施进行编程。与CUDA不同的是，英伟达已经不需要苦口婆心地向市场证明自己眼光的独到之处。这次，DPU的火热足以说明这一点。随着DPU的热度不断上升，市场上也出现了越来越多的竞争对手。国外的厂商中，Marvell、Arm和AMD等都研发了DPU或DPU的对位产品。国内的初创企业也涌现出来，如云豹智能、中科驭数、芯启源、云脉芯联、星云智联、大禹智芯等。

云厂商方面，AWS和阿里云已经实现大规模商用DPU构架，而腾讯和字节跳动也在加入DPU研发大军中，其中腾讯推出了水杉和银杉两代DPU。总的来说，DPU和DOCA的出现为数据中心的发展提供了更好的解决方案。尤其是随着数据中心中的数据量和网络带宽的急剧增长，DPU已经成为了一种必要的选择。然而，随着DPU市场的竞争越来越激烈，这也为厂商和初创企业带来了更多的挑战和机遇。在未来，我们还需要探索更加有效的方式来利用DPU，以应对数据中心的不断变化和发展。题目：算力竞赛中，产能受限、DOCA生态未形成，对手们仍有机会？随着区块链技术的不断发展，比特币等数字货币的价值不断攀升，越来越多的人开始关注区块链领域的投资机会。而在区块链领域中，算力竞赛是一个备受关注的话题。各国、各企业之间的算力竞赛愈演愈烈，而在产能受限并且DOCA生态尚未形成的情况下，对手们并非毫无机会。

首先，我们需要了解什么是算力竞赛。简单来说，算力竞赛就是通过提高硬件设备的算力来获得数字货币的挖掘收益。而在当前的市场环境下，数字货币的价格处于高位，导致算力竞赛愈演愈烈。各企业纷纷加大投入，争夺数字货币的挖掘权。同时，各国政府也开始看重这一领域的发展，纷纷出台扶持政策，推动算力竞赛的发展。但是，产能受限和DOCA生态未形成，对手们仍有机会。当前，区块链技术对于算力的需求非常大，但是硬件设备的生产能力是有限的。因此，企业之间在争夺算力的同时，也面临着产能的瓶颈。而且，在DOCA生态尚未形成的情况下，数字货币的使用场景也比较有限，导致算力的价值无法得到充分体现。这就给了那些没有大量投入硬件设备的企业和个人一定的机会，通过其他的手段来获取数字货币的挖掘收益。那么，这些其他的手段是什么呢？首先，我们可以考虑购买数字货币，而不是通过挖矿来获取。

虽然购买数字货币需要一定的成本，但是相比于大量投入硬件设备来进行挖矿，购买数字货币的成本要低得多。其次，我们可以考虑加入矿池。矿池是由多个挖矿用户组成的一个网络，可以共同挖矿并分享收益。这样不仅可以降低个人投入的成本，还可以提高挖矿效率，增加收益。此外，我们还可以考虑参与数字货币的交易。虽然交易涉及到一定的风险，但是在合理的风险管理下，交易也可以成为获取数字货币的一种途径。综上所述，虽然算力竞赛愈演愈烈，但是产能受限和DOCA生态未形成，对手们仍有机会。我们可以通过购买数字货币、加入矿池以及参与数字货币的交易等方式来获取数字货币的收益。当然，这些方式也需要我们根据自己的实际情况进行选择和合理的风险管理。在未来，我们也希望有更多的企业和个人能够参与到DOCA生态的建设中来，共同推动数字货币的发展。最后，我想提出一个问题：对于算力竞赛，你有什么看法？你认为目前的算力竞赛是否合理？

在你看来，获取数字货币的收益应该采取何种方式？