金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI开yun体育网

家东谈主们，你知谈近段时刻大火的各式大模子一体机，里面到底是什么卡吗？

信服许多小伙伴的第一反映，概况就是N卡。

但在咱们战斗、体验了实在的大模子一体机之后，发现了一个大写的“万万没念念到”：

没错，里面也不错是的锐炫™ 显卡！

那这性能到底能弗成跟上呢？

带着这个问题，在体验之余，咱们还“执”来了一个正在为这种一体机拓荒有揣测打算的软件公司进行了一番“究诘”。

这家公司叫飞致云，主要是把大模子一体机用在了自家的MaxKB上（一款基于大言语模子的问答系统）。

他们是把4张锐炫™ A770显卡和2张N卡放到一都，作念了一下对比测试：

关于吞并个相对规模较大的任务，搭载N卡的一体机约莫耗时半小时，而搭载锐炫™ A770显卡的一体机则需要50分钟。

但是！

买半张N卡的钱，就能简短责罚4张锐炫™ 显卡。

由此，飞致云给出了这么一个论断：

基于锐炫™ A770显卡的大模子一体机，在性价比上简直是太香了它卓著恰当30-50东谈主规模的团队来使用。

一个“性价比”关节词，谈破了为什么大模子一体机里面会出现英特尔游戏卡。

毕竟之前企业要独有化部署一个目下最流行的DeepSeek一体机，阿谁价钱然而动辄便破百万元。

但目下，英特尔靠着自家的游戏卡，把这个价钱径直就砍掉一个数目级。

因此，目下的大模子一体机，有了另一种更高性价比的选拔。

况且有一说一，除了一体机自己，要是聚焦在AI推理的任务上，目下不错说是处处都有锐炫™ 显卡的影子。

搞AI推理，请记着全新英特尔GPU+CPU组合

当先要阐明的小数是，搞大模子一体机，英特尔靠的不单是是自家游戏卡那么浅陋。

它的背后其实是一记组合拳的模式：

英特尔锐炫™ 显卡+至强® W 处理器。

锐炫™ 显卡在这里面的变装无用多说，主要是推理的“加快器”。

而至强® W 处理器不仅能充任“大脑”的变装，来精致通用考虑与系统妥洽，还能在一些开源软件平台，如KTransformer或英特尔我方拓荒的器具，如FlashMOE的匡助下，与显卡联接进行异构加快，举例在DeepSeek中承担一些疏淡MOE的处理事业。

为了充分施展锐炫™ 显卡的才气，英特尔通过优化显存带宽（如A770卡间通讯达20G/秒）和低时延本事（如内存拷贝优化），解决了多卡并行时的性能损耗问题，提高了混沌量（如70B模子扶持12路及时聊天）。

即便关于不同规模场景，英特尔也能作念到适配——从供AGI拓荒东谈主员使用的事业站（2卡）到装载4卡或8卡的大尺寸一体机，能得志各种化且各异化的需求。

举例咱们刚才提到的飞致云的MaxKB，在学问问答、智能客服、内容生成、文档合规查抄等场景中就收场了完毕提高、资本优化和风险截止。同期依托高性能硬件解决了AI模子独有化部署与算力需求问题。

除此以外，咱们发现还有好多企业都在选拔构建英特尔这对CPU与GPU组合的一体机系统、软件或全体解决有揣测打算。

超云，即是其中之一。

超云基于英特尔的平台，打造了三种不同形状的缔造。

举例稳妥泛泛办公环境的塔式事业站、微型液冷一体机，扶持包含英特尔锐炫™ 显卡在内的2-4张GPU卡。

再如最高可配8卡的大尺寸高端一体机，可入手32B-70B参数规模的大模子。

据了解，扫数这些机型都如故插足到了现实使用当中，主打：

企业里面AI助手：超云自身使用开源模子搭建学问库系统，收场自动化报价、报销审批；金融行业智能投顾：基于32B蒸馏模子，提供及时数据分析与投资提议；海量文档处理：使用智能OCR+大模子，收场公文自动存档与检索。

与之相似的还包括云尖。

它推出旯旮推理事业站，扶持4张GPU卡，适用7B-32B轻量化模子，不错得志文档OCR、智能质检等企业腹地化AI诈骗。

此外，如故pick英特尔平台的一体机解决有揣测打算还有许多，当年可能还会有更多，而如斯多合作伙伴的一致选拔，也就不难从侧面印证小数：

不论是单纯的AI推理诈骗，亦或是交融了推理及各式可视化出产力诈骗的复合场景，英特尔这套组合拳，毅然成为了一种业界公认的、高性价比的新选项。

一体机，为什么纷繁选拔英特尔平台？

自春节前DeepSeek-R1惊艳亮相，经过两个多月的千里淀，从行业落地情况来看，显然呈现出一个趋势：

越来越多的企业选拔以一体机的体式将DeepSeek融入业务。而这一趋势，也在影响其他大模子落地的“姿式”。

而部署速率快，恰是这一趋势得以率先裸露的原因。

一方面，获利于一体机开箱即用且便捷为各垂直行业深度定制化的特色，预装模子、优化软硬件协同，让企业无需自行复杂调试。

另一方面，启动资本低的上风让企业能先用一体机把大模子跑起来，再逐渐迭代。

虽然，关于繁密企业而言，在选拔一体机时，除了追求速率上风以外，现实上还有着更多深端倪、全标的的考量成分，这些成分详尽起来影响着企业的决策：

性能与资本更均衡，运营资本镌汰

一体机可收场性能与资本的精妙均衡，其凭借浩大高效的硬件建树和优化的软件系统，为企业提供踏实高效算力，得志业务需求，幸免使用云算力的连接用度，镌汰运营资本。

运维简化

传统IT系统由多种硬件缔造和软件系统构成，运维看管复杂繁琐，企业需插足多数东谈主力、物力和时刻进行装配、建树、选藏和更新。而一体机将软硬件深度集成为长入全体，简化了运维经由，企业长入看管选藏即可叮属业务需乞降本事挑战，运维完毕大幅提高，而看管难度和资本都权臣镌汰。

踏实可靠

对AI业务而言，联贯性和踏实性很垂危。一体机软硬件经严格集成测试与优化，能在复杂环境万古刻踏实入手。同期不错专机专用，幸免云服务在岑岭期酿成速率和可用性上的波动。

英特尔所推出的锐炫™ 显卡与至强® W 处理器的组合，恰是一套得志以上成分的极具后劲的解决有揣测打算。

像这么的建树，不光能够很好地扶持DeepSeek R1系列，同期还与Qwen、Baichuan、Llama等多个开源模子兼容适配。

这意味着在不同的诈骗场景和业务需求下，这个组合都能活泼叮属，为企业带来各种化的选拔和更丰富的功能体验。

这些选拔，这些体验，磋磨都唯惟一个，那就是AI普惠或者说AI无处不在。

站在历史的角度，一体机密承担的责任，恰是要将浩大的AI模子引入百行万企，这与考虑机从大型机时间发展至个东谈主考虑机（PC）时间的程度相似。

包括DeepSeek在内的大模子前沿革新企业选拔开源，是激励这一程度的起首，而通盘程度能否速即演进，就要靠全行业的共同参与了。

英特尔在此时，就像穿越回了上世纪80年代，当时它曾凭借敞开架构和高性价比有揣测打算再行界说了PC，并拉着寰球的合作伙伴们一手促成了PC信得过敬爱上的“个东谈主化”普及，而今，到了在AI寰宇复刻这一奏效陶冶的时候了。