书接上回，用几块3000 元显卡手脚加快主力的一体机lissa_sex5 chaturbate，就能跑通 671B 的DeepSeek。

放在个把月前，你敢思象这么的场景么？

正在奉公称职，但愿有更各类化产物委用的一体机厂商们，pick英特尔锐炫™   显卡 + 至强 ®  W 处理器这套组合拳，首要原因就是它的资本照实诱东谈主——基本算是砍掉了一个数目级（下线不错甘休在 10 万元以内）。

其次就是这套组合也很能打，上头阿谁场景就是它现时的"标杆式"战绩。

这两点加起来就是"真香"定律的复现。

但别光说不练，这种极具性价比的一体机实测的体感到底怎样呢？

带着这个问题，咱们平直上手切身测试了一波。

举例咱们先用 QwQ-32B 离线气象下问了个经典题目：

9.9 和 9.11 哪个大？

从着力上来看，如果单东谈主使用，一体机的速率依然达到了32 tokens/s。

讲真，这个速率在体感上依然瑕瑜常 OK 了。

并且这还不是个或然事件，在雷同的情况下，咱们再问一个问题：

一个外星东谈主来到地球后等可能聘任以下四件事中的一件完成：

1，自我肃清；

2，永诀成两个外星东谈主；

3，永诀成三个外星东谈主；

4，什么齐不作念。

尔后每天，每个外星东谈主均会作念一次聘任，且相互之间互相孤苦。

求地球上最终莫得外星东谈主的概率。

雷同的，咱们不错看到输出速率依旧瑕瑜常的快。

而当同期使用东谈主数增多时，咱们作念了初步的筹谋，其每秒 tokens 的速率大致是这么的：

那么如果是地狱难度的671B DeepSeek R1，结果又会怎样呢？

毕竟即即是 Q4 量化版块，以往承载它的一体机资本动辄就要达到 200 万元。

请听题：

一个汉字具有独揽结构，左边是木，右边是乞。这个字是什么？只需答谢这个字即可。

如斯大体量的大模子，这种 10 万元级别的一体机依然不错达到 10 tokens/s 的速率。

天然体感上会以为稍慢一些，但够用却是确切。

并且有一说一，输出速率够快、时延够低、性价比够高，还只是这种英特尔架构一体机的优点的一隅。

在它的背后，还有易部署、易操作等特质。

那么为何基于英特尔的一体机不错作念到如斯物好意思价廉？

价低质优的一体机，是怎样真金不怕火就的？

正如咱们刚才提到的，10 万级别的一体机能有如斯实用质感，其要道就是英特尔的组合拳：

锐炫™   显卡 + 至强 ®  W 处理器。

当先咱们来看下这张英特尔锐炫™   显卡lissa_sex5 chaturbate。

它是英特尔专诚为 AI 和图形处理打造的高性能显卡，不仅游戏发扬亮眼，在 AI 推理、视频处理这些专科范围也很能打。

锐炫™   显卡罗致了最新的 Xe   架构，内置 XMX AI 加快引擎，提供渊博的 AI 加快才能，救援 Ollama 和 vLLM serving 等多种大模子主流框架，跑大模子推理不错说是系数莫得压力。

并且它还救援 TensorFlow、PyTorch 这些主流 AI 框架，搭配 OpenVINO ™   器具套件还能进一步优化性能，让 AI 任务跑得更快、更省资源。

锐炫™   显卡还有一个特质，就是相配符合角落筹谋——

锐炫™   显卡针对角落筹谋场景优化，提供低功耗（110-150 瓦）和小尺寸选项，救援 PCIe Gen 4 接口，并为角落应用场景甘愿五年产物供应和软件救援。

也正像刚才展示的那样，比如 DeepSeek、Qwen 这些开源模子，锐炫™显卡能直快责罚，尤其是救援多卡并联，2 卡、4 卡以致 8 卡齐能配，性能平直升起。

并且装载它的一体机不单是能手脚 AI 或大模子一体机来使用，有需求时还能用来践诺视频分析、8K 视频编解码、3D 渲染这些高负载任务，一机多用，性价比超高。

除了显卡除外，至强 ®  W 处理器，这块适用于责任站和 AI 一体机"性能怪兽" CPU，亦然一个要道点。

从算力层面来看，它最高 60 核的配置，搭配 DDR5-4800 内存和 TB 级内存推广，跑大模子、作念数据处理齐诈欺自由。

它内置的 AMX（高档矩阵推广）工夫，就算莫得孤苦显卡，也能加快中小范围参数的空话语模子推理，性价比亦然平直拉满。

至强 ®  W 处理器能与锐炫™   显卡搭档的原因还有它救援多显卡配置，领有多达 112 条 PCIe Lane，PCIe 5.0 通谈管够。

在此之上，英特尔还通过长入的筹谋架构和优化器具链，让锐炫™   显卡和至强 ®  W 处理器，阐述出了 1+1＞2 的着力。举例：

IPEX-LLM

专诚为大模子优化，救援 DeepSeek、Qwen、Llama 等主流开源模子，让 CPU+GPU 协同推理更高效。

OpenVINOTM   器具套件

优化 AI 推理，自动分派任务给 CPU 或 GPU，还能压缩模子，减少内存占用，提高速率。

oneAPI

长入编程模子，开拓者只需写一次代码，就能同期在 CPU 和 GPU 上运行，无须再为不同硬件适配发愁。

一言以蔽之，英特尔不错说是通过硬件协同 + 软件优化，让 CPU 和 GPU 不再是孤单的筹谋单元，而是高效配合的"黄金搭档"。

这也就不难联结为什么基于英特尔解决有蓄意的一体机，能够作念到如斯的价低 + 质优了。

实战：如安在英特尔架构一体机上玩转 DeepSeek

看过 Demo 演示和一体机先容，你可能会兴趣，假如现时就有契机拿到一台这么的一体机，该奈何用它把 DeepSeek 跑起来？

当先要配置系统环境，更新 GPU 驱动版块必不行少。

https://dgpu-docs.intel.com/driver/client/overview.html

主要框架是英特尔 IPEX-LLM 版块的 llama.cpp，

以 Linux 系统为例，IPEX-LLM llama.cpp portable tgz 包

在这个框架中，推选使用 GGUF 面目的模子，这里使用 unsloth 开源版原本证据。

开启末端后，输入以下敕令进入解压缩后的文献夹：

cd   /PATH/TO/EXTRACTED/FOLDER

要使用英特尔 GPU 加快，在运行 llama.cpp 之前，需要树立如下环境变量：

export   SYCL_CACHE_PERSISTENT=1

接下来，如果要运行的是 671B 版块 DeepSeek-R1，就要请出 FlashMoE 来襄助了。

DeepSeek-R1 基于 MoE 架构，其实满血版的激活参数仅约 37 亿，但如故需要完好加载系数模子，这亦然关于一体机来说最大的难点。

FlashMoE 是一款基于 llama.cpp 构建的敕令行器具，专为 MoE 模子进行优化，整合了至强 ®  W 处理器内置的 AMX/AVX-512 工夫和 GPU 加快库，进一步开释 CPU 与 GPU 的异构消逝才能，能在较低的硬件资本下获取更高的推理微辞量与更优的性能发扬。

在 llama.cpp + FlashMoE 组合加抓下，初步的性能考证标明，在单路至强 ®  W 处理器加 2-4 块英特尔锐炫™ A770 显卡配置下，本文所述有蓄意不错获取接近 10 Token/s 的性能发扬，已能餍足企业级生成式 AI，举例离线语音助手、文档概要等应用场景的需求。

总的来说，这套高度集成的软硬一体模式，既餍足了长险峻文推理需求，又杀青了能耗和资本的可控，为 AI 做事范围化落地提供了可靠且易用的基础设施。

同期，它能更好地餍足近期用户在 DeepSeek 或其他开源大模子试验中的进击需求，部署方式更活泼、更靠近业务环境，反应速率更快，还在数据安全和隐秘保护方面具有先天上风。

以上是针对 671B 版 DeepSeek 的部署方法简要先容，但实质上，蒸馏版凭借其精简而高效的特质，能够更好地贴合各行业的实质业务场景和需求。

蒸馏版和满血版的部署指南，齐可在英特尔华文臣网 ( intel.cn ) 搜索「锐炫一体机」获取。

它在大意这些行业的惯例任务时，不仅能够提供实足的处理才能和精确度，还能以愈加活泼和易于部署及适配的方式融入到行业的业务过程当中。

"低资本 + 高着力"的门道还在陆续

跟着 DeepSeek 的影响力连接扩大，大模子发展迎来了新的趋势：走向推理普及化。

在以往，算力大多被连合插足到模子熟谙中，但在改日，算力资源的分派将发生显耀滚动，更多的算力会被应用于推理设施而非熟谙。

△图源：IDC& 波澜信息

从应用场景和市集聘任来看，除了超大范围的数据中心依旧在大模子运算中上演要道变装外，一体机凭借其独到的上风，正成为越来越多企业的满意之选。

而在这个趋势之中，一体机的上风就在于"低资本 + 高着力"，具体而言：

当先，一体机启动资本低。与传统散播式树立组合搭建系统比拟，其在硬件采购、软件授权和开动配置等方面资金插足少，企业无需花普遍前期资金构建完好运作体系，能以较低资本开启业务或办公过程。

同期，一体机易于怜惜部署。其高度集成化联想优化硬件兼容性，减少硬件不匹配故障。普通怜惜中，其举座性强，便于工夫东谈主员进行故障排查和维修，提高怜惜着力、裁减难度。

此外，一体机可常驻用户办公与业务环境角落加快操作，在聚首数据起源和使用场景处运行，减少数据传输距离和时刻，裁减延长，提高业务处理速率和反应着力。

天然，一体机只是运行模子的硬件基础，从英特尔最近的动作看来，对接和推广更多接地气的 AI 应用才是下一步要点：

合资 Hugging Face、Anyscale、Zilliz 等 AI 行业合作伙伴推出的企业 AI 洞开平台   ( OPEA )  ，就是最佳的阐述。

怎样联结 OPEA？

当先，它提供了搭建大模子应用所需的零件，如教导引擎、数据处理、系念系统、安全护栏等通盘打包提供，解决生成式 AI 工夫的器具碎屑化问题。

然后，它如故一款评估和优化应用，能够从性能、信得过度、可推广性和弹性等方濒临 AI 应用进行 "体检"。以电商推选商品的 AI 应用为例，通过 "体检" 可对应用进行针对性的校正，使其更实用。

是以繁密合作伙伴加入，共建这个模式也就不奇怪了。

跟着越来越多的合作伙伴加入，OPEA 生态将连接发展壮大并滋生出各类化的发展旅途。

举例中国洞开智能筹谋产业定约（COIA）现时已汇注近 60 家成员单元，专注于鼓舞企业 AI 生态协同发展。该定约行将推出" Powered By OPEA "认证体系，旨在确保合作伙伴间 OPEA 生态的互联互通。

手脚业界首个企业级 AI 应用认证步调，该体系将成为 OPEA 生态的中枢保险机制，为通过认证的产物授予跨平台互操作性记号。

" Powered By OPEA "认证将促进 AI 产业生态的完善，加快企业 AI 步调化程度，并最终发展成为企业聘任生成式 AI 组件的紧要信任基准。

" AI 无处不在"的故事正抓续上演。

终末lissa_sex5 chaturbate，附上量子位完好实测基于英特尔解决有蓄意一体机的视频：