Intel 跑步进入 AI PC 时代，13 代酷睿支持 160 亿参数大模型

据快科技 8 月 20 日报道，Intel 正在大力推动 PC AIGC 应用的落地，从硬件到软件提供全方位支持。目前在 PC 平台上，Intel 已发布的 12/13 代酷睿、Arc A 系列显卡，以及即将发布的下一代酷睿，都能满足 AIGC 对于高算力的需求。

Intel 13 代酷睿通过 XPU 加速、low-bit 量化，以及其它软件层面的优化，可以让最高达 160 亿参数的大语言模型，通过 BigDL-LLM 框架运行在 16 GB 及以上内存容量的个人电脑上。已经验证过的模型包括但不限于：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper 等，并通过 Transformers、LangChain API 接口支持 Windows、Linux 的操作系统。