英特尔新 Windows 应用能本地跑 AI 聊天机器人

英特尔最近为其最新的酷睿 Ultra 200V 系列处理器更新了其 AI 游乐场应用程序,增添了新的特性和功能。这是一个能让您在个人电脑上直接尝试 AI 和机器学习任务的一站式平台。

最新版本的 AI 游乐场(v1.21b)为酷睿 Ultra 200V 系列处理器带来了一个新主题。它还包括一个预先填充的大型语言模型选取器,其中有像 Phi3、Qwen2 和 Mistral 这样的大型语言模型(LLM)。然而,只要用户自己的原生 PyTorch LLM 与 Transformer 4.39 版或更高版本兼容,就仍然可以使用。AI 游乐场还支持整合本地文档来进行搜索、总结和获取洞察。用户可以从 CivitAI 和 Huggingface 等平台下载替代模型。所有的 AI 计算、提示和输出都在用户计算机本地进行处理,而非在云端处理,从而增加安全性。

在“创建”和“增强”功能中,这一变化使得在生成图像时获取所需的像素数量和形状变得更简单。还有一个很酷的新增功能,那就是会话管理器,它允许用户保存他们的聊天讨论,并在以后返回特定主题。这样,如果您需要它在一段时间内专注于某一件事,就不必进行全新的聊天或试图让人工智能处于相同的思维空间。此功能保存对话历史,有助于像编码或创意写作这类项目的连续性。

安装程序已得到改进,其安装过程变得更加顺畅。现在它包含了 VC++ 可再发行组件安装程序,用于解决缺少 DLL 的问题,并且会调整至一个空闲端口。这能够防止与现有应用程序或服务产生冲突。还添加了一个异常处理程序,用以提供有关安装问题的信息,同时方便支持请求。

LM Studio 对于那些想要 AI Playground 的替代品 的人来说是个不错的选择,特别是对于那些在意隐私和本地处理的用户。与针对配备 Arc GPU 的英特尔 PC 做了优化的 AI Playground 不同,LM Studio 可以在更广泛的 Windows 机器(以及 Mac 和 Linux)上运行。这使得具有不同硬件配置的用户都能使用。

更新后的 AI 乐园可以从英特尔网站进行下载。它能在配备了内置英特尔锐炫 GPU 的英特尔酷睿 Ultra PC 系统,或者配备了 8GB 内存的英特尔锐炫独立显卡的系统上运行。