登录

本地


分类

运行

但如果你平时只是使用ChatGPT、Gemini等云端AI工具,现在还没有必要为了本地运行一个大模型,就专门换掉手里的笔记本。
文章

对于一台能在本地运行大型AI模型的笔记本,一台最薄12.9mm,重约1.77kg的笔记本,这意味着即使离开电源,它还能继续承担一段时间的高负载计算任务。
文章

而在这台华硕ProArt创16RTXSpark上,多出来了一个Beta功能,我们可以直接下载并管理本地运行的AI模型。
文章

模型

Copilot也准备加入更多本地能力,在获得用户许可后,它可以读取电脑里的相关文件、执行系统操作,或者调用本地模型完成任务。
文章

在本地模型方面,微软也宣布为WindowsML引入llama.
文章

当前我们也可以通过LMStudio本地模型API的方式,将LMStudio内下载的本地模型,以API的形式加载到WorkBuddy内。
文章

所以,如果你每天都需要运行本地模型、开发AI应用,或者处理不方便上传云端的资料,这一代华硕ProArt创16RTXSpark笔记本电脑确实提供了一个值得考虑的新选择。
文章

未来随着软硬件的配合,以及当前开源模型超越闭源,且都在做更快更小的Flash模型趋势下,在WorkBuddy内可直接下载的本地模型也肯定不会只有这一个。
文章

点击下载之后,电脑会自动开始下载模型,并解决好本地部署对应的规则,我们只需要开启,并让它常驻后台,回到WorkBuddy的任务界面,就可以选择该本地模型进行对话。
文章

而现在,英伟达已经把一套能够运行大型本地模型、支持CUDA的计算平台,放进了一台不到1.8kg的Windows笔记本里。
文章

虽然在WorkBuddy内没有直接告诉我们这款本地模型是来自哪家模型厂商,但是和它简单的聊天,就能从模型的文件头部里找到相关信息。
文章

这款模型是腾讯优化过的本地模型,500亿参数的MoE模型,模型大小为16GB,使用CUDA13加速,在GPU上的推理速度能做到更加流畅。
文章

采用同样的方式,也可以将本地模型加载到其他你常用的Harness工具里,像是DeepSeekHarness。
文章

针对腾讯优化过的本地模型的能力,我们也能找到更适合这款模型的任务,配合WorkBuddy这套Harness的能力,一些日常的简单办公,像是数据分析、数据可视化、报告总结等繁琐型工作,都会有不错的表现。
文章

其它

Copilot也准备加入更多本地能力,在获得用户许可后,它可以读取电脑里的相关文件、执行系统操作,或者调用本地模型完成任务。
文章