苹果Harbor曝光:把多台Mac变成AI推理服务器? FIELD REPORT / 新闻中心
ARTICLE / 01

苹果Harbor曝光:把多台Mac变成AI推理服务器?

一台Mac跑大模型不稀奇,把好几台Mac凑成一台私有AI推理服务器,才是苹果正在琢磨的事。一款目前名为 Harbor 的应用,目标就是让这件事变得足够简单。 据Aaronp613在X上的说法,Harbor此前叫Fabric,作用是在Mac上搭出一个私有的AI推理服务器。它能在Mac本机运行开放权重模型,而且用起来相当友好。 友好到什么程度?安装几分钟就能完成,看起来不需要手动配置任何东西,也不用碰

拉霸360(LABA360)中文首页编辑部
559 阅读 约 5.5 分钟

一台Mac跑大模型不稀奇,把好几台Mac凑成一台私有AI推理服务器,才是苹果正在琢磨的事。一款目前名为 Harbor 的应用,目标就是让这件事变得足够简单。 据Aaronp613在X上的说法,Harbor此前叫Fabric,作用是在Mac上搭出一个私有的AI推理服务器。它能在Mac本机运行开放权重模型,而且用起来相当友好。 友好到什么程度?安装几分钟就能完成,看起来不需要手动配置任何东西,也不用碰命令行。模型的调度和管理由Harbor替用户处理。 这背后是Mac在AI研究里的角色变化。它已经是个有用的工具,但苹果显然想让它在本地跑大语言模型这件事上更进一步——前提是你手上的处理能力和内存足够。 数据留在本地,服务器搭建过程被压缩成几步点击,这套组合指向的是同一件事:让多台Mac协同承担推理任务,不再是一件需要折腾的工程活。 特别

about image
返回资讯列表
SHARE THIS STORY

觉得有用?分享给朋友

让更多人看到这篇内容。

MORE TO READ / 04

推荐阅读

查看全部