The Verge 编辑开始试用本地 AI 与自托管智能体

观点AI 评分 45/100The Verge
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

The Verge 评测者 Antonio G. Di Benedetto 撰文讲述自己开始日常使用 AI 的经历。他此前因不愿把最私密的数据交给云服务而犹豫,如今转向在本地运行模型。他提到 Apple 在新款 Mac 台式机宣传中强调本地 AI 能力,同时一批搭载 RTX Spark 的 Windows 新机即将上市,内存最高 128GB,面向智能体 AI。他正在测试 M5 Ultra Mac Studio,并在 Mac 与 Windows 系统上安装本地大模型,首先装的是开源 Hermes Agent——一个可自托管、支持 macOS、Windows、Linux 的桌面智能体应用,仅用本地模型时完全免费。他表示不会让 AI 代写、代编辑或生成传单,但希望借隐私优势尝试一些有用的杂活。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从云到本地的动机

文章作者 Antonio G. Di Benedetto 是 The Verge 的评测者,此前长期犹豫是否日常使用 AI,主要顾虑是把最私密的数据交给云服务。他注意到在本地运行能力较强的模型正变得越来越可行,于是决定亲自尝试,并把这个过程写成系列记录。他提出的核心问题是:这项技术是否足够有用,值得为一台拥有大量昂贵内存的电脑或笔记本投入大笔资金。他明确表示自己不是 AI 专家,这一系列更像是一段探索旅程,希望帮助读者判断是否值得走同样的路。

硬件与产品背景

作者提到,Apple 在新款 Mac 台式机的宣传中把本地 AI 能力作为重要卖点;同时一批搭载 RTX Spark 的 Windows 新机即将上市,内存最高可达 128GB,定位是运行智能体 AI。他把本地 AI 与智能体形容为当下热门方向。对他而言,一个只运行在桌上这台机器里、只听从自己而非 OpenAI、Google、Microsoft 或 Anthropic 的助手,与信任云服务或订阅聊天机器人是两种不同的体验。他也划清了界限:不会让 AI 代写、代编辑,也不会用它生成难看的传单,但有了隐私保障后,或许可以放心把一些有用的杂活交给它。

实际安装与测试

作为对 M5 Ultra Mac Studio 持续测试的一部分,同时也在其他 Mac 和 Windows 系统上做实验,作者安装了一些本地大模型并开始摸索。他第一步是在 Mac Studio 上安装开源的 Hermes Agent。据其描述,Hermes 是一个自托管的 AI 智能体桌面应用,可在 macOS、Windows 和 Linux 上运行;如果只使用本地大模型,它完全免费。文章在此处截断,后续的具体使用体验与遇到的问题尚未在给出的材料中展开。

为什么值得看

一位非 AI 专家的科技评测者公开记录本地 AI 上手过程,涉及具体硬件与自托管工具,对想尝试本地部署的读者有参考价值。

大模型智能体

信源1 家

  1. [1]The VergeLearning to use local AI is exciting, overwhelming, and frustrating

关键事实

  • The Verge 评测者 Antonio G. Di Benedetto 开始日常使用 AI,此前因隐私顾虑不愿把数据交给云服务[1]

  • Apple 在新款 Mac 台式机的宣传中强调其适合本地 AI,另有搭载 RTX Spark 的 Windows 新机即将上市,内存最高 128GB,面向智能体 AI[1]

  • 作者正在测试 M5 Ultra Mac Studio,并在 Mac 和 Windows 系统上安装本地大模型[1]

  • 作者首先安装的是开源 Hermes Agent,这是一个可自托管、支持 macOS、Windows、Linux 的桌面智能体应用,仅使用本地模型时完全免费[1]

相关 · 观点

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。