ZDNET 的主要要点
- 基于 Nvidia RTX Spark 架构构建的 PC 在 AI 任务方面表现出色。
- 运行本地开放权重模型没有按代币收费或使用限制。
- 运行本地人工智能模型的最大优势是隐私。
早在 PC 时代的初期，PC 杂志的传奇编辑 Bill Machrone 就提出了 Machrone 定律：“你想要的机器总是花费 5,000 美元左右。”也许由于当前的 RAM 危机，这个数字今天要高一些，但根据通货膨胀进行调整后，马克隆定律仍然成立。证据？我的办公桌上现在有一台价值 7,000 美元的笔记本电脑，我必须承认我真的， 真的 想要它。
另外：我对联想的 RTX Spark 笔记本电脑进行了一次完全疯狂的人工智能编码测试——它通过了
HP OmniBook Ultra 绝对是野兽。它由 Nvidia 的 RTX Spark 提供支持，具有 128 GB 统一内存、2 TB 快速 Gen5 NVMe 存储以及漂亮的 16 英寸 OLED 显示屏。它重近 5 磅，但与其说它是一台真正的便携式 PC，不如说它是一个个人数据中心，提供 1 petaflop 的 FP4 AI 性能。
我不是这台电脑的目标市场。但使用了几周后，我真的很受诱惑。对于人工智能相关的工作，其 GPU 的处理能力是普通 Copilot+ PC 的许多倍，并且能够充分利用统一内存。
本地人工智能如何快速完成我的项目
我的项目如此快完成的原因之一是我能够不间断地运行它。我最初使用 Copilot 来帮助我设置工作环境，使用开源 llama.cpp 推理运行时、开放权重 Qwen3.8-27B 大型语言模型以及名为 Cline 的编码工具（在 Visual Studio Code 中作为扩展运行）。在 Copilot 的额外帮助下，我配置了这些工具，为我想要的应用程序编写了详细的规范，将其提供给 Cline，然后大部分时间都站在后面观看。
我对所有这些组件的作用有一个很好的总体了解，但我需要花费数周的时间阅读、研究和手动安装试错才能完成所有设置并运行。使用 Copilot 编写的 PowerShell 脚本，我在半小时内启动了该项目。
随着项目的运行，我可以实时观察人工智能的“推理”。它经常要求我批准某些事情，但主要是编写代码、运行测试、观察结果、修改代码、运行更多测试等等。整个过程是“人机交互代理编码”的教科书示例，我所要做的就是经常检查一下，看看事情进展如何。
我知道它很忙，因为当法学硕士工作时，我可以听到房间另一边的风扇旋转的声音。令人惊讶的是，机器从未变得令人不舒服的热度。尽管如此，这种工作最好还是把笔记本电脑放在桌面上完成，而不是放在腿上。
另外：我可以免费远程访问我的家庭电脑 – 你也可以（不需要 VPN）
我给了法学硕士一份电子表格，其中包含我的文章的链接，这些文章是我在过去两年中精心构建的。它不仅找到并检索了该列表中的几乎所有文章，还构建了一个单独的例程，从互联网档案馆的 Wayback Machine 检索大约 90 个返回 404 错误的链接的页面，然后向我提供了一个列表，其中包含另外 90 个左右的页面，它根本无法检索。审查并解决最后一组问题大约花了 30 分钟。
总而言之，我有两个文件夹，每个文件夹包含 1,951 个文件 – 一组是原始 HTML，第二组是 Markdown 格式。最后，我让本地 AI 构建了一个简单的脚本，我可以运行该脚本在发布新帖子时将其添加到存档中。
我无法告诉你这个结果让我多么高兴。
花了多少钱？
整个项目使用了 479 个 LLM 推理调用并处理了近 5000 万个逻辑标记，总净成本恰好为 0.00 美元。
使用这些现代人工智能编码工具最令人沮丧的方面之一是无法估计它们将使用多少令牌。
我本可以使用商业人工智能订阅来完成这项工作，但我会盲目行事。出售这些计划的公司都无法告诉您特定项目的成本是多少。您的实际消费——以及最终的账单——取决于您无法提前知道的因素。代理需要在上下文中保留多少代码？需要多少次迭代和调试周期？您将使用哪些型号？
另外：Claude Code 使用消息线程真的更快吗？我在日志上做了数学计算
ChatGPT Plus（带有 Codex）、Claude Code Pro 或 GitHub Copilot 的费用都在每月 10 到 20 美元之间。这对于一个简单的任务来说已经足够了，但对于这个项目，我很快就会遇到这些入门级计划的使用限制。为了继续使用每月 20 美元的计划，我必须经常休息，或者购买额外的积分，或者升级到具有更高使用限制的每月 100 美元的计划，例如 ChatGPT Pro、Claude Code Max 或 GitHub Copilot Max。
看了这些数字后，我了解了 Anthropic、OpenAI 和微软的商业模式的发展方向。即使每月 100 美元，如果我决定运行一些更雄心勃勃的项目，我很容易就会发现自己的速度受到限制，工作必须等待数小时或数天，直到下一个周期开始。
对于认真的程序员来说，这些费用可能会非常昂贵。在 Nilay Patel 的 Decoder 播客最近一集中，分析师 Joey Brookhart 提供了一个令人震惊的统计数据：“前 5% 的 Claude Code 用户平均每年花费 18,000 美元。非 Claude Code 用户每月花费远低于 75 美元。”
现在我知道为什么了。
大家最大的好处
使用带有开源编码工具的免费开放权重模型可以让您自由地进行实验，而无需担心费用。但这只是故事的一部分。更大的好处是您不会将潜在的敏感或机密数据发送到其他人的云；借助完全本地的 AI 堆栈，您的提示、文档和推理工作负载根本不必离开 PC。
对于我的项目来说这不是什么大问题，因为它使用的内容已经发布到网络上。但我还有其他一些应用程序，在它们准备好之前我不想与其他人共享。其中涉及一大堆财务文件、信用卡对账单和发票。我很高兴将这些数据输入到我自己 PC 上的法学硕士中，但我不太愿意将这些文档上传到云托管编码服务。
另外：这个免费的 Windows 工具是我设置新电脑的秘密武器
我是否会做足够多的此类工作来证明花 7,000 美元购买一台 PC 是合理的？我很乐意说是，但我的注册会计师只会盯着我整整一分钟，然后耐心地解释“投资回报”是如何运作的。 “不，艾德，你不能证明这笔支出是合理的。”
好消息是，马克隆定律与摩尔定律相辅相成，摩尔定律描述了一个可靠的技术趋势：计算能力每 18 个月左右就会翻一番。这意味着再过三年，我就能以 7,000 美元的价格购买一台计算能力是其四倍的 PC。但到那时，像 HP OmniBook Ultra 这样的配置可能会成为主流的商务级机器，其价格仅为当前价格的一小部分。
在那之前，我会等待。
查看完整的简历
