Tag: Local-models
All the articles with the tag "Local-models".
想在本地跑 235B 大模型?先别急着买 192GB
Martin Weinberg 视频总结:本地 AI 拿 192GB 内存的六条路线——4 张二手 3090、DGX Spark、Strix Halo、双 Spark 直连。内存预算、预填充/解码速度、回本周期逐条对比,最后回答租还是买。
Pi:一个最小 agent harness,和我怎么把它跑在本地
Pi 1.2.0 的设计理念和架构:agent loop、JSONL 会话树、context 组装。记录本地部署、接 llama.cpp/Ollama 本地模型,以及 pi-web-ui 这个浏览器界面日常用下来的感受。