运行形态

先选运行形态:这个智能体跑在哪Pick the runtime tier: where your agent actually runsまず実行形態:このエージェントはどこで実行?

同一个任务,跑在云端、跑在自己电脑、跑在树莓派、跑在 GPU 集群,成本、隐私、能不能离线完全不同。工作台里先选这一档,规格和交付包就按这一档生成。The same job running in the cloud, on your own laptop, on a Raspberry Pi, or on a GPU cluster has very different cost, privacy and offline behaviour. Pick the tier first — the spec and the delivery package are built for it.同一タスクでも、クラウド、自分のPC、Raspberry Pi、GPU集群で実行すると、コスト、プライバシー、オフライン可否が大きく異なる。ワークスペースでまずこの形態を選択すると、仕様と納品パッケージがその形態で生成。

三问定档Three questions, one tier三問で形態決定

  1. 数据能不能离开你的机器?不能 → 本地小模型型。Can the data leave your machine? If not → local small-model tier.データが自分の機器から外部へ出せない?→ ローカル小モデル型
  2. 要不要断网也能跑?要 → 本地小模型型或小设备型。Do you need it to work offline? Then local small-model or edge tier.断網でも実行が必要?→ ローカル小モデル型または小機器型
  3. 每天要处理多少量?量很大且要并发 → 大设备型;量小、按次用 → 云端联网型。High volume and concurrency → big-device tier; occasional use → cloud online tier.毎日処理する量は?大量かつ同時実行→ 大機器型;少量、個別使用→ クラウド接続型
形态Tier形態跑在哪Where it runsどこで実行模型档位Model tierモデル形態联网要求Connectivity接続要件成本特征Cost profileコスト特徴
云端联网型Cloud onlineクラウド接続型自己的电脑或一台 VPS,模型调外部接口Your laptop or a VPS, model called over an API自分のPCまたは1台のVPS、モデルは外部API调用云端大模型(按次计费)Hosted large models, pay per callクラウド大モデル(使用量課金)必须联网Always online必須接続没有硬件投入,按次付算力No hardware cost, pay per useハードウェア投資なし、使用量でクレジット課金
本地小模型型Local small modelローカル小モデル型你自己的电脑(8–16 GB 内存)Your own machine, 8–16 GB RAM自分のPC(8–16 GB RAM)3B–8B 量化 GGUF(Ollama / llama.cpp)3B–8B quantised GGUF via Ollama or llama.cpp3B–8B 量化 GGUF(Ollama / llama.cpp)推理可离线,联网工具可选Inference offline; web tools optional推論はオフライン可,接続工具は可选一次装机,之后几乎零边际成本One-time setup, near-zero marginal cost一度設置,以後ほぼ零边际成本
小设备边缘型Edge device小機器边缘型树莓派 / Jetson / ESP32 级别设备Raspberry Pi, Jetson, ESP32 class devicesRaspberry Pi / Jetson / ESP32 級機器1B–3B 量化模型;ESP32 只做采集与触发1B–3B quantised models; ESP32 handles sensing and triggers only1B–3B 量化モデル;ESP32 は采集と触发のみ可离线,联网可选Offline capable, optional linkオフライン可,接続可选硬件便宜,功耗低,吞吐小Cheap hardware, low power, low throughputハードウェア安価,功耗低,吞吐小
大设备集群型Big device / cluster大機器集群型GPU 服务器或多卡集群(vLLM / SGLang)GPU server or multi-card cluster (vLLM / SGLang)GPU 服务器或多卡集群(vLLM / SGLang)7B–70B,高并发推理服务7B–70B served with high concurrency7B–70B,高并发推論服务内网或公网均可Private network or public内網または公网均可硬件与电费高,单次成本最低High fixed cost, lowest per-call costハードウェアと電気費用高,単次成本最低

云端联网型Cloud online tierクラウド接続型 最常用,起步首选most common, best starting point最常用,起步首选

硬件Hardwareハードウェア任何能联网的电脑,或一台 1–2 GB 内存的 VPSAny online laptop, or a 1–2 GB VPS接続可の任意PC,または1–2 GB RAMのVPS
模型Modelモデル外部模型接口(DeepSeek、OpenRouter 等),可换External model APIs (DeepSeek, OpenRouter…), swappable外部モデル API(DeepSeek、OpenRouter 等)(変更可)
工具Toolsツール联网搜索、读网页、读写文件、定时任务Web search, URL reading, file IO, schedulingWeb検索、Webページ読み取り、ファイル读写、定时タスク
成本Costコスト按次扣算力,10 算力起;没有硬件投入Per-call credits from 10; no hardware spend回数でクレジット消費、10クレジットから;硬件投入なし
⚡ FORGE 深建这一档⚡ Deep-build this tier with FORGE⚡ FORGE 深建

本地小模型型Local small-model tierローカル小モデル型 数据不出机器,断网可跑data stays home, runs offlineデータは機器外に出ず、断網でも動作

硬件Hardwareハードウェア8 GB 内存起步,16 GB 更稳;无显卡也能跑8 GB RAM minimum, 16 GB comfortable; no GPU needed8GB RAMから、16GBで安定;GPUなしでも動作
模型Modelモデル3B–8B 量化 GGUF,用 Ollama 或 llama.cpp 加载3B–8B quantised GGUF loaded by Ollama or llama.cpp3B–8B 量化 GGUF、Ollama 或 llama.cpp で加载
工具Toolsツール本地知识库检索、文档抽取、CSV 分析;联网搜索默认关闭Local KB search, document extraction, CSV analysis; web search off by default本地知識ベース检索、文形態抽取、CSV 分析;Web検索デフォルト关闭
成本Costコスト装机一次,之后只有电和时间Set up once; afterwards only power and time一度設置、以降は電気と時間のみ
⚡ FORGE 深建这一档⚡ Deep-build this tier with FORGE⚡ FORGE 深建

小设备边缘型Edge-device tier小機器边缘型 树莓派、Jetson、ESP32Raspberry Pi, Jetson, ESP32Raspberry Pi、Jetson、ESP32

硬件Hardwareハードウェア树莓派 4(4 GB)或 Jetson Nano;ESP32 只做采集与触发Raspberry Pi 4 (4 GB) or Jetson Nano; ESP32 does sensing and triggers onlyRaspberry Pi 4(4GB)或 Jetson Nano;ESP32は采集と触发のみ
模型Modelモデル1B–3B 量化模型;ESP32 上不跑大模型,只跑规则与传感器1B–3B quantised models; ESP32 runs rules and sensors, not a large model1B–3B 量化モデル;ESP32では大モデルは動かず、規則と传感器のみ
工具Toolsツール传感器读取、本地文件、轻量调度;重活交给上游机器Sensor reads, local files, light scheduling; heavy work goes upstream传感器读取、本地文件、轻量调度;重処理は上游機器へ
成本Costコスト几十到几百元硬件,功耗低;吞吐有限Tens to a few hundred yuan of hardware, low power, limited throughput数十〜数百元硬件、低功耗;スループット有限
⚡ FORGE 深建这一档⚡ Deep-build this tier with FORGE⚡ FORGE 深建

大设备集群型Big-device / cluster tier大機器集群型 多卡 GPU,高并发multi-GPU, high concurrency多GPU、高并发

硬件Hardwareハードウェア单卡 24 GB 显存起步(如 3090 / 4090),或多卡集群One 24 GB VRAM card (3090/4090) as a start, or a multi-card cluster単GPU 24GB VRAMから(例:3090 / 4090)、或多GPU集群
模型Modelモデル7B–70B,用 vLLM / SGLang 做推理服务7B–70B served with vLLM or SGLang7B–70B、vLLM / SGLang で推論服务
工具Toolsツール批量处理、多智能体协作、高吞吐流水线Batch processing, agent crews, high-throughput pipelines批量処理、多エージェント协作、高スループット流水线
成本Costコスト硬件与电费高;单次推理成本最低,适合长期大量跑High hardware and power cost; lowest per-call cost when running at volume硬件と電気費用高;単次推論コスト最低、長期大量実行向き
⚡ FORGE 深建这一档⚡ Deep-build this tier with FORGE⚡ FORGE 深建

混合形态:本地推理 + 联网工具Hybrid: local inference plus online tools混合形態:本地推論 + Web工具

多数真实场景不是纯云端或纯本地:模型跑在自己机器上(数据不出门),需要查价格、查新闻时才联网。工作台里选「本地小模型型」后,工具清单默认不勾选联网搜索;你可以逐条打开,每条动作都会记录在运行轨迹里。Most real setups are hybrid: the model runs on your machine so data stays home, and it only reaches the web when it needs a price or a news item. Choosing the local tier leaves web search unchecked by default; you can enable it tool by tool, and every action is recorded in the run trace.多くの実场景は純Cloud或純Localではない:モデルは自分の機器で動かし(データは外に出ず)、価格やニュース検索時だけWeb接続。ワークスペースで「ローカル小モデル型」選択後、工具リストデフォルトでWeb検索未勾选;個別に开启可,各動作は実行轨迹に記録。

← 回模板目录(可按形态筛选)Back to the template catalogue (filterable by tier)テンプレート目录へ(形態で筛选可)