Nemotron 3.5 Bolt推出4位量化版本,特定配置下占用约4GB
作者:
小丢
更新时间:
2026-11-01 21:03
英伟达10月28日公布Nemotron 3.5 Bolt E4B 4GB本地模型版本。其4位量化版本在特定推理配置下,可将内存占用控制在约4GB,支持自然对话和多步骤智能体任务。实际占用会随上下文长度与推理配置变化。
这一版本面向RTX Spark、DGX Spark、GeForce RTX GPU和Jetson设备上的本地语音助手、游戏角色及嵌入式界面。
软件支持包括llama.cpp、vLLM、Ollama、Unsloth和LM Studio,模型还可与Hermes、OpenClaw配合,用于需要调用工具、连续完成步骤的智能体工作流。
面向更高要求的智能体负载,英伟达另提供Nemotron 3.5 Bolt 74B-A9B 24GB版本,专为RTX Spark上的本地智能体运行设计。
相关教程











