专栏: 本地模型实践

共 7 篇文章

已发布文章

DGX Spark,把 AI 超算塞到桌面上
原创 人工智能 · 阅读

DGX Spark,把 AI 超算塞到桌面上

NVIDIA DGX Spark 是一台很容易被标题党误解的机器:它不是给普通人买来跑聊天机器人的玩具,也不是缩小版数据中心训练集群。它真正卖的是 128GB 统一内存、Grace Blackwell、NVIDIA 软件栈和桌面形态。

本地模型不是玩具:把 Qwen3 和 Gemma 4 放进三个真实工作流
原创 人工智能 · 阅读

本地模型不是玩具:把 Qwen3 和 Gemma 4 放进三个真实工作流

本地开源模型真正有价值的地方,不是跑分,而是能否进入每天都会发生的任务。本文把 Qwen3 4B、Qwen3 8B、Gemma 4 E4B、Gemma 4 12B 放进开发辅助、图像理解、写作整理三个工作流里,整理一套能长期演进的本地模型用法。

在本地开发机上安装可用的开源模型:先选对运行方式
原创 人工智能 · 阅读

在本地开发机上安装可用的开源模型:先选对运行方式

这是一篇持续更新的本地开源模型安装记录。从一台 64GB 内存、WSL 分配 32GB、RTX 4060 Laptop 8GB 显存的 Windows + Ubuntu 26.04 LTS 开发机出发,先判断 Ollama 应该跑在 Windows 还是 WSL,再比较 llama.cpp、LM Studio、vLLM 等方案,最后整理适合本机长期使用的模型清单。

gemma模型介绍
原创 人工智能 · 阅读

gemma模型介绍

关于gemma模型的一些简单介绍

本地简单使用gemma模型
原创 人工智能 · 阅读

本地简单使用gemma模型

按照官方文档,似乎需要通过docker运行gemma测试,但是实际上没有那么麻烦。

另有 7 篇未列入提纲的文章。