/llmfit 模型推荐

使用 /llmfit 可以快速查看某个电脑配置适合运行哪些本地 AI 模型

当你准备下载或运行本地模型前,可以用它先比较模型选择

使用方式

按模型关键词搜索:

/llmfit qwen

按指定电脑配置查看推荐:

/llmfit ram 32 vram 12 cpu 12

同时指定硬件和搜索关键词:

/llmfit ram 32 vram 12 cpu 12 qwen coder

如果不填写硬件参数,机器人会使用常见家用电脑配置进行推荐

浏览结果

每条结果会显示常用模型信息,例如:

  • 模型名称
  • 适配等级
  • 分数和预估速度
  • 运行时
  • 建议量化格式
  • 预估内存和上下文长度

使用消息底部按钮可以切换:

  • 使用场景,例如编程、聊天、推理、向量、多模态或通用
  • 最低适配等级,从全部结果到更高适配等级
  • 结果分页

注意事项

  • 结果是模型推荐,不是安装教程
  • 更高的量化等级通常能保留更多质量,但可能需要更多内存
  • 如果搜索结果过期,请重新发送 /llmfit 命令