主题总数 79
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
 |
gemini-exp-1206 vs gemini-2.0-flash-thinking-exp-1219 reaCodes • 1 天前 • 最后回复来自 mumbler | 3 |
 |
如何根据微信聊天记录,训练出一个自己语气的机器人对外使用 ggbond2233 • 11 天前 • 最后回复来自 manbamentality | 3 |
 |
cursor 搭配上自己的 openai apikey 实现的是完整功能吗？ idblife • 6 天前 • 最后回复来自 PlusW | 6 |
 |
通过雷电网桥连接三台 Mac（m1p/m2/m4）测试 Exo cluster 运行 Qwen 2.5 Coder 32B 结果 huaweigg • 11 天前 • 最后回复来自 huaweigg | 2 |
 |
有同时支持 openai 和本地模型的客户端吗？ frankyzf • 11 天前 • 最后回复来自 jifengg | 2 |
 |
基于内部知识库管理，创建问答机器人 skykk1op • 12 天前 • 最后回复来自 Barhe | 1 |
 |
Mac 上 VS Code 使用什么插件可以使用 Ollama 本地模型？ adrianzhang • 12 天前 • 最后回复来自 adrianzhang | 7 |
 |
离网 Centos 服务器部署 Qwen-2.5-Coder leoSup • 14 天前 • 最后回复来自 dcdlove | 6 |
 |
Llama 3.3 70B Livid • 13 天前 • 最后回复来自 beginor | 21 |
 |
Qwen2.5 72B 是最好的本地代码补全模型 Leon6868 • 16 天前 • 最后回复来自 pakro888 | 15 |
 |
关于运行 Lightrag 官方示例报错的问题 mdb • 20 天前 • 最后回复来自 Xs0ul | 1 |
 |
8x4090 离线部署 Qwen2.5 求助 fid • 20 天前 • 最后回复来自 fid | 40 |
|
exo + MindMac = 完全跑在 localhost 上的接近 ChatGPT 的体验 Livid • 13 天前 • 最后回复来自 Livid | 15 |
 |
买丐版 Mac Mini M4 用来搭本地大模型的，是不是伪需求 yavdein • 25 天前 • 最后回复来自 yavdein | 16 |
 |
本地模型如何优化"大"文件？ ttut • 31 天前 • 最后回复来自 zachariahss | 1 |
 |
推荐一个最近很喜欢的自部署书签管理 Hoarder ychen997 • 33 天前 • 最后回复来自 mooyo | 1 |
 |
mac 有什么方案本地跑 ai 字幕 Jaie • 32 天前 • 最后回复来自 qbmiller | 9 |
 |
各位的 m4 设备都陆续到货了，能否跑一下 ollama/llama.cpp ，看看大模型这块的算力究竟比 m1 max m2 ultra ， 提升有多少？ beginor • 3 天前 • 最后回复来自 hongjic93 | 24 |
 |
体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 ShadowPower • 37 天前 • 最后回复来自 yanyuechuixue | 98 |
 |
Apple 统一内存适合运行 LLM？理想很丰满，现实很骨感 hjc4869 • 40 天前 • 最后回复来自 Donaldo | 7 |
第 1 到 20 / 共 79 个主题
40 人收藏了这个节点
Select Language