对这个世界上大部分人来说本地跑一个模型的确没有啥用,但是这个世界上的公共可用模型们随着各个政府监管收紧在变得
1. 它无法给出“低道德但有效”的方案 2. 你没有真正的隐私
- 什么样叫“低道德但有效方案”:比如你驾照分被扣完了,照理说你得去重新学习,但低道德有效方案是去找当地的卖分黄牛帮你直接抵扣这些分数,但claude,gpt,grok不会教你/拒绝帮你找
- chatgpt,claude,grok这些AI都没有真正给与你“律师保密特权”,你寻求非道德但有效方案的聊天内容必然触发安全围栏>被缓存好几年
————————
但如果你没有闲钱,更理性的做法是租聘,你并不需要一台这样的mac才能跑很好的本地模型。
完全可以需要问ai一些东西的时候去vast.ai上临时租一台机器,即开即用,几十美元租一天