攻击方就喜欢你这种思想，请看下面 2 个漏洞案例：
https://www.yiiframework.com/news/168/releasing-yii-2-0-15-and-database-extensions-with-security-fixes
https://github.com/yiisoft/yii2/issues/19755

作为初中就开始自学破解的人，一瞬间脑子想过 N 种方案，同时想到的是更多破解思路和技巧……我建议就是简单搞搞就行了，防盗版一般靠新功能迭代和售后维护这种策略。你看 IDA Pro 这种专业搞反编译的逆向软件，自己还是被破解了。

@cwcc 也就 ultra 系列的 mac 带宽是比得上显卡的，你买我不推荐，我买我真买……上个月买了个官翻的 192GB 的 m2 ultra ，就是为了本地跑大模型用的，价格也就 4.5w 还能 24 期免息，我还忘记叠加内部员工优惠不然还能再少几千，这样一轮下来还真的比 2 个显卡+其它硬件拼凑一台整机便宜而且省心。

你买 2 个 4090 也就 48GB 显存，一旦显存不够把模型层一部分卸载到内存就速度骤降，而且双卡通讯损耗也大，现阶段跑个 70B 规格 4bit 量化到头了，除非等 PowerInfer 支持多卡了看看效果。

4 个 3090 的话机箱大功耗高，更别说噪音了，而且也不知道显卡经历了几个哥布林窟，家用还是不太现实。

9 楼的举的极端场景就是我的真实案例，我就是拿来给上亿条文本做分类的，算完租卡费用和调用云 api 后发现，还是买个 mac 性价比最高，你要是没这种需求还是租卡好。

@cwcc 龟速，大模型很吃带宽，内存带宽现在一般是显存的 1/40 到 1/30 ，用 cpu 跑大模型瓶颈全在带宽上

客户端
https://lmstudio.ai/ 界面布局合理，功能也 ok 。
https://github.com/oobabooga/text-generation-webui/ 界面不太好用但功能丰富，适合丢公网加个密码访问。
都支持上下文不足被截断时那个 continue 继续续写，都支持多种显卡加速，都支持开 OpenAI 格式的接口方便你拿其它客户端去调用。

模型
https://huggingface.co/TheBloke 下载量化后的 GGUF 格式，一般看自己内存多大下载对应的规格，Q8 是损耗最小的但是最占资源速度也最慢，Q4_K_M 相对平衡。我现在喜欢下载 Q5_K_M 以上玩

设备
m2 ultra 76-core 192gb 官翻版

推荐模型
https://huggingface.co/TheBloke/Phind-CodeLlama-34B-v2-GGUF CodeLlama 的微调版，我拿来写代码还可以，Q4_K_M 规格量化速度 23token/s
https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF Mixtral-8x7B：混合专家模型，速度很快准确率也 ok ，Q4_K_M 规格量化速度 50token/s ，Q5_K_M 是 37token/s
https://huggingface.co/TheBloke/Yi-34B-200K-GGUF 零一万物，中文能力不错，有黄文的模型是基于它做的微调，而且有 200k 的上下文，Q8 规格 开启 20w 字上下文，内存不放模型占用 48GB ，内存也放模型占用 83GB ，真微服务的话整个服务丢进去问问题也可以
https://huggingface.co/TheBloke/vicuna-13B-v1.5-GGUF 刚出来的时候一鸣惊人，很小很强悍，中文能力也不错，能写黄文能写代码。


其它推荐
https://www.reddit.com/r/LocalLLaMA/ 上面玩本地模型的很多，讨论热度高。
https://github.com/SJTU-IPADS/PowerInfer 灵活使用 cpu 和 gpu 的内存，让更小显存的设备跑大模型有更快的速度，todo 里有多 GPU 和 M 系列芯片的计划，值得期待，我的 2 个 2080ti 22g 有望在今年跑 70B 规格嗖嗖快了。
https://github.com/ml-explore/mlx-examples 不喜欢跑量化的要满血的，可以用苹果的 mlx 框架来驱动模型，按说明先转换格式就可以跑起来了，我现在也期待其它客户端把它也整合进去。

@hancai 是的，报价里附带的服务器配置清单和参考价格，分分钟比系统还贵，直接劝退不少客户。

有的时候其实不是微服务和单体的事，而是你的项目的性能和资源消耗的问题。举个例子：
有的微服务项目，一个实例启动需要 2 核 4G 甚至 4 核 8G~16G ，但是能承载的并发只有 100 甚至 50 ；
有的微服务项目，一个实例启动需要 2 核 4G 甚至 1 核 0.5G ，但是能承载的并发有 500~2000 ；

一年下来的开销差异可不少，真的别吹内存不值钱了，在云服务上就是真的贵。反正我是见过一年 2000w 云服务支出，一小半支出在云服务商的数据库上，另外大部分的钱都是 ECS ，cpu 大量空闲时间但是内存水位常年 75%以上占用的，是什么语言为主大家都懂的，钱都花在刀把上了，现在就在那里开猿节流、降本增笑。

我站 Angular

yi-34B 确实不错,连训练黄文都用它做的基底.4bit 的量化下在 m2 ultra 上可以 1 秒跑 19~22token,大概占用 28G 显存.装个 lm studio 把一部分数据卸载到内存配合 cpu 跑的话,用 2080ti+5900x1 秒是可以 1.3 个 token 左右

调研过，用了就相当于回到 2017 年之前的 nodejs 还没到 8.0 lts(async/await 进入稳定版)前代码中的回调地狱，当然这个 async/await 也是抄 2012 年.NET Framework 4.5 的。所以一般也就面试问问看看是不是真的有人脑子抽了选型用这个。知道它能干嘛的，确实需要解决问题的，大概率也会换个语言把要做的事情做了。

方案一很勇哦,先想一想灰度方案怎么做,怎么样更新不会影响全租户,租户有没有数据库私有化的需求,有没有"坏租户"数据量过大拖垮整个数据库性能的风险

https://insomnia.rest/
https://www.usebruno.com/

git 友好的 http client

降本增笑，开猿节流😂

见怪不怪了,这种多漏洞的 web 应用,部署的时候都是前置一个网关放个 basic auth 或者扫码登录啥的,过了前置认证再进入真正的 web 应用,防止 0day 出来时直接被干

如果不肯把全部项目升级到统一版本,我一般就是去 https://nodejs.org/en/download 把各个版本的 zip 包下载解压到不同路径,敲命令时使用绝对路径的 node/npm

没啥意义，敢这么写的都让我打回去用正规 async function 写法了。
IDE 的坏味道告警出题人真不看是吧，async function 里面不用 await 的话，函数为啥不去掉 async 。
setTimeout 换成 const setTimeout = require('timers/promises').setTimeout 保平安。

以前面试 PHP 技术管理时，也碰到过 PHP 里类似题目，我就写了几个代码里出现能勉强容忍的，剩下的写"不回答，在团队里敢这么写的都会被打回去重写"。然后一面时告诉我，我的笔试题是历史上最高分的。

还有一种目的是防止从邮件原文的 ip 信息里抓到源站,然后导致源站被 DDoS

基础不牢看什么都是魔法，上抓包数据

减少用平台编写简历功能，每个公司投一个 pdf ，里面名字随机一下，比如投网易就吴彦易，投淘宝就吴彦宝，甚至可以做个表格记录一下映射，以后还能抓到有没有内鬼倒卖你简历。帮别人做背调时同理。