首页

最近更新.rss.xml

仪表盘界面（可以实时看到当前并发和输出速率等信息）：
​ ​
​ ​
项目地址：https://github.com/2234839/llm_gateway ，使用bun构建的，可以在 https://github.com/2234839/llm_gateway/releases 中直接下载单文件使用
可以在这里一键启用和管理路由规则来切换不同的服务商，例如上图中只需要关闭第四条就会开始使用deepseek 而且不用重启claude code
还有一些神奇的用法，例如cc会将项目路劲拼在提示词中，所以这玩意还可以通过提示词匹配规则来做到公司的项目用公司的token，自己的项目用自己的token
如上图所示，只需要配置一个匹配包含图片的路由规则指向多模态模型就可以做到平时使用更好的glm5.1但是不支持图片输入，一旦粘贴图片，就立刻无感切换多模态模型处理
缺点:模型和服务商的切换会导致缓存命中率略微降低，但我实际使用中感觉也只是会低一点点
于是我萌发了做一个llm网关的想法，核心玩法是可以配置路由规则来根据请求动态切换服务商和模型。
我经常使用各类ai工具还有多个llm服务商的api，这导致我想要切换某个工具的模型非常麻烦，而且有些工具只支持 openai 风格的调用，有些工具只支持anthropic风格的，服务商也是，有些两种风格都提供了，有些是只有单一风格的。

最近实践

​note​ https://z2h.cn/hanzi 字帖生成网站，田字格
​note​ amd 利用 npu 的办法：https://ryzenai.docs.amd.com/en/latest/inst.html https://lemonade-server.ai/ https://github.com/amd/gaia?tab=readme-ov-file 主要还是 lemonade-server ，gaia 也是连接的 gaia （直接安装 gaia 会自动安装 lemonade-server
​好文推荐​ https://vue-bits.dev/ 非常绚酷的 vue 动画库
​好文推荐​ 浏览器插件开发最佳实践 https://wxt.dev/guide/installation.html
​ ​
ai时代一定是前端的时代！
我写这篇文章一是希望这些无良自媒体不要再贩卖焦虑了，二是希望各位前端兄弟坚定信心，ai应用的时代一定是前端的时代，claude、龙虾、所有ai时代的主流应用都是前端技术栈乃至衍生技术构建的，这些应用传统后端占比极小。
所以各位前端朋友，别看到“前端已死”就焦虑。我们只是站在这个时代的聚光灯下，每一道皱纹都被拍得清清楚楚。后端的兄弟们躲在暗处，秃了都没人发现。（开个玩笑😘，我前后端代码都写）
真要说 ai 取代，后端那些重复性的增删改查、配置编写、测试生成，一样在被AI吃掉。只是没人拍成短视频，没人写成爆款文，因为压根就爆不了。
前端焦虑年年有，年年上热搜。为什么？因为好看啊。一篇“前端已死”，配个AI生成网页的网址+精美图片，传播量分分钟十万加。你写篇“ai十分钟优化后端性能”，除了后端程序员谁会点进去看？
前端的困境被无限放大，后端的危机被默默消化——这不代表前端更危险，只代表​前端更上镜​。
我仔细的想了又想，这些自媒体一直发前端的文章说到底就是前端有视觉冲击力好吸粉，而后端呢，即便ai能全链路构建一个后端程序他截图什么东西给读者看？读者是怎么也感受不到ai对后端的完成度的，除非他真正用ai去写一个项目并上线。
但前端是不行的，必须要 “人在回路” 给ai不断的指手划脚（反馈各种细节等问题）
但凡真正用ai写过项目并上线的人都能感受到命名ai更擅长后端，从需求到测试agent完全可以闭环跑完全流程
我每次看到总想吐槽为啥不说后端已死，是看不懂后端代码吗
最近到处都能看到“前端已死”，“前端的工作真的快保不住了”之类的文章

测试

不过在 ai 的冲击下我也不确定能干多久，只能走一天是一天了，还好新公司的工作本身就是ai方向的，或许可以持久一些。
也碰到了一些朋友愿意给我提供一些机会和工作，非常感谢他们，最终碰到了现在的这家公司，老板愿意接受我远程工作方便在家里照顾母亲，并且工资也比之前高了几倍（当然工作量也是），非常感谢
我依旧非常感激我的老板，这期间还是非常支持我，这样治病一直到公司那边因为审计遇到了一些问题，我只能另寻出路，期间接过一些项目开发和驻场的工作，并且重新开始闲鱼上接单，但是可能因为 ai 这个时候开始能够真正的替代开发了，所以闲鱼没有之前那么好挣钱了。
另外国家的双通道政策在今年能够给予了我母亲一些报销，降低到每月需要花费六千左右，也非常感谢。
这份远程工作的工资也不高，难度也不大，非常传统的web开发，我非常感激这位老板能够为我提供远程工作，所以我一开始谈工资的时候我就给了他非常实在的价钱：六千，因为我只想够生活就行，并且我觉得能够信任并提供远程工作算是知遇知恩，而且我不想每天工作太多时间，如果要价太高我当时朴素的理念会去驱使我每天工作过长的时间，我不希望这样。
这或许是上天给我的一点偏爱，因为正是潘教授才能让我们当天检查当天住院，湘雅医院的床位确实非常紧张，这也同时意味着母亲的病情严重，非常感谢潘教授
于是我立马挂号了湘雅医院的潘频华教授的专家号，当时我并不了解任何医生，只是呼吸科只有他的专家号了，大抵是因为挂号费是300算是比较贵
到七月的时候母亲不适症状加重，但又说不出是啥问题，去乡镇医院治疗两周无好转，于是我强烈要求去市医院，市医院又是两周，医生说可能是间质性肺炎（这里非常感谢一位年轻医生和我直接说了还是去大医院检查，另外一位老医生可能也是出于某些考量说的比较模糊）
但天有不测之风云，2025年6月的时候我妈当时在家旁边不远的地方躺在地上，打电话叫我去扶她，那时候我的意识敏感度不够，我妈自己也是缓了一会儿后说没啥事情。
然后又是几周的检查，难以确诊，最后是花了几千寄送了检测样品到成都某公司检测确定是风湿免疫问题导致的间质性肺炎，然后转风湿科治疗...
治病期间种种不再赘述，最终结果是每月需要将近一万的治疗费用，但我只有几万块钱的存款。
一直到2024年7月在电鸭找到一份正式远程工作之前都是靠闲鱼挣钱，大概挣了三万左右，并不多但是工作量也不大，并且我确实对金钱不是很需要，够用就行
邵东这个地方的退伍费极低，我花钱不算大手大脚但也不会想着非常节约，所以很快钱不太够用了，电鸭上也一直没找到合适的工作，web3之类的我一直不敢碰，这时候的经济来源主要来自于我在闲鱼上给人写油猴脚本（感谢闲鱼，他是真的给流量啊，我都没投钱推广）
还记得这个时候是 chatGPT 刚刚震惊世人不久，但还没能完全做到辅助编程开发项目的地步
那段时间接触了 effect-ts 编程并加强了用 ts 作为主要技术栈的决心，并用它重构了我几年前写的将思源笔记发布为静态网站的 OceanPress ，期间还探索了非常多有意思的尝试，但基本都没能挣到钱。
所以，我当时想的是每月能挣几千块钱都完全足够了。
其实我并不想工作，只是热爱编程。但是生活所迫，还是需要一点钱。
然后基本在家里躺到了23年底，这期间也时不时整点开源项目，继续磨练技术，一直查看电鸭上远程方面的工作