Skip to main content

Command Palette

Search for a command to run...

拒绝被AI套牢:我是如何用自带密钥把推理成本压到零的

Updated
1 min read
拒绝被AI套牢:我是如何用自带密钥把推理成本压到零的

我拒绝每个月给AI公司送钱后,发现了一个更香的办法。

事情是这样的。前几个月不是AI火嘛,我也跟风搞了个小工具。刚开始一切美好——AI公司白给的免费额度跟不要钱似的。三个月后,免费额度用完了,我傻眼了:一个月200刀!还不够我一个人造的。

这哪是工具?这是个碎钞机。

我开始琢磨:能不能不花这冤枉钱?还真让我想出一个损招——BYOK(Bring Your Own Key,自带密钥)。

我的方案是这样的

我在工具里留了一个设置项:你想用自己的API Key?没问题,自己填进去。推理成本?用户自己扛。用户用得不爽,大不了换个Key,我反正一毛不拔。

但这里有个坑:如果用户Key填错了、超限额了,AI公司可不会惯着,直接拒绝服务。我可不想用户找上门来骂我。

所以我加了第二层保险——API熔断保护。什么意思?就像家里的保险丝,电流太大就自动跳闸。我设置了一个规则:每分钟最多50次调用,单日最多1000次。超过?对不起,服务暂保歇会儿。这下好了,再也不怕用户一个手抖把我搞破产。

效果怎么样

这么说吧。没用这个方案前,我每个月白送200刀,心在滴血。用了一周后,一查后台——0元。用户自己填写Key,自己承担费用,我还得分文不收。

最爽的是啥?用户反而更满意了。为什么?因为他们可以随便换Key啊。今天用OpenAI,明天换Anthropic,后天试试DeepSeek——自由度拉满。

现在我把这个方案开源了,放到GitHub上。谁想用自行取走,我就收个手续费29刀,永久买断。免费版?前500个文件随便玩。


rayslifelab.com

4 views

More from this blog

把家人照片传到云端AI到底有多危险?我在断网状态下用本地算力建了一个私密人脸库

上个月我干了一件让我后怕的事。 为了找去年春节拍的一张全家福,我把整个相册——包括孩子的、家人的、自己的几千张照片——一股脑丢进了一个"智能相册"App。它确实好用,输入"戴红色围巾的妈妈"秒出结果。 但第二天我看到一条新闻:某大厂被曝用用户上传的私人照片训练面部识别模型。 我的脸、我孩子的脸、我妻子的脸,全变成了训练数据。 那一刻我决定:再也不把照片传到任何云端AI了。 我的痛点:找照片是刚需,但隐私不能妥协 给家人找照片这件事,几乎每周都会发生—— "那张在海边的照片你还有吗?""去年生日那...

May 7, 20261 min read
把家人照片传到云端AI到底有多危险?我在断网状态下用本地算力建了一个私密人脸库

I Consumed AI Content for 2 Years. Then I Decided to Build Something With It

中文图文 我消费了两年 AI 工具后,决定用 AI 做点东西——然后做出来了 我大概在 2024 年初就开始用 ChatGPT 了。 那时候每天刷各种 AI 新闻、收藏教程、订阅 Newsletter,朋友圈分享 AI 工具的文章必点赞。我觉得自己很"懂" AI。 但有一天我仔细算了一下:两年来,我到底用 AI 做成了什么事? 答案是:0 件。 我让 AI 给我写过诗、润色过邮件、翻译过文档——这些有用,但它们本质上只是"用 AI 说话"。不是用 AI 做事。 我的转折点:那个我想解决的痛点...

Apr 28, 20261 min read
I Consumed AI Content for 2 Years. Then I Decided to Build Something With It
R

Ray's blog

18 posts