乖乖被拦下也得掏钱,Anthropic在深思熟虑啥?
最近,Anthropic可真是个“紧盯子”的家伙。想象一下,你正在跟你的朋友Claude聊天,结果他话还没说出口,就被一堵看不见的墙拦住了。然而,令人懊恼的是,墙后面居然悄悄生成了账单——是的,你没听错,从今天开始,即便请求被阻挡,账单依旧会照样飞来!这就像你忙着吃方便面,结果又被告知你还得交上方便面费。
不过,这种收费并不是随便来的。Anthropic设定了个“特窄范围”:生物学、蒸馏攻击,以及前沿大模型开发。听起来像是某种学术小组的聚会,实际上是为了对付那些心里打着小算盘的人。换句话说,我并不想委婉说,谁在故意试探我们的界限,你心里都有数吧?
过去,如果你的请求被Claude的安全措施挡下,可是好心的系统不收费。这对于偏正常的用户来说,简直是“好心人一箩筐”。可是对那些偏爱“摸鱼”的小伙伴来说,这就是条免费的无限试探通道,每次试探都不用花钱,一来二去,试探次数堪比排队买奶茶的人。现在,Anthropic可不想再当这种“无私的施舍者”。 开云官网
他们最近观察到了一些“协同攻击”,像是一群蜜蜂联合起来攻击它的蜂巢。因此,他们决定恢复收费,这其实不只是为了让攻击者掏钱。算是给你一个“小惩罚”,让攻击变得可以计算,怎么花、哪里花都能一清二楚。说不定哪天,连你送出去的请求都得跟你对账。
至于那三类“被重点照顾”的请求,Anthropic显然是有意而为。生物学问题是危险知识的边缘,蒸馏攻击是那些想通过大量请求窥探Claude能力的活儿,而前沿大模型开发,嗯,那就是竞争对手的“以此为借口”的行为。总之,这些请求大都是有备而来,完全是来一次不小心碰到的范儿。
支持这一做法的人心里明晰,安全措施是吃力不讨好的,拦住请求的“判断”也需要消耗算力——所以,收点钱也是正常的嘛。让攻击者每次试探都得掏钱,那些恶意流量的性价比自然降了下来。而这和不ا可否在分析之后,便能洞察那些正常用户和攻击者的行为模式。 开云官网
但反对者们可不乐意了,万一我正常询问了点什么的生物学问题,却被误判拦截,还得背上账单,白花钱不说,申诉还特麻烦。想知道自己为什么被拦都难。这样一来,会不会导致平台倾向于“先拦再说”,毕竟拦下来的请求也能赚钱呢?
我的看法是,这个收费的关键不在钱,真正在于那“低误报率”能否守住。如果Anthropic约法三章,专注于那三类请求,大概是考虑到误伤风险。毕竟,若一旦误伤扩大,这可是真正的信任危机。而为了让恶意攻击的成本上升,这是完全可以理解的——不过,光靠收费不能解决所有问题,真正挡住攻击的仍然是安全系统的智慧不是吗?
对于普通开发者来说,这条新规基本上没啥影响,除非你真的对生物学、蒸馏攻击等方面感兴趣,不然大概率不会被波及。不过要小心,那些对模型评测、能力对比的团队们,没准你们很容易就“被拦”了。 开云官网
最后,Anthropic至今没有阐明除了三类以外的请求收费问题,也没提供误伤申诉的详细路径。这两点决定了这条机制究竟是个“守护者”,还是个让人头痛的“收费小霸王”。