研究证明中转站可以被用来劫持你的 Agent,为此我们做了个检测工具 - V2EX
请不要在回答技术问题时复制粘贴 AI 生成的内容
cjtree04

研究证明中转站可以被用来劫持你的 Agent,为此我们做了个检测工具

  •  
  •   cjtree04 5 days ago 1220 views

    所有使用 api 中转站的人都应该去读一下这篇论文 arxiv 2604.08407 ,标题叫《 Your Agent Is Mine 》。

    核心结论大概是:如果你的 AI agent 经过一个被恶意控制的中间层(比如中转站),攻击者可以通过篡改响应来劫持 agent 的行为prompt injection 、目标替换、数据外泄,都在实验范围内。

    这不是理论威胁。现在用中转站调 API 的场景越来越多,尤其是跑 agent 任务的时候,请求链路里多一个中间节点,就多一个攻击面。

    我们之前内部就做过类似担忧,所以写了个检测工具 Probe ,专门测中转站的安全性。主要覆盖:

    • 响应是否被注入内容
    • 是否存在中间人篡改痕迹
    • 凭证是否有泄露风险
    • 模型是否与宣称一致(防止降级攻击)

    60 个检测项,本地运行,key 不离机。

    有用 agent 框架( LangChain 、AutoGen 等)跑任务、同时在用中转站的同学,建议跑一遍看看结果。

    项目地址: https://probe-dev.commonstack.ai/

    OnEvent
        1
    OnEvent  
       5 days ago via iPhone
    这个只能说比较鸡肋,中转站基本都是 newapi/oneapi/sub2api/cpa 或者他们的修改版,那旧是会过网关或者代理的,而且检测项里面很多其实都取决于这些中转工具对于协议的支持程度,但是你明明都知道这些是中转站,再测也没啥意义了。

    另外,我测了我司的 AI 网关,我很确定其没有做任何手脚,就是纯转发(因为基本是我做的)然后用了 CPA 作为订阅转 API 的工具,结果测试出来就是说我有代理+参数不支持,而且还说 4.5s 的延迟大,这个我都不知道咋测出来的,我自己本地测的内地客户端--海外服务器的全程 HTTP 延迟不会超过 500ms (走的阿里云 GA ),感觉还有优化空间
    About     Help     Advertise     Blog     API     FAQ     Solana     1069 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 53ms UTC 22:53 PVG 06:53 LAX 15:53 JFK 18:53
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86