Architect Financial Technologies于2026年10月8日发布Liquid Inference,这是一个面向大语言模型推理的实时竞价路由平台,开发者仅需替换API基础地址即可接入。
该平台采用交易所式双向报价机制,供应商对每个请求实时出价,买家按最低合规报价成交。系统支持设置单任务成本上限、首Token延迟及最低吞吐量等规则,并可开启Auto模式自动选择模型。Architect此前运营AX永续合约交易所,2026年5月收购美国指定合约市场以推进GPU算力期货上市。
Liquid Inference将金融交易所的实时价格发现机制引入AI大模型推理市场,推理成本有望通过供应商竞争进一步透明化。
来源:MarkTechPost
软盟资讯 news.softunis.com 7×24小时AI快讯
