LangChain将TypeSafe AI的Jev与Claude Sonnet 4.6、GPT-5.6等LLM评审器对比，覆盖准确性、重复性、延迟和成本。Jev直接返回Choice、Score等类型化结果，质量评分方差低92至913倍，平均每次调用0.00035美元、延迟0.44秒。另一个基于1000条Goodreads评分的口味预测测试中，Jev准确率略高于GPT-5.6，同时便宜53倍、快25倍，显示其适合扩大生产轨迹的在线评测覆盖。

MIT与Sakana AI提出SIFT，以快速树搜索让编码智能体迭代改进，并在正式基准运行前用LLM评审器筛掉低潜力修改，针对评测耗时这一主要瓶颈减少无效扩展。材料称其CPU时间仅为DGM基线的十分之一，o3-mini在Polyglot达到35.1%，所需扩展更少；采用Qwen3-30B完成一次搜索约花34美元。结果也显示成效高度依赖成对评审器质量，评审偏差仍可能限制最终改进。

FlashNorm针对RMSNorm算力占比低但频繁启动内核、搬运内存和等待所造成的实际延迟，提出权重折叠、延后归一化与消除冗余预归一化三种代数优化。一次解码中RMSNorm可能启动约33次，其中权重折叠可离线合并增益并兼容torch.compile与量化模型，完整延后路径则需要底层CUDA内核。团队还复盘了双CUDA流隐式汇合引发的竞态：后缩放读取未完成缓冲区，导致生成结果滞后一个Token并出现反向文本，显式事件等待后恢复正常。

FriendliAI提出面向Agent的推理云应优化完整任务耗时，而非单次请求延迟，因为规划、工具调用和观察循环会持续增长共享前缀，并产生数量不定的串并行调用。其演示中，GLM 5.2完成同类编码任务的可用质量接近Opus 4.8，成本约0.27美元，对比后者1.50美元，低约5.6倍。系统以Prefix缓存、KV缓存分层管理、缓存感知路由和Agent感知调度为核心，同模型端到端速度据称可提高约2倍，并支持API、专属端点和自有GPU部署。

Superlinked针对小模型集群提出拉取式队列架构，称传统推送式路由依赖略有滞后的工作节点状态，难以为大量短请求正确组批；其使用vLLM和SGLang路由器的实验中，GPU利用率仅约20%至30%。新系统由轻量网关将任务写入NATS JetStream，工作节点自行拉取并按成本预测组批，配合MessagePack传输多模态数据，并通过Rust边车连接PyTorch、Candle与SGLang运行时。该Apache 2.0方案称可使集群吞吐约翻倍，同时支持多模型装载与淘汰。

LlamaIndex联合创始人Jerry Liu宣布Parsebench，用统一基准比较超过100个文档解析方案，覆盖前沿视觉语言模型、开放权重视觉语言模型、传统OCR工具及开源解析器。该评测把模型式解析与专用工具置于同一测试范围，面向需要处理扫描件、表格、复杂版式和多模态文档的开发者提供横向选型依据。现有材料尚未披露具体榜单、数据集规模、任务拆分或各模型成本，因此当前最明确的新信息是评测覆盖面，后续结论仍需以完整方法和结果为准。

一名开发者开源约150GB的中亚语言与代码数据集，采用CC BY 4.0许可，覆盖吉尔吉斯语23GB、哈萨克语22GB、乌兹别克语7GB、塔吉克语7GB、俄语60GB、英语1.5GB，以及Python、C++、Rust和Go代码共20GB。数据以文本和JSONL格式组织，压缩后约27.7GB，便于通过Hugging Face分发。项目面向代码模型微调、技术翻译，以及1B至2.5B参数模型的持续预训练或从头训练，重点补足中亚低资源语言的技术语料缺口。

技术分析指出，常用嵌入模型all-MiniLM-L6-v2默认只接收256个WordPiece Token，并在sentence-transformers中静默截断，仍返回正常的384维向量，因此问题不易被发现。若RAG按字符数或cl100k_base切出较长文本，稀有词、标识符和代码经WordPiece拆分后可能大幅超限；作者的约600 Token分块中，约58%内容对检索不可见。建议使用与嵌入模型相同的分词器控制分块，将长度设在上限约80%，并在入库时加入溢出断言。

一项针对Llama 3 8B的小型受控实验发现，模型更像异常检测器，而非能稳定运用抽象语法规则的系统。面对虚构词构成的句子，它识别出66%的无效样本，却同时拒绝64%的有效样本，显示模型会把陌生性当作错误证据。在区分结构合法性与处理难度的测试中，它对有效和无效句子的拒绝率均为100%；隐喻类别比较任务中失败率为95%。作者据此建议评测加入改名、关系反转和非常规但合法结构，以检验规则能否跨分布保持，而不只统计熟悉输入上的答案。