AI时代PaaS层的模式创新-智能体即服务（Agent as a Service, AaaS）

字节跳动飞连(Feilian)AI智能体零信任安全治理深度技术研究报告本报告不满足于罗列飞连“有哪些AI安全能力”，而是前架构、后内核地拆解:从飞连脱胎于字节11万人办公网(Sea1>飞连)的四可信底座与控制面/数据面分离设计，到2026年6月火山引擎Force大会发布的"1+3+N"AI办公安全体系--独立 Agent ID、Agent DLP全链路拦截、AgentDR四层检测，再下探到4件真实授权专利揭示的动态端口跳变 SPA、UDP-TCP双层单包授权、场景感知DLP等底层机制。

本文中 SysOM 为阿里云操作系统控制台运维组件。AI Profiling 作为 SysOM 中智算运维功能之一，主要聚焦 AI 作业的性能分析场景。该能力也是 SysOM 与阿里云可观测在智算/AI Infra 方向上的协同探索，结合阿里云可观测在指标、链路、日志、告警等方向的基础能力，以及 SysOM AI Profiling 在 AI 作业级深度诊断上的能力，共同帮助用户定位 GPU 利用率低、显存异常、通信长尾等问题。

体验过不同风格的 AI Coding 工具后，你是否曾想过拥有自己的 Coding Agent？特别在企业软件领域，复杂的业务上下文、工程环境与集成需求，使得定制专属的 AI Coding 平台，可能成为一项更具价值的长期能力建设。而且，这并不局限于编程。只要替换必要的技能和工具，同一 Agent 系统就能延伸到客服、运维、办公等更多业务场景。而定制的最佳方式是基于一个强大的 Harness 底座做扩展。本文将基于最近较热的三个开源 Harness：Pi、DeepSeek Harness、Codex

文章摘要 本文深入解析了LangGraph和CrewAI两个Agent编排框架的核心概念与技术特点。 LangGraph采用有向图状态机模型，通过State、Node、Edge三大抽象实现精确的流程控制，其特色功能包括： 使用Reducer函数解决并行输出合并问题 Checkpoint机制实现流程持久化和断点续跑 Interrupt机制支持人工干预和动态暂停 CrewAI则采用角色扮演团队协作模式，主要基于Agent、Task、Crew、Process四个核心概念构建多Agent系统，强调角色分工和自主协作

摘要：本文通过WorkBuddy制作季度复盘PPT的案例，分享如何深度利用AI工具提升PPT制作效率和质量。核心观点指出：优秀的PPT不是生成而是"想"出来的，需与AI协同完成三个关键环节——1.明确PPT类型（阅读/演讲/汇报型）和受众需求；2.六步工作法：素材盘点→问题聚焦→大纲构建→专家协同→规范执行→迭代优化；3.将成功经验沉淀为可复用的Skill模板。文章强调AI擅长信息整合与视觉呈现，但受众分析、内容取舍和现场呈现仍需人工判断，二者结合才能避免"AI味"的

Kubernetes 中 GPU 资源高效管理：DRA 与切分技术实战 摘要：本文探讨 Kubernetes 1.34 引入的 Dynamic Resource Allocation (DRA) 机制如何解决传统 device plugin 在 GPU 资源管理上的局限性。DRA 通过 ResourceSlice、DeviceClass、ResourceClaim 等核心 API 实现声明式资源分配，支持精细化的 GPU 切分策略。文章对比了 NVIDIA 的 MIG（硬件隔离）、Time-Slicing（

Higress 网关迎来多项关键更新：1. 首个支持 MCP 2026-07-28 无状态 HTTP Tools 协议的开源实现，采用请求级上下文替代会话机制，提升横向扩展能力；2. 全面支持 Kubernetes Gateway API v1.6 和推理扩展 v1.4，通过官方一致性测试；3. 新增 AI 负载均衡算法和插件版本管理，优化观测限流功能；4. 社区启动 CNCF 孵化申请，建立公开治理流程。版本 v2.2.4 包含 65 项生产优化，显著提升网关性能和协议兼容性。

阿里云STAROps平台聚焦AI原生运维的核心挑战：根因分析（RCA）的准确性。不同于传统以工具数量衡量的AgenticOps，STAROps通过统一对象模型（UModel）构建系统拓扑，结合动态调查图谱和RCA-Bench评估体系，实现跨域故障的精准定位。评测显示，其在数据库、节点等复杂场景中的根因识别准确率显著优于通用方案（综合分75.2 vs 51.0）。典型案例表明，STAROps能穿透表象链路（如前端告警实为底层节点故障），避免因错误判断导致误处置。该平台通过持续迭代机制，将生产环境反馈转化为能力

券商行业AI应用已进入比拼基础设施的阶段。尽管大模型技术日趋成熟，但金融机构面临四大核心挑战：信创环境算力支持、多模型统一运营、合规风控及业务系统调用效率。同花顺AI-Infra通过四大产品矩阵（AI-PaaS信创云平台、LLM-OPS模型管理、LLM-WAF安全围栏、AI-Gateway网关）构建完整解决方案，将私有云建设周期从1-2年缩短至1-2个月，并提供金融级合规保障。该体系已支持智能投顾、多业务协同等场景，帮助券商实现从“AI能用”到“AI好用”的跨越，其30年金融行业经验确保方案深度适配

本文探讨了当前各类Agent框架的核心协议对象与Runtime能力。文章指出，尽管框架名词各异，但生产级Agent系统需要解决的底层问题始终围绕任务生命周期管理展开。作者提出以Thread/Run/Step/Event/Artifact/Checkpoint这六个核心协议对象为主线，将Agent Runtime拆解为可协议化的稳定边界。 文章详细分析了执行模型、状态管理、中断恢复、工具协议等八个关键维度，指出工具层协议最可能先标准化，而Runtime Loop承载方式和多Agent协作模型将长期分层演进。作

为DeepSeek Harness（DSH）AI编码Agent提供全景可观测性的两种开源方案。DSH自身虽有完整日志记录，但需要Trace和Metrics来全面分析性能、调用关系和成本问题。阿里云可观测团队基于LoongSuite提供了两种方案：1）独立插件@loongsuite/dsh-plugin，可直接安装并发送OTLP数据到各类后端；2）LoongSuite Pilot内置的DSH集成，适用于多Agent统一观测场景。两种方案均遵循OpenTelemetry GenAI标准，但数据采集方式

NVIDIA KAI Scheduler是专为AI工作负载设计的Kubernetes原生调度器，解决了传统调度器在GPU资源管理上的不足。它基于kube-batch架构，支持Gang调度、GPU分片共享、拓扑感知调度等关键特性。KAI Scheduler通过层级队列实现多租户公平调度，并与HAMi-core集成实现GPU显存硬隔离。相比kube-scheduler和Volcano，它在AI场景下提供了更高效的资源利用率和调度能力，特别适合大规模分布式训练、推理训练混合部署等场景。

2026年，智能体身份成为云厂商核心产品能力，Google、微软、AWS、阿里云等纷纷推出解决方案，旨在解决智能体操作的企业系统权限归属问题。文章分析了智能体身份的四层管理对象（人的身份、智能体身份、运行实例身份和委托关系），梳理了行业三大技术路线（独立身份平台、运行时认证和跨应用授权），并提出了人机协同的授权链设计。企业落地需分三步走：建立智能体清单、改造凭证体系、完善运行时治理，最终实现可审计的双重身份验证和动态权限控制。文章强调，关键在于构建不丢失上下文的执行链，确保每个操作都能追溯责任主体和授权来源

本文探讨了多智能体系统（Graph Engineering）在复杂任务中的组织与实施。文章首先分析了基础协作模式（如顺序、动态分流、并行等），指出实际开发中复杂Graph往往是这些原子模式的组合。随后提出Graph Engineering需解决的关键问题：状态管理、不确定性与边界控制、容错恢复及可观测性。进一步对比主流开发框架（LangGraph、Google ADK等）的不同编排行方式，并讨论AI动态生成Graph的新趋势。最后强调不应盲目使用Graph，需根据任务复杂度权衡成本收益，选择最合适的方案——

本文系统阐述了Agent系统在业务场景中的评测方法论。区别于传统AI评测，业务Agent的评估需要超越文本生成质量，关注三大核心维度：一是全链路可追溯性，需记录从意图识别到工具调用的完整轨迹；二是业务合规性，包括政策遵守、权限控制和风险动作管理；三是系统可靠性，要求环境隔离、版本控制和回归测试。文章提出五层评测框架（任务集-运行器-环境-评分器-报告），强调必须建立硬性门禁指标（如审批触发、数据权限）与软性评分指标的分离机制。通过借鉴公开基准的设计思想，企业应构建

Google 发布的 Agent Skills 体系为核心案例，指出 Agent 从“Prompt 工程”走向“产品工程”的范式转变：把领域知识封装为可执行、可评估、可维护的技能资产，而不是靠不断加长的对话提示；其关键工程抓手体现在统一的技能仓库结构（如以 SKILL.md 定义合约、OWNERS 绑定责任、EVAL.yaml 规定验收）以及三层质量防线（CI/CD 检查、持续评估、所有权模型）。

本文通过实际操作展示了AI工具处理复杂财报文档的优化路径。作者以美的集团276页年报为测试样本，对比了直接解析PDF与启用TextInxParse结构化解析的差异。实验显示，TextInxParse能将多级表头、合并单元格、跨页表格等复杂结构转换为保留原始关系的Markdown/JSON格式，使处理时间从22分钟缩短至3分钟，且解析准确率显著提升。 在扩展到海尔、格力三家公司横向对比时，系统成功处理了图文混排、跨页表格等难点

阿里云AI网关推出智能路由功能，解决多模型场景下的选择难题。该功能通过任务适配、成本、速度等维度自动筛选最优模型，并确保多轮对话和Agent工具链的上下文连贯性。其核心流程包括任务识别、能力筛选、优化目标匹配，最终生成唯一路由决策。系统支持四种优化策略（均衡、成本、速度、质量），并针对独立请求、多轮对话、Agent工具链设计差异化路由节奏。该方案显著降低模型管理复杂度，用户仅需通过简单API调用即可启用，无需维护复杂配置逻辑。

RAG技术栈解析与企业级落地指南 摘要：本文深入剖析检索增强生成(RAG)技术栈，探讨其作为大模型落地关键技术的核心价值。RAG通过结合外部知识库检索与生成模型，有效解决大模型的知识时效性、领域专业性和事实幻觉三大固有缺陷。文章系统梳理了RAG技术架构的两大阶段：离线索引流程(数据加载→清洗→切分→向量化→存储)和在线服务流程(查询改写→检索→重排序→生成)，并提供了向量数据库选型对比与Embedding模型优化建议。针对不同规模企业，给出从原型验证到生产部署的完整方案，强调RAG与微调、Prompt En

本文介绍了基于 eBPF 和 Cilium 的 Kubernetes 网络可观测性与安全治理实践。主要内容包括： eBPF 技术原理：作为内核级可编程框架，eBPF 通过验证-编译-挂载机制实现安全高效的内核扩展，利用 eBPF Map 实现内核与用户态数据交互。 Cilium 架构：基于 eBPF 替代传统 iptables/ipvs，实现高性能 Service 负载均衡和基于身份的网络策略控制。 Hubble 可观测性：三级架构设计实现低开销的网络流量监控，支持 L3-L7 层协议解析和可视化展示。 T

随着大模型应用复杂度提升，单一网关已无法满足生产需求，需构建多层协同的网关体系。本文系统剖析六大核心网关：1）接入网关统一协议与安全策略，处理流式响应；2）鉴权网关实现多租户隔离与RBAC控制；3）模型路由网关智能调度多模型，平衡成本与性能；4）推理调度网关优化GPU资源分配，提升TTFT/TPOT指标；5）内容安全网关通过双引擎防御注入攻击与合规风险；6）流量治理网关实施精细化限流与成本控制。各网关纵向串联形成处理流水线，横向以安全与治理为主线贯穿全链路。

在大模型落地过程中，推理服务的稳定性、吞吐量和资源利用率是决定用户体验的核心指标。本文以生产环境实践为基础，详细拆解如何基于 KubeRay 与 vLLM 在 Kubernetes 集群上构建高可用的大模型推理平台，涵盖 GPU 精细化调度、三级弹性伸缩机制、PagedAttention 内存优化及全链路监控方案，力求为 AI Infra 工程师提供一套可直接落地的技术实现路径。

文章摘要 HxApisix是同花顺基于Apache APISIX开发的云原生API网关，专为应对微服务架构和AI Agent接入的挑战而设计。其核心架构采用OpenResty+Etcd+Kubernetes的技术栈，实现了高性能和热更新能力。网关最大的创新是MCP代理插件，能将REST API转换为AI Agent可调用的MCP协议接口，支持三种工作模式和双层认证架构。同时，HxApisix构建了金融级安全防护体系，包括多认证插件矩阵和智能反爬防火墙。该方案有效解决了协议转换、安全防护和流量治理等关键问题，

摘要： Apache Iceberg结合Spark Streaming构建Lakehouse实时数仓，解决传统Lambda架构的数据一致性与维护成本问题。通过Iceberg的三层元数据模型（Catalog→Snapshot→DataFile）实现隐式分区、Time-Travel和并发写入安全。利用Flink CDC 3.0整库同步能力，配置YAML实现Schema自动演进，优化Checkpoint策略平衡延迟与小文件问题。针对CDC场景采用Merge-on-Read模式，结合Spark Structured

云原生AI训练调度实践：Kubernetes+Ray+Volcano解决方案 摘要 本文介绍了Kubernetes、Ray和Volcano相结合构建云原生AI训练调度体系的工程实践。针对大模型训练中Kubernetes调度器的三大短板（缺乏Gang调度、拓扑感知不足、吞吐量低），提出Volcano+KubeRay的解决方案： 核心技术： Volcano提供Gang调度、网络拓扑感知和批量调度能力 KubeRay实现Ray集群在K8s上的自动化部署管理 关键特性： 确保分布式训练任务"全有或全无"的Gang调

2026年大模型技术发展呈现多路线并进态势：架构层面，MoE成为400B+模型标配，Token Dropless机制和精细化专家路由显著提升性能；Mamba-2通过SSD理论优化硬件利用率，与Attention混合的Jamba架构成为长序列处理新标准；MLA技术大幅压缩KV Cache。多模态领域，闭源模型在视频理解、OCR等方向差异化竞争，开源模型如Qwen3.5 Omni性能已达前沿水平，LLaVA生态持续繁荣。训练框架方面，Megatron、DeepSpeed、Colossal-AI等针对不同场景优化

文章摘要：GraphEngineering是近期AI工程界热议的概念，本质上是利用图结构（节点、边、状态）来组织多Agent协同工作。与早期的LangGraph相比，当前GraphEngineering的变革在于：组织对象从单一Agent的内部步骤转变为自主性更强的多Agent系统。其核心价值体现在处理复杂任务时实现职责分工（如研究/写作/审核角色分离）、并行处理、权限隔离和流程控制。虽然与LoopEngineering都涉及循环机制，但前者关注多Agent协作关系，后者专注单个Agent的持续行动。实际应

大模型推理架构正经历从PagedAttention到Prefill-Decode分离的演进。PagedAttention通过虚拟内存分页机制优化KV Cache管理，提升显存利用率；连续批处理动态调整请求，提高GPU使用率。而Prefill-Decode分离架构（如DistServe、Splitwise、Mooncake）进一步解耦计算密集的Prefill阶段与内存受限的Decode阶段，实现资源优化分配。生产实践中，vLLM的Wide-EP策略和DeepSeek的部署案例展示了这些技术的实际效果，推动推理

摘要： 本文介绍了基于阿里云AgentLoop平台的Skill评估与优化全流程实践，涵盖Skill创建、可观测接入、离线评估、BadCase分析和迭代优化的闭环体系。通过数据驱动方法，开发者可系统性地提升AIAgent技能质量： 创建与观测 Skill包含Prompt指令、工具调用规范、输出约束等要素，通过AgentLoop资产管理模块创建。 上线前接入可观测能力，实时监控调用量、成功率、工具调用链等指标，建立优化基线。 评估与优化 构建覆盖核心场景的评估数据集，运行多模型/框架的离线实验，从安全性、正确性

【摘要】AI应用开发者面临三大困境：模型成本不透明、主模型限流导致业务中断、多Agent入口混乱。百度智能云推出的AI网关Serverless新版通过统一流量入口，提供零成本起步标准版和进阶企业版，支持模型自动降级（AIFallback）和集中式Agent管理。即将上线的智能路由功能可自动选择最优模型，兼顾成本与性能，实现多模型统一调度。该方案无需改造现有应用，有效降低AI应用的运维复杂度与管理成本。