Runtime 分发策略说明

当前规则

runtime 包必须显式绑定 TensorRT / CUDA / cuDNN 的 major.minor 组合：

  • TensorRT：例如 trt10.11
  • CUDA：例如 cuda12.9
  • cuDNN：例如 cudnn9.22

示例 runtime key：

  • win-x64-trt10.11-cuda12.9-cudnn9.22

示例 package id：

  • JYPPX.TensorRT.CSharp.API.Runtime.win-x64.trt10.11.cuda12.9.cudnn9.22

完整 vendor patch/build 版本保留在 manifest 与文档中，不进入 NuGet 包名。

Windows runtime 矩阵

当前 Windows runtime 包目标：

  • win-x64-trt8.6-cuda11.8-cudnn8.9
  • win-x64-trt8.6-cuda12.1-cudnn8.9
  • win-x64-trt10.11-cuda11.8-cudnn8.9
  • win-x64-trt10.11-cuda12.9-cudnn9.22
  • win-x64-trt11.0-cuda12.9-cudnn9.22
  • win-x64-trt11.0-cuda13.2-cudnn9.22

CUDA 12.9 当前已安装。所有目标为 cuda12.9 的 runtime 包现在必须使用 CUDA 12.9 构建和验证；之前的 CUDA 12.3 临时 fallback 已废弃，不能再用于 local-validated 结论。

当前 Windows package-consumer readiness：

  • win-x64-trt10.11-cuda11.8-cudnn8.9：package consumer smoke 通过。
  • win-x64-trt10.11-cuda12.9-cudnn9.22：package consumer smoke 通过。
  • win-x64-trt11.0-cuda12.9-cudnn9.22：package consumer smoke 通过。
  • win-x64-trt11.0-cuda13.2-cudnn9.22：2026-06-14 已完成完整 split 组件包与 collection 包本地打包，restore/build/native-copy 通过，native asset patterns 为 19/19；但 CUDA 13 runtime/builder smoke 可用前 readiness 保持 blocked。

Linux runtime 矩阵

Linux package key 与 Windows 保持同一 major.minor 矩阵：

  • linux-x64-trt8.6-cuda11.8-cudnn8.9
  • linux-x64-trt8.6-cuda12.1-cudnn8.9
  • linux-x64-trt10.11-cuda11.8-cudnn8.9
  • linux-x64-trt10.11-cuda12.9-cudnn9.22
  • linux-x64-trt11.0-cuda12.9-cudnn9.22
  • linux-x64-trt11.0-cuda13.2-cudnn9.22

当前阶段暂不继续深挖 Linux 打包。Linux 组合保持 dry-run-only，等待后续真实 Linux x64 runner 验证。

分发策略

当前建议：

  • TRT8 Windows 包可作为公开预览候选，但正式公开前仍需复核 NVIDIA 再分发许可和 NuGet.org 包体积限制。
  • TRT10 Windows 包更适合私有源或 split-delivery，因为 builder resource、plugin、parser 等资产体积较大。两条 Windows TRT10 package-consumer smoke 路径均已有 2026-06-12 本地证据。
  • TRT11 Windows CUDA 12.9 当前作为私有源候选，已有 package-consumer smoke 证据；Windows CUDA 13.2 在 driver/runtime-compatible smoke 可用前保持 blocked。
  • Linux 包保持 dry-run 候选，等待真实 runner 验证。

nuget.org 大小边界

nuget.org 单个包大小限制约为 250 MB。v4.0.6142 Windows split runtime Release assets 当前共有 32 个 .nupkg，其中 17 个超过 250 MB，最大包约 1225.88 MB。因此：

  • JYPPX.TensorRT.CSharp.API managed 包可以发布到 nuget.org。
  • 体积较小的 Bridge 和 collection 包可以在需要时发布到 nuget.org 或 GitHub Packages。
  • CUDA/cuDNN/TensorRT vendor 组件包多数不适合 nuget.org；如果需要 NuGet feed 自动 restore，应优先放 GitHub Packages；如果可以直接下载 .nupkg 文件，则可以保留为 GitHub Release assets。
  • GitHub Release assets 不会被 NuGet restore 自动查询。vendor 包只放 Release 时，验证和用户消费前都需要先把匹配 .nupkg 下载到本地 package source。
  • 后续如果只修改本地 C ABI bridge 或 C# wrapper，重发 Bridge、collection 和 managed 包即可，不需要重发 CUDA/cuDNN/TensorRT vendor 包。

工程规则

pack/runtime/runtime-packages.manifest.json 中每个 runtime 包必须记录：

  • tensorRtVersion
  • cudaVersion
  • cudnnVersion
  • cudnnMajor
  • distributionTier
  • validationState
  • distributionNotes

校验规则：

  • runtime key 和 package id 必须包含 TensorRT / CUDA / cuDNN 的 major.minor 片段。
  • 完整 vendor patch 版本只写入 manifest 和文档，不进入 package id。
  • CUDA 12.9 目标包只有在确实使用 CUDA 12.9 工具链和匹配 TensorRT/cuDNN 资产验证后，才允许标记为 local-validated。
  • private-feed 和 split-delivery readiness 必须要求 local-validated；pending-local-validation 和 dry-run-only 必须保持 blocked。
  • NVIDIA 二进制依赖不能提交到 Git。

相关脚本：

  • eng/Validate-RuntimeManifest.ps1
  • eng/Validate-WindowsRuntimeInputs.ps1
  • eng/Collect-RuntimeAssets.ps1
  • eng/Export-RuntimeDistributionReport.ps1
  • eng/Export-RuntimeDeliveryStrategy.ps1
  • eng/Test-RuntimePublishReadiness.ps1
  • eng/Export-ReleaseCandidateChecklist.ps1

Runtime 组件拆分

split runtime 模型适用于体积较大、或者不应跟随 managed 代码频繁重发的 Windows runtime 组合：

  • Bridge：本地 C ABI bridge。只有 native wrapper 代码变化时重发。
  • CudaCudnn：CUDA runtime 和 cuDNN 资产。只有 CUDA/cuDNN 依赖集合变化时重发。
  • TensorRtRuntime / TensorRtExtensions / builder-resource 包：TensorRT 资产。只有 TensorRT 依赖集合变化时重发。
  • collection 包：保留原始 runtime package ID，用来声明一组已验证的组件版本组合。

managed 包可以和这些 runtime 组件包独立发版。这样 C# API 的日常改动保持小包发布，同时 runtime 组合仍然可复现。

Edit this page