Enum TensorRtBuilderFlags

Namespace

JYPPX.TensorRtSharp

Assembly

JYPPX.TensorRtSharp.dll

Represents a TensorRT builder flag bitmask. 表示 TensorRT builder flag 位掩码。

[Flags]
public enum TensorRtBuilderFlags : uint

Fields

Bf16 = 131072

Represents the Bf16 value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Bf16 取值。

Debug = 4

Represents the Debug value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Debug 取值。

DirectIO = 2048

Represents the DirectIO value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 DirectIO 取值。

DisableCompilationCache = 262144

Represents the DisableCompilationCache value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 DisableCompilationCache 取值。

DisableTimingCache = 32

Represents the DisableTimingCache value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 DisableTimingCache 取值。

ErrorOnTimingCacheMiss = 65536

Represents the ErrorOnTimingCacheMiss value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 ErrorOnTimingCacheMiss 取值。

ExcludeLeanRuntime = 16384

Represents the ExcludeLeanRuntime value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 ExcludeLeanRuntime 取值。

Fp16 = 1

Represents the Fp16 value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Fp16 取值。

Fp8 = 32768

Represents the Fp8 value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Fp8 取值。

GpuFallback = 8

Represents the GpuFallback value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 GpuFallback 取值。

Int8 = 2

Represents the Int8 value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Int8 取值。

None = 0

No builder flags are enabled. 不启用任何 builder flag。

ObeyPrecisionConstraints = 512

Represents the ObeyPrecisionConstraints value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 ObeyPrecisionConstraints 取值。

PreferPrecisionConstraints = 1024

Represents the PreferPrecisionConstraints value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 PreferPrecisionConstraints 取值。

Refit = 16

Represents the Refit value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Refit 取值。

RefitIdentical = 1048576

Represents the RefitIdentical value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 RefitIdentical 取值。

RejectEmptyAlgorithms = 4096

Represents the RejectEmptyAlgorithms value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 RejectEmptyAlgorithms 取值。

SafetyScope = 256

Represents the SafetyScope value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 SafetyScope 取值。

SparseWeights = 128

Represents the SparseWeights value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 SparseWeights 取值。

StripPlan = 524288

Represents the StripPlan value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 StripPlan 取值。

Tf32 = 64

Represents the Tf32 value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 Tf32 取值。

VersionCompatible = 8192

Represents the VersionCompatible value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 VersionCompatible 取值。

WeightStreaming = 2097152

Represents the WeightStreaming value of TensorRtBuilderFlags. 表示 TensorRtBuilderFlags 的 WeightStreaming 取值。