Delegate TensorRtOutputAllocatorHandler

Namespace

JYPPX.TensorRtSharp

Assembly

JYPPX.TensorRtSharp.dll

Handles copied metadata from a native TensorRT output allocator. 处理 native TensorRT output allocator 复制出的元数据。

public delegate bool TensorRtOutputAllocatorHandler(TensorRtOutputAllocatorCallbackRequest request)

Parameters

request TensorRtOutputAllocatorCallbackRequest

The pointer-free callback request. 无指针 callback 请求。

Returns

bool

true to permit a reallocation request; false to make the native allocator return null. The return value is ignored for shape notifications. 返回 true 允许重分配；返回 false 使 native allocator 返回 null。 shape 通知会忽略该返回值。