onnx.backend

后端

class onnx.backend.base.Backend[source]

后端是接收具有输入的 ONNX 模型、执行计算,然后返回输出的实体。

对于一次性执行,用户可以使用 run_node 和 run_model 快速获取结果。

对于重复执行,用户应该使用 prepare,其中后端会完成执行模型所需的所有准备工作(例如,加载初始化器),并返回 BackendRep 处理程序。

classmethod run_node(node: NodeProto, inputs: Any, device: str = 'CPU', outputs_info: Sequence[tuple[dtype, tuple[int, ...]]] | None = None, **kwargs: dict[str, Any]) tuple[Any, ...] | None[source]

简单运行一个运算符并返回结果。

参数:
classmethod supports_device(device: str) bool[source]

检查后端是否已编译并具有特定设备支持。特别是在测试套件中使用。

BackendRep

class onnx.backend.base.BackendRep[source]

BackendRep 是后端在准备重复执行模型后返回的句柄。然后,用户将输入传递给 BackendRep 的 run 函数以检索相应的结果。

run(inputs: Any, **kwargs: Any) tuple[Any, ...][source]

抽象函数。

设备

class onnx.backend.base.Device(device: str)[source]

描述设备类型和设备 ID 语法:device_type:device_id(可选)示例:‘CPU’,‘CUDA’,‘CUDA:1’

设备类型

class onnx.backend.base.DeviceType[source]

描述设备类型。

加载模型测试

onnx.backend.test.loader.load_model_tests(data_dir: str = '/opt/hostedtoolcache/Python/3.10.15/x64/lib/python3.10/site-packages/onnx/backend/test/data', kind: str | None = None) list[TestCase][source]

从磁盘数据文件加载模型测试用例。