onnx.backend¶
Backend¶
- class onnx.backend.base.Backend[source]¶
Backend 是接收带有输入的 ONNX 模型、执行计算然后返回输出的实体。
对于一次性执行，用户可以使用 run_node 和 run_model 快速获取结果。
对于重复执行，用户应该使用 prepare，Backend 在其中完成重复执行模型的所有准备工作（例如，加载初始化程序），并返回一个 BackendRep 句柄。
- classmethod run_node(node: NodeProto, inputs: Any, device: str = 'CPU', outputs_info: Sequence[tuple[numpy.dtype, tuple[int, ...]]] | None = None, **kwargs: dict[str, Any]) tuple[Any, ...] | None[source]¶
简单运行一个算子并返回结果。
- 参数:
node – 节点 proto。
inputs – 节点的输入。
device – 运行设备。
outputs_info – 一个元组列表，其中包含每个输出的元素类型和形状。元组的第一个元素是 dtype，第二个元素是 shape。更多用例参见 https://github.com/onnx/onnx/blob/main/onnx/backend/test/runner/__init__.py
kwargs – 其他关键字参数。