实例归一化

实例归一化 - 22

版本

此版本的算子自 版本 22 起可用。

摘要

执行论文 https://arxiv.org/abs/1607.08022 中描述的实例归一化。

y = scale * (x - mean) / sqrt(variance + epsilon) + B,其中均值 (mean) 和方差 (variance) 按实例和通道计算。

属性

  • epsilon - FLOAT (默认值为 '1e-05')

    用于避免除以零的 epsilon 值。

输入

  • input (异构) - T

    来自前一个算子的输入数据张量;图像情况下的维度为 (N x C x H x W),其中 N 是批大小,C 是通道数,H 和 W 是数据的高度和宽度。对于非图像情况,维度形式为 (N x C x D1 x D2 … Dn),其中 N 是批大小。

  • scale (异构) - T

    大小为 C 的输入一维 scale 张量。

  • B (异构) - T

    大小为 C 的输入一维 bias 张量。

输出

  • output (异构) - T

    与输入形状相同的输出张量。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型约束为浮点张量。

实例归一化 - 6

版本

此版本的算子自 版本 6 起可用。

摘要

执行论文 https://arxiv.org/abs/1607.08022 中描述的实例归一化。

y = scale * (x - mean) / sqrt(variance + epsilon) + B,其中均值 (mean) 和方差 (variance) 按实例和通道计算。

属性

  • epsilon - FLOAT (默认值为 '1e-05')

    用于避免除以零的 epsilon 值。

输入

  • input (异构) - T

    来自前一个算子的输入数据张量;图像情况下的维度为 (N x C x H x W),其中 N 是批大小,C 是通道数,H 和 W 是数据的高度和宽度。对于非图像情况,维度形式为 (N x C x D1 x D2 … Dn),其中 N 是批大小。

  • scale (异构) - T

    大小为 C 的输入一维 scale 张量。

  • B (异构) - T

    大小为 C 的输入一维 bias 张量。

输出

  • output (异构) - T

    与输入形状相同的输出张量。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型约束为浮点张量。

实例归一化 - 1

版本

此版本的算子自 版本 1 起可用。

摘要

执行论文 https://arxiv.org/abs/1607.08022 中描述的实例归一化。

y = scale * (x - mean) / sqrt(variance + epsilon) + B,其中均值 (mean) 和方差 (variance) 按实例和通道计算。

属性

  • 已消费输入 - 整数数组 :

    遗留优化属性。

  • epsilon - FLOAT (默认值为 '1e-05')

    用于避免除以零的 epsilon 值,默认值为 1e-5f。

输入

  • input (异构) - T

    形状为 NCHW 的四维输入张量。

  • scale (异构) - T

    大小为 C 的输入一维 scale 张量。

  • B (异构) - T

    大小为 C 的输入一维 bias 张量。

输出

  • output (异构) - T

    与输入形状相同的四维输出张量。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型约束为浮点张量。