Selu¶

Selu - 22¶

版本¶

名称: Selu (GitHub)
域: main
自版本: 22
函数: True
支持级别: SupportType.COMMON
形状推断: True

此版本的运算符自**版本 22**起可用。

摘要¶

Selu 接收一个输入数据（张量) 并产生一个输出数据（张量)，其中按元素将缩放指数线性单元函数应用于张量，y = gamma * (alpha * e^x - alpha) for x <= 0，y = gamma * x for x > 0。

函数体¶

此运算符的函数定义。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

属性¶

alpha - FLOAT（默认值为 '1.67326'）

SELU 的系数，默认为 1.67326319217681884765625（即 1.6732632423543772848170429916717 的 float32 近似值）。
gamma - FLOAT（默认值为 '1.0507'）

SELU 的系数，默认为 1.05070102214813232421875（即 1.0507009873554804934193349852946 的 float32 近似值）。

输入¶

X (异构) - T

输入张量

输出¶

Y (异构) - T

输出张量

类型约束¶

T in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

将输入和输出类型约束为浮点张量。

Selu - 6 对比 22

Selu - 6¶

版本¶

名称: Selu (GitHub)
域: main
自版本: 6
函数: True
支持级别: SupportType.COMMON
形状推断: True

此版本的运算符自**版本 6**起可用。

摘要¶

函数体¶

此运算符的函数定义。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

属性¶

alpha - FLOAT（默认值为 '1.67326'）

SELU 的系数，默认为 1.67326319217681884765625（即 1.6732632423543772848170429916717 的 float32 近似值）。
gamma - FLOAT（默认值为 '1.0507'）

SELU 的系数，默认为 1.05070102214813232421875（即 1.0507009873554804934193349852946 的 float32 近似值）。

输入¶

X (异构) - T

输入张量

输出¶

Y (异构) - T

输出张量

类型约束¶

T in ( tensor(double), tensor(float), tensor(float16) )

将输入和输出类型约束为浮点张量。

Selu - 1¶

版本¶

名称: Selu (GitHub)
域: main
自版本: 1
函数: False
支持级别: SupportType.COMMON
形状推断: False

此版本的运算符自**版本 1**起可用。

摘要¶

属性¶

alpha - FLOAT（默认值为 '1.6732'）

SELU 的系数，默认为 1.6732。
consumed_inputs - INTS :

旧版优化属性。
gamma - FLOAT（默认值为 '1.0507'）

SELU 的系数，默认为 1.0507。

输入¶

X (异构) - T

输入张量

输出¶

Y (异构) - T

输出张量

类型约束¶

T in ( tensor(double), tensor(float), tensor(float16) )

将输入和输出类型约束为浮点张量。