Selu

Selu - 22

版本

  • 名称: Selu (GitHub)

  • 域: main

  • 起始版本: 22

  • 函数: True

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符自 版本 22 起可用。

摘要

Selu 接受一个输入数据（Tensor）) 并生成一个输出数据 (张量其中，缩放指数线性单元函数 y = gamma * (alpha * e^x - alpha) for x <= 0，y = gamma * x for x > 0，逐元素地应用于张量。

函数体

此操作符的函数定义。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

属性

  • alpha - FLOAT (默认值为 '1.67326')

    SELU 系数，默认值为 1.67326319217681884765625（即 float32 近似值 1.6732632423543772848170429916717）。

  • gamma - FLOAT (默认值为 '1.0507')

    SELU 系数，默认值为 1.05070102214813232421875（即 float32 近似值 1.0507009873554804934193349852946）。

输入

  • X (异构) - T

    输入张量

输出

  • Y (异构) - T

    输出张量

类型约束

  • T in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

Selu - 6

版本

  • 名称: Selu (GitHub)

  • 域: main

  • 起始版本: 6

  • 函数: True

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的操作符自版本 6 起可用。

摘要

Selu 接受一个输入数据（Tensor）) 并生成一个输出数据 (张量其中，缩放指数线性单元函数 y = gamma * (alpha * e^x - alpha) for x <= 0，y = gamma * x for x > 0，逐元素地应用于张量。

函数体

此操作符的函数定义。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

属性

  • alpha - FLOAT (默认值为 '1.67326')

    SELU 系数，默认值为 1.67326319217681884765625（即 float32 近似值 1.6732632423543772848170429916717）。

  • gamma - FLOAT (默认值为 '1.0507')

    SELU 系数，默认值为 1.05070102214813232421875（即 float32 近似值 1.0507009873554804934193349852946）。

输入

  • X (异构) - T

    输入张量

输出

  • Y (异构) - T

    输出张量

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

Selu - 1

版本

  • 名称: Selu (GitHub)

  • 域: main

  • 起始版本: 1

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: False

此版本的运算符自 版本 1 起可用。

摘要

Selu 接受一个输入数据（Tensor）) 并生成一个输出数据 (张量其中，缩放指数线性单元函数 y = gamma * (alpha * e^x - alpha) for x <= 0，y = gamma * x for x > 0，逐元素地应用于张量。

属性

  • alpha - FLOAT (默认值为 '1.6732')

    SELU 系数，默认值为 1.6732。

  • consumed_inputs - 整型 :

    传统优化属性。

  • gamma - FLOAT (默认值为 '1.0507')

    SELU 系数，默认值为 1.0507。

输入

  • X (异构) - T

    输入张量

输出

  • Y (异构) - T

    输出张量

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。