Dropout

Dropout - 22

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 自版本: 22

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符已自版本 22 起可用。

摘要

Dropout 接收一个输入浮点张量，一个可选的输入比率（浮点标量）和一个可选的输入训练模式（布尔标量）。它产生两个张量输出，输出（浮点张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为真，则输出 Y 将是随机 dropout；请注意，此 Dropout 按以下等式缩放掩码的输入数据，因此要将训练后的模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为假。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。空字符串可用于代替实际参数的名称，以指示缺少参数。尾随可选参数（那些后面没有出现的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

1 到 3 个输入。

  • data (异构) - T

    输入数据作为张量。

  • ratio (可选，异构) - T1

    随机 dropout 的比率，值在 [0, 1) 内。如果此输入未设置，或如果它被设置为 0，则输出将是输入的简单副本。如果它是非零的，则输出将是缩放输入的随机 dropout，这通常是训练期间的情况。它是一个可选值，如果未指定，它将默认为 0.5。

  • training_mode (可选，异构) - T2

    如果设置为 true，则表示 dropout 用于训练。它是一个可选值，因此除非显式指定，否则它为 false。如果它为 false，则忽略 ratio，并且操作模拟推理模式，其中不会从输入数据中删除任何内容，如果要求掩码作为输出，它将包含所有 1。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T2

    输出掩码。

类型约束

  • T in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) )

    将输入和输出类型约束为浮点张量。

  • T1 in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) )

    将输入 'ratio' 类型约束为浮点张量。

  • T2 in ( tensor(bool) )

    将输出 'mask' 类型约束为布尔张量。

Dropout - 13

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 13

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符从版本 13开始可用。

摘要

Dropout 接收一个输入浮点张量，一个可选的输入比率（浮点标量）和一个可选的输入训练模式（布尔标量）。它产生两个张量输出，输出（浮点张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为真，则输出 Y 将是随机 dropout；请注意，此 Dropout 按以下等式缩放掩码的输入数据，因此要将训练后的模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为假。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。空字符串可用于代替实际参数的名称，以指示缺少参数。尾随可选参数（那些后面没有出现的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

1 到 3 个输入。

  • data (异构) - T

    输入数据作为张量。

  • ratio (可选，异构) - T1

    随机 dropout 的比率，值在 [0, 1) 内。如果此输入未设置，或如果它被设置为 0，则输出将是输入的简单副本。如果它是非零的，则输出将是缩放输入的随机 dropout，这通常是训练期间的情况。它是一个可选值，如果未指定，它将默认为 0.5。

  • training_mode (可选，异构) - T2

    如果设置为 true，则表示 dropout 用于训练。它是一个可选值，因此除非显式指定，否则它为 false。如果它为 false，则忽略 ratio，并且操作模拟推理模式，其中不会从输入数据中删除任何内容，如果要求掩码作为输出，它将包含所有 1。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T2

    输出掩码。

类型约束

  • T in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。

  • T1 in ( tensor(double), tensor(float), tensor(float16) )

    将输入 'ratio' 类型约束为浮点张量。

  • T2 in ( tensor(bool) )

    将输出 'mask' 类型约束为布尔张量。

Dropout - 12

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 12

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符从版本 12开始可用。

摘要

Dropout 接收一个输入浮点张量，一个可选的输入比率（浮点标量）和一个可选的输入训练模式（布尔标量）。它产生两个张量输出，输出（浮点张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为真，则输出 Y 将是随机 dropout；请注意，此 Dropout 按以下等式缩放掩码的输入数据，因此要将训练后的模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为假。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。空字符串可用于代替实际参数的名称，以指示缺少参数。尾随可选参数（那些后面没有出现的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

1 到 3 个输入。

  • data (异构) - T

    输入数据作为张量。

  • ratio (可选，异构) - T1

    随机 dropout 的比率，值在 [0, 1) 内。如果此输入未设置，或如果它被设置为 0，则输出将是输入的简单副本。如果它是非零的，则输出将是缩放输入的随机 dropout，这通常是训练期间的情况。它是一个可选值，如果未指定，它将默认为 0.5。

  • training_mode (可选，异构) - T2

    如果设置为 true，则表示 dropout 用于训练。它是一个可选值，因此除非显式指定，否则它为 false。如果它为 false，则忽略 ratio，并且操作模拟推理模式，其中不会从输入数据中删除任何内容，如果要求掩码作为输出，它将包含所有 1。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T2

    输出掩码。

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。

  • T1 in ( tensor(double), tensor(float), tensor(float16) )

    将输入 'ratio' 类型约束为浮点张量。

  • T2 in ( tensor(bool) )

    将输出 'mask' 类型约束为布尔张量。

Dropout - 10

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 10

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符从版本 10开始可用。

摘要

Dropout 接收一个输入浮点张量，并产生两个张量输出，输出（浮点张量）和掩码（Tensor<bool>）。根据是否处于测试模式，输出 Y 将是随机丢弃，或输入的简单副本。注意，我们实现的 Dropout 在训练阶段进行缩放，因此在测试期间不需要做任何事情。此运算符具有可选输入/输出。有关可选参数表示的更多信息，请参阅ONNX IR。空字符串可用于代替实际参数的名称以指示缺少参数。尾随可选参数（那些未被存在的参数跟随）也可以简单地省略。

属性

  • ratio - FLOAT (默认值为 '0.5')

    随机丢弃的比例

输入

  • data (异构) - T

    输入数据作为张量。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T1

    输出掩码。

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。

  • T1 in ( tensor(bool) )

    将输出掩码类型约束为布尔张量。

Dropout - 7

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 7

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符从版本 7开始可用。

摘要

Dropout 接收一个输入数据（张量）并产生两个张量输出，输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或输入的简单副本。注意，我们实现的 Dropout 在训练阶段进行缩放，因此在测试期间不需要做任何事情。此运算符具有可选输入/输出。有关可选参数表示的更多信息，请参阅ONNX IR。空字符串可用于代替实际参数的名称以指示缺少参数。尾随可选参数（那些未被存在的参数跟随）也可以简单地省略。

属性

  • ratio - FLOAT (默认值为 '0.5')

    随机丢弃的比例

输入

  • data (异构) - T

    输入数据作为张量。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T

    输出掩码。

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。

Dropout - 6

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 6

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符从版本 6开始可用。

摘要

Dropout 接收一个输入数据（张量）并产生两个张量输出，输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或输入的简单副本。注意，我们实现的 Dropout 在训练阶段进行缩放，因此在测试期间不需要做任何事情。

属性

  • is_test - INT (默认值为 '0')

    （int，默认值为 0）如果非零，则在测试模式下运行丢弃，其中输出只是 Y = X。

  • ratio - FLOAT (默认值为 '0.5')

    （float，默认值为 0.5）随机丢弃的比例

输入

  • data (异构) - T

    输入数据作为张量。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T

    输出掩码。如果 is_test 非零，则此输出不会被填充。

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。

Dropout - 1

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 1

  • 函数: False

  • 支持级别: SupportType.COMMON

  • shape inference: False

此版本的运算符从版本 1开始可用。

摘要

Dropout 接收一个输入数据（张量）并产生两个张量输出，输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或输入的简单副本。注意，我们实现的 Dropout 在训练阶段进行缩放，因此在测试期间不需要做任何事情。

属性

  • consumed_inputs - INTS :

    旧版优化属性。

  • is_test - INT (默认值为 '0')

    （int，默认值为 0）如果非零，则在测试模式下运行丢弃，其中输出只是 Y = X。

  • ratio - FLOAT (默认值为 '0.5')

    （float，默认值为 0.5）随机丢弃的比例

输入

  • data (异构) - T

    输入数据作为张量。

输出

1 到 2 个输出。

  • output (异构) - T

    输出。

  • mask (可选，异构) - T

    输出掩码。如果 is_test 非零，则此输出不会被填充。

类型约束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型约束为浮点张量。