Dropout

Dropout - 22

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 22

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 22 起可用。

摘要

Dropout 接受一个浮点张量输入,一个可选的输入比率 (浮点标量) 和一个可选的输入 training_mode (布尔标量)。它生成两个张量输出,输出 (浮点张量) 和 mask (可选的 Tensor<bool>)。如果 training_mode 为 true,则输出 Y 将是一个随机 dropout;请注意,此 Dropout 通过以下公式对掩码输入数据进行缩放,因此要将训练好的模型转换为推理模式,用户只需不传递 training_mode 输入或将其设置为 false 即可。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选的输入/输出。有关可选参数表示的更多详细信息,请参阅 ONNX IR。可以使用空字符串代替实际参数名称来表示缺失的参数。末尾的可选参数 (后面没有紧跟的其他参数) 也可以简单地省略。

属性

  • seed - INT :

    (可选) 随机生成器的种子,如果未指定,我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为 Tensor 的输入数据。

  • ratio (可选, 异构) - T1

    随机 dropout 的比率,取值范围为 [0, 1)。如果未设置此输入,或设置为 0,则输出将是输入的简单复制。如果非零,则输出将是缩放输入的随机 dropout,这通常在训练期间发生。这是一个可选值,如果未指定,则默认为 0.5。

  • training_mode (可选, 异构) - T2

    如果设置为 true,则表示 dropout 用于训练。这是一个可选值,因此除非明确指定,否则为 false。如果为 false,则忽略比率,操作模拟推理模式,输入数据不会被丢弃,如果请求 mask 作为输出,它将包含所有 1。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T2

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) )

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) )

    将输入 'ratio' 类型限制为浮点张量。

  • T2 在 ( tensor(bool) )

    将输出 'mask' 类型限制为布尔张量。

Dropout - 13

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 13

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 13 起可用。

摘要

Dropout 接受一个浮点张量输入,一个可选的输入比率 (浮点标量) 和一个可选的输入 training_mode (布尔标量)。它生成两个张量输出,输出 (浮点张量) 和 mask (可选的 Tensor<bool>)。如果 training_mode 为 true,则输出 Y 将是一个随机 dropout;请注意,此 Dropout 通过以下公式对掩码输入数据进行缩放,因此要将训练好的模型转换为推理模式,用户只需不传递 training_mode 输入或将其设置为 false 即可。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选的输入/输出。有关可选参数表示的更多详细信息,请参阅 ONNX IR。可以使用空字符串代替实际参数名称来表示缺失的参数。末尾的可选参数 (后面没有紧跟的其他参数) 也可以简单地省略。

属性

  • seed - INT :

    (可选) 随机生成器的种子,如果未指定,我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为 Tensor 的输入数据。

  • ratio (可选, 异构) - T1

    随机 dropout 的比率,取值范围为 [0, 1)。如果未设置此输入,或设置为 0,则输出将是输入的简单复制。如果非零,则输出将是缩放输入的随机 dropout,这通常在训练期间发生。这是一个可选值,如果未指定,则默认为 0.5。

  • training_mode (可选, 异构) - T2

    如果设置为 true,则表示 dropout 用于训练。这是一个可选值,因此除非明确指定,否则为 false。如果为 false,则忽略比率,操作模拟推理模式,输入数据不会被丢弃,如果请求 mask 作为输出,它将包含所有 1。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T2

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入 'ratio' 类型限制为浮点张量。

  • T2 在 ( tensor(bool) )

    将输出 'mask' 类型限制为布尔张量。

Dropout - 12

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 12

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 12 起可用。

摘要

Dropout 接受一个浮点张量输入,一个可选的输入比率 (浮点标量) 和一个可选的输入 training_mode (布尔标量)。它生成两个张量输出,输出 (浮点张量) 和 mask (可选的 Tensor<bool>)。如果 training_mode 为 true,则输出 Y 将是一个随机 dropout;请注意,此 Dropout 通过以下公式对掩码输入数据进行缩放,因此要将训练好的模型转换为推理模式,用户只需不传递 training_mode 输入或将其设置为 false 即可。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选的输入/输出。有关可选参数表示的更多详细信息,请参阅 ONNX IR。可以使用空字符串代替实际参数名称来表示缺失的参数。末尾的可选参数 (后面没有紧跟的其他参数) 也可以简单地省略。

属性

  • seed - INT :

    (可选) 随机生成器的种子,如果未指定,我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为 Tensor 的输入数据。

  • ratio (可选, 异构) - T1

    随机 dropout 的比率,取值范围为 [0, 1)。如果未设置此输入,或设置为 0,则输出将是输入的简单复制。如果非零,则输出将是缩放输入的随机 dropout,这通常在训练期间发生。这是一个可选值,如果未指定,则默认为 0.5。

  • training_mode (可选, 异构) - T2

    如果设置为 true,则表示 dropout 用于训练。这是一个可选值,因此除非明确指定,否则为 false。如果为 false,则忽略比率,操作模拟推理模式,输入数据不会被丢弃,如果请求 mask 作为输出,它将包含所有 1。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T2

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入 'ratio' 类型限制为浮点张量。

  • T2 在 ( tensor(bool) )

    将输出 'mask' 类型限制为布尔张量。

Dropout - 10

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 10

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 10 起可用。

摘要

Dropout 接受一个浮点张量输入,生成两个张量输出,输出 (浮点张量) 和 mask (Tensor<bool>)。根据是否处于测试模式,输出 Y 将是随机 dropout 或输入的简单复制。请注意,我们的 Dropout 实现会在训练阶段进行缩放,因此在测试期间无需进行任何操作。此运算符具有可选的输入/输出。有关可选参数表示的更多详细信息,请参阅 ONNX IR。可以使用空字符串代替实际参数名称来表示缺失的参数。末尾的可选参数 (后面没有紧跟的其他参数) 也可以简单地省略。

属性

  • ratio - FLOAT (默认为 '0.5')

    随机 dropout 的比率

输入

  • data (异构) - T

    作为 Tensor 的输入数据。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T1

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bool) )

    将输出掩码类型限制为布尔张量。

Dropout - 7

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 7

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 7 起可用。

摘要

Dropout 接受一个输入数据 (Tensor) 并生成两个 Tensor 输出,输出 (Tensor) 和 mask (Tensor)。根据是否处于测试模式,输出 Y 将是随机 dropout 或输入的简单复制。请注意,我们的 Dropout 实现会在训练阶段进行缩放,因此在测试期间无需进行任何操作。此运算符具有可选的输入/输出。有关可选参数表示的更多详细信息,请参阅 ONNX IR。可以使用空字符串代替实际参数名称来表示缺失的参数。末尾的可选参数 (后面没有紧跟的其他参数) 也可以简单地省略。

属性

  • ratio - FLOAT (默认为 '0.5')

    随机 dropout 的比率

输入

  • data (异构) - T

    作为 Tensor 的输入数据。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

Dropout - 6

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 6

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

该版本运算符自版本 6 起可用。

摘要

Dropout 接受一个输入数据 (Tensor) 并生成两个 Tensor 输出,输出 (Tensor) 和 mask (Tensor)。根据是否处于测试模式,输出 Y 将是随机 dropout 或输入的简单复制。请注意,我们的 Dropout 实现会在训练阶段进行缩放,因此在测试期间无需进行任何操作。

属性

  • is_test - INT (默认为 '0')

    (int, 默认为 0) 如果非零,则以测试模式运行 dropout,此时输出简单地为 Y = X。

  • ratio - FLOAT (默认为 '0.5')

    (float, 默认为 0.5) 随机 dropout 的比率

输入

  • data (异构) - T

    作为 Tensor 的输入数据。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T

    输出掩码。如果 is_test 非零,则此输出不会被填充。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。

Dropout - 1

版本

  • 名称: Dropout (GitHub)

  • : main

  • 始于版本: 1

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: False

该版本运算符自版本 1 起可用。

摘要

Dropout 接受一个输入数据 (Tensor) 并生成两个 Tensor 输出,输出 (Tensor) 和 mask (Tensor)。根据是否处于测试模式,输出 Y 将是随机 dropout 或输入的简单复制。请注意,我们的 Dropout 实现会在训练阶段进行缩放,因此在测试期间无需进行任何操作。

属性

  • consumed_inputs - INTS :

    旧版优化属性。

  • is_test - INT (默认为 '0')

    (int, 默认为 0) 如果非零,则以测试模式运行 dropout,此时输出简单地为 Y = X。

  • ratio - FLOAT (默认为 '0.5')

    (float, 默认为 0.5) 随机 dropout 的比率

输入

  • data (异构) - T

    作为 Tensor 的输入数据。

输出

介于 1 到 2 个输出之间。

  • output (异构) - T

    输出。

  • mask (可选, 异构) - T

    输出掩码。如果 is_test 非零,则此输出不会被填充。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    将输入和输出类型限制为浮点张量。