Dropout

Dropout - 22

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 22

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符自 版本 22 起可用。

摘要

Dropout 接受一个浮点型输入张量，一个可选的输入比率（浮点型标量）和一个可选的输入训练模式（布尔型标量）。它生成两个张量输出：输出（浮点型张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为 true，则输出 Y 将是随机丢弃；请注意，此 Dropout 通过以下公式缩放被掩码的输入数据，因此要将训练好的模型转换为推理模式，用户只需不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。可以使用空字符串代替实际参数名称来表示缺少参数。尾随的可选参数（那些后面没有出现参数的）也可以简单地省略。

属性

  • 种子 - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为张量的输入数据。

  • 比率（可选，异构）- T1

    随机丢弃的比率，值在 [0, 1) 之间。如果设置为 0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常在训练期间发生。这是一个可选值，如果未指定，则默认为 0.5。

  • 训练模式（可选，异构）- T2

    如果设置为 true，则表示 dropout 用于训练。这是一个可选值，除非明确指定，否则为 false。如果为 false，则忽略比率，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，如果请求掩码作为输出，它将包含所有一。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T2

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) ) 中

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) ) 中

    将输入“比率”类型限制为浮点张量。

  • T2 包含 ( tensor(bool) )

    将输出“掩码”类型限制为布尔张量。

Dropout - 13

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 13

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符自 版本 13 起可用。

摘要

Dropout 接受一个浮点型输入张量，一个可选的输入比率（浮点型标量）和一个可选的输入训练模式（布尔型标量）。它生成两个张量输出：输出（浮点型张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为 true，则输出 Y 将是随机丢弃；请注意，此 Dropout 通过以下公式缩放被掩码的输入数据，因此要将训练好的模型转换为推理模式，用户只需不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。可以使用空字符串代替实际参数名称来表示缺少参数。尾随的可选参数（那些后面没有出现参数的）也可以简单地省略。

属性

  • 种子 - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为张量的输入数据。

  • 比率（可选，异构）- T1

    随机丢弃的比率，值在 [0, 1) 之间。如果未设置此输入，或将其设置为 0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常在训练期间发生。这是一个可选值，如果未指定，则默认为 0.5。

  • 训练模式（可选，异构）- T2

    如果设置为 true，则表示 dropout 用于训练。这是一个可选值，除非明确指定，否则为 false。如果为 false，则忽略比率，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，如果请求掩码作为输出，它将包含所有一。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T2

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入“比率”类型限制为浮点张量。

  • T2 包含 ( tensor(bool) )

    将输出“掩码”类型限制为布尔张量。

Dropout - 12

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 12

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的运算符自 版本 12 起可用。

摘要

Dropout 接受一个浮点型输入张量，一个可选的输入比率（浮点型标量）和一个可选的输入训练模式（布尔型标量）。它生成两个张量输出：输出（浮点型张量）和掩码（可选 Tensor<bool>）。如果 training_mode 为 true，则输出 Y 将是随机丢弃；请注意，此 Dropout 通过以下公式缩放被掩码的输入数据，因此要将训练好的模型转换为推理模式，用户只需不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。可以使用空字符串代替实际参数名称来表示缺少参数。尾随的可选参数（那些后面没有出现参数的）也可以简单地省略。

属性

  • 种子 - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

介于 1 到 3 个输入之间。

  • data (异构) - T

    作为张量的输入数据。

  • 比率（可选，异构）- T1

    随机丢弃的比率，值在 [0, 1) 之间。如果未设置此输入，或将其设置为 0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常在训练期间发生。这是一个可选值，如果未指定，则默认为 0.5。

  • 训练模式（可选，异构）- T2

    如果设置为 true，则表示 dropout 用于训练。这是一个可选值，除非明确指定，否则为 false。如果为 false，则忽略比率，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，如果请求掩码作为输出，它将包含所有一。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T2

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入“比率”类型限制为浮点张量。

  • T2 包含 ( tensor(bool) )

    将输出“掩码”类型限制为布尔张量。

Dropout - 10

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • since_version: 10

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的操作符已在 版本 10 中提供。

摘要

Dropout 接受一个浮点张量输入，并生成两个张量输出：输出（浮点张量）和掩码（Tensor<bool>）。根据是否处于测试模式，输出 Y 将是随机丢弃，或是输入的简单副本。请注意，我们的 Dropout 实现会在训练阶段进行缩放，因此在测试期间无需执行任何操作。此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。可以使用空字符串代替实际参数名称来表示缺少参数。尾随的可选参数（那些后面没有出现参数的）也可以简单地省略。

属性

  • 比率 - FLOAT（默认为 '0.5'）

    随机丢弃的比率

输入

  • data (异构) - T

    作为张量的输入数据。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T1

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bool) )

    将输出掩码类型限制为布尔张量。

Dropout - 7

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 7

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的操作符自版本 7 起可用。

摘要

Dropout 接受一个输入数据（张量），并生成两个张量输出：输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或是输入的简单副本。请注意，我们的 Dropout 实现会在训练阶段进行缩放，因此在测试期间无需执行任何操作。此运算符具有可选输入/输出。有关可选参数表示的更多详细信息，请参阅ONNX IR。可以使用空字符串代替实际参数名称来表示缺少参数。尾随的可选参数（那些后面没有出现参数的）也可以简单地省略。

属性

  • 比率 - FLOAT（默认为 '0.5'）

    随机丢弃的比率

输入

  • data (异构) - T

    作为张量的输入数据。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。

Dropout - 6

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 6

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: True

此版本的操作符自版本 6 起可用。

摘要

Dropout 接受一个输入数据（张量），并生成两个张量输出：输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或是输入的简单副本。请注意，我们的 Dropout 实现会在训练阶段进行缩放，因此在测试期间无需执行任何操作。

属性

  • is_test - INT（默认为 '0'）

    （整数，默认为 0）如果非零，则在测试模式下运行 dropout，此时输出仅为 Y = X。

  • 比率 - FLOAT（默认为 '0.5'）

    （浮点数，默认为 0.5）随机丢弃的比率

输入

  • data (异构) - T

    作为张量的输入数据。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T

    输出掩码。如果 is_test 非零，则此输出未填充。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。

Dropout - 1

版本

  • 名称: Dropout (GitHub)

  • 域: main

  • 起始版本: 1

  • 函数: False

  • 支持级别: SupportType.COMMON

  • 形状推断: False

此版本的运算符自 版本 1 起可用。

摘要

Dropout 接受一个输入数据（张量），并生成两个张量输出：输出（张量）和掩码（张量）。根据是否处于测试模式，输出 Y 将是随机丢弃，或是输入的简单副本。请注意，我们的 Dropout 实现会在训练阶段进行缩放，因此在测试期间无需执行任何操作。

属性

  • consumed_inputs - 整型 :

    传统优化属性。

  • is_test - INT（默认为 '0'）

    （整数，默认为 0）如果非零，则在测试模式下运行 dropout，此时输出仅为 Y = X。

  • 比率 - FLOAT（默认为 '0.5'）

    （浮点数，默认为 0.5）随机丢弃的比率

输入

  • data (异构) - T

    作为张量的输入数据。

输出

介于 1 到 2 个输出之间。

  • 输出 (异构) - T

    输出。

  • 掩码（可选，异构）- T

    输出掩码。如果 is_test 非零，则此输出未填充。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中

    将输入和输出类型限制为浮点张量。