jax.nn.glu

内容

jax.nn.glu#

jax.nn.glu(x, axis=-1)[source]#

门控线性单元激活函数。

计算函数

\[\mathrm{glu}(x) = x\left[\ldots, 0:\frac{n}{2}, \ldots\right] \cdot \mathrm{sigmoid} \left( x\left[\ldots, \frac{n}{2}:n, \ldots\right] \right)\]

其中数组沿 axis 分为两部分。 axis 维度的尺寸必须能被二整除。

参数:
  • x (ArrayLike) – 输入数组

  • axis (int) – 应计算分割的轴(默认值:-1)

返回值:

一个数组。

返回类型:

数组

另请参阅

sigmoid()