jax.nn.squareplus

jax.nn.squareplus(x, b=4)

Squareplus 激活函數。

計算逐元素函數

\[\mathrm{squareplus}(x) = \frac{x + \sqrt{x^2 + b}}{2}\]

如 https://arxiv.org/abs/2112.11687 中所述。

參數:

• x (ArrayLike) – 輸入陣列

• b (ArrayLike) – 平滑度參數

回傳類型:

陣列