jax.nn.sparse_plus

jax.nn.sparse_plus#

jax.nn.sparse_plus(x)[source]#

稀疏加法函數。

計算函數

\[\begin{split}\mathrm{sparse\_plus}(x) = \begin{cases} 0, & x \leq -1\\ \frac{1}{4}(x+1)^2, & -1 < x < 1 \\ x, & 1 \leq x \end{cases}\end{split}\]

這是 softplus 啟動函數的雙生函數，確保輸入小於 -1 時輸出為零，輸入大於 1 時輸出為線性，同時在 -1 和 1 之間保持平滑、凸面、單調性，並具有適當的定義。