python实现激活函数

  • Post category:Python

Python实现激活函数过程如下:

  1. 导入相关的库

在Python实现激活函数的过程中需要导入 numpy 库,因为numpy提供了一些向量化操作,能够更快地计算神经网络中的激活函数。

import numpy as np
  1. 实现激活函数

激活函数是神经网络中的一个重要部分,它是非线性的,可以将神经网络的输出映射到一个特定的范围内。在Python中实现激活函数非常简单,如下代码就可实现ReLU激活函数:

def relu(x):
    return np.maximum(0, x)

这里的核心语句是 np.maximum(0, x) ,该函数可以实现max(x, 0) 的功能。它返回参数x和0中的大值。

sigmoid激活函数的实现如下所示:

def sigmoid(x):
    return 1 / (1 + np.exp(-x))

其中,exp()函数可以求出e的x次方。

  1. 程序测试

可以通过将几个数字作为输入传递给刚刚实现的激活函数来测试这些函数。如下代码可以测试这两个实现好的激活函数。

x = np.array([-1, 1, 2, -2])
print("ReLU Function Output:", relu(x))
print("Sigmoid Function Output:", sigmoid(x))

输出如下:

ReLU Function Output: [0 1 2 0]
Sigmoid Function Output: [0.26894142 0.73105858 0.88079708 0.11920292]

以上就是Python实现激活函数的完整攻略,通过导入合适的库和简单的定义函数即可,方便易操作。