你好，我想让你给我讲讲深度学习中常用的激活函数。请按照以下格式回答：正文必须有3个自然段，每段4-6句话。第一段介绍激活函数的作用与重要性，第二段介绍Sigmoid、ReLU和tanh三种激活函数的定义与特点，第三段介绍一些新兴激活函数，比如Leaky ReLU和Swish等。公式可以用文字描述，也可以使用Markdown语法。
user
激活函数是深度学习模型中不可或缺的组成部分，其主要作用是在神经网络的各个层间引入非线性变换，从而提高模型的表达能力，适应复杂的模式和关系。没有激活函数的神经网络，不管有几层，都等同于一个简单的线性变换，能解决的问题十分有限。正因为激活函数赋予了神经网络模型非线性的表现能力，也使得深层神经网络成为了解决复杂问题的有效方法之一。在选择激活函数时，通常需要综合考虑计算效率、梯度消失或爆炸等问题。
assistant