Função de ativação

Activation function

Função de Ativação

Na saída do neurónio, pode haver um filtro, função limitadora ou limiar, que modifica o valor do resultado ou impõe um limite que deve ser ultrapassado para se poder proceder para outro neurónio. Esta função é conhecida como função de ativação. Uma função de ativação é, portanto, uma função que transmite a informação gerada pela combinação linear de pesos e entradas, ou seja, o meio de transmitir a informação através das conexões de saída. A informação pode ser transmitida sem modificações ou função de identidade, ou não pode transmitir a informação em absoluto. Como o objetivo é que a rede neural seja capaz de resolver problemas cada vez mais complexos, as funções de ativação geralmente tornarão os modelos não lineares. Entre as funções de ativação mais conhecidas ou mais comummente utilizadas encontram-se as seguintes:

  • Função Escalonada (semelhante à função binária).
  • Fórmula da função escalonada
  • Função Sigmoide.
  • Fórmula da função sigmoide
  • Função Retificadora (ReLU).
  • Fórmula da função retificadora
  • Função Tangente Hiperbólica.
  • Fórmula da função hiperbólica tangente
  • Funções de Base Radial. (Gaussiano, multiquadráticas, multiquadráticas inversas...)