ActivationFunctions.h

Go to the documentation of this file.

#ifndef OPENANN_ACTIVATION_FUNCTIONS_H_
#define OPENANN_ACTIVATION_FUNCTIONS_H_

#include <Eigen/Core>

namespace OpenANN
{

enum ActivationFunction
{
  LOGISTIC = 0,
  TANH = 1,
  TANH_SCALED = 2,
  RECTIFIER = 3,
  LINEAR = 4,
  SOFTMAX = 4
};

void activationFunction(ActivationFunction act, const Eigen::MatrixXd& a,
                        Eigen::MatrixXd& z);
void activationFunctionDerivative(ActivationFunction act,
                                  const Eigen::MatrixXd& z,
                                  Eigen::MatrixXd& gd);

void softmax(Eigen::MatrixXd& y);
void logistic(const Eigen::MatrixXd& a, Eigen::MatrixXd& z);
void logisticDerivative(const Eigen::MatrixXd& z, Eigen::MatrixXd& gd);
void normaltanh(const Eigen::MatrixXd& a, Eigen::MatrixXd& z);
void normaltanhDerivative(const Eigen::MatrixXd& z, Eigen::MatrixXd& gd);
void scaledtanh(const Eigen::MatrixXd& a, Eigen::MatrixXd& z);
void scaledtanhDerivative(const Eigen::MatrixXd& z, Eigen::MatrixXd& gd);
void rectifier(const Eigen::MatrixXd& a, Eigen::MatrixXd& z);
void rectifierDerivative(const Eigen::MatrixXd& z, Eigen::MatrixXd& gd);
void linear(const Eigen::MatrixXd& a, Eigen::MatrixXd& z);
void linearDerivative(Eigen::MatrixXd& gd);

} // namespace OpenANN

#endif // OPENANN_ACTIVATION_FUNCTIONS_H_