神经网络基本原理

Main elements of neural network：

• Functions
• Neurons
• Activation Functions

$INPUT\ \rightarrow \ function\ \rightarrow \ OUTPUT$

神经网络（neural network）更恰当的名字是通用函数逼近器（Universal Function Approximator），我们通过添加更多神经元从而使精度更高，其本质不过是对数据（散点）的拟合。

神经网络是turing complete的，因此从理论上来说它可以解决任何问题（然而在实际上，我们不能使用无限个神经元来对函数进行逼近；同时必须要有足够大量的数据），并且任何语言都可以编写神经网络的程序。