Exemple en régression linéaire
Dans cet exemple, nous voulons approximer le nuage de points suivant avec un réseau sans couche cachée (single layer network). Les points bleus représente le jeu de données d'entrainement définié par une entrée \( x_i \) et une sortie désirée \( y′_i \). La ligne rouge représente la sortie du réseau après entrainement \( y=f(x) \).
Le perceptron suivant va être utilisé pour approximer le nuage de points:
\( x \) est l'entrée. La fonction d'activation est donnée par \( f(x)=x \).
Règle de mise à jour
Comme démontré sur la page précédente, les poids vont être mis à jour grâce à cette formule:
$$ w_i'= w_i + \eta(y'-y)x_i $$
Détaillons le calcul pour chaque poids \( w_1 \) et \( w_2 \):
$$ w_1'= w_1 + \eta(y'-y)x $$ $$ w_2'= w_2 + \eta(y'-y) $$
Téléchargements et codes sources
Voir aussi
- Régression non linéaire avec un réseau de neurones
- Jeux de données pour l'apprentissage profond
- Exemple de descente de gradient
- Quelle est la popularité des réseaux de neurones dans le temps ?
- Installation de TensorFlow et Keras sous Linux
- Démonstration de la règle d'apprentissage
- Fonctions d'activation les plus utilisées en apprentissage profond
- Principaux papiers de recherches relatif au Deep learning
- Le perceptron dans les réseaux de neurones
- Le réseau de neurones le plus simple avec TensorFlow
- Perceptron simpliste
- Algorithme d'apprentissage pour réseaux sans couches cachées
- Exemple de classification
- Descente de gradient pour les réseaux de neurones
- Limitations des réseaux sans couches cachées
- Réseaux de neurones
Dernière mise à jour : 30/01/2021
