complete guide artificial neural network machine learning
Ce didacticiel explique ce qu'est un réseau de neurones artificiels, comment fonctionne un ANN, sa structure et les types d'architecture de réseau de neurones et d'ANN:
Dans ce Formation au machine learning pour tous , nous avons tout exploré Types d'apprentissage automatique dans notre tutoriel précédent.
Ici, dans ce didacticiel, discutez des différents algorithmes des réseaux de neurones, ainsi que de la comparaison entre l'apprentissage automatique et l'ANN. Avant d'apprendre comment ANN contribue à l'apprentissage automatique, nous devons savoir ce qu'est un réseau neuronal artificiel et une brève connaissance de l'apprentissage automatique.
protocole et port du système de transfert de fichiers sécurisé
Explorons plus en détail l'apprentissage automatique et le réseau de neurones artificiels !!
=> Lisez la série complète de formations sur l'apprentissage automatique
Ce que vous apprendrez:
- Qu'est-ce que l'apprentissage automatique?
- Qu'est-ce qu'un réseau neuronal artificiel?
- Structure d'un réseau neuronal biologique
- Comparaison du neurone biologique et du neurone artificiel
- Caractéristiques de ANN
- Structure de ANN
- Fonction d'activation
- Qu'est-ce qu'un neurone artificiel?
- Comment fonctionne le neurone artificiel?
- Modèles de base d'ANN
- Architecture de réseau neuronal
- Exemple de réseau de neurones artificiels
- Comparaison entre l'apprentissage automatique et l'ANN
- Réseaux de neurones et apprentissage en profondeur
- Applications de réseau neuronal artificiel
- Limitations des réseaux de neurones
- Conclusion
- lecture recommandée
Qu'est-ce que l'apprentissage automatique?
L'apprentissage automatique est un domaine scientifique qui permet aux ordinateurs d'apprendre et d'agir sans être programmés explicitement. C'est un sous-domaine de l'intelligence artificielle.
Qu'est-ce qu'un réseau neuronal artificiel?
ANN est un modèle non linéaire largement utilisé dans le Machine Learning et qui a un avenir prometteur dans le domaine de l'intelligence artificielle.
Le réseau neuronal artificiel est analogue à un réseau neuronal biologique. Un réseau neuronal biologique est une structure de milliards de neurones interconnectés dans un cerveau humain. Le cerveau humain comprend des neurones qui envoient des informations à diverses parties du corps en réponse à une action effectuée.
Semblable à cela, un réseau neuronal artificiel (ANN) est un réseau informatique scientifique qui ressemble aux caractéristiques d'un cerveau humain. ANN peut être modélisé comme les neurones d'origine du cerveau humain, par conséquent, les parties de traitement ANN sont appelées neurones artificiels.
ANN se compose d'un grand nombre de neurones interconnectés qui sont inspirés par le fonctionnement d'un cerveau. Ces neurones ont les capacités d'apprendre, de généraliser les données d'entraînement et de tirer des résultats de données complexes.
Ces réseaux sont utilisés dans les domaines de la classification et de la prédiction, des identifications de modèles et de tendances, des problèmes d'optimisation, etc. ANN apprend à partir des données d'apprentissage (entrée et sortie cible connues) sans aucune programmation.
Le réseau neuronal appris s'appelle un système expert avec la capacité d'analyser les informations et de répondre aux questions d'un domaine spécifique.
La définition formelle de ANN donnée par le Dr Robert Hecht-Nielson, inventeur d'un premier neuro-ordinateurs est:
«… Un système informatique composé d'un certain nombre d'éléments de traitement simples et hautement interconnectés, qui traitent les informations par leur réponse d'état dynamique à des entrées externes».
Structure d'un réseau neuronal biologique
Un réseau neuronal biologique se compose de:
- Soma: Ceci est également appelé le corps cellulaire. C'est là que se trouve le noyau cellulaire.
- Dendrites: Ce sont des réseaux en forme d'arbre qui sont connectés au corps cellulaire. Il est fait de la fibre nerveuse.
- Axon: Axon transporte le signal du corps cellulaire. Il se divise en brins et chaque brin se termine par une structure en forme de bulbe appelée synapse. Les signaux électriques passent entre la synapse et les dendrites.
(image la source )
Comparaison du neurone biologique et du neurone artificiel
Neurone biologique | Neurone artificiel |
---|---|
Le ML est appliqué dans le commerce électronique, la santé, les recommandations de produits, etc. | ANN est appliqué dans le domaine de la finance, de l'apprentissage automatique et de l'intelligence artificielle. |
Il est fait de cellules. | Les cellules correspondent à des neurones. |
Il a des dendrites qui sont des interconnexions entre le corps cellulaire. | Les poids de connexion correspondent aux dendrites. |
Soma reçoit l'entrée. | Soma est similaire au poids d'entrée net. |
L'axone reçoit le signal. | La sortie de ANN correspond à l'axone. |
Caractéristiques de ANN
- Non linéarité: Le mécanisme suivi dans ANN pour la génération du signal d'entrée est non linéaire.
- Enseignement supervisé: L'entrée et la sortie sont mappées et l'ANN est formé avec le jeu de données d'apprentissage.
- Apprentissage non supervisé: La sortie cible n'est pas donnée, donc l'ANN apprendra par lui-même en découvrant les caractéristiques des modèles d'entrée.
- Nature adaptative: Les poids de connexion dans les nœuds de ANN sont capables de s'ajuster pour donner la sortie souhaitée.
- Analogie des neurones biologiques: L'ANN a une structure et une fonctionnalité inspirées du cerveau humain.
- Tolérance aux pannes: Ces réseaux sont très tolérants car les informations sont réparties en couches et le calcul se fait en temps réel.
Structure de ANN
Les réseaux de neurones artificiels sont des éléments de traitement sous la forme d'algorithmes ou de dispositifs matériels modélisés d'après la structure neuronale d'un cortex cérébral cérébral humain.
Ces réseaux sont également simplement appelés réseaux de neurones. Le NN est formé de plusieurs couches. Les multiples couches interconnectées sont souvent appelées «Perceptron multicouche». Les neurones d'une couche sont appelés «nœuds». Ces nœuds ont une «fonction d'activation».
L'ANN a 3 couches principales:
- Couche d'entrée: Les modèles d'entrée sont envoyés aux couches d'entrée. Il y a une couche d'entrée.
- Couches cachées: Il peut y avoir une ou plusieurs couches masquées. Le traitement qui a lieu dans les couches internes est appelé «couches cachées». Les couches cachées calculent la sortie sur la base des «poids» qui sont la «somme des connexions synapse pondérées». Les couches cachées affinent l'entrée en supprimant les informations redondantes et envoient les informations à la couche cachée suivante pour un traitement ultérieur.
- Couche de sortie: Cette couche cachée se connecte à la «couche de sortie» où la sortie est affichée.
Fonction d'activation
La fonction d'activation est un état interne d'un neurone. C'est une fonction de l'entrée que le neurone reçoit. La fonction d'activation est utilisée pour convertir le signal d'entrée sur le nœud ANN en un signal de sortie.
Qu'est-ce qu'un neurone artificiel?
Un réseau de neurones artificiels se compose d'éléments de traitement hautement interconnectés appelés nœuds ou neurones.
Ces neurones fonctionnent en parallèle et sont organisés dans une architecture. Les nœuds sont connectés les uns aux autres par des liens de connexion. Chaque neurone porte un poids qui contient des informations sur le signal d'entrée.
Comment fonctionne le neurone artificiel?
Un neurone artificiel reçoit une entrée. Ces entrées ont un poids appelé «synapse». Ces neurones (également appelés nœuds) ont une «fonction d'activation». Cette fonction d'activation travaille sur l'entrée et la traite pour donner une sortie.
La somme pondérée des entrées devient un signal d'entrée vers la fonction d'activation pour donner une sortie. Ces poids d'entrée sont réglables afin que le réseau neuronal puisse ajuster ses paramètres pour donner la sortie souhaitée.
Peu de fonctions d'activation courantes utilisées dans un réseau neuronal artificiel sont:
# 1) Fonction d'identité
Il peut être défini comme f (x) = x pour toutes les valeurs de x. Il s'agit d'une fonction linéaire où la sortie est la même que l'entrée.
# 2) Fonction d'étape binaire
Cette fonction est utilisée dans les réseaux monocouche pour convertir l'entrée nette en sortie. La sortie est binaire, c'est-à-dire 0 ou 1. Le t représente la valeur seuil.
(image la source )
# 3) Fonction d'étape bipolaire
La fonction pas à pas bipolaire a des sorties bipolaires (+1 ou -1) pour l'entrée réseau. T représente la valeur seuil.
# 4) Fonction sigmoïdale
Il est utilisé dans les réseaux de rétropropagation.
Il est de deux types:
- Fonction sigmoïde binaire: Il est également appelé fonction sigmoïde unipolaire ou fonction sigmoïde logistique. La gamme de fonctionnelles sigmoïdales est de 0 à 1.
- Sigmoïde bipolaire: La fonction sigmoïdale bipolaire varie de -1 à +1. Elle est similaire à la fonction tangente hyperbolique.
(image la source )
# 5) Fonction de rampe
Le somme pondérée des entrées désigne le «produit du poids de l'entrée et de la valeur de l'entrée» additionné pour toutes les entrées.
Soit I = {I1, I2, I3… In} le motif d'entrée du neurone.
Soit W = {W1, W2, W3… Wn} le poids associé à chaque entrée du nœud.
Somme pondérée des entrées = Y = (? Wi * Ii) pour i = 1 à n
Modèles de base d'ANN
Les modèles de réseaux de neurones artificiels se composent de 3 entités:
- Poids ou connexions synaptiques
- La règle d'apprentissage utilisée pour ajuster les poids
- Fonctions d'activation du neurone
Architecture de réseau neuronal
Dans ANN, les neurones sont interconnectés et la sortie de chaque neurone est connectée au neurone suivant par des poids. L'architecture de ces interconnexions est importante dans un ANN. Cet agencement se présente sous la forme de couches et la connexion entre les couches et au sein de la couche est l'architecture du réseau neuronal.
Les architectures réseau les plus connues sont:
- Réseau Feed-Forward monocouche
- Réseau Feed-Forward multicouche
- Nœud unique avec ses propres commentaires
- Réseau récurrent monocouche
- Réseau récurrent multicouche
Examinons chacun de ces éléments en détail.
questions d'entretien Oracle SQL pour les expérimentés
# 1) Réseau Feed-Forward à une seule couche
Une couche est un réseau formé de neurones. Ces neurones sont connectés aux autres neurones de la couche suivante. Pour une seule couche, il n'y a que les couches d'entrée et de sortie. La couche d'entrée est connectée aux nœuds de couche de sortie avec des pondérations.
Tous les nœuds d'entrée sont connectés à chacun des nœuds de sortie. Le terme feed-forward indique qu'il n'y a pas de rétroaction envoyée de la couche de sortie à la couche d'entrée. Cela forme un réseau anticipé à une seule couche.
(image la source )
# 2) Réseau à feed-forward multicouche
Le réseau multicouche se compose d'une ou plusieurs couches entre l'entrée et la sortie. La couche d'entrée reçoit juste un signal et le met en tampon tandis que la couche de sortie affiche la sortie. Les couches entre l'entrée et la sortie sont appelées les couches cachées.
Les couches cachées ne sont pas en contact avec l'environnement externe. Avec plus de nombre de couches cachées, la réponse de sortie est plus efficace. Les nœuds de la couche précédente sont connectés à chaque nœud de la couche suivante.
Comme il n'y a pas de couche de sortie connectée aux couches d'entrée ou cachées, il forme un réseau à anticipation multicouche.
# 3) Nœud unique avec ses propres commentaires
Les réseaux sur lesquels la sortie de la couche de sortie est renvoyée en tant qu'entrée vers la couche d'entrée ou les autres couches cachées sont appelés réseaux de rétroaction. Dans les systèmes de rétroaction à nœud unique, il existe une seule couche d'entrée où la sortie est redirigée sous forme de rétroaction.
# 4) Réseau récurrent à couche unique
Dans un réseau récurrent monocouche, le réseau de rétroaction forme une boucle fermée. Dans ce modèle, un seul neurone reçoit une rétroaction sur lui-même ou les autres neurones du réseau ou les deux.
# 5) Réseau récurrent multicouche
Dans le réseau récurrent multicouche, plusieurs couches cachées existent et la sortie est redirigée vers les neurones des couches précédentes et d'autres neurones dans les mêmes couches ou le même neurone lui-même.
Exemple de réseau de neurones artificiels
Prenons le réseau ci-dessous avec l'entrée donnée et calculons le neurone d'entrée net et obtenons la sortie du neurone Y avec la fonction d'activation comme sigmoïde binaire.
L'entrée a 3 neurones X1, X2 et X3 et une seule sortie Y.
Les poids associés aux entrées sont: {0,2, 0,1, -0,3}
Entrées = {0,3, 0,5, 0,6}
Entrée nette = {x1 * w1 + x2 * w2 + x3 * w3}
Entrée nette = (0,3 * 0,2) + (0,5 * 0,1) + (0,6 * -0,3)
Entrée nette = -0,07
Sortie pour sigmoïdal binaire:
X est -0,07
La sortie est de 0,517
Comparaison entre l'apprentissage automatique et l'ANN
Apprentissage automatique | Réseau neuronal artificiel |
---|---|
L'apprentissage automatique apprend à partir des données d'entrée et découvre des modèles de données de sortie intéressants. | Les ANN sont utilisés dans les algorithmes d'apprentissage automatique pour entraîner le système à l'aide de synapses, de nœuds et de liens de connexion. |
Le ML est un sous-ensemble du domaine de l'intelligence artificielle. | ANN fait également partie du domaine scientifique de l'intelligence artificielle et un sous-ensemble de l'apprentissage automatique. |
Les algorithmes de ML apprennent des données fournies à l'algorithme à des fins de prise de décision. Certains de ces algorithmes sont la classification. Clustering, exploration de données d'association. | ANN est une science d'apprentissage en profondeur qui analyse les données avec des structures logiques comme le font les humains. Certains des schémas d'apprentissage de l'ANN sont Hebbian, Perceptron, Back propagation, etc. |
Les algorithmes d'apprentissage automatique ont des capacités d'auto-apprentissage mais nécessiteraient une intervention humaine si le résultat est inexact. | Les algorithmes ANN ont la capacité de s'ajuster eux-mêmes en utilisant des poids de connexion si le résultat s'avère faux. |
Les algorithmes ML nécessitent des compétences en programmation, une structure de données et une connaissance des bases de données Big Data. | L'ANN nécessite également de solides compétences en mathématiques, probabilités, structures de données, etc. |
Les programmes d'apprentissage automatique peuvent prédire le résultat d'un ensemble de données appris et s'ajuster aux nouvelles données. | ANN peut apprendre et prendre lui-même des décisions intelligentes pour de nouvelles données, mais c'est plus profond que l'apprentissage automatique. |
L'apprentissage supervisé et non supervisé relève de l'apprentissage automatique. | L'apprentissage tel que Kohenen, la polarisation radiale, le réseau de neurones à réaction relèvent de l'ANN. |
Quelques exemples de ML sont les résultats de recherche Google, etc. | Quelques exemples d'ANN sont la reconnaissance faciale, la reconnaissance d'image, etc. |
Réseaux de neurones et apprentissage en profondeur
Les réseaux Deep Learning contiennent plusieurs couches cachées entre l'entrée et la sortie. Ces réseaux se distinguent par la profondeur des couches cachées qu'ils contiennent. Les données d'entrée passent par plusieurs étapes avant que la sortie ne soit affichée.
Ces réseaux diffèrent des NN antérieurs tels que le perceptron qui avait une seule couche cachée et s'appelait Shallow Networks. Chaque couche cachée du réseau d'apprentissage en profondeur entraîne les données avec certaines fonctionnalités en fonction de la sortie de la couche précédente.
Les données passent par de nombreuses couches de fonction non linéaire au niveau du nœud. Plus le nombre de couches est élevé, plus les entités complexes peuvent être reconnues, car la couche suivante effectuera une agrégation d'entités des couches précédentes.
Plusieurs couches cachées dans le réseau augmentent la complexité et l'abstraction. Cette profondeur est également appelée hiérarchie d'entités. Pour cette raison, les réseaux d'apprentissage en profondeur sont capables de gérer des données de grande dimension.
Certains exemples de réseaux d'apprentissage en profondeur incluent le regroupement de millions d'images en fonction de ses caractéristiques et de ses similitudes, le filtrage des messages électroniques, l'application de filtres aux messages dans CRM, l'identification de la parole, etc.
Les réseaux d'apprentissage profond peuvent être formés à la fois sur des ensembles de données étiquetés et non étiquetés. Pour l'ensemble de données non étiqueté, les réseaux tels que les machines de sélection Boltzmann effectuent une extraction automatique des caractéristiques.
Le réseau apprend automatiquement en analysant l'entrée par échantillonnage et en minimisant la différence de sortie et de distribution d'entrée. Le réseau neuronal trouve ici des corrélations entre les caractéristiques et les résultats.
Les réseaux d'apprentissage profond formés sur des données étiquetées peuvent être appliqués à des données non structurées. Plus les données de formation sont transmises au réseau, plus elles deviendront précises.
La capacité du réseau à apprendre à partir de données non étiquetées est un avantage par rapport aux autres algorithmes d'apprentissage.
Applications de réseau neuronal artificiel
Les réseaux de neurones ont été utilisés avec succès dans diverses solutions, comme indiqué ci-dessous.
# 1) Reconnaissance de modèle: ANN est utilisé dans la reconnaissance de formes, la reconnaissance d'images, la visualisation d'images, l'écriture manuscrite, la parole et d'autres tâches similaires.
# 2) Problèmes d'optimisation: Des problèmes tels que la recherche de l'itinéraire le plus court, la planification et la fabrication où les contraintes de problème doivent être satisfaites et des solutions optimales doivent être obtenues utilisent des NN.
# 3) Prévisions: NN peut prédire l'issue des situations en analysant les tendances passées. Des applications telles que la banque, le marché boursier, les prévisions météorologiques utilisent les réseaux de neurones.
# 4) Systèmes de contrôle: Les systèmes de contrôle tels que les produits informatiques, les produits chimiques et la robotique utilisent des réseaux neuronaux.
Limitations des réseaux de neurones
Voici quelques-uns des inconvénients des réseaux de neurones.
- Ces réseaux sont des boîtes noires pour l'utilisateur car l'utilisateur n'a aucun rôle à part alimenter l'entrée et observer la sortie. L'utilisateur n'est pas au courant de la formation qui se déroule dans l'algorithme.
- Ces algorithmes sont plutôt lents et nécessitent de nombreuses itérations (également appelées époques) pour donner des résultats précis. En effet, le processeur calcule les poids, la fonction d'activation de chaque nœud séparément, ce qui lui permet de consommer du temps ainsi que des ressources. Cela pose également un problème avec une grande quantité de données.
Conclusion
Dans ce didacticiel, nous avons découvert le réseau neuronal artificiel, son analogie avec le neurone biologique et les types de réseau neuronal.
ANN relève de l'apprentissage automatique. C'est un modèle de calcul composé de plusieurs nœuds neuronaux. Ces nœuds reçoivent l'entrée, traitent l'entrée à l'aide de la fonction d'activation et transmettent la sortie aux couches suivantes.
Les entrées sont associées à des poids de liaison de connexion appelés synapse. Un ANN de base se compose d'une couche d'entrée, de pondérations, d'une fonction d'activation, d'une couche masquée et d'une couche de sortie.
Les fonctions d'activation sont utilisées pour convertir l'entrée en sortie. Certains d'entre eux sont binaires, bipolaires, sigmoïdaux et une fonction de rampe. Il existe différents types d'ANN tels que la rétroaction monocouche, la rétroaction multicouche, les réseaux récurrents, etc. en fonction du nombre de couches cachées et des mécanismes de rétroaction.
ANN avec de nombreuses couches cachées entre l'entrée et la sortie du réseau d'apprentissage en profondeur. Les réseaux d'apprentissage en profondeur ont une complexité et un niveau d'abstraction élevés qui les rendent capables de calculer des données de grande dimension avec des milliers de paramètres.
ANN est utilisé dans le domaine de la prévision, du traitement d'image, des systèmes de contrôle, etc. Ceux-ci ont été appliqués avec succès comme solution à l'éventail de problèmes de la science.
Nous espérons que ce tutoriel a expliqué tout ce que vous devez savoir sur les réseaux de neurones artificiels !!
=> Visitez ici pour la série exclusive d'apprentissage automatique
lecture recommandée
- Exploration de données Vs Machine Learning Vs Intelligence Artificielle Vs Deep Learning
- Test de sécurité réseau et meilleurs outils de sécurité réseau
- Types d'apprentissage automatique: apprentissage supervisé ou non supervisé
- 11 outils logiciels d'apprentissage automatique les plus populaires en 2021
- Tutoriel d'apprentissage automatique: Introduction au ML et à ses applications
- Guide du masque de sous-réseau (sous-réseau) et calculateur de sous-réseau IP
- Guide d'évaluation et de gestion de la vulnérabilité du réseau
- 15 meilleurs outils de numérisation réseau (scanner réseau et IP) de 2021