VT2016 TensorFlow - Revision history

Donsez: /* Webographie */

2016-11-18T15:20:21Z

Webographie

← Older revision		Revision as of 15:20, 18 November 2016
Line 145:		Line 145:

	=Webographie=		=Webographie=
	*https://www.tensorflow.org/		* https://www.tensorflow.org/
	*https://github.com/tensorflow/tensorflow		* https://github.com/tensorflow/tensorflow
			* TensorFlow: A System for Large-Scale Machine Learning
	*http://download.tensorflow.org/paper/whitepaper2015.pdf
			** https://www.usenix.org/conference/osdi16/technical-sessions/presentation/abadi
⚫	*http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html
	*http://~~beebom~~.~~com/google-brains-~~tensorflow/		** http://download.tensorflow.org/paper/whitepaper2015.pdf
		⚫	* http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html
⚫	*https://www.reddit.com/r/artificial/comments/4ym9ba/tensorflow_demo_in_5_minutes/
			* http://beebom.com/google-brains-tensorflow/
⚫	*http://www.cell.com/cell-systems/pdf/S2405-4712(16)00010-7.pdf
		⚫	* https://www.reddit.com/r/artificial/comments/4ym9ba/tensorflow_demo_in_5_minutes/
		⚫	* http://www.cell.com/cell-systems/pdf/S2405-4712(16)00010-7.pdf

Julian.Hattinguais: /* Fonctionnement détaillé : Démo MNIST sous Python */

2016-11-03T12:01:51Z

Fonctionnement détaillé : Démo MNIST sous Python

← Older revision		Revision as of 12:01, 3 November 2016
Line 84:		Line 84:
	==Fonctionnement détaillé : Démo MNIST sous Python==		==Fonctionnement détaillé : Démo MNIST sous Python==

	Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres ~~écrites~~ à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.		Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres écrits à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.

	===Importation de TensorFlow===		===Importation de TensorFlow===

Julian.Hattinguais: /* Fonctionnement détaillé : Démo MNIST sous Python */

2016-11-03T12:01:25Z

Fonctionnement détaillé : Démo MNIST sous Python

← Older revision		Revision as of 12:01, 3 November 2016
Line 84:		Line 84:
	==Fonctionnement détaillé : Démo MNIST sous Python==		==Fonctionnement détaillé : Démo MNIST sous Python==

	Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres ~~écrits~~ à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.		Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres écrites à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.

	===Importation de TensorFlow===		===Importation de TensorFlow===

Julian.Hattinguais: /* Variable */

2016-11-03T11:59:53Z

Variable

← Older revision		Revision as of 11:59, 3 November 2016
Line 78:		Line 78:
	===Variable===		===Variable===

	Les opérations mathématiques réalisées par TensorFlow découlent directement du ou des modèles utilisés pour l'apprentissage. ~~Hors~~, ces modèles reposent eux même sur les paramètres (poids et biais pour la softmax regression). Lors de la phase d'entrainement, TensorFlow utilise des variables pour mettre à jour ces paramètres sur lesquels repose le modèle d'apprentissage. Ces variables contiennent des tenseurs (puisque toutes les données sont des tenseurs sous TensorFlow), mais contrairement aux tenseurs, les variables sont modifiées tout au long de la phase d'apprentissage.		Les opérations mathématiques réalisées par TensorFlow découlent directement du ou des modèles utilisés pour l'apprentissage. Or, ces modèles reposent eux même sur les paramètres (poids et biais pour la softmax regression). Lors de la phase d'entrainement, TensorFlow utilise des variables pour mettre à jour ces paramètres sur lesquels repose le modèle d'apprentissage. Ces variables contiennent des tenseurs (puisque toutes les données sont des tenseurs sous TensorFlow), mais contrairement aux tenseurs, les variables sont modifiées tout au long de la phase d'apprentissage.

	[[File:VT2016_Variable.gif]]		[[File:VT2016_Variable.gif]]


	==Fonctionnement détaillé : Démo MNIST sous Python==		==Fonctionnement détaillé : Démo MNIST sous Python==

Julian.Hattinguais: /* Forces et faiblesses */

2016-11-03T11:57:34Z

Forces et faiblesses

← Older revision		Revision as of 11:57, 3 November 2016
Line 55:		Line 55:

	'''Performance''' :		'''Performance''' :
	TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine ~~comparée~~ à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.		TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine comparé à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.

	'''API multilangage''' :		'''API multilangage''' :

Coralie.Rachex: /* Webographie */

2016-10-31T14:07:16Z

Webographie

← Older revision		Revision as of 14:07, 31 October 2016
Line 148:		Line 148:
	*https://www.tensorflow.org/		*https://www.tensorflow.org/
	*https://github.com/tensorflow/tensorflow		*https://github.com/tensorflow/tensorflow
	*http://download.tensorflow.org/paper/ whitepaper2015.pdf		*http://download.tensorflow.org/paper/whitepaper2015.pdf
	*http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html		*http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html
	*http://beebom.com/google-brains-tensorflow/		*http://beebom.com/google-brains-tensorflow/

Coralie.Rachex: /* Bibliographie */

2016-10-31T14:06:55Z

Bibliographie

← Older revision		Revision as of 14:06, 31 October 2016
Line 145:		Line 145:
	La précision de l'algorithme sur les données d'essai est d'environ 92%. Il faut savoir que ce résultat sur le MNIST est mauvais, mais cela s'explique par l'extrême simplicité du modèle utilisé. En effet, nous avons utilisé une seule couche linéaire. Avec un modèle à peine plus sophistiqué (un petit réseau de neurones à convolution), cela nous mène à environ 99,2% de précision. Et des réseaux multicouches de neurones plus complexes mènent proches des 99,9%.		La précision de l'algorithme sur les données d'essai est d'environ 92%. Il faut savoir que ce résultat sur le MNIST est mauvais, mais cela s'explique par l'extrême simplicité du modèle utilisé. En effet, nous avons utilisé une seule couche linéaire. Avec un modèle à peine plus sophistiqué (un petit réseau de neurones à convolution), cela nous mène à environ 99,2% de précision. Et des réseaux multicouches de neurones plus complexes mènent proches des 99,9%.

			=Webographie=
	=Bibliographie=
			*https://www.tensorflow.org/
	*
			*https://github.com/tensorflow/tensorflow
			*http://download.tensorflow.org/paper/ whitepaper2015.pdf
			*http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html
			*http://beebom.com/google-brains-tensorflow/
			*https://www.reddit.com/r/artificial/comments/4ym9ba/tensorflow_demo_in_5_minutes/
			*http://www.cell.com/cell-systems/pdf/S2405-4712(16)00010-7.pdf

Coralie.Rachex: /* Fonctionnement détaillé : Démo MNIST */

2016-10-31T13:39:09Z

Fonctionnement détaillé : Démo MNIST

← Older revision		Revision as of 13:39, 31 October 2016
Line 83:		Line 83:


	==Fonctionnement détaillé : Démo MNIST==		==Fonctionnement détaillé : Démo MNIST sous Python==

	Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres écrits à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.		Le MNIST fait référence à la base de données MNIST (Mixed National Institute of Standards and Technology), une base de données de chiffres écrits à la main. Ce sont des images en noir et blanc, normalisées centrées de 28 pixels de côté. Les images d'apprentissage étant associé à des étiquettes déterminant le chiffre. La reconnaissance de l'écriture manuscrite étant un problème complexe, le MNIST est devenu un test standard pour les algorithmes d'apprentissages supervisés.

			===Importation de TensorFlow===

	La première chose à faire avant de commencer le programme Python est d'importer TensorFlow.		La première chose à faire avant de commencer le programme Python est d'importer TensorFlow.

Coralie.Rachex: /* Forces et faiblesses */

2016-10-31T13:37:49Z

Forces et faiblesses

← Older revision		Revision as of 13:37, 31 October 2016
Line 46:		Line 46:

	'''Paradigme de programmation déclarative''' :		'''Paradigme de programmation déclarative''' :

	TensorFlow permet de se concentrer sur le problème (quoi), plutôt que sur la solution (comment).		TensorFlow permet de se concentrer sur le problème (quoi), plutôt que sur la solution (comment).

	'''Portabilité''' :		'''Portabilité''' :

	TensorFlow fonctionne sur CPU ou GPU. Et le modèle créé avec TensorFlow peut être déployé sur ordinateur, serveur, appareil mobile et même dans le cloud (conteneuriser avec Docker).		TensorFlow fonctionne sur CPU ou GPU. Et le modèle créé avec TensorFlow peut être déployé sur ordinateur, serveur, appareil mobile et même dans le cloud (conteneuriser avec Docker).

	'''Flexibilité''' :		'''Flexibilité''' :

	TensorFlow ne propose pas que des algorithmes, il propose également un ensemble d'outils permettant d'assembler différentes couches dans les réseaux de neurones. À partir de là, l'utilisateur peut créer ses propres algorithmes et les intégrer au reste très facilement.		TensorFlow ne propose pas que des algorithmes, il propose également un ensemble d'outils permettant d'assembler différentes couches dans les réseaux de neurones. À partir de là, l'utilisateur peut créer ses propres algorithmes et les intégrer au reste très facilement.

	'''Performance''' :		'''Performance''' :

	TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine comparée à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.		TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine comparée à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.

	'''API multilangage''' :		'''API multilangage''' :

	TensorFlow est utilisable en Python et en C++ (l'API Python est à l'heure actuelle le plus complet et le plus facile à utiliser, mais l'API C ++ peut offrir certains avantages de performance dans l'exécution du graphe, et prend en charge le déploiement Android). De plus, Google à l'intention d'inclure des API pour Java et Go, puis plus tard pour d'autres langages comme JavaScript, Lua, R, etc.		TensorFlow est utilisable en Python et en C++ (l'API Python est à l'heure actuelle le plus complet et le plus facile à utiliser, mais l'API C ++ peut offrir certains avantages de performance dans l'exécution du graphe, et prend en charge le déploiement Android). De plus, Google à l'intention d'inclure des API pour Java et Go, puis plus tard pour d'autres langages comme JavaScript, Lua, R, etc.

	'''Outils incorporés''' :		'''Outils incorporés''' :

	Tensorboard aide à construire et à visualiser les modèles de flots de données.		Tensorboard aide à construire et à visualiser les modèles de flots de données.

	'''Communauté active''' :		'''Communauté active''' :

	Il suffit de jeter un oeil à la liste des auteurs de TensorFlow pour se rendre compte de l'importance du projet pour Google, puisqu'il a mis dessus un bon nombre de ses meilleurs éléments: Jeff Dean (père de MapReduce), Ian Goodfellow (contributeur principal de Théano / PyLearn2), Yangqing Jia (principal contributeur de Caffe). De plus, Google a rendu cette technologie open source pour accélérer sa croissance. Cette stratégie est payante, car la communauté est effectivement très active. Et une communauté active est la meilleure des choses pour le maintien et le développement d'une technologie !		Il suffit de jeter un oeil à la liste des auteurs de TensorFlow pour se rendre compte de l'importance du projet pour Google, puisqu'il a mis dessus un bon nombre de ses meilleurs éléments: Jeff Dean (père de MapReduce), Ian Goodfellow (contributeur principal de Théano / PyLearn2), Yangqing Jia (principal contributeur de Caffe). De plus, Google a rendu cette technologie open source pour accélérer sa croissance. Cette stratégie est payante, car la communauté est effectivement très active. Et une communauté active est la meilleure des choses pour le maintien et le développement d'une technologie !

Coralie.Rachex: /* Forces et faiblesses */

2016-10-31T13:37:18Z

Forces et faiblesses

← Older revision		Revision as of 13:37, 31 October 2016
Line 45:		Line 45:
	==Forces et faiblesses==		==Forces et faiblesses==

	'''Paradigme de programmation déclarative''' :		'''Paradigme de programmation déclarative''' :

	TensorFlow permet de se concentrer sur le problème (quoi), plutôt que sur la solution (comment).		TensorFlow permet de se concentrer sur le problème (quoi), plutôt que sur la solution (comment).

	'''Portabilité''' :		'''Portabilité''' :

	TensorFlow fonctionne sur CPU ou GPU. Et le modèle créé avec TensorFlow peut être déployé sur ordinateur, serveur, appareil mobile et même dans le cloud (conteneuriser avec Docker).		TensorFlow fonctionne sur CPU ou GPU. Et le modèle créé avec TensorFlow peut être déployé sur ordinateur, serveur, appareil mobile et même dans le cloud (conteneuriser avec Docker).

	'''Flexibilité''' :		'''Flexibilité''' :

	TensorFlow ne propose pas que des algorithmes, il propose également un ensemble d'outils permettant d'assembler différentes couches dans les réseaux de neurones. À partir de là, l'utilisateur peut créer ses propres algorithmes et les intégrer au reste très facilement.		TensorFlow ne propose pas que des algorithmes, il propose également un ensemble d'outils permettant d'assembler différentes couches dans les réseaux de neurones. À partir de là, l'utilisateur peut créer ses propres algorithmes et les intégrer au reste très facilement.

	'''Performance''' :		'''Performance''' :

	TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine comparée à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.		TensorFlow gère lui même les calculs asynchrones et permet donc en théorie de tirer le meilleur parti du matériel disponible. Mais en réalité, il est encore un peu à la traine comparée à certains de ses concurrents. À ses débuts, il souffrait même d'un réel problème de performance, qui a toutefois été vite corrigé par Google. Et les contributions ne cessent d'améliorer les choses.

	'''API multilangage''' :		'''API multilangage''' :

	TensorFlow est utilisable en Python et en C++ (l'API Python est à l'heure actuelle le plus complet et le plus facile à utiliser, mais l'API C ++ peut offrir certains avantages de performance dans l'exécution du graphe, et prend en charge le déploiement Android). De plus, Google à l'intention d'inclure des API pour Java et Go, puis plus tard pour d'autres langages comme JavaScript, Lua, R, etc.		TensorFlow est utilisable en Python et en C++ (l'API Python est à l'heure actuelle le plus complet et le plus facile à utiliser, mais l'API C ++ peut offrir certains avantages de performance dans l'exécution du graphe, et prend en charge le déploiement Android). De plus, Google à l'intention d'inclure des API pour Java et Go, puis plus tard pour d'autres langages comme JavaScript, Lua, R, etc.

	'''Outils incorporés''' :		'''Outils incorporés''' :

	Tensorboard aide à construire et à visualiser les modèles de flots de données.		Tensorboard aide à construire et à visualiser les modèles de flots de données.

	'''Communauté active''' :		'''Communauté active''' :

	Il suffit de jeter un oeil à la liste des auteurs de TensorFlow pour se rendre compte de l'importance du projet pour Google, puisqu'il a mis dessus un bon nombre de ses meilleurs éléments: Jeff Dean (père de MapReduce), Ian Goodfellow (contributeur principal de Théano / PyLearn2), Yangqing Jia (principal contributeur de Caffe). De plus, Google a rendu cette technologie open source pour accélérer sa croissance. Cette stratégie est payante, car la communauté est effectivement très active. Et une communauté active est la meilleure des choses pour le maintien et le développement d'une technologie !		Il suffit de jeter un oeil à la liste des auteurs de TensorFlow pour se rendre compte de l'importance du projet pour Google, puisqu'il a mis dessus un bon nombre de ses meilleurs éléments: Jeff Dean (père de MapReduce), Ian Goodfellow (contributeur principal de Théano / PyLearn2), Yangqing Jia (principal contributeur de Caffe). De plus, Google a rendu cette technologie open source pour accélérer sa croissance. Cette stratégie est payante, car la communauté est effectivement très active. Et une communauté active est la meilleure des choses pour le maintien et le développement d'une technologie !


	==Fonctionnement général==		==Fonctionnement général==