GPGPU - Revision history

Donsez at 08:39, 30 August 2016

2016-08-30T08:39:08Z

← Older revision		Revision as of 08:39, 30 August 2016
Line 15:		Line 15:
	Ce domaine offre de multiples perspectives et ouvre un peu plus la voie vers les processeurs hétérogènes.		Ce domaine offre de multiples perspectives et ouvre un peu plus la voie vers les processeurs hétérogènes.

	'''''Mots clés''''' : GPU, CPU, GPGPU, programmation parallèle, processeur hétérogène, CUDA, OpenCL		'''''Mots clés''''' : [[GPU]], [[CPU]], [[GPGPU]], programmation parallèle, processeur hétérogène, [[CUDA]], [[OpenCL]]

	=Abstract=		=Abstract=

Gerardc: /* Articles */

2011-11-20T09:46:43Z

Articles

← Older revision		Revision as of 09:46, 20 November 2011
Line 239:		Line 239:

	===Articles===		===Articles===
	~~harware~~.fr[http://www.hardware.fr/articles/828-1/encodage-h-264-cpu-vs-gpu-nvidia-cuda-amd-stream-intel-mediasdk-x264-test.html] un article pour illustrer l'utilisation des GPU pour l'encodage vidéo.		hardware.fr[http://www.hardware.fr/articles/828-1/encodage-h-264-cpu-vs-gpu-nvidia-cuda-amd-stream-intel-mediasdk-x264-test.html] un article pour illustrer l'utilisation des GPU pour l'encodage vidéo.

	Article de décembre 2009 sur l'évolution des GPU[http://www.tdt3d.be/articles_viewer.php?art_id=136]		Article de décembre 2009 sur l'évolution des GPU[http://www.tdt3d.be/articles_viewer.php?art_id=136]

Gerardc: /* Les acteurs */

2011-11-05T14:14:42Z

Les acteurs

← Older revision		Revision as of 14:14, 5 November 2011
Line 110:		Line 110:
	Dell Samsung		Dell Samsung
	Ericsson Sony		Ericsson Sony
⚫	Freescale
	Imagination Technologies Sun		Imagination Technologies Sun
	Nokia Motorola		Nokia Motorola
		⚫	Freescale

	L’objectif du Khronos group est d’établir un standard pour le GPGPU afin d’harmoniser les méthodes de programmations, les API et les IDE. C’est pourquoi les partenaires proviennent d’horizons différents, que se soit le monde du logiciel, du matériel ou de l’électronique en général. C’est lorsqu’on voit l’ensemble des entreprises motivés derrières ce projet que l’on comprend que le GPU sera un des enjeux technologiques majeur des ces prochaine années.		L’objectif du Khronos group est d’établir un standard pour le GPGPU afin d’harmoniser les méthodes de programmations, les API et les IDE. C’est pourquoi les partenaires proviennent d’horizons différents, que se soit le monde du logiciel, du matériel ou de l’électronique en général. C’est lorsqu’on voit l’ensemble des entreprises motivés derrières ce projet que l’on comprend que le GPU sera un des enjeux technologiques majeur des ces prochaine années.

Gerardc: /* Abstract */

2011-11-05T14:10:27Z

Abstract

← Older revision		Revision as of 14:10, 5 November 2011
Line 19:		Line 19:
	=Abstract=		=Abstract=

	GPGPU is a technique consisting on the use of GPU, stream processor, to do general computation instead of display on screen. The main goal is to use graphical processor embedded in all ~~computer~~ to help the central processor in hard computation.		GPGPU is a technique consisting on the use of GPU, stream processor, to do general computation instead of display on screen. The main goal is to use graphical processor embedded in all computers to help the central processor in hard computation.

	Nvidia is the first company to think the way of programming GPU, with its API Cuda, it offer a high level programming interface that’s make easier for developers to access to the power of GPU. Since Cuda the Khronos Group has released a standard for GPGPU with OpenCL.		Nvidia is the first company to think the way of programming GPU, with its API Cuda, it offer a high level programming interface that’s make easier for developers to access to the power of GPU. Since Cuda the Khronos Group has released a standard for GPGPU with OpenCL.

Gerardc: /* Résumé */

2011-11-05T14:09:25Z

Résumé

← Older revision		Revision as of 14:09, 5 November 2011
Line 13:		Line 13:
	Cependant un GPU reste plus simple qu’un CPU et il est nécessaire de conserver l’association des deux architectures pour réaliser des systèmes complets.		Cependant un GPU reste plus simple qu’un CPU et il est nécessaire de conserver l’association des deux architectures pour réaliser des systèmes complets.

	Ce domaine offre de ~~multiple~~ ~~perspective~~ et ouvre un peu plus la voie vers les processeurs hétérogènes.		Ce domaine offre de multiples perspectives et ouvre un peu plus la voie vers les processeurs hétérogènes.

	'''''Mots clés''''' : GPU, CPU, GPGPU, programmation parallèle, processeur hétérogène, CUDA, OpenCL		'''''Mots clés''''' : GPU, CPU, GPGPU, programmation parallèle, processeur hétérogène, CUDA, OpenCL

Gerardc: /* Abstract */

2011-11-05T14:06:16Z

Abstract

← Older revision		Revision as of 14:06, 5 November 2011
Line 18:		Line 18:

	=Abstract=		=Abstract=

			GPGPU is a technique consisting on the use of GPU, stream processor, to do general computation instead of display on screen. The main goal is to use graphical processor embedded in all computer to help the central processor in hard computation.

			Nvidia is the first company to think the way of programming GPU, with its API Cuda, it offer a high level programming interface that’s make easier for developers to access to the power of GPU. Since Cuda the Khronos Group has released a standard for GPGPU with OpenCL.

			GPU have limited instruction set compare to CPU, so they have to work together to be used in a complete system. With those advancements GPGPU open the way to heterogeneous chips.

			'''''Key words:''''' GPU, CPU, GPGPU, stream processing, heterogeneous chip, CUDA, OpenCL, parallel computation

	=Contexte=		=Contexte=

Gerardc: /* Résumé */

2011-11-05T14:05:48Z

Résumé

← Older revision		Revision as of 14:05, 5 November 2011
Line 7:		Line 7:

	=Résumé=		=Résumé=
			Le GPGU est une technique qui consiste à utiliser un processeur graphique fortement parallèle pour réaliser des taches autre que de l’affichage. Le but est d’utiliser c’est processeurs présent en grand nombre sur tout type de machine pour utiliser leur puissance de calcul afin de soutenir le processeur central dans les taches lourdes.

			Nvidia en tant que pionnier du GPGPU moderne avec son API Cuda a offert une solution haut niveau afin de faciliter la programmation sur GPU. Depuis le Khronos Group a mis en plus un standard pour la programmation de GPU, OpenCL.

			Cependant un GPU reste plus simple qu’un CPU et il est nécessaire de conserver l’association des deux architectures pour réaliser des systèmes complets.

			Ce domaine offre de multiple perspective et ouvre un peu plus la voie vers les processeurs hétérogènes.

			'''''Mots clés''''' : GPU, CPU, GPGPU, programmation parallèle, processeur hétérogène, CUDA, OpenCL

	=Abstract=		=Abstract=

Gerardc: /* Graphical Processing Unit */

2011-11-05T12:19:25Z

Graphical Processing Unit

Gerardc at 12:09, 5 November 2011

2011-11-05T12:09:11Z

← Older revision		Revision as of 12:09, 5 November 2011
Line 3:		Line 3:
	* Eleve: Cédric Gérard		* Eleve: Cédric Gérard
	* mail: Cedric.Gerard@e.ujf-grenoble.fr		* mail: Cedric.Gerard@e.ujf-grenoble.fr



	=Résumé=		=Résumé=

Gerardc: /* Sources */

2011-11-05T12:07:36Z

Sources

← Older revision		Revision as of 12:07, 5 November 2011
Line 156:		Line 156:

	===Nvidia===		===Nvidia===
			Nvidia official website [http://www.nvidia.com/content/global/global.php]

			Nvidia cuda information [http://www.nvidia.com/object/cuda_home_new.html]

	==== Cuda ====		==== ''Cuda'' ====
	Developer Zone [http://developer.nvidia.com/category/zone/cuda-zone] from Nvidia		Developer Zone [http://developer.nvidia.com/category/zone/cuda-zone] from Nvidia

Line 164:		Line 166:

	===AMD===		===AMD===

			AMD official web site [http://www.amd.com/fr/Pages/AMDHomePage.aspx]

			AMD GPGPU support [http://www.amd.com/fr/products/technologies/stream-technology/opencl/pages/gpgpu-history.aspx]

	===OpenCL===		===OpenCL===

			Khronos Gourp Inc official web site [http://www.khronos.org/]

			OpenCL support from AMD [http://www.amd.com/fr/products/technologies/stream-technology/opencl/Pages/opencl.aspx]

			AMD OpenCL developer central [http://developer.amd.com/zones/openclzone/pages/default.aspx]

			OpenCL support for Nvidia GPUs [http://www.nvidia.fr/object/cuda_opencl_new_fr.html]

	===GPUGRID===		===GPUGRID===
	GPUGRID.net[http://www.gpugrid.net/] is a novel distributed supercomputing infrastructure made of many NVIDIA graphics cards joined together to deliver high-performance all-atom biomolecular simulations.		GPUGRID.net[http://www.gpugrid.net/] is a novel distributed supercomputing infrastructure made of many NVIDIA graphics cards joined together to deliver high-performance all-atom biomolecular simulations.

			===Direct Compute===
			Direct compute for Nvidia [http://www.nvidia.fr/object/directcompute_fr.html]

			Direct Compute presentation, from Chas Boyd Architect at Microsoft Corporation [http://www.microsoftpdc.com/2009/P09-16]

			Direct Compute lecture from Microsoft [http://channel9.msdn.com/tags/DirectCompute-Lecture-Series/]

	===GPGPU.org===		===GPGPU.org===
Line 181:		Line 202:
	UPCRC Illinois Summer School on Multicore Programming - June 2009		UPCRC Illinois Summer School on Multicore Programming - June 2009
	[http://www.upcrc.illinois.edu/summer/2009/archives.html]		[http://www.upcrc.illinois.edu/summer/2009/archives.html]

			Aaftab Munshi, SIGGRAPH 2008, OpenCL Parallel Computing on the GPU and CPU [http://s08.idav.ucdavis.edu/munshi-opencl.pdf]

			developpez.com
			Tutoriel concernant l'utilisation d'OpenCL avec Qt
			http://qt-labs.developpez.com/bibliotheque/qtopencl/

	===Articles===		===Articles===

← Older revision		Revision as of 12:19, 5 November 2011
Line 28:		Line 28:

	[[Image:Nhealme.jpg\|center\|Architecture Nehalem (intel)]]		[[Image:Nhealme.jpg\|center\|Architecture Nehalem (intel)]]


	Ce schéma illustre bien la complexité d’un CPU haut de gamme. On remarque que la partie calcul (zone grise) est très réduite par rapport du reste du processeur. Ceci s’expliquant par la large couverture de tache offerte par un CPU et par l’importance de la prédiction de branchements, la taille du cache, etc. Sur une image au microscope électronique on remarque aisément les structures redondantes des quatre cœurs et l’énorme place occupée par la mémoire cache. Ce processeur est composé de 731 millions de transistors mais seulement environs ¼ de ceux-ci servent aux calculs proprement dit.		Ce schéma illustre bien la complexité d’un CPU haut de gamme. On remarque que la partie calcul (zone grise) est très réduite par rapport du reste du processeur. Ceci s’expliquant par la large couverture de tache offerte par un CPU et par l’importance de la prédiction de branchements, la taille du cache, etc. Sur une image au microscope électronique on remarque aisément les structures redondantes des quatre cœurs et l’énorme place occupée par la mémoire cache. Ce processeur est composé de 731 millions de transistors mais seulement environs ¼ de ceux-ci servent aux calculs proprement dit.



	[[Image:Nehalem_met.jpg\|center\|Nehalem with met]]		[[Image:Nehalem_met.jpg\|center\|Nehalem with met]]


	Les GPU proposent une architecture très différente de celle des CPU, par exemple les unités d’instructions et les unités de calculs ne sont pas organisées de la même manière. Il faut voir le GPU comme un processeur avec un grand nombre d’unité de contrôle associée à des unités de calculs composées d’un très grand nombre d’ALU.		Les GPU proposent une architecture très différente de celle des CPU, par exemple les unités d’instructions et les unités de calculs ne sont pas organisées de la même manière. Il faut voir le GPU comme un processeur avec un grand nombre d’unité de contrôle associée à des unités de calculs composées d’un très grand nombre d’ALU.


	[[Image:GF100.jpg\|center\|Schéma d'architecture du GF100 de Nvidia]]		[[Image:GF100.jpg\|center\|Schéma d'architecture du GF100 de Nvidia]]


	L’architecture du GPU de Nvidia s’articule autour de 4 groupes autonomes appelés GPC (Graphics processing cluster). Ces groupes sont composés de 4 SM (Streaming Multiprocessor) et d’élément partagés entre ces SM comme le contrôleur de mémoire et le cache L2.		L’architecture du GPU de Nvidia s’articule autour de 4 groupes autonomes appelés GPC (Graphics processing cluster). Ces groupes sont composés de 4 SM (Streaming Multiprocessor) et d’élément partagés entre ces SM comme le contrôleur de mémoire et le cache L2.


	[[Image:SM.jpg\|center\|Schéma d'un GPC]]		[[Image:SM.jpg\|center\|Schéma d'un GPC]]


	Ce sont ces Streaming Multiprocessors qui embarquent les unités de calculs. Elles sont appelées Cuda Core chez Nvidia et rassemble une unité arithmétique et logique pour le calcul sur les entiers et une autre pour le calcul sur les flottants. Chaque SM embarque 32 Cuda Core. On trouve également quatre SFU (Special Fonction Unit) permettant d’exécuter des calculs complexes comme, sin, cos, etc. par cycle. Les SM sont dotées de 2 ordonnanceurs permettant l’envoi de 16 instructions chacun. Si on fait les comptes avec 32 cœurs par SM et 4 SM par cluster on obtient 4432 = 512 Cuda Core pour le GF100 de Nvidia. Ce qui fait la force d’un GPU c’est sont jeu d’instruction simple mais efficace. Il faut remarquer que l’architecture est beaucoup plus homogène que celle d’un CPU ~~(Figure 6)~~. Les GF100 de l’exemple est composé de 3.2 milliards de transistors et plus de 80% d’entre eux sont dédiés uniquement aux calculs.		Ce sont ces Streaming Multiprocessors qui embarquent les unités de calculs. Elles sont appelées Cuda Core chez Nvidia et rassemble une unité arithmétique et logique pour le calcul sur les entiers et une autre pour le calcul sur les flottants. Chaque SM embarque 32 Cuda Core. On trouve également quatre SFU (Special Fonction Unit) permettant d’exécuter des calculs complexes comme, sin, cos, etc. par cycle. Les SM sont dotées de 2 ordonnanceurs permettant l’envoi de 16 instructions chacun. Si on fait les comptes avec 32 cœurs par SM et 4 SM par cluster on obtient 4432 = 512 Cuda Core pour le GF100 de Nvidia. Ce qui fait la force d’un GPU c’est sont jeu d’instruction simple mais efficace. Il faut remarquer que l’architecture est beaucoup plus homogène que celle d’un CPU. Les GF100 de l’exemple est composé de 3.2 milliards de transistors et plus de 80% d’entre eux sont dédiés uniquement aux calculs.


	[[Image:multiProc.jpg\|center\|multiprocesseur de flux]]		[[Image:multiProc.jpg\|center\|multiprocesseur de flux]]

⚫	Dans un CPU les unités de calcul sont en parallèle permettant de réaliser autant de calcul simultanément mais son présent en petit nombre et les tâches qu’ils exécutent ne doivent pas avoir de dépendance entre elles. Chez un GPU on trouve un très grand nombre d’unité arithmétique en parallèle dans des couples unité d’exécution/unité de calcul en série. Cela permet de traiter un grand nombre de donnée simultanément et de passer au calcul suivant très rapidement. Cette architecture est parfaitement adaptée au traitement de scènes graphique 3D, dans lesquelles il faut traiter un très grand nombre de vertex et de pixels avec plusieurs traitements en série pour générer la prochaine image de la scène.

		⚫	Dans un CPU les unités de calcul sont en parallèle permettant de réaliser autant de calcul simultanément mais son présent en petit nombre et les tâches qu’ils exécutent ne doivent pas avoir de dépendance entre elles. Chez un GPU on trouve un très grand nombre d’unité arithmétique en parallèle dans des couples unité d’exécution/unité de calcul en série. Cela permet de traiter un grand nombre de donnée simultanément et de passer au calcul suivant très rapidement. Cette architecture est parfaitement adaptée au traitement de scènes graphique 3D, dans lesquelles il faut traiter un très grand nombre de vertex et de pixels avec plusieurs traitements en série pour générer la prochaine image de la scène. Dans la figure suivante la partie verte illustre la part dédiée aux calculs dans les deux type de processeurs.
	[[Image:GF100_met.jpg\|center\|GF100 au MET]]

	Dans la figure suivante la partie verte illustre la part dédiée aux calculs dans les deux type de processeurs.

	[[Image:CPUvsGPU.jpg\|center\|Différence d'architecture CPU vs GPU]]		[[Image:CPUvsGPU.jpg\|center\|Différence d'architecture CPU vs GPU]]


	Et c’est cette différence architecturale qui rend le GPU plus intéressant pour la réalisation d’algorithmes en parallèle. Car il devient difficile de rajouter des cœurs sur les processeurs pour des raisons évidentes de taille, consommation et dissipation thermique. Alors que le grand nombre d’unité de calcul des GPU leurs donnent l’avantage dans la puissance brute.		Et c’est cette différence architecturale qui rend le GPU plus intéressant pour la réalisation d’algorithmes en parallèle. Car il devient difficile de rajouter des cœurs sur les processeurs pour des raisons évidentes de taille, consommation et dissipation thermique. Alors que le grand nombre d’unité de calcul des GPU leurs donnent l’avantage dans la puissance brute.


	[[Image:evolutionFlops.jpg\|center\|Evolution de la puissance de calcul GPU vs CPU]]		[[Image:evolutionFlops.jpg\|center\|Evolution de la puissance de calcul GPU vs CPU]]


	Aujourd’hui l’architecture Tesla de Nvidia offre une puissance de calcul de 4 TéraFlops en simple précision et de 80 GigaFlops en double précision.		Aujourd’hui l’architecture Tesla de Nvidia offre une puissance de calcul de 4 TéraFlops en simple précision et de 80 GigaFlops en double précision.