VT2020-OpenAI Microscope-Demo

Démonstration

L'outil OpenAI Microscope est accessible depuis ce site web. Depuis la page principale, on choisit le modèle que l'on souhaite observer parmi les 8 proposés:

Une fois un modèle selectionné, nous arrivons sur cette page:

Dans le menu le plus à gauche de l'écran, nous pouvons changer de modèle. Dans la colonne la plus à droite nous pouvons observer l'architecture du réseau de neuronnes. Chaque noeud représente une couche. Dans la partie centrale de la fenêtre on peut observer une prévisualisation des couches. On peut aussi choisir la technique d'observation. La technique est un peu la "lentille" du microscope.

Lorsque l'on clique sur une couche, nous arrivons sur la page suivante:

On observe alors les neurones du système. On peut parcourir ces neurones. Ici, le neurone séléctionné semble représenter une version abstraite d'une roue de voiture. On peut remarquer dans l'onglet "Dataset samples" qu'effectivement ce neurone a été stimulé par des images de roues de voitures.