PM2M/2016/TP

Page 2016 des supports de cours et travaux pratiques de l'UE Projets M2PGI Services Machine-to-Machine.

Enseignants 2016 : Didier Donsez, Laurent Lemke

Partie démarrant le 1er Mars 2016 en F112.

Soutenance : 12 Avril 2016 de 13H30 à 17H30.

Rendu fiche de synthèse : 12 Avril 2016 de 13H00

Le mini-projet réalisé en séance a pour objectif la mise en place rapide et agile d'une infrastructure (matérielle et logicielle) de collecte de données capteur. Les mesures de capteurs distribués sont acquises par des dispositifs embarqués et sont remontés vers des serveurs de données hébergés dans un cluster sur un cloud public pour y être analysées (Big Data Analytics) et visualisées (dataviz).

Support de cours

 * Intergiciels pour l'IoT
 * La plateforme OpenHAB
 * La plateforme de services OSGi

Etapes

 * Tutoriel OSGi
 * Tutoriel Arduino
 * Installation d'OpenHAB
 * OpenHAB+Arduino
 * Installation de Mosquitto
 * Tutoriel MQTT : https://docs.google.com/presentation/d/1N9OiMxiVWPbsVrAcPfT-J0k1o7a-neIp7TVFGa6AkWM/edit?pli=1#slide=id.g1d409a344_09
 * Installation de Node-RED
 * et ses extensions Rfxcom, Influxdb, Eddystone, Sensortag, ZWave, iBeacon, PubNub, IFTTT, * AMQP ... et autres  (en fonction de votre projet).
 * Installation de dashboard de visualisation InfluxDB, Grafana, Chronograf, Telegraf, Kapacitor
 * Installation de la suite Logstash, Elastic Search et Kibana
 * Création de comptes sur Amazon EC2, PubNub, IFTTT Maker, Streamdata.io, Sparkfun Data ...
 * Installation de Spark

Remarque : pour gagner du temps, utilisez Docker pour le déploiement des (micro-)services et Puppet pour la configuration de ceux si c'est nécessaire.

Remarque TRES TRES importante: ne sauvegardez pas les crédentials des services cloud que vous utilisez (AWS, Twitter, ...) dans des dépôts git publiques : placez les dans des documents credentials.json, credentials.properties, credentials.sh, ... et ajoutez les ces documents à .gitignore.

Fiche de synthèse
Synthétiser un des sujets suivants en 1 page maximum. La page doit être une entrée du wiki. Chaque synthèse est individuelle. ...
 * SARAH (BUCHS Thibaud)
 * WirelessHART (= BAYLE Stéphane)
 * Weightless (= AIT-MOULOUD Amine)
 * OpenRF (= Jean-Yves Bottraud)
 * WMBus
 * Thread (Google) (= GUERIN Cedric )
 * LoRaWAN (= BERGER Stéphane)
 * NB-IoT
 * NB-LTE
 * HaLow (=SUN Huanan)
 * Iridium (= DONIAS Pierre)
 * Apple Homekit
 * AllJoyn(= MAKHLOUF Mehdi)
 * OneM2M
 * OPC-UA
 * Delay Tolerant Networks (= RUKUNDO Fiston)
 * Radio Data System (= ABHAMON Ronan)
 * Tetra Radio
 * IPSO (= CROZE Erwan)
 * GeoJSON (= AZOUZI Marwen)
 * Avro (= FAURE Adrien)
 * Thrift (= FAURE Maximilien)
 * Protobuf (= ZAKARI TOURE Ismael)
 * Apache Flume (= MARQUE Bastien)
 * Apache Zeppelin (= BIGARD Florian)
 * Kaa
 * Hypercat (= CHARTIER Aurélien)
 * Jupyter (= SAHUC Alexandre)
 * AWS IoT (= DIAGNE El Hadji Malick)
 * Brillo (= MENGOLI Jean-Luc)
 * EVRYTHNG (= OLVERA BADILLO Angélica)
 * OGC SensorThings
 * Zephyr Project
 * OpenEnergyMonitor (= Loïc FAGNO)
 * PlatformIO(= BANWARTH Pierre)
 * S3P

Capteurs et Actionneurs

 * 1) STM32 Nucleo + Shield LoRa SX1276 + Shield Météo
 * 2) STM32 Nucleo + Shield NFC + Shield BLE (avec client Android MQTT)
 * 3) STM32 Nucleo + Récepteur RDS + ESP8266
 * 4) Sensors ZWave + Clé ZWave
 * 5) Sensors RFXCom 433MHz + Clé RFXCom 433MHz
 * 6) STM32 Nucleo + Shield BLE (capture de beacons iBeacon & AltBeacon) (avec client Android MQTT)
 * 7) Sensors enOcean (à vérifier auprès de Jérôme Maisonnasse)
 * 8) Sensors Zigbee (à vérifier auprès de Jérôme Maisonnasse)
 * 9) Sensors XBee (à vérifier auprès de Jérôme Maisonnasse)
 * 10) Carte Wifi ESP8266 (IDE Arduino) + Shield OpenEnergyMonitor
 * 11) Carte Wifi ESP8266 (Lua) + Shield OpenEnergyMonitor
 * 12) Carte de démonstration SigFox
 * 13) Carte Intel Curie Genuino 101 (avec client Android MQTT)
 * 14) Carte Intel Curie Genuino 101 (avec client Android MQTT) +Ceinture cardio Geonaute
 * 15) Carte Xadow GSM+BLE du RePhone (voir ArduinoPhone 2.0)
 * 16) Carte LoRa

Mini-Projet


Ce mini-projet consiste a mettre en place une infrastructure de collecte de données capteur. L'acquisition des mesures de capteurs distribués se fait sur une carte STM32 Nucleo, sur une carte Intel Galileo ou sur un téléphone Android. Les technologies de comminucation sont : USB Serial, BLE, LoRa, Ethernet, WiFi. Les données sont remontées dans des messages vers un serveur (Node-RED) via un "broker" PubSub (MQTT (Mosquitto ou RabbitMQ), Apache Kafka, PubNub, PubSubHubbub, Socket.io, WebRTC ...). Les formats des messages peuvent être JSON (GeoJSON), BSON, CSV, NMEA 0183, binaire, XML (EEML, KML, AMMP ...) ... Les données peuvent être stockées dans une base de données (SQL ou NoSQL comme MongoDB, Redis.io, InfluxDB, ...) et visualisées en différé ou en direct (Grafana, D3.js, OpenHAB via le connecteur MQTT, Bootleaf pour les données géolocalisées ...)

Contenu général des mini-projets
Les équipes ne font qu'une partie des manipulations en fonction du sujet du mini-projet affecté.

CoAP Binding for OpenHAB

 * avec Californium
 * avec https://github.com/eclipse/californium/pull/25

Extension de Node-RED
Création ou Amélioration de Nodes
 * Node Crypto (avec https://nodejs.org/api/crypto.html)
 * Node Apache Kafka
 * Node Apache Flume
 * Node CoAP
 * Node UPnP
 * Node DTLS en étendant le node UDP
 * Node Radio Data System pour SparkFun FM Tuner Evaluation Board - Si4703
 * Node SigFox (uplink et downlink)
 * Node Sérialisation/Déserialisation Avro
 * Node Sérialisation/Déserialisation Thrift
 * Node Sérialisation/Déserialisation Protobuf
 * Node Phant.io pour Sparkfun Data
 * Node Streamdata.io
 * Node SensorTag2015 (sur la base du noeud SensorTag)
 * Node Provider SMS Twilio
 * Node Provider SMS Free Mobile
 * Node Provider SMS Orange Mobile

Le code devra être recontribué en open-source sur GitHub et catalogué dans http://flows.nodered.org/

Déploiement sur plateforme Cloud
Le serveur Node-RED et le "broker" PubSub MQTT (Mosquitto ou RabbitMQ) peuvent être hébergé sur une plateforme cloud comme Windows Azure ou Amazon EC2, Heroku, IBM Bluemix ou sur votre machine.

Attention, Eduroam bloque le port 1883 du protocole MQTT (entre autre).

PubSub des mesures capteur avec Apache Kafka
Remplacer le broker MQTT par le broker PubSub Apache Kafka qui peut fonctionner en configuration distribuée et répliquée (plusieurs serveurs sur une plateforme cloud).

PubSub des mesures capteur avec Apache Flume
Remplacer le broker MQTT par le broker PubSub Apache Flume qui peut fonctionner en configuration distribuée et répliquée (plusieurs serveurs sur une plateforme cloud).

Collecte, Stockage et Visualisation des mesures capteur avec Logstash, Elastic Search, Kibana
voir NodeRED ElasticSearch3

Affichage des positions avec Bootleaf
Refactorer et améliorer Bootleaf afin de visualiser en temps réel les données géolocalisées de vos capteurs ou des traces (séries temporelles de positions). Exemple: tester la présence d'un champ latlon, latlonalt, geo, ... dans le JSON des flows Node-RED.

Analyse des mesures capteurs en temps réel avec Apache Spark Streaming
Installer Spark sur un petit cluster EC2 (1 master et 2 slaves en Ubuntu 14.04 t2.micro).

S'inspirer du script Scala MQTTCount pour calculer des valeurs agrégées (avg, min, max) des groupes de capteurs sur des fenêtres de 5 minutes.

Faire de même avec les brokers Apache Kafka et Apache Flume

Intégration à un ESB Apache Camel
Compléter le tutoriel avec un déploiement de composants Apache Camel Vous pourrez utiliser les composants suivants
 * https://camel.apache.org/weather.html
 * https://camel.apache.org/mqtt.html
 * http://tingenek.wordpress.com/category/mqtt/
 * https://camel.apache.org/rss.html
 * https://camel.apache.org/esper.html
 * https://camel.apache.org/mongodb.html
 * https://code.google.com/a/apache-extras.org/p/camel-extra/wiki/EsperDemo
 * InfluxDB

Monitoring de votre infrastructure avec AWS Cloudwatch et Grafana
Pour monitorer les machines qui hébergent les serveurs (Mosquitto, ...) sur AWS EC2:
 * Activer AWS Cloudwatch
 * Configurer Grafana pour AWS Cloudwatch (lien).

Planning des soutenances
COMING SOON

Instructions pour les soutenances des mini-projets

 * chaque soutenance dure 15 minutes comportant une présentation de 7 minutes ainsi qu'une démonstration de 5 minutes et 3 à 5 minutes de questions/réponses.
 * respectez le temps donc repetez la
 * remplissez le doodle pour choisir un creneau de passage
 * la présentation mettra en avant
 * le titre (avec les noms prénoms des binômes)
 * les applications IoT cibles/envisagées
 * le ou les architectures (successivement) implémentées,
 * les composants logiciels et matériels utilisés,
 * les métriques (langages de programmation, sloc, performance ...),
 * les problèmes rencontrés et les solutions élaborées,
 * la conclusion
 * des perspectives possibles à votre développement.

Le code, le rapport et le PDF de la presentation doivent être livré dans un dépôt Github la veille de la soutenance. Le rapport qui détaille les éléments de la présentation sera livré dans un README.md ou README.html dans le dépôt GitHub.

Envoyez le lien vers le dépôt Github (code + présentation) avant la soutenance.

La présentation peut-être réalisée avec Reveal.js.

Pensez a répéter vos présentations.

Matériel à disposition

 * Intel Galileo
 * http://intel-software-academic-program.com/courses/#iot
 * http://intel-software-academic-program.com/courses/diy/Intel_Academic_-_DIY_-_InternetOfThings/IntelAcademic_IoT_09_Arduino_Motor_Shield.pdf
 * Gas Sensors
 * DHT11/DHT21/DHT22 etc. Temperature & Humidity sensors
 * SCL3711 NFC Reader --> voir NFCpy
 * Capteur de pression BMP085
 * High Sensitivity Alarm Vibration Sensor Module
 * PIR Motion Sensor
 * BMP085 Pressure Sensor
 * CC2541 SensorTag Development Kit
 * Socket.io
 * STM32 Nucleo
 * Shield BlueNRG
 * 2 Shields LoRa pour Arduino (LoRaFabian) à brancher sur Galileo et STM32 Nucleo.
 * Il faut porter les sketchs Arduino https://github.com/Wi6labs/lorafabian/tree/master/ARDUINO_SKETCH via MBed et Galileo.

Visualisation

 * MQTT Panel
 * MQTT over Websocket
 * https://www.npmjs.org/package/mqtt-ws
 * http://mqtt.org/wiki/doku.php/mqtt_over_websockets
 * Leaflet.js modern open-source JavaScript library for mobile-friendly interactive maps
 * Morris.js Charts in Javascript
 * Grafana
 * Graphite
 * Ganglia

Stockage

 * InfluxDB
 * MongoDB

Liens

 * Intel Galileo
 * http://wiki.eclipse.org/Eclipse_IoT_Day_Grenoble_2014
 * https://github.com/SmartDollHouse
 * https://twitter.com/FablabAIR

Autres

 * IoTSyS
 * Home.pi
 * OM2M
 * Gladys
 * DEPRECATED : MQTT Panel avec rickshaw
 * Dépôt GitHub
 * Rapport 2016 sur le CES de Olivier Ezratty
 * Flot Charts

Galerie 2016
Suivez les tweets :
 * https://twitter.com/FablabAIR/status/719892515072159744
 * https://twitter.com/FablabAIR/status/719948586671325184
 * https://twitter.com/FablabAIR/status/719880125806985216
 * https://twitter.com/FablabAIR/status/719872755739582464
 * https://twitter.com/FablabAIR/status/719865759158165505
 * https://twitter.com/FablabAIR/status/719862460715573249
 * https://twitter.com/FablabAIR/status/719858492681691136