Vim Online ;)

Car les fichiers textes éparpillés de partout, ça devient usant ô_Ô

Outils pour utilisateurs

Outils du site


pub_zone:linux:stack_tig

Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

Prochaine révision
Révision précédente
Prochaine révision Les deux révisions suivantes
pub_zone:linux:stack_tig [20:14 06/12/2017]
nimbus créée
pub_zone:linux:stack_tig [15:03 07/12/2017]
nimbus [Correction d'une SERIE]
Ligne 8: Ligne 8:
  
 ==== Correction d'une SERIE ==== ==== Correction d'une SERIE ====
-<WRAP center round todo 60%> 
-Work in Progress 8-o 
-</WRAP> 
- 
 <WRAP center round info> <WRAP center round info>
 **Contexte : **\\ **Contexte : **\\
-J'ai des erreurs de mesures()) remontés par une de mes sondes de température, que je souhaite corriger à la méthode du garagiste Islandais((Fix It or Remove It :p)) (:-x Private Joke) :+J'ai des erreurs de mesures((Problème corrigé depuis... causé par une concurrence d'accès à la sonde entre Nagios et Telegraf.)) remontées par une de mes sondes de température, que je souhaite corriger à la méthode du garagiste Islandais((Fix It or Remove It :p)) (:-x Private Joke) :
   * Nom de la base InfluxDB : ''influxdb''   * Nom de la base InfluxDB : ''influxdb''
-  * La SERIE est stockée dans la MEASUREMENT ''Temperature_temperhum''+  * La SERIE est stockée dans la MEASUREMENT ''Temperature_temper''
   * Fréquence de collecte : ''5 min / 300 sec''   * Fréquence de collecte : ''5 min / 300 sec''
 +  * Valeur à corriger :
 +    * Points de **température > 100°C** (la pièce à vivre n'est pas censée être un four ;-))
 </WRAP> </WRAP>
  
 +__Avant__ correction :
 +{{ :pub_zone:linux:grafana_graph_avant_correction01.png?600 |Avant correction...}}
 +
 +__Après__ correction :
 +{{ :pub_zone:linux:grafana_graph_apres_correction01.png?600 |Après correction...}}
 On commence par [[#connexion_a_la_bdd|se connecter à la base de données]] qui va bien... On commence par [[#connexion_a_la_bdd|se connecter à la base de données]] qui va bien...
  
 On affiche la structure de la **MEASUREMENT** On affiche la structure de la **MEASUREMENT**
-<code sql+<code bash
-SHOW SERIES FROM Temperature_temperhum+SHOW SERIES FROM Temperature_temper
 key key
 --- ---
-Temperature_temperhum,host=drouard.eu+Temperature_temper,host=drouard.eu
  
-SHOW TAG KEYS FROM Temperature_temperhum +SHOW TAG KEYS FROM Temperature_temper 
-name: Temperature_temperhum+name: Temperature_temper
 tagKey tagKey
 ------ ------
 host host
  
-SHOW FIELD KEYS FROM Temperature_temperhum +SHOW FIELD KEYS FROM Temperature_temper 
-name: Temperature_temperhum+name: Temperature_temper
 fieldKey fieldType fieldKey fieldType
 -------- --------- -------- ---------
Ligne 44: Ligne 47:
   * 1 tagKey ''host''   * 1 tagKey ''host''
   * 1 fieldKey ''value'' de type Float   * 1 fieldKey ''value'' de type Float
 +
 +Commençons par évaluer l'ampleur de la tâche à réaliser (et voir si il ne serait pas plus efficace de créer un script...)
 +<code bash>
 +> SELECT COUNT("value") FROM Temperature_temper WHERE value > 100;
 +name: Temperature_temper
 +time                 count
 +----                 -----
 +1970-01-01T00:00:00Z 1
 +</code>
 +
 +Bon ok, 1 point de mesure à corriger, //c'est pas si pire//...
 +
 +<WRAP center round tip>
 +Pour appliquer la 2ème méthode, qui implique d'utiliser le timestamp au format **[[https://fr.wikipedia.org/wiki/Epoch|epoch]]** (précision à la nanoseconde), je ne saurais que conseiller aussi de lister les points à corriger avec le format de précision ''ns''
 +</WRAP>
 +
 +Liste des points de **température** à corriger
 +<code bash>
 +> PRECISION rfc3339
 +> SELECT * FROM Temperature_temper WHERE value > 100 LIMIT 10;
 +name: Temperature_temper
 +time                 host       value
 +----                 ----       -----
 +2017-12-07T11:00:04Z drouard.eu 568.5
 +
 +> PRECISION ns
 +> SELECT * FROM Temperature_temper WHERE value > 100 LIMIT 10;
 +name: Temperature_temper
 +time                host       value
 +----                ----       -----
 +1512644404000000000 drouard.eu 568.5
 +</code>
 +
 +Passons à la correction !\\
 +En fonction de la nature, criticité de la métrique, 2 possibilités pour corriger l'erreur :
 +  * Méthode 1 ☛ **Supprimer la valeur** erronée :
 +    * Il est possible de corriger l'apparence de la courbe à la volée dans Grafana avec la clause ''GROUP BY fill(0/null/none/etc.)''... c'est fourbe, mais esthétique... __inconvénient__, ça masquerait les erreurs de collectes trop récurrentes :-/
 +  * Méthode 2 ☛ **Maquiller la valeur** erronée (Ce n'est qu'une extension de la méthode 1) :
 +    * Cette stratégie consiste sournoisement à faire une moyenne (par ex.) entre les 2 valeurs entourant le pic puis à inscrire cette valeur à la place de la valeur du pic
 +
 +On commence par identifier le laps de temps incriminé via une petite requête (±1 période de collecte) :
 +<code bash>
 +> PRECISION rfc3339
 +> SELECT * FROM Temperature_temper WHERE time >= '2017-12-07T10:54:04Z' AND time <= '2017-12-07T11:06:04Z'
 +name: Temperature_temper
 +time                 host       value
 +----                 ----       -----
 +2017-12-07T10:55:01Z drouard.eu 19.29
 +2017-12-07T11:00:04Z drouard.eu 568.5
 +2017-12-07T11:05:01Z drouard.eu 19.31
 +</code>
 +
 +On supprime la valeur erronée
 +<code bash>
 +DELETE FROM Temperature_temper WHERE "host" = 'drouard.eu' AND time = '2017-12-07T11:00:04Z'
 +</code>
 +
 +On vérifie que la mesure à bien été supprimée
 +<code bash>
 +> SELECT * FROM Temperature_temper WHERE time >= '2017-12-07T10:54:04Z' AND time <= '2017-12-07T11:06:04Z'
 +name: Temperature_temper
 +time                 host       value
 +----                 ----       -----
 +2017-12-07T10:55:01Z drouard.eu 19.29
 +2017-12-07T11:05:01Z drouard.eu 19.31
 +</code>
 +
 +La **méthode 1** consiste à en rester là et éventuellement maquiller légèrement la courbe dans Grafana...
 +
 +Maintenant, on va aller un peu plus loin avec la **méthode 2**.
 +<WRAP center round info>
 +**Note** : il faut savoir que si l'on insert une valeur avec un **timestamp existant**, alors l'''INSERT'' agira comme un ''UPDATE'' (qui d'ailleurs, n'existe pas en tant que tel dans influxDB). Ce qui implique que pour la méthode 2, il n'est pas nécessaire de supprimer la valeur précédente 8-)
 +</WRAP>
 +
 +On va devoir injecter une nouvelle valeur avec comme paramètres :
 +  * **''value''** = Moyenne des valeurs encadrant
 +    * Dans cet ex : ''(19.29 + 19.31) / 2'' = **19.30**
 +  * **''timestamp''** = Timestamp au format epoch, précision à la nanoseconde
 +    * Dans cet ex : ''timestamp'' = **1512644404000000000**
 +
 +<WRAP center round tip>
 +A noter qu'il est possible de convertir une date au format RFC-3339 vers le format epoch avec une précision à la nanoseconde avec la commande ''date'' :
 +<code bash>
 +date -d 2017-12-07T11:00:04Z +%s%N
 +</code>
 +</WRAP>
 +
 +
 +Syntaxe générique d'insertion de donnée dans InfluxDB (Docs de référence sur [[https://docs.influxdata.com]] : [[https://docs.influxdata.com/influxdb/v1.3/introduction/getting_started/#writing-and-exploring-data|Writing and exploring data]] et [[https://docs.influxdata.com/influxdb/v1.3/write_protocols/line_protocol_reference/|Line Protocol]]) :
 +
 +<code bash>
 +<measurement>[,<tag_key>=<tag_value>[,<tag_key>=<tag_value>]] <field_key>=<field_value>[,<field_key>=<field_value>] [<timestamp>]
 +</code>
 +
 +Ensuite, on peut forger la requête d'insertion soit :
 +  * En mode **CLI** via le client ''influx''
 +<code bash>
 +INSERT Temperature_temper,host=drouard.eu value=19.30 1512644404000000000
 +</code>
 +  * En mode **HTTP API** (C'est à la mode... et et c'est pratique aussi) via ''curl''
 +<code bash>
 +curl -i -XPOST -u USERNAME:PASSWORD "http://localhost:8086/write?db=db_drouard&precision=ns" --data-binary 'Temperature_temper,host=drouard.eu value=19.30 1512644404000000000'
 +</code>
 +
 +Enfin, on vérifie la correction
 +<code bash>
 +> SELECT * FROM Temperature_temper WHERE time >= '2017-12-07T10:54:04Z' AND time <= '2017-12-07T11:06:04Z'
 +name: Temperature_temper
 +time                host       value
 +----                ----       -----
 +1512644101000000000 drouard.eu 19.29
 +1512644404000000000 drouard.eu 19.3
 +1512644701000000000 drouard.eu 19.31
 +</code>
pub_zone/linux/stack_tig.txt · Dernière modification: 15:05 27/06/2019 de nimbus