Apache Storm

Apache Storm est un framework de calcul de traitement de flux distribué, écrit principalement dans le langage de programmation Clojure. Créé à l'origine par Nathan Marz [5] et l'équipe de BackType [6] le projet est rendu open source après avoir été acquis par Twitter. [7] Il utilise des "spouts" et des "bolts" créés sur mesure pour définir les sources d'informations et les manipulations permettant un traitement par lots et distribué des données en continu. La première publication a eu lieu le [8].

Apache Storm

Informations
Développé par Apache Software Foundation
Première version [1]
Dernière version 1.2.3 ()[2]
2.0.0 ()[3]
2.1.0 ()[4]
Dépôt git-wip-us.apache.org/repos/asf/storm.git
Écrit en Clojure et Java
Licence Licence Apache
Site web storm.apache.org

Une application Storm est conçue comme une "topologie" sous la forme d'un graphe orienté acyclique (DAG) avec des spouts et des bolts faisant office de sommets du graphe. Les arêtes du graphe sont des flux nommés et dirigent les données d'un nœud à un autre. Ensemble, la topologie agit comme un pipeline de transformation de données. À un niveau superficiel, la structure topologique générale est similaire à un travail MapReduce , la principale différence étant que les données sont traitées en temps réel par opposition à des lots individuels. De plus, les topologies Storm s'exécutent indéfiniment jusqu'à ce qu'elles soient supprimées, tandis qu'un DAG de travail MapReduce doit finir[9].

Storm est devenu un projet de niveau supérieur Apache en [10] et était auparavant en incubation depuis [11],[12].

Plateformes homologues

Storm n'est que l'un des dizaines de moteurs de traitement de flux. Pour une liste plus complète, voir Traitement de flux. Twitter a annoncé Heron le [13] API compatible avec Storm. Il existe d'autres moteurs de données en continu comparables, tels que Spark Streaming et Flink[14].

Voir également

Références

  1. « https://projects.apache.org/json/projects/storm.json » (consulté le )
  2. « http://storm.apache.org/2019/07/18/storm123-released.html »
  3. « http://storm.apache.org/2019/05/30/storm200-released.html »
  4. « http://storm.apache.org/2019/10/31/storm210-released.html »
  5. Marz, « About Nathan Marz », Nathan Marz (consulté le )
  6. « BackType Website (defunct) », BackType (consulté le )
  7. « A Storm is coming: more details and plans for release », Engineering Blog, Twitter Inc (consulté le )
  8. « Storm Codebase », Github (consulté le )
  9. « Tutorial - Components of a Storm cluster », Documentation, Apache Storm (consulté le )
  10. « Apache Storm Graduates to a Top-Level Project »
  11. « Storm Project Incubation Status », Apache Software Foundation (consulté le )
  12. « Storm Proposal », Apache Software Foundation (consulté le )
  13. « Flying faster with Twitter Heron », Engineering Blog, Twitter Inc (consulté le )
  14. « Benchmarking Streaming Computation Engines: Storm, Flink and Spark Streaming » [PDF], IEEE,


  • Portail de l’informatique
  • Portail des données
Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.