Zuhause Persönliche Finanzen Das Apache Hadoop Ökosystem - dummies

Das Apache Hadoop Ökosystem - dummies

Video: Skillbyte Podcast #3: Das Hadoop Ökosystem - Was leistet die bekannteste Big Data Platform? 2025

Video: Skillbyte Podcast #3: Das Hadoop Ökosystem - Was leistet die bekannteste Big Data Platform? 2025
Anonim

Hadoop ist mehr als MapReduce und HDFS (Hadoop Distributed File System): Es ist auch eine Familie verwandter Projekte (ein Ökosystem, wirklich) für verteiltes Rechnen und groß angelegte Datenverarbeitung. Die meisten (aber nicht alle) dieser Projekte werden von der Apache Software Foundation gehostet. Die Tabelle listet einige dieser Projekte auf.

Verwandte Hadoop-Projekte

Projektname Beschreibung
Ambari Ein integrierter Satz von Hadoop-Verwaltungstools zum

Installieren, Überwachen und Verwalten eines Hadoop-Clusters. Ebenfalls enthalten sind

Werkzeuge zum Hinzufügen oder Entfernen von Slave-Knoten.

Avro Ein Framework für die effiziente Serialisierung (eine Art

Transformation) von Daten in ein kompaktes Binärformat

Flume Ein Datenflussdienst für die Bewegung großer Log-Volumen > Daten in Hadoop

HBase

Eine verteilte Spalten-Datenbank, die HDFS für ihren zugrunde liegenden Speicher verwendet. Mit HBase können Sie Daten in extrem großen Tabellen

mit variablen Spaltenstrukturen speichern.

HCatalog

Ein Dienst zum Bereitstellen einer relationalen Sicht der in Hadoop gespeicherten Daten, einschließlich eines Standardansatzes für Tabellendaten

Hive

Ein verteiltes Data Warehouse für Daten, die in HDFS gespeichert sind; bietet außerdem eine Abfragesprache, die auf SQL

(HiveQL)

Hue

basiert. Eine Hadoop-Administrationsoberfläche mit praktischen GUI-Tools für Durchsuchen von Dateien, Hive- und Pig-Abfragen und Entwicklung von Oozie < workflows

Mahout

Eine Bibliothek von statistischen Algorithmen für maschinelles Lernen, die in MapReduce

implementiert wurden und nativ auf Hadoop Oozie

ausgeführt werden können. Ein Workflow-Management-Tool, das die > Verkettung von Hadoop-Anwendungen

Pig Eine Plattform für die Analyse sehr großer Datenmengen, die

auf HDFS laufen, und mit einer Infrastrukturschicht bestehend aus einem Compiler

, der Sequenzen von MapReduce-Programmen und language layer bestehend aus der Abfragesprache Pig Latin

Sqoop

Ein Tool zum effizienten Verschieben großer Datenmengen zwischen

relationalen Datenbanken und HDFS

ZooKeeper Eine einfache Schnittstelle zum zentralisierten Koordination von Diensten

(wie Benennung, Konfiguration und Synchronisation) von

verteilten Anwendungen

Das Hadoop-Ökosystem und seine kommerziellen Distributionen entwickeln sich ständig weiter, wobei ständig neue oder verbesserte Technologien und Werkzeuge entstehen.

Die Abbildung zeigt die verschiedenen Hadoop-Ökosystemprojekte und ihre Beziehung zueinander:

Das Apache Hadoop Ökosystem - dummies

Die Wahl des Herausgebers

Wie man Dateien in C ++ kopiert - Dummies

Wie man Dateien in C ++ kopiert - Dummies

Ah, eine Datei kopieren - etwas so einfaches, es passiert alles Zeit. Kopiere diese Datei dorthin; Kopieren Sie diese Datei hier. Aber was genau passiert, wenn Sie eine Datei kopieren? Sie erstellen tatsächlich eine neue Datei und füllen diese mit dem gleichen Inhalt wie die Originaldatei. Und wie machst du das? Nun, ...

Anleitung zum Erstellen eines Verzeichnisses in C ++ - Dummies

Anleitung zum Erstellen eines Verzeichnisses in C ++ - Dummies

Wenn Sie ein Verzeichnis erstellen möchten, können Sie das MKdir Funktion. Wenn die Funktion das Verzeichnis für Sie erstellen kann, gibt sie eine 0 zurück. Andernfalls wird ein Wert ungleich Null zurückgegeben. (Wenn Sie es ausführen, erhalten Sie eine -1, aber Ihre beste Wette - immer - ist es, gegen 0 zu testen.) Hier ist einige ...

Wie man eine einfache mathematische Vorlage in C ++ - Dummies

Wie man eine einfache mathematische Vorlage in C ++ - Dummies

Mit einer mathematischen Vorlage erstellt, die man normalerweise benötigt Zugriff auf eine Vielzahl von Berechnungen, aber nur jeweils eine oder zwei dieser Berechnungen. Zum Beispiel, wenn jemand Ihre Hypothek berechnet, muss er die Amortisationsrechnung nicht kennen. Die Person kann jedoch die Amortisationsberechnung benötigen, wenn Sie mit ...

Die Wahl des Herausgebers

ASVAB: Lesen für die Studie - Dummies

ASVAB: Lesen für die Studie - Dummies

Lesen für die Zwecke des Studiums der ASVAB ist eine andere Art des Lesens. Leseverständnis erfordert nur, dass Sie Informationen lange genug im Kurzzeitgedächtnis speichern, um einige Sekunden später eine Frage zu beantworten. Zum Lesen für die Zwecke des Studiums müssen Sie wichtige Informationen in Ihr Langzeitgedächtnis einpflegen - ...

ASVAB Mathematik Wissenspraxis: Ungleichungen - Dummies

ASVAB Mathematik Wissenspraxis: Ungleichungen - Dummies

Als wäre Algebra nicht anspruchsvoll genug, einige Fragen zur Der Subtest Mathematik auf dem ASVAB wird auch eine Ungleichheit einwerfen - nur um sicherzustellen, dass Sie aufmerksam sind. Wie erkennst du eine Ungleichheit? Halten Sie Ausschau nach Fragen mit mehr als oder weniger als Symbolen oder nach Graphen, die eine Zahlenlinie mit einem ...

ASVAB Mathematische Wissenspraxis: Fraktionen - Dummies

ASVAB Mathematische Wissenspraxis: Fraktionen - Dummies

Der Subtest Mathematikwissen auf dem ASVAB wird Fragen beinhalten, die Sie fragen mit Teilen eines Ganzen oder Fraktionen arbeiten. Diese Fragen können das Multiplizieren, Dividieren, Addieren, Subtrahieren und Konvertieren von Brüchen beinhalten, ähnlich den folgenden Übungsfragen. Übungsfragen Welche Fraktionen sind nicht gleichwertig? Gegeben einfach den Ausdruck. Antworten und Erklärungen Das richtige ...

Die Wahl des Herausgebers

Hinzufügen von Flash-Audio- und Videodateien in Dreamweaver - Dummies

Hinzufügen von Flash-Audio- und Videodateien in Dreamweaver - Dummies

Adobe besitzt sowohl Flash als auch Dreamweaver Daher finden Sie großartige Unterstützung für Flash-Dateien in Dreamweaver. Das Dialogfeld "FLV einfügen" erleichtert das Festlegen von Parametern für Flash. Dreamweaver erkennt sogar automatisch die Größe von Flash-Videodateien. Sie können Flash auch zum Erstellen und Einfügen von Audiodateien verwenden, wobei nur der Player angezeigt wird.

Einstellen von Bildhelligkeit und -kontrast in Dreamweaver - Dummies

Einstellen von Bildhelligkeit und -kontrast in Dreamweaver - Dummies

Dreamweaver bietet Werkzeuge zum Erstellen von Bildern Einstellungen, einschließlich der Helligkeit und des Kontrastes. Durch die Anpassung der Bildhelligkeit können Sie die Gesamtlichtmenge in einem Bild ändern. Kontrast steuert den Unterschied zwischen hellen und dunklen Bereichen eines Bildes. Wenn Sie die Dreamweaver-Bearbeitungswerkzeuge verwenden, wird das Bild dauerhaft geändert, wenn die Seite ...

Hinzufügen von Bildern zu Ihrer Website in Dreamweaver - Dummies

Hinzufügen von Bildern zu Ihrer Website in Dreamweaver - Dummies

Wenn Sie Ihrer Website ein Bild hinzufügen, erscheint anfangs fast magisch, weil der Prozess mit Dreamweaver so einfach ist. Die Herausforderung bei Webgrafiken besteht darin, sie nicht zu Ihren Seiten hinzuzufügen, sondern gut aussehende Bilder zu erstellen, die schnell im Browser Ihres Viewers geladen werden. Sie benötigen ein anderes Programm wie Photoshop, Photoshop Elements oder Fireworks, um ...