Zuhause Persönliche Finanzen Oozie-Workflows in Hadoop entwickeln - Dummies

Oozie-Workflows in Hadoop entwickeln - Dummies

Video: Apache OOZIE | OOZIE in Hadoop | OOZIE Workflows | COSO IT 2025

Video: Apache OOZIE | OOZIE in Hadoop | OOZIE Workflows | COSO IT 2025
Anonim

Oozie-Workflows sind im Kern gerichtete Graphen, in denen Sie Aktionen (Hadoop-Anwendungen) und Datenfluss definieren können, ohne Schleifen - also können Sie t Definieren Sie eine Struktur, in der Sie eine bestimmte Operation immer wieder ausführen, bis eine Bedingung erfüllt ist (z. B. eine for-Schleife).

Oozie-Workflows sind sehr flexibel, da Sie zustandsbasierte Entscheidungen und gegabelte Pfade für die parallele Ausführung definieren können. Sie können auch eine Vielzahl von Aktionen ausführen.

In dieser Abbildung sehen Sie einen Workflow, der die grundlegenden Funktionen von Oozie-Workflows zeigt. Zuerst wird ein Pig-Skript ausgeführt, dem unmittelbar ein Entscheidungsbaum folgt. Abhängig vom Status der Ausgabe kann der Steuerungsfluss entweder direkt zu einer HDFS-Dateibearbeitung (Hadoop Distributed File System) (z. B. eine Operation "copyToLocal") oder zu einer Verzweigungsaktion (fork action) führen.

Wenn der Steuerungsfluss an die fork-Aktion übergeben wird, werden zwei Jobs gleichzeitig ausgeführt: ein MapReduce-Job und eine Hive-Abfrage. Der Kontrollfluss geht dann zur HDFS-Operation, sobald sowohl der MapReduce-Job als auch die Hive-Abfrage beendet sind. Nach der HDFS-Operation ist der Workflow abgeschlossen.

Oozie-Workflow-Definitionen sind in XML geschrieben und basieren auf dem HadoD-Prozessdefinitionssprache (hPDL) -Schema. Dieses spezielle Schema basiert wiederum auf dem XPDL-Schema (XML Process Definition Language), einem produktunabhängigen Standard für die Modellierung von Geschäftsprozessdefinitionen.

Ein Oozie-Workflow besteht aus einer Reihe von Aktionen, die von XML-Knoten codiert werden. Es gibt verschiedene Arten von Knoten, die verschiedene Arten von Aktionen oder Steuerfluss-Direktiven darstellen. Jeder Oozie-Workflow verfügt über eine eigene XML-Datei, in der jeder Knoten und seine Verbindungen definiert sind.

Workflow-Knoten benötigen alle eindeutige IDs, da sie verwendet werden, um den nächsten Knoten zu identifizieren, der im Workflow verarbeitet werden soll. Dies bedeutet, dass die Reihenfolge, in der die Aktionen ausgeführt werden, davon abhängt, wo der Knoten einer Aktion in der Workflow-XML angezeigt wird. Sehen Sie sich die folgende Liste an, die ein Beispiel für die grundlegende Struktur der XML-Datei eines Oozie-Workflows zeigt, um zu sehen, wie dieses Konzept aussehen würde.

… … "Erledigter Job."

In diesem Beispiel haben Sie neben den Start-, End- und Kill-Knoten zwei Aktionsknoten. Jeder Aktionsknoten repräsentiert eine Anwendung oder einen Befehl, der gerade ausgeführt wird.

Oozie-Workflows in Hadoop entwickeln - Dummies

Die Wahl des Herausgebers

Wie man die Socialcast Mobile App benutzt - dummies

Wie man die Socialcast Mobile App benutzt - dummies

Sogar die stoischste Anwendung wie Microsoft Excel hat ein begleitendes Smartphone-App, natürlich hat Socialcast auch eine. Wenn es so wäre, wäre es nicht wirklich eine Ausrede zu sagen, dass Socialcast nicht sehr sozial wäre, wenn du es nicht mit in die große Welt außerhalb deiner Zelle mitnehmen könntest. Die mobile App ...

Wie man das App Verzeichnis von Yammer benutzt - dummies

Wie man das App Verzeichnis von Yammer benutzt - dummies

Sie haben vielleicht gehört: "Es gibt eine App dafür. "Nun, das ist der Fall bei Yammer, der als einzige Ressource für die Vernetzung am Arbeitsplatz funktioniert. Aber Yammer bietet Ihnen auch eine Menge Apps, mit denen Sie Ihr Arbeitsleben noch einfacher gestalten können. Es gibt zwei Möglichkeiten, auf das App-Verzeichnis zuzugreifen: Option ...

So ​​verwenden Sie die Yammer-Analysetools - Dummies

So ​​verwenden Sie die Yammer-Analysetools - Dummies

Yammer rühmt sich damit als "führendes soziales Unternehmensnetzwerk für Unternehmen" um die Arbeit intelligenter und schneller zu erledigen. "Woher weißt du, ob das wahr ist? Ein guter Weg, um zu sehen, wie es für Sie funktioniert, ist die Analyse von Yammer. Wie greifen Sie auf diese großartigen Tools zu? Es ist einfach. Log ...

Die Wahl des Herausgebers

Die Evolution von Distributed Computing für Big Data - Dummies

Die Evolution von Distributed Computing für Big Data - Dummies

Hinter allen wichtigen Trends des letzten Jahrzehnts, einschließlich Serviceorientierung, Cloud Computing, Virtualisierung und Big Data, ist eine grundlegende Technologie namens Distributed Computing. Einfach gesagt, ohne die Verteilung von Datenverarbeitung wäre keiner dieser Fortschritte möglich. Distributed Computing ist eine Technik, mit der einzelne Computer über geografische Gebiete hinweg miteinander vernetzt werden können, so als ob ...

Drei Anbieter mit Data Mining-Produkten - Dummies

Drei Anbieter mit Data Mining-Produkten - Dummies

Es gibt mehrere Anbieter, die Data-Mining-Produkte verkaufen, die Sie vielleicht in Betracht ziehen möchten. Verwenden Sie mit Ihrem Data Warehouse. Hier sind drei, die eine Überlegung wert sind. Microsoft Microsoft hat das serverseitige Data Mining mit Microsoft SQL Server 2005 eingeführt. Obwohl es nicht so ausgereift und ausgeklügelt wie SAS und SPSS ist, hat Microsoft im Laufe der Zeit seine Fähigkeit bewiesen ...

Grundlagen der Big-Data-Integration - Dummies

Grundlagen der Big-Data-Integration - Dummies

Die fundamentalen Elemente der Big-Data-Plattform verwalten Daten auf neue Weise verglichen mit der traditionellen relationalen Datenbank. Dies liegt daran, dass Skalierbarkeit und hohe Leistung erforderlich sind, um sowohl strukturierte als auch unstrukturierte Daten zu verwalten. Komponenten des Big-Data-Ökosystems von Hadoop bis NoSQL DB, MongoDB, Cassandra, ...

Die Wahl des Herausgebers

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

Die meisten modernen Smartphones sind Wi-Fi-fähig. In ein lokales Netzwerk können Sie Spotify-Tracks mithilfe von Wi-Fi auf Ihr Telefon streamen. Sie können Spotify Mobile zu Hause und über Wi-Fi-Netzwerke in Hotels und Cafés problemlos nutzen - Sie müssen nur sicherstellen, dass Sie angemeldet und verbunden sind. ...

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert, kann Auswirkungen auf den Festplattenspeicher Ihres Computers haben. Internetverbindung. Spotify funktioniert anders als viele andere Online-Musikdienste, weil es auf mehrere Arten angewiesen ist, um Ihnen reibungslos Musik ohne Verzögerungen zu liefern. In Computing-Sprechen, das Maß der Verzögerung zwischen Anfordern eines Songs und Hören es ...

So ​​erreichen Sie Spotify Support - Dummies

So ​​erreichen Sie Spotify Support - Dummies

Es kann vorkommen, dass Sie eine kleine Hilfe beim Navigieren und Verwenden von Spotify benötigen von deinen Spotify Freunden. Sie können jederzeit Support @ spotify per E-Mail senden. com mit Ihrer Frage oder melden Sie sich bei Twitter an und senden Sie einen Tweet an @spotify. Stellen Sie sicher, dass Sie alle Informationen einschließen, die dem Support-Team helfen könnten, einschließlich Ihres Benutzernamens, damit sie ...