Zuhause Persönliche Finanzen Hadoop Hochverfügbarkeit des verteilten Dateisystems (HDFS) - Dummies

Hadoop Hochverfügbarkeit des verteilten Dateisystems (HDFS) - Dummies

Video: How to install Hadoop on Ubuntu single node cluster 2025

Video: How to install Hadoop on Ubuntu single node cluster 2025
Anonim

In Hadoops frühen Anfängen konzentrierte sich ein Großteil der Diskussion auf die Darstellung eines Single Point of Failure durch den NameNode. Insgesamt hat Hadoop seit jeher eine robuste und fehlertolerante Architektur mit Ausnahme dieses Schlüsselbereichs. Ohne den NameNode gibt es keinen Hadoop-Cluster.

Mit Hadoop 2 können Sie HDFS so konfigurieren, dass ein Active NameNode und ein Standby NameNode vorhanden sind. Der Standby-NameNode muss sich auf einem dedizierten Master-Knoten befinden, der identisch mit dem Master-Knoten konfiguriert ist, der vom Active NameNode verwendet wird.

Der Standby NameNode sitzt nicht im Leerlauf, während der NameNode alle Blockadressanforderungen verarbeitet. Der Standby NameNode, der mit der Aufgabe betraut ist, den Status der Blockpositionen zu behalten und Metadaten im Speicher zu blockieren, übernimmt die Zuständigkeiten der HDFS-Prüfpunkte.

Der Active NameNode schreibt Journaleinträge für Dateiänderungen in die Mehrheit der JournalNode-Services, die auf den Master-Knoten ausgeführt werden. ( Hinweis: Für die HDFS-Hochverfügbarkeitslösung sind mindestens drei Master-Knoten erforderlich, und falls es mehr gibt, kann es nur eine ungerade Zahl geben.)

Wenn ein Fehler auftritt, liest der Standby-Knoten zuerst alle abgeschlossenen Journaleinträge (bei denen die Mehrheit der Journalknoten einen Eintrag hat), um sicherzustellen, dass der neue Active NameNode vollständig konsistent ist mit der Zustand des Clusters.

Zookeeper wird verwendet, um den Active NameNode zu überwachen und die Failover-Logistik zu behandeln, wenn der Active NameNode nicht mehr verfügbar ist. Sowohl die aktiven als auch die Standby-Namensknoten verfügen über dedizierte Zookeeper-Failover-Controller (ZFC), die die Überwachungs- und Failover-Aufgaben ausführen. Im Falle eines Fehlers informiert der ZFC die Zookeeper-Instanzen im Cluster, die dann einen neuen Active NameNode wählen.

Apache Zookeeper bietet Koordinations- und Konfigurationsservices für verteilte Systeme. Daher ist es kein Wunder, dass wir es überall in Hadoop verwenden.

Hadoop Hochverfügbarkeit des verteilten Dateisystems (HDFS) - Dummies

Die Wahl des Herausgebers

Wie man die Socialcast Mobile App benutzt - dummies

Wie man die Socialcast Mobile App benutzt - dummies

Sogar die stoischste Anwendung wie Microsoft Excel hat ein begleitendes Smartphone-App, natürlich hat Socialcast auch eine. Wenn es so wäre, wäre es nicht wirklich eine Ausrede zu sagen, dass Socialcast nicht sehr sozial wäre, wenn du es nicht mit in die große Welt außerhalb deiner Zelle mitnehmen könntest. Die mobile App ...

Wie man das App Verzeichnis von Yammer benutzt - dummies

Wie man das App Verzeichnis von Yammer benutzt - dummies

Sie haben vielleicht gehört: "Es gibt eine App dafür. "Nun, das ist der Fall bei Yammer, der als einzige Ressource für die Vernetzung am Arbeitsplatz funktioniert. Aber Yammer bietet Ihnen auch eine Menge Apps, mit denen Sie Ihr Arbeitsleben noch einfacher gestalten können. Es gibt zwei Möglichkeiten, auf das App-Verzeichnis zuzugreifen: Option ...

So ​​verwenden Sie die Yammer-Analysetools - Dummies

So ​​verwenden Sie die Yammer-Analysetools - Dummies

Yammer rühmt sich damit als "führendes soziales Unternehmensnetzwerk für Unternehmen" um die Arbeit intelligenter und schneller zu erledigen. "Woher weißt du, ob das wahr ist? Ein guter Weg, um zu sehen, wie es für Sie funktioniert, ist die Analyse von Yammer. Wie greifen Sie auf diese großartigen Tools zu? Es ist einfach. Log ...

Die Wahl des Herausgebers

Die Evolution von Distributed Computing für Big Data - Dummies

Die Evolution von Distributed Computing für Big Data - Dummies

Hinter allen wichtigen Trends des letzten Jahrzehnts, einschließlich Serviceorientierung, Cloud Computing, Virtualisierung und Big Data, ist eine grundlegende Technologie namens Distributed Computing. Einfach gesagt, ohne die Verteilung von Datenverarbeitung wäre keiner dieser Fortschritte möglich. Distributed Computing ist eine Technik, mit der einzelne Computer über geografische Gebiete hinweg miteinander vernetzt werden können, so als ob ...

Drei Anbieter mit Data Mining-Produkten - Dummies

Drei Anbieter mit Data Mining-Produkten - Dummies

Es gibt mehrere Anbieter, die Data-Mining-Produkte verkaufen, die Sie vielleicht in Betracht ziehen möchten. Verwenden Sie mit Ihrem Data Warehouse. Hier sind drei, die eine Überlegung wert sind. Microsoft Microsoft hat das serverseitige Data Mining mit Microsoft SQL Server 2005 eingeführt. Obwohl es nicht so ausgereift und ausgeklügelt wie SAS und SPSS ist, hat Microsoft im Laufe der Zeit seine Fähigkeit bewiesen ...

Grundlagen der Big-Data-Integration - Dummies

Grundlagen der Big-Data-Integration - Dummies

Die fundamentalen Elemente der Big-Data-Plattform verwalten Daten auf neue Weise verglichen mit der traditionellen relationalen Datenbank. Dies liegt daran, dass Skalierbarkeit und hohe Leistung erforderlich sind, um sowohl strukturierte als auch unstrukturierte Daten zu verwalten. Komponenten des Big-Data-Ökosystems von Hadoop bis NoSQL DB, MongoDB, Cassandra, ...

Die Wahl des Herausgebers

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

Die meisten modernen Smartphones sind Wi-Fi-fähig. In ein lokales Netzwerk können Sie Spotify-Tracks mithilfe von Wi-Fi auf Ihr Telefon streamen. Sie können Spotify Mobile zu Hause und über Wi-Fi-Netzwerke in Hotels und Cafés problemlos nutzen - Sie müssen nur sicherstellen, dass Sie angemeldet und verbunden sind. ...

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert, kann Auswirkungen auf den Festplattenspeicher Ihres Computers haben. Internetverbindung. Spotify funktioniert anders als viele andere Online-Musikdienste, weil es auf mehrere Arten angewiesen ist, um Ihnen reibungslos Musik ohne Verzögerungen zu liefern. In Computing-Sprechen, das Maß der Verzögerung zwischen Anfordern eines Songs und Hören es ...

So ​​erreichen Sie Spotify Support - Dummies

So ​​erreichen Sie Spotify Support - Dummies

Es kann vorkommen, dass Sie eine kleine Hilfe beim Navigieren und Verwenden von Spotify benötigen von deinen Spotify Freunden. Sie können jederzeit Support @ spotify per E-Mail senden. com mit Ihrer Frage oder melden Sie sich bei Twitter an und senden Sie einen Tweet an @spotify. Stellen Sie sicher, dass Sie alle Informationen einschließen, die dem Support-Team helfen könnten, einschließlich Ihres Benutzernamens, damit sie ...