Zuhause Persönliche Finanzen Die Hadoop-basierte Landezone - Dummies

Die Hadoop-basierte Landezone - Dummies

Video: How to install Hadoop on Ubuntu single node cluster 2025

Video: How to install Hadoop on Ubuntu single node cluster 2025
Anonim

Wenn Sie versuchen herauszufinden, was eine Analytics-Umgebung ist Wie in der Zukunft aussehen mag, stolpert man immer wieder über das Muster der Hadoop-Landezone. In der Tat ist es nicht einmal mehr eine zukunftsorientierte Diskussion, weil die Landezone zu der gewordenen Weise geworden ist, dass zukunftsorientierte Unternehmen jetzt versuchen, IT-Kosten zu sparen und eine Plattform für innovative Datenanalyse zu bieten.

Was genau ist die Landezone? Auf der grundlegendsten Ebene ist die Landezone lediglich der zentrale Ort, an dem Daten in Ihrem Unternehmen landen - beispielsweise wöchentliche Extraktionen von Daten aus operativen Datenbanken oder von Systemen, die Protokolldateien generieren. Hadoop ist ein nützliches Repository, in dem Daten landen, aus diesen Gründen:

  • Es kann alle Arten von Daten verarbeiten.

  • Es ist einfach skalierbar.

  • Es ist günstig.

  • Sobald Sie Daten in Hadoop landen, haben Sie die Flexibilität, die Daten auf verschiedene Arten abzufragen, zu analysieren oder zu verarbeiten.

Dieses Diagramm zeigt nur einen Teil der Geschichte und ist keinesfalls vollständig. Schließlich müssen Sie wissen, wie sich die Daten von der Landezone in das Data Warehouse bewegen und so weiter.

Der Ausgangspunkt für die Diskussion über die Modernisierung eines Data Warehouse muss sein, wie Unternehmen Data Warehouses nutzen und welche Herausforderungen die IT-Abteilungen damit bewältigen müssen.

In den 1980er Jahren, nachdem Unternehmen ihre Betriebsdaten in relationalen Datenbanken (z. B. Verkaufstransaktionen oder Lieferkettenstatus) gespeichert hatten, wollten Unternehmensleiter Berichte aus diesen relationalen Daten generieren. Die ersten relationalen Geschäfte waren operative Datenbanken und waren für die Online-Transaktionsverarbeitung (OLTP) konzipiert, so dass Datensätze so schnell wie möglich eingefügt, aktualisiert oder gelöscht werden konnten.

Dies ist eine unpraktische Architektur für umfangreiche Berichterstellung und Analyse, so dass relationale Online Analytical Processing (ROLAP) -Datenbanken entwickelt wurden, um diesen Bedarf zu decken. Dies führte zur Entwicklung einer ganz neuen Art von RDBMS: einem Data Warehouse, , das eine separate Entität ist und neben den Betriebsdatenspeichern eines Unternehmens steht.

Dies ist auf die Verwendung von speziell entwickelten Tools für mehr Effizienz zurückzuführen: Sie verfügen über Betriebsdatenspeicher für die effiziente Verarbeitung von Transaktionen und Data Warehouses, die für die Unterstützung wiederholter Analysen und Berichte konzipiert sind.

Data-Warehouses werden jedoch aus folgenden Gründen zunehmend belastet:

  • Erhöhte Nachfrage, um längere Datenperioden online zu halten.

  • Erhöhter Bedarf an Verarbeitungsressourcen zur Umwandlung von Daten zur Verwendung in anderen Lagern und Data Marts.

  • Gesteigerte Nachfrage nach innovativen Analysen, bei denen Analysten zusätzlich zu den bereits laufenden regelmäßigen Berichten Fragen zu den Lagerdaten stellen müssen. Dies kann zu einer erheblichen zusätzlichen Verarbeitung führen.

In der Abbildung sehen Sie das Data Warehouse, das als primäre Ressource für die verschiedenen Analysearten dargestellt wird, die auf der rechten Seite der Abbildung aufgeführt sind. Hier sehen Sie auch das Konzept einer Landezone, in der Hadoop Daten aus verschiedenen eingehenden Datenquellen speichert.

Um eine Hadoop-Landezone zu aktivieren, müssen Sie sicherstellen, dass Sie Daten aus den verschiedenen Datenquellen in HDFS schreiben können. Für relationale Datenbanken wäre eine gute Lösung Sqoop.

Aber die Daten zu landen ist nur der Anfang.

Wenn Sie Daten aus vielen Quellen in Ihre Landezone verschieben, ist ein Problem, mit dem Sie unweigerlich konfrontiert werden, die Datenqualität. Es ist üblich, dass Unternehmen über viele operative Datenbanken verfügen, in denen wichtige Details unterschiedlich sind, beispielsweise dass ein Kunde als "D. deRoos "in einer Datenbank und" Dirk deRoos "in einer anderen Datenbank.

Ein weiteres Qualitätsproblem liegt in Systemen, bei denen die manuelle Dateneingabe entweder von Kunden oder Mitarbeitern stark ausgeprägt ist - hier ist es nicht ungewöhnlich, dass umgeschaltete Vornamen und Nachnamen oder andere Fehlinformationen in den Datenfeldern vorkommen.

Datenqualitätsprobleme sind eine große Herausforderung für Data Warehouse-Umgebungen, und daher wird viel Aufwand in die Bereinigungs- und Validierungsschritte investiert, da Daten von anderen Systemen verarbeitet werden, wenn sie in das Warehouse geladen werden. Alles läuft auf Vertrauen hinaus: Wenn die Daten, mit denen Sie Fragen stellen, schmutzig sind, können Sie den Antworten in Ihren Berichten nicht vertrauen.

Während Sie in Ihrer Hadoop-Landezone Zugriff auf viele verschiedene Datensätze aus verschiedenen Quellen haben, müssen Sie die Datenqualität und die Vertraulichkeit der Daten berücksichtigen.

Die Hadoop-basierte Landezone - Dummies

Die Wahl des Herausgebers

Wie man Dateien in C ++ kopiert - Dummies

Wie man Dateien in C ++ kopiert - Dummies

Ah, eine Datei kopieren - etwas so einfaches, es passiert alles Zeit. Kopiere diese Datei dorthin; Kopieren Sie diese Datei hier. Aber was genau passiert, wenn Sie eine Datei kopieren? Sie erstellen tatsächlich eine neue Datei und füllen diese mit dem gleichen Inhalt wie die Originaldatei. Und wie machst du das? Nun, ...

Anleitung zum Erstellen eines Verzeichnisses in C ++ - Dummies

Anleitung zum Erstellen eines Verzeichnisses in C ++ - Dummies

Wenn Sie ein Verzeichnis erstellen möchten, können Sie das MKdir Funktion. Wenn die Funktion das Verzeichnis für Sie erstellen kann, gibt sie eine 0 zurück. Andernfalls wird ein Wert ungleich Null zurückgegeben. (Wenn Sie es ausführen, erhalten Sie eine -1, aber Ihre beste Wette - immer - ist es, gegen 0 zu testen.) Hier ist einige ...

Wie man eine einfache mathematische Vorlage in C ++ - Dummies

Wie man eine einfache mathematische Vorlage in C ++ - Dummies

Mit einer mathematischen Vorlage erstellt, die man normalerweise benötigt Zugriff auf eine Vielzahl von Berechnungen, aber nur jeweils eine oder zwei dieser Berechnungen. Zum Beispiel, wenn jemand Ihre Hypothek berechnet, muss er die Amortisationsrechnung nicht kennen. Die Person kann jedoch die Amortisationsberechnung benötigen, wenn Sie mit ...

Die Wahl des Herausgebers

ASVAB: Lesen für die Studie - Dummies

ASVAB: Lesen für die Studie - Dummies

Lesen für die Zwecke des Studiums der ASVAB ist eine andere Art des Lesens. Leseverständnis erfordert nur, dass Sie Informationen lange genug im Kurzzeitgedächtnis speichern, um einige Sekunden später eine Frage zu beantworten. Zum Lesen für die Zwecke des Studiums müssen Sie wichtige Informationen in Ihr Langzeitgedächtnis einpflegen - ...

ASVAB Mathematik Wissenspraxis: Ungleichungen - Dummies

ASVAB Mathematik Wissenspraxis: Ungleichungen - Dummies

Als wäre Algebra nicht anspruchsvoll genug, einige Fragen zur Der Subtest Mathematik auf dem ASVAB wird auch eine Ungleichheit einwerfen - nur um sicherzustellen, dass Sie aufmerksam sind. Wie erkennst du eine Ungleichheit? Halten Sie Ausschau nach Fragen mit mehr als oder weniger als Symbolen oder nach Graphen, die eine Zahlenlinie mit einem ...

ASVAB Mathematische Wissenspraxis: Fraktionen - Dummies

ASVAB Mathematische Wissenspraxis: Fraktionen - Dummies

Der Subtest Mathematikwissen auf dem ASVAB wird Fragen beinhalten, die Sie fragen mit Teilen eines Ganzen oder Fraktionen arbeiten. Diese Fragen können das Multiplizieren, Dividieren, Addieren, Subtrahieren und Konvertieren von Brüchen beinhalten, ähnlich den folgenden Übungsfragen. Übungsfragen Welche Fraktionen sind nicht gleichwertig? Gegeben einfach den Ausdruck. Antworten und Erklärungen Das richtige ...

Die Wahl des Herausgebers

Hinzufügen von Flash-Audio- und Videodateien in Dreamweaver - Dummies

Hinzufügen von Flash-Audio- und Videodateien in Dreamweaver - Dummies

Adobe besitzt sowohl Flash als auch Dreamweaver Daher finden Sie großartige Unterstützung für Flash-Dateien in Dreamweaver. Das Dialogfeld "FLV einfügen" erleichtert das Festlegen von Parametern für Flash. Dreamweaver erkennt sogar automatisch die Größe von Flash-Videodateien. Sie können Flash auch zum Erstellen und Einfügen von Audiodateien verwenden, wobei nur der Player angezeigt wird.

Einstellen von Bildhelligkeit und -kontrast in Dreamweaver - Dummies

Einstellen von Bildhelligkeit und -kontrast in Dreamweaver - Dummies

Dreamweaver bietet Werkzeuge zum Erstellen von Bildern Einstellungen, einschließlich der Helligkeit und des Kontrastes. Durch die Anpassung der Bildhelligkeit können Sie die Gesamtlichtmenge in einem Bild ändern. Kontrast steuert den Unterschied zwischen hellen und dunklen Bereichen eines Bildes. Wenn Sie die Dreamweaver-Bearbeitungswerkzeuge verwenden, wird das Bild dauerhaft geändert, wenn die Seite ...

Hinzufügen von Bildern zu Ihrer Website in Dreamweaver - Dummies

Hinzufügen von Bildern zu Ihrer Website in Dreamweaver - Dummies

Wenn Sie Ihrer Website ein Bild hinzufügen, erscheint anfangs fast magisch, weil der Prozess mit Dreamweaver so einfach ist. Die Herausforderung bei Webgrafiken besteht darin, sie nicht zu Ihren Seiten hinzuzufügen, sondern gut aussehende Bilder zu erstellen, die schnell im Browser Ihres Viewers geladen werden. Sie benötigen ein anderes Programm wie Photoshop, Photoshop Elements oder Fireworks, um ...