Zuhause Persönliche Finanzen Hadoop als abfragbares Archiv von Cold Warehouse Daten - Dummies

Hadoop als abfragbares Archiv von Cold Warehouse Daten - Dummies

Video: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025

Video: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025
Anonim

genannt) eine Vielzahl von Studien zeigen, dass die meisten Daten in einem Enterprise Data Warehouse selten abgefragt werden. Datenbankanbieter haben auf solche Beobachtungen geantwortet, indem sie ihre eigenen Methoden implementierten, um zu sortieren, welche Daten wo platziert werden.

Eine Methode ordnet das Datenuniversum in Bezeichnungen von warm, warm oder kalt, wobei heiß Daten (manchmal aktiv Daten genannt wird häufig verwendet, warm Daten werden von Zeit zu Zeit verwendet und kalt Daten wird selten verwendet. Die vorgeschlagene Lösung für viele Anbieter ist die kalten Daten auf langsameren Festplatten in den Data Warehouse-Gehäusen zu speichern oder clevere Caching-Strategien zu erstellen, um die heißen Daten im Speicher zu halten, unter anderem.

Das Problem bei diesem Ansatz ist, dass, obwohl langsamer Speicher verwendet wird, es immer noch teuer ist, kalte, selten benutzte Daten in einem Lagerhaus zu speichern. Lizenzierung von Hardware und Software. Gleichzeitig werden kalte und ruhende Daten oft auf Band archiviert.

Dieses traditionelle Archivierungsmodell bricht zusammen, wenn Sie alle kalte Daten kosteneffizient und relativ effizient abfragen wollen - ohne alte Bänder anzufordern.

Wenn Sie sich die Kosten und die Betriebseigenschaften von Hadoop ansehen, scheint es tatsächlich das neue Backup-Band zu werden. Hadoop ist vor allem deshalb preiswert, weil Hadoop-Systeme so konzipiert sind, dass sie einen geringeren Hardware-Grad verwenden als normalerweise in Data-Warehouse-Systemen. Eine weitere signifikante Kosteneinsparung ist die Softwarelizenzierung.

Kommerzielle Hadoop-Distributionslizenzen erfordern einen Bruchteil der Kosten von relationalen Data-Warehouse-Softwarelizenzen, die dafür berüchtigt sind, teuer zu sein. Aus betrieblicher Sicht ist Hadoop so konzipiert, dass es einfach skaliert werden kann, indem einem vorhandenen Cluster zusätzliche Slave-Knoten hinzugefügt werden. Und da Slave-Knoten hinzugefügt werden und Datensätze immer umfangreicher werden, ermöglichen die Datenverarbeitungs-Frameworks von Hadoop Ihren Anwendungen, die erhöhte Arbeitslast nahtlos zu bewältigen.

Hadoop stellt eine einfache, flexible und kostengünstige Möglichkeit dar, die Verarbeitung über buchstäblich Tausende von Servern zu beschleunigen.

Mit seiner skalierbaren und kostengünstigen Architektur scheint Hadoop die perfekte Wahl für die Archivierung von Warehouse-Daten zu sein … abgesehen von einer kleinen Sache: Der größte Teil der IT-Welt läuft auf SQL, und SQL allein ist nicht gut mit Hadoop kompatibel…

Sicherlich ist die Hadoop-freundliche NoSQL-Bewegung am Leben und gut, aber die meisten Power-User verwenden jetzt SQL mit üblichen, standardmäßigen Toolsets, die SQL-Abfragen unter der Haube erzeugen - Produkte wie Tableau, Microsoft Excel und IBM Cognos BI.

Es stimmt, dass das Hadoop-Ökosystem Hive enthält, aber Hive unterstützt nur eine Untermenge von SQL, und obwohl sich die Leistung verbessert (zusammen mit der SQL-Unterstützung), ist es bei der Beantwortung kleinerer Anfragen nicht annähernd so schnell wie bei relationalen Systemen. In letzter Zeit gab es große Fortschritte beim SQL-Zugriff auf Hadoop, wodurch Hadoop zum neuen Ziel für Online-Data-Warehouse-Archive wurde.

Je nach Hadoop-Anbieter werden SQL- (oder SQL-ähnliche) APIs verfügbar, sodass die gängigen Reporting- und Analysetools SQL-Standards für die Ausführung von Daten ausgeben können. Hadoop. Zum Beispiel hat IBM seine Big SQL API, Cloudera Impala und Hive selbst, über die Hortonworks Stinger Initiative, wird zunehmend SQL-konform.

Obwohl es verschiedene Sichtweisen gibt (einige zielen darauf ab, Hive zu erweitern, einige, Hive zu erweitern und andere, eine Alternative zu bieten), versuchen all diese Lösungen, zwei Probleme anzugehen: MapReduce ist eine schlechte Lösung für die Ausführung kleinerer Abfragen. Der SQL-Zugriff ist vorerst der Schlüssel dafür, dass IT-Mitarbeiter ihre vorhandenen SQL-Kenntnisse nutzen können, um die in Hadoop gespeicherten Daten zu optimieren.

Hadoop als abfragbares Archiv von Cold Warehouse Daten - Dummies

Die Wahl des Herausgebers

Wie man die Socialcast Mobile App benutzt - dummies

Wie man die Socialcast Mobile App benutzt - dummies

Sogar die stoischste Anwendung wie Microsoft Excel hat ein begleitendes Smartphone-App, natürlich hat Socialcast auch eine. Wenn es so wäre, wäre es nicht wirklich eine Ausrede zu sagen, dass Socialcast nicht sehr sozial wäre, wenn du es nicht mit in die große Welt außerhalb deiner Zelle mitnehmen könntest. Die mobile App ...

Wie man das App Verzeichnis von Yammer benutzt - dummies

Wie man das App Verzeichnis von Yammer benutzt - dummies

Sie haben vielleicht gehört: "Es gibt eine App dafür. "Nun, das ist der Fall bei Yammer, der als einzige Ressource für die Vernetzung am Arbeitsplatz funktioniert. Aber Yammer bietet Ihnen auch eine Menge Apps, mit denen Sie Ihr Arbeitsleben noch einfacher gestalten können. Es gibt zwei Möglichkeiten, auf das App-Verzeichnis zuzugreifen: Option ...

So ​​verwenden Sie die Yammer-Analysetools - Dummies

So ​​verwenden Sie die Yammer-Analysetools - Dummies

Yammer rühmt sich damit als "führendes soziales Unternehmensnetzwerk für Unternehmen" um die Arbeit intelligenter und schneller zu erledigen. "Woher weißt du, ob das wahr ist? Ein guter Weg, um zu sehen, wie es für Sie funktioniert, ist die Analyse von Yammer. Wie greifen Sie auf diese großartigen Tools zu? Es ist einfach. Log ...

Die Wahl des Herausgebers

Die Evolution von Distributed Computing für Big Data - Dummies

Die Evolution von Distributed Computing für Big Data - Dummies

Hinter allen wichtigen Trends des letzten Jahrzehnts, einschließlich Serviceorientierung, Cloud Computing, Virtualisierung und Big Data, ist eine grundlegende Technologie namens Distributed Computing. Einfach gesagt, ohne die Verteilung von Datenverarbeitung wäre keiner dieser Fortschritte möglich. Distributed Computing ist eine Technik, mit der einzelne Computer über geografische Gebiete hinweg miteinander vernetzt werden können, so als ob ...

Drei Anbieter mit Data Mining-Produkten - Dummies

Drei Anbieter mit Data Mining-Produkten - Dummies

Es gibt mehrere Anbieter, die Data-Mining-Produkte verkaufen, die Sie vielleicht in Betracht ziehen möchten. Verwenden Sie mit Ihrem Data Warehouse. Hier sind drei, die eine Überlegung wert sind. Microsoft Microsoft hat das serverseitige Data Mining mit Microsoft SQL Server 2005 eingeführt. Obwohl es nicht so ausgereift und ausgeklügelt wie SAS und SPSS ist, hat Microsoft im Laufe der Zeit seine Fähigkeit bewiesen ...

Grundlagen der Big-Data-Integration - Dummies

Grundlagen der Big-Data-Integration - Dummies

Die fundamentalen Elemente der Big-Data-Plattform verwalten Daten auf neue Weise verglichen mit der traditionellen relationalen Datenbank. Dies liegt daran, dass Skalierbarkeit und hohe Leistung erforderlich sind, um sowohl strukturierte als auch unstrukturierte Daten zu verwalten. Komponenten des Big-Data-Ökosystems von Hadoop bis NoSQL DB, MongoDB, Cassandra, ...

Die Wahl des Herausgebers

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

Die meisten modernen Smartphones sind Wi-Fi-fähig. In ein lokales Netzwerk können Sie Spotify-Tracks mithilfe von Wi-Fi auf Ihr Telefon streamen. Sie können Spotify Mobile zu Hause und über Wi-Fi-Netzwerke in Hotels und Cafés problemlos nutzen - Sie müssen nur sicherstellen, dass Sie angemeldet und verbunden sind. ...

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert, kann Auswirkungen auf den Festplattenspeicher Ihres Computers haben. Internetverbindung. Spotify funktioniert anders als viele andere Online-Musikdienste, weil es auf mehrere Arten angewiesen ist, um Ihnen reibungslos Musik ohne Verzögerungen zu liefern. In Computing-Sprechen, das Maß der Verzögerung zwischen Anfordern eines Songs und Hören es ...

So ​​erreichen Sie Spotify Support - Dummies

So ​​erreichen Sie Spotify Support - Dummies

Es kann vorkommen, dass Sie eine kleine Hilfe beim Navigieren und Verwenden von Spotify benötigen von deinen Spotify Freunden. Sie können jederzeit Support @ spotify per E-Mail senden. com mit Ihrer Frage oder melden Sie sich bei Twitter an und senden Sie einen Tweet an @spotify. Stellen Sie sicher, dass Sie alle Informationen einschließen, die dem Support-Team helfen könnten, einschließlich Ihres Benutzernamens, damit sie ...