Zuhause Persönliche Finanzen Graphverarbeitung In Hadoop - Dummies

Graphverarbeitung In Hadoop - Dummies

Inhaltsverzeichnis:

Video: hadoop yarn architecture 2025

Video: hadoop yarn architecture 2025
Anonim

Eine der aufregendsten aufkommenden NoSQL-Technologien betrifft das Speichern und Verarbeiten von Diagrammdaten. Man könnte denken, dass diese Aussage eine alte Nachricht ist, weil Informatiker seit Jahrzehnten Graphanalyse-Techniken entwickeln. Was Sie sagen, mag wahr sein, aber was neu ist, ist, dass Sie mit Hadoop Graphenanalysen in großem Maßstab durchführen können.

Was sind Grafikdaten?

Ein Graph in Datenbegriffen ist einfach eine Darstellung einzelner Entitäten und ihrer Beziehungen. Die Entitäten eines Graphen sind als Knoten (oder Knoten ) bekannt, und die Beziehungen zwischen Entitäten in einem Graphen sind als Kanten (oder Verbindungen) bekannt. >). Die Darstellung von Datensätzen in einem Diagramm im Gegensatz zu herkömmlichen Zeilen und Spalten vereinfacht die Verarbeitung Ihrer Daten auf eine Weise, die die Beziehungen zwischen Objekten kristallklar macht. Typische Diagrammberechnungen werden durch die kürzeste Wegstrecke zwischen mehreren Knoten in Ihrem Graphen dargestellt oder einfach dadurch, wie viele Knoten Verbindungen eines bestimmten Typs mit einem bestimmten Knoten haben.

Anwendungen für die Graphanalyse

Die bekannteste Anwendung für Graphdatenbanken ist der PageRank-Algorithmus von Google, der die Verknüpfungsbeziehungen zwischen allen bekannten Webseiten berechnet. Google stellt das Web als ein riesiges Diagramm dar, bei dem die Webseiten Knoten sind und die Links von einer Seite zu einer anderen als Kanten dargestellt werden. (Google teilte den Reichtum mit, indem er ein Papier veröffentlichte, das sein Graph-Analyse-Projekt - Pregel genannt - im Jahr 2010 beschrieb.) Die Graph-Verarbeitung, an der Google interessiert war, beinhaltete die Berechnung der Anzahl von eingehenden Verbindungen für jede Webseite.

Facebook sorgte 2013 für Aufsehen, als es ankündigte, dass es Apache Giraph (basierend auf dem Pregel-Artikel) verwendete, eine Grafikverarbeitungs-Engine, die entwickelt wurde, um in HDFS gespeicherte Graphen zu verarbeiten. Es zeigte die Macht von Giraph, indem es einen Graphen zeigte, der alle Benutzer von Facebook (über 1 Milliarde) und ihre Freundschaften (Milliarden!) Darstellt, die zusammen über 1 Billionen Kanten hat. Diese Skala ist atemberaubend: Wenn Sie Facebook sind und Berechnungen wie Freundschaftsempfehlungen durchführen müssen, welches Werkzeug ist dann besser als ein Grafikprozessor? Es ist keine Überraschung, dass eine verteilte Graphdatenbank im Kern jeder anderen bemerkenswerten Social-Media-Site liegt, einschließlich Twitter, LinkedIn, OkCupid und Pinterest.

Eine Grafikverarbeitungs-Engine kann problemlos viele praktische Fragen für Social-Media-Seiten beantworten. Zwei Beispiele zeigen, wie LinkedIn den Grad der Trennung zwischen Ihnen und einem anderen Benutzer darstellt. Dies ist eine kürzeste Pfadberechnung (was ist die engste Verbindung zwischen zwei Knoten?) und wie OkCupid Benutzern mit gemeinsamen Interessen zeigt, ist eine Reihe von kollaborativen Filterberechnungen (welche sind die häufigsten Verbindungen zu einem bestimmten Satz von Knoten?).

Graphanalyse in Hadoop

Die Graphanalyse zu Hadoop befindet sich im Frühjahr 2014 noch in einem frühen Stadium. Mit dem Aufkommen von YARN in Hadoop 2 werden Graphanalyse und andere spezialisierte Verarbeitungstechniken bei Hadoop immer beliebter. Viele der in diesem Artikel erwähnten sozialen Websites verwenden ihre eigenen, proprietären Diagrammdatenbanken und Verarbeitungsmodule, aber Facebook ist ein prominenter Benutzer von Giraph. Aufgrund des (impliziten) Gütesiegels von Facebook ist Giraph eine beliebte Wahl für die Analyse von Graphen auf Hadoop geworden, hat jedoch einige Einschränkungen. Es handelt sich lediglich um eine Verarbeitungsengine, da es Daten als Diagramm in den Speicher des Clusters lädt und für chargenorientierte Abfragen optimiert ist.

Eine weitere Grafikverarbeitungslösung stammt von Aurelius, einem Unternehmen, das eine Reihe von Open-Source-Analysewerkzeugen für Hadoop veröffentlicht hat. Das Kernstück des Angebots ist Titan, eine Graphendatenbank mit HBase als Persistenzschicht, die für interaktive Abfragen optimiert ist, und Faunus, eine Grafikverarbeitungsengine, die einen Schnappschuss eines Graphen von Titan in HDFS speichert und MapReduce-Jobs dagegen ausführt… Aurelius verfügt sowohl für die interaktive (Titan) als auch die Batch-Anwendung (Faunus) über die übliche Graph-Traversal-API namens Gremlin.

Schließlich verfügt das Apache Spark-Projekt über den GraphX-Ableger, der die Generierung von Diagrammdaten und die anschließende Verarbeitung innerhalb des Spark-Frameworks ermöglicht.

Graphverarbeitung In Hadoop - Dummies

Die Wahl des Herausgebers

Was Sie über den Makler und die Hauptbeziehung für die Immobilienlizenzprüfung wissen sollten - Dummies

Was Sie über den Makler und die Hauptbeziehung für die Immobilienlizenzprüfung wissen sollten - Dummies

Die Elemente der Verantwortung eines Agenten gegenüber dem Auftraggeber werden in einem Wort zusammengefasst - Treuhänder. Die Immobilienlizenzprüfung wird zweifellos Fragen zu diesen Treuhandpflichten stellen. Treuhänder bedeutet treuer Diener, und ein Agent ist der Treuhänder des Auftraggebers. Der Vertreter vertritt getreu die Interessen des Auftraggebers vor allen anderen ...

Erkennen Miller Analogie Test 1: 3, 2: 4 Analogien - Dummies

Erkennen Miller Analogie Test 1: 3, 2: 4 Analogien - Dummies

The Der Miller Analogies Test (MAT) ist ein standardisierter Test, der normalerweise für die Zulassung von Absolventen verwendet wird. Der Test besteht vollständig aus Analogien. Der Miller Analogies Test verwendet mehrere Analogtypen wie 1: 3, 2: 4. Die Erkennung der Art der verwendeten Analogie spielt eine entscheidende Rolle bei der Auswahl der richtigen Antwort für diese Frage. ...

Erkennen Miller Analogie Test 1: 2, 3: 4 Analogien - Dummies

Erkennen Miller Analogie Test 1: 2, 3: 4 Analogien - Dummies

The Der Miller Analogies Test (MAT) ist ein standardisierter Test, der normalerweise für die Zulassung von Absolventen verwendet wird. Der Test besteht vollständig aus Analogien. Der Miller Analogies Test verwendet mehrere Analogtypen wie 1: 2, 3: 4. Die Erkennung der Art der verwendeten Analogie spielt eine entscheidende Rolle bei der Auswahl der richtigen Antwort für diese Frage. ...

Die Wahl des Herausgebers

Excel-Dashboards und -Berichte: So führen Sie Makros aus - Dummies

Excel-Dashboards und -Berichte: So führen Sie Makros aus - Dummies

Makros sind sehr nützlich für Ihre Excel Dashboards und Berichte. Um Ihre Makros in Aktion zu sehen, wählen Sie den Befehl Makros auf der Registerkarte Entwickler. Das in dieser Abbildung gezeigte Dialogfeld wird angezeigt, in dem Sie das Makro auswählen können, das Sie ausführen möchten. Wählen Sie das AddDataBars-Makro aus, und klicken Sie auf die Schaltfläche Ausführen. Wenn alles gut geht, ...

Excel-Dashboards und Berichte: Halten Sie Ihre Pivot-Tabelle frisch - Dummies

Excel-Dashboards und Berichte: Halten Sie Ihre Pivot-Tabelle frisch - Dummies

So langweilig wie Ihre Pivot-Tabellen Wie es scheint, werden sie schließlich zu den Stars Ihrer Excel-Berichte und Dashboards. Es ist daher wichtig, dass Sie Ihre Pivottabellen frisch und relevant halten. Im Laufe der Zeit können sich Ihre Daten mit neu hinzugefügten Zeilen und Spalten ändern und wachsen. Die Aktion der Aktualisierung Ihrer Pivot-Tabelle mit diesen ...

Excel 2010 Für Dummies Cheat Sheet - Dummies

Excel 2010 Für Dummies Cheat Sheet - Dummies

Auf den ersten Blick kann es schwierig sein, die vielen Menüs zu verstehen , Tabulatoren, Spalten und Zeilen der Excel 2010-Benutzeroberfläche. Dieser Cheat Sheet hilft Ihnen jedoch, Ihren Weg zu navigieren, indem Sie Tastenanschläge für die Bewegung des Zellen-Cursors zu einer neuen Zelle zeigen, einfache Regeln für die Dateneingabe-Etikette, häufige Ursachen einiger ...

Die Wahl des Herausgebers

Verwendung von Web Stats zur Verbesserung Ihrer Website - Dummies

Verwendung von Web Stats zur Verbesserung Ihrer Website - Dummies

Leute mögen nicht langsame Webseiten. Die Verwendung von Webstatistiken kann sicherstellen, dass Sie keine haben. Heutzutage werden wir alle durch schnelle Internetverbindungen verwöhnt, und Forschungsergebnisse zeigen, dass Webnutzer auf eine andere Website klicken, wenn Ihre Website mehr als zwei Sekunden benötigt, um sie zu öffnen. Eine schnellere Site behält mehr Besucher. mit einem langsameren ...

Webhost-Systemsteuerungsoptionen - dummies

Webhost-Systemsteuerungsoptionen - dummies

Sie haben mehrere Optionen für Web gehostete Control Panels. Die beliebteste und offensichtlichste Wahl ist cPanel. cPanel ist aufgrund seiner Balance zwischen Flexibilität und Benutzerfreundlichkeit eine gute Wahl für Bedienfelder. Die Wahl des Bedienfelds ist jedoch eine Frage der persönlichen Vorlieben und Sie müssen eines finden, das am besten passt ...

Zehn Essential Online Web Hosting Ressourcen - Dummies

Zehn Essential Online Web Hosting Ressourcen - Dummies

Bücher sind großartige Referenzen, aber es gibt auch einige wirklich gute Web-Hosting-Ressourcen online verfügbar, um Ihnen zusätzliche Informationen zu geben, wenn Sie nicht finden können, was Sie brauchen. Haben Sie keine Angst, das Internet zu überprüfen. ZeltBlogger. com TentBlogger. com ist im Besitz und geschrieben von John Saddington. Es ist wahrscheinlich die beste Online-Ressource für praktisch alles mit ...