Graphverarbeitung In Hadoop - Dummies

Eine der aufregendsten aufkommenden NoSQL-Technologien betrifft das Speichern und Verarbeiten von Diagrammdaten. Man könnte denken, dass diese Aussage eine alte Nachricht ist, weil Informatiker seit Jahrzehnten Graphanalyse-Techniken entwickeln. Was Sie sagen, mag wahr sein, aber was neu ist, ist, dass Sie mit Hadoop Graphenanalysen in großem Maßstab durchführen können.

Was sind Grafikdaten?

Ein Graph in Datenbegriffen ist einfach eine Darstellung einzelner Entitäten und ihrer Beziehungen. Die Entitäten eines Graphen sind als Knoten (oder Knoten ) bekannt, und die Beziehungen zwischen Entitäten in einem Graphen sind als Kanten (oder Verbindungen) bekannt. >). Die Darstellung von Datensätzen in einem Diagramm im Gegensatz zu herkömmlichen Zeilen und Spalten vereinfacht die Verarbeitung Ihrer Daten auf eine Weise, die die Beziehungen zwischen Objekten kristallklar macht. Typische Diagrammberechnungen werden durch die kürzeste Wegstrecke zwischen mehreren Knoten in Ihrem Graphen dargestellt oder einfach dadurch, wie viele Knoten Verbindungen eines bestimmten Typs mit einem bestimmten Knoten haben.

Anwendungen für die Graphanalyse

Die bekannteste Anwendung für Graphdatenbanken ist der PageRank-Algorithmus von Google, der die Verknüpfungsbeziehungen zwischen allen bekannten Webseiten berechnet. Google stellt das Web als ein riesiges Diagramm dar, bei dem die Webseiten Knoten sind und die Links von einer Seite zu einer anderen als Kanten dargestellt werden. (Google teilte den Reichtum mit, indem er ein Papier veröffentlichte, das sein Graph-Analyse-Projekt - Pregel genannt - im Jahr 2010 beschrieb.) Die Graph-Verarbeitung, an der Google interessiert war, beinhaltete die Berechnung der Anzahl von eingehenden Verbindungen für jede Webseite.

Facebook sorgte 2013 für Aufsehen, als es ankündigte, dass es Apache Giraph (basierend auf dem Pregel-Artikel) verwendete, eine Grafikverarbeitungs-Engine, die entwickelt wurde, um in HDFS gespeicherte Graphen zu verarbeiten. Es zeigte die Macht von Giraph, indem es einen Graphen zeigte, der alle Benutzer von Facebook (über 1 Milliarde) und ihre Freundschaften (Milliarden!) Darstellt, die zusammen über 1 Billionen Kanten hat. Diese Skala ist atemberaubend: Wenn Sie Facebook sind und Berechnungen wie Freundschaftsempfehlungen durchführen müssen, welches Werkzeug ist dann besser als ein Grafikprozessor? Es ist keine Überraschung, dass eine verteilte Graphdatenbank im Kern jeder anderen bemerkenswerten Social-Media-Site liegt, einschließlich Twitter, LinkedIn, OkCupid und Pinterest.

Eine Grafikverarbeitungs-Engine kann problemlos viele praktische Fragen für Social-Media-Seiten beantworten. Zwei Beispiele zeigen, wie LinkedIn den Grad der Trennung zwischen Ihnen und einem anderen Benutzer darstellt. Dies ist eine kürzeste Pfadberechnung (was ist die engste Verbindung zwischen zwei Knoten?) und wie OkCupid Benutzern mit gemeinsamen Interessen zeigt, ist eine Reihe von kollaborativen Filterberechnungen (welche sind die häufigsten Verbindungen zu einem bestimmten Satz von Knoten?).

Graphanalyse in Hadoop

Die Graphanalyse zu Hadoop befindet sich im Frühjahr 2014 noch in einem frühen Stadium. Mit dem Aufkommen von YARN in Hadoop 2 werden Graphanalyse und andere spezialisierte Verarbeitungstechniken bei Hadoop immer beliebter. Viele der in diesem Artikel erwähnten sozialen Websites verwenden ihre eigenen, proprietären Diagrammdatenbanken und Verarbeitungsmodule, aber Facebook ist ein prominenter Benutzer von Giraph. Aufgrund des (impliziten) Gütesiegels von Facebook ist Giraph eine beliebte Wahl für die Analyse von Graphen auf Hadoop geworden, hat jedoch einige Einschränkungen. Es handelt sich lediglich um eine Verarbeitungsengine, da es Daten als Diagramm in den Speicher des Clusters lädt und für chargenorientierte Abfragen optimiert ist.

Eine weitere Grafikverarbeitungslösung stammt von Aurelius, einem Unternehmen, das eine Reihe von Open-Source-Analysewerkzeugen für Hadoop veröffentlicht hat. Das Kernstück des Angebots ist Titan, eine Graphendatenbank mit HBase als Persistenzschicht, die für interaktive Abfragen optimiert ist, und Faunus, eine Grafikverarbeitungsengine, die einen Schnappschuss eines Graphen von Titan in HDFS speichert und MapReduce-Jobs dagegen ausführt… Aurelius verfügt sowohl für die interaktive (Titan) als auch die Batch-Anwendung (Faunus) über die übliche Graph-Traversal-API namens Gremlin.

Schließlich verfügt das Apache Spark-Projekt über den GraphX-Ableger, der die Generierung von Diagrammdaten und die anschließende Verarbeitung innerhalb des Spark-Frameworks ermöglicht.