Zuhause Persönliche Finanzen Protokolldatenanalyse mit Hadoop - Dummies

Protokolldatenanalyse mit Hadoop - Dummies

Anonim

Die Protokollanalyse ist ein gängiger Anwendungsfall für ein erstes Hadoop-Projekt. Die frühesten Anwendungen von Hadoop waren in der Tat die großangelegte Analyse von clickstream -Protokollen - Protokollen, die Daten über die Webseiten aufzeichnen, die die Besucher besuchen und in welcher Reihenfolge sie sie besuchen.

Alle Datenprotokolle, die von Ihrer IT-Infrastruktur generiert werden, werden häufig als Datenabzug bezeichnet. Ein Protokoll ist ein Nebenprodukt eines funktionierenden Servers, ähnlich wie Rauch, der aus dem Auspuff eines Arbeitsmotors kommt. Datenauspuff hat die Konnotation von Verschmutzung oder Verschwendung, und viele Unternehmen nähern sich zweifellos dieser Art von Daten mit diesem Gedanken im Hinterkopf.

Log-Daten wachsen oft schnell, und wegen der hohen Datenmengen kann es mühsam sein, sie zu analysieren. Und der potenzielle Wert dieser Daten ist oft unklar. Daher besteht die Versuchung in IT-Abteilungen, diese Protokolldaten so schnell wie möglich zu speichern. (Schließlich kostet es Geld, um Daten zu behalten, und wenn es keinen wahrgenommenen Geschäftswert gibt, warum dann speichern?)

Aber Hadoop ändert die Mathematik: Die Kosten für das Speichern von Daten sind vergleichsweise günstig, und Hadoop wurde ursprünglich speziell für die groß angelegte Batch-Verarbeitung von Protokolldaten.

Der Anwendungsfall Log-Datenanalyse ist ein nützlicher Ort, um Ihre Hadoop-Reise zu starten, weil die Chancen gut sind, dass die Daten, mit denen Sie arbeiten, gelöscht oder "auf den Boden fallen". "Einige Unternehmen, die regelmäßig wöchentlich mehr als ein Terabyte (TB) oder mehr an Kundenwebaktivitäten erfassen, verwerfen die Daten ohne Analyse (was Sie fragen lässt, warum sie sich die Mühe gemacht haben, sie zu sammeln).

Für einen schnellen Einstieg sind die Daten in diesem Anwendungsfall wahrscheinlich leicht zu bekommen und umfassen im Allgemeinen nicht dieselben Probleme, die auftreten, wenn Sie Ihre Hadoop-Reise mit anderen (geregelten) Daten beginnen.

Wenn Branchenanalysten die rasant ansteigenden Datenmengen diskutieren (4,1 Exabyte ab 2014 - mehr als 4 Millionen 1 TB Festplatten), machen Logdaten einen Großteil dieses Wachstums aus. Und kein Wunder: Nahezu jeder Aspekt des Lebens führt nun zur Generierung von Daten. Ein Smartphone kann Hunderte von Protokolleinträgen pro Tag für einen aktiven Benutzer generieren und nicht nur Sprache, Text und Datenübertragung, sondern auch Geolokalisierungsdaten nachverfolgen.

Die meisten Haushalte verfügen jetzt über intelligente Stromzähler, die ihren Stromverbrauch protokollieren. Neuere Autos haben Tausende von Sensoren, die Aspekte ihres Zustands und ihres Gebrauchs aufzeichnen. Jede Klick- und Mausbewegung, die Sie beim Surfen im Internet vornehmen, führt zu einer Kaskade von Log-Einträgen.

Jedes Mal, wenn Sie etwas kaufen - auch ohne eine Kreditkarte oder Debitkarte -, zeichnen Systeme die Aktivität in Datenbanken auf - und in Protokollen.Sie können einige der häufigsten Quellen für Protokolldaten anzeigen: IT-Server, Web-Clickstreams, Sensoren und Transaktionssysteme.

Jede Branche (sowie alle soeben beschriebenen Log-Typen) haben das enorme Potenzial für wertvolle Analysen - insbesondere wenn Sie eine bestimmte Art von Aktivität erfassen können und dann Ihre Ergebnisse mit anderen Daten korrelieren können.

Betrachten Sie als Beispiel diese typische webbasierte Browser- und Kauferfahrung:

  1. Sie surfen auf der Website nach Artikeln, die Sie kaufen möchten.

  2. Sie klicken, um Beschreibungen eines Produkts zu lesen, das Ihnen ins Auge fällt.

  3. Schließlich fügen Sie einen Artikel zu Ihrem Warenkorb hinzu und fahren mit der Kaufabwicklung fort.

Nachdem Sie die Versandkosten gesehen haben, entscheiden Sie jedoch, dass der Artikel den Preis nicht wert ist und Sie das Browserfenster schließen. Jeder Klick, den Sie gemacht haben - und dann aufgehört hat - hat das Potenzial, dem Unternehmen hinter dieser E-Commerce-Website wertvolle Einblicke zu bieten.

In diesem Beispiel wird davon ausgegangen, dass dieses Unternehmen Clickstream-Daten erfasst (Daten zu jedem Mausklick und jeder Seitenansicht, die ein Besucher "berührt"), um zu verstehen, wie seine Kunden besser bedient werden können. Eine gemeinsame Herausforderung bei E-Commerce-Unternehmen ist es, die Schlüsselfaktoren hinter verlassenen Warenkörben zu erkennen. Wenn Sie eine tiefere Analyse der Clickstream-Daten durchführen und das Benutzerverhalten auf der Site untersuchen, müssen Muster entstehen.

Kennt Ihr Unternehmen die Antwort auf die scheinbar einfache Frage: "Werden bestimmte Produkte mehr aufgegeben als andere? "Oder die Antwort auf die Frage:" Wie viel Ertrag kann zurückgewonnen werden, wenn Sie die Verlassensquote um 10 Prozent verringern? "Im Folgenden finden Sie ein Beispiel für die Art von Berichten, die Sie Ihren Geschäftsführern vorlegen können, um ihre Investition in Ihre Hadoop-Sache zu suchen.

Um an den Punkt zu kommen, an dem Sie die Daten generieren können, um die angezeigten Diagramme zu erstellen, isolieren Sie die Webbrowsersitzungen einzelner Benutzer (ein Vorgang, der als -Sitzungserfassung bekannt ist) , identifizieren Sie den Inhalt ihrer Einkaufswagen und stellen Sie dann am Ende der Sitzung den Status der Transaktion fest - alles durch Prüfen der Clickstream-Daten.

Im Folgenden finden Sie ein Beispiel für das Zusammenstellen von Web-Browsing-Sitzungen durch Gruppieren aller Klicks und URL-Adressen nach IP-Adresse.

In einem Hadoop-Kontext arbeiten Sie immer mit Schlüsseln und Werten - jede Phase von MapReduce gibt Daten in Schlüsselsätzen und Werten ein und aus. Der Schlüssel ist die IP-Adresse, und der Wert besteht aus dem Zeitstempel und der URL. Während der Map-Phase werden Benutzersitzungen parallel für alle Dateiblöcke des Clickstream-Datasets zusammengestellt, das in Ihrem Hadoop-Cluster gespeichert ist.

Die Kartenphase gibt diese Elemente zurück:

  • Die letzte besuchte Seite

  • Eine Liste der Artikel im Warenkorb

  • Der Status der Transaktion für jede Benutzersitzung (indiziert durch den IP-Adressschlüssel) < Der Reduzierer nimmt diese Datensätze auf und führt Aggregationen durch, um die Anzahl und den Wert der pro Monat abgebrochenen Karren zusammenzurechnen und die Gesamtzahl der häufigsten letzten Seiten anzugeben, die vor dem Beenden der Benutzersitzung angezeigt wurden.

Protokolldatenanalyse mit Hadoop - Dummies

Die Wahl des Herausgebers

Auflistung Vereinbarungen über die Immobilienlizenz Prüfung - Dummies

Auflistung Vereinbarungen über die Immobilienlizenz Prüfung - Dummies

Listing-Vereinbarungen werden auf der Immobilien abgedeckt werden Lizenzprüfung. Eine Listungsvereinbarung stellt eine Agenturbeziehung zwischen einem Agenten und einem Grundstücksverkäufer her. Der Vertreter verpflichtet sich, den Verkäufer bei der Vermarktung der Immobilie zu vertreten. Hier sind die Namen und Beschreibungen der vier Arten von Listing-Vereinbarungen in der Reihenfolge, in der sie sind ...

Immobilien-Lizenz-Prüfung: 7 Verwirrende Wortpaare - Dummies

Immobilien-Lizenz-Prüfung: 7 Verwirrende Wortpaare - Dummies

Bevor Sie Ihre Immobilienlizenz nehmen Es ist wichtig, dass Sie den Unterschied zwischen ähnlich klingenden Begriffen verstehen. Die folgenden Immobilienbegriffe sind am häufigsten verwirrt; Holen Sie sich diese auswendig und Sie sind auf dem Weg zu mehr richtigen Antworten. Eigentumswohnung / Genossenschaft: Ein Eigentümer einer Eigentumswohnung besitzt tatsächlich Immobilien. Dieser Besitz ist in der Regel der Luftraum ...

Hypothek Akzeptanz Überlegungen zur Immobilienlizenz Prüfung - Dummies

Hypothek Akzeptanz Überlegungen zur Immobilienlizenz Prüfung - Dummies

Die Immobilienlizenz Prüfung wird Fragen zu Hypotheken und Kreditgebern. Ein primärer Kreditgeber hat zwei Überlegungen, wenn er einen Kredit für den Kauf oder die Refinanzierung von Immobilien vergibt: den Wert der Immobilie und die Fähigkeit des Kreditnehmers, die Schulden zu tilgen. Bei der Überprüfung des Wertes der Immobilie, ...

Die Wahl des Herausgebers

GED Fragen der wissenschaftlichen Praxis: Arbeit, Bewegung und Kraft - Dummies

GED Fragen der wissenschaftlichen Praxis: Arbeit, Bewegung und Kraft - Dummies

Die Gesetze von Physik beeinflusst alle Arten von alltäglichen Aktivitäten, vom Autofahren bis zum Baseballspiel. Es überrascht daher nicht, dass sich einige Fragen zum GED Science-Test mit Konzepten wie Arbeit, Bewegung und Kraft befassen. In den folgenden Übungsfragen müssen Sie sowohl Theorie als auch gesunden Menschenverstand anwenden, um ...

GED Beispielfragen: Argumentieren durch Sprachkunst Lesen von technischen Informationen - Dummies

GED Beispielfragen: Argumentieren durch Sprachkunst Lesen von technischen Informationen - Dummies

Zu den Begründungen Durch die Sprachabteilung der GED können Sie gebeten werden, Fragen zu einer technischen Passage zu beantworten. Dies könnte Anweisungen zur Fertigstellung enthalten, wie die folgenden. Die Fragen in diesem Artikel beziehen sich auf den folgenden Auszug aus Russell Harts Fotografie für Dummies, 2. Auflage (Wiley). Was ist das Geheimnis für ...?

GED Beispielfragen: Kurze wissenschaftliche Antwortfragen - Dummys

GED Beispielfragen: Kurze wissenschaftliche Antwortfragen - Dummys

Irgendwann während des Science-Teils der GEE-Test, werden Sie gebeten, eine kurze Antwort zu verfassen. Sie werden eine Passage erhalten und eine Frage stellen, auf die Sie antworten müssen. Machen Sie Ihre Antwort klar und prägnant. Kurzer Antwortdurchgang Jeder kennt Cheddar-Käse. Leute setzen ...

Die Wahl des Herausgebers

Stärkung des Selbstwertgefühls für Dummies Cheat Sheet (UK Edition) - Dummies

Stärkung des Selbstwertgefühls für Dummies Cheat Sheet (UK Edition) - Dummies

Selbstzweifel und schlechte Selbstwertschätzung scheinen Hand in Hand mit dem Menschsein zu gehen. Selbst wenn Sie im Allgemeinen gesund und ein gutes Selbstwertgefühl haben, haben Sie wahrscheinlich Zeiten in Ihrem Leben, an denen Sie sich unwohl fühlen und Gedanken und Gedanken über sich selbst verunglimpfen. Um zu helfen, halten Sie diesen Spickzettel, damit Sie ein paar Tipps und Hinweise haben ...

Antipsychotika und die Behandlung der bipolaren Störung - Dummies

Antipsychotika und die Behandlung der bipolaren Störung - Dummies

Atypische Antipsychotika (atypische Neuroleptika oder Antipsychotika der zweiten Generation) ursprünglich formuliert, um Psychose bei Schizophrenie zu behandeln, aber diese Klasse von Medikamenten hat sich auch als wirksam bei der Verringerung der Manie und Augmentierung Antidepressiva Behandlung erwiesen. Die atypische oder zweite Generation stammt aus der Tatsache, dass diese neuere Art von Antipsychotika anders funktioniert als der ältere Standard oder Neuroleptika der ersten Generation, ...

Verwaltung von Angst mit Achtsamkeit für Dummies Cheat Sheet - Dummies

Verwaltung von Angst mit Achtsamkeit für Dummies Cheat Sheet - Dummies

Sie möchten mehr darüber erfahren, wie Sie Ihre Angst mit Achtsamkeit? Sieh dir den Spickzettel an und entdecke die häufigsten Ursachen von Angstzuständen. Versuchen Sie eine kurze Achtsamkeitsübung, die Ihrer Angst helfen kann. Erkunde Wege, wie du deine ängstlichen Gedanken achtsam handhaben kannst. Finden Sie einfache Möglichkeiten heraus, jeden Tag aufmerksam zu sein. Dieser Spickzettel ...