Zum Bereinigen von Daten für Predictive Analysis - Dummies

Bevor Sie eine vorausschauende Analyse durchführen, müssen Sie sicherstellen, dass die Daten von überflüssigem Material frei sind, bevor Sie sie in Ihrem System verwenden können. Modell. Dazu gehört das Auffinden und Korrigieren von Datensätzen, die fehlerhafte Werte enthalten, und der Versuch, fehlende Werte auszufüllen. Sie müssen auch entscheiden, ob doppelte Datensätze (z. B. zwei Kundenkonten) einbezogen werden sollen.

Das übergeordnete Ziel besteht darin, die Integrität der Informationen sicherzustellen, die Sie zum Erstellen Ihres Vorhersagemodells verwenden. Achten Sie besonders auf die Vollständigkeit, Richtigkeit und Aktualität der Daten.

Es ist nützlich, beschreibende Statistiken (quantitative Merkmale) für verschiedene Felder zu erstellen, z. B. Berechnung von min und max, Überprüfung der Häufigkeitsverteilung (wie oft etwas passiert) und überprüfen die erwarteten Bereiche. Wenn Sie eine regelmäßige Überprüfung durchführen, können Sie Daten, die außerhalb des erwarteten Bereichs liegen, für weitere Untersuchungen kennzeichnen. Alle Datensätze, die Rentner mit Geburtsdaten in den 1990er Jahren zeigen, können mit dieser Methode gekennzeichnet werden.

Auch die Überprüfung der Informationen ist wichtig, um sicherzustellen, dass die Daten korrekt sind. Für eine tiefere Analyse der Dateneigenschaften und die Identifizierung der Beziehung zwischen Datensätzen können Sie Data Profiling (Analyse der Datenverfügbarkeit und Erfassung von Statistiken zur Datenqualität) und Visualisierungstools verwenden.

Fehlende Daten können auf die Tatsache zurückzuführen sein, dass bestimmte Informationen nicht aufgezeichnet wurden. In einem solchen Fall können Sie versuchen, so viel wie möglich auszufüllen. Geeignete Voreinstellungen können leicht hinzugefügt werden, um die Leerzeichen bestimmter Felder zu füllen.

Zum Beispiel für Patienten in einer Krankenhaus-Entbindungsstation, bei denen im Feld Geschlecht ein Wert fehlt, kann die Anwendung diese einfach als weiblich ausfüllen. Für jeden Mann, der mit einem fehlenden Datensatz für den Schwangerschaftsstatus in ein Krankenhaus eingeliefert wurde, kann dieser Datensatz ebenfalls als nicht zutreffend ausgefüllt werden.

Eine fehlende Postleitzahl für eine Adresse kann aus dem Straßennamen und der in dieser Adresse angegebenen Stadt abgeleitet werden.

In den Fällen, in denen die Information unbekannt ist oder nicht abgeleitet werden kann, müssen Sie Werte andere als ein Leerzeichen verwenden, um anzugeben, dass die Daten fehlen, ohne die Korrektheit der Analyse zu beeinträchtigen. Ein Leerzeichen in den Daten kann mehrere Dinge bedeuten, von denen die meisten nicht gut oder nützlich sind. Wann immer Sie können, sollten Sie die Art des Rohlings durch einen sinnvollen Platzhalter angeben.

So wie es möglich ist, eine Rose in einem Maisfeld als Unkraut zu definieren, können Ausreißer verschiedene Dinge für verschiedene Analysen bedeuten.Es ist üblich, dass einige Modelle nur gebaut werden, um diese Ausreißer zu verfolgen und sie zu kennzeichnen.

Betrugserkennungsmodelle und Überwachung krimineller Aktivitäten sind an diesen Ausreißern interessiert, die in solchen Fällen auf unerwünschte Ereignisse hinweisen. Daher ist es empfehlenswert, die Ausreißer im Dataset in solchen Fällen beizubehalten. Wenn jedoch Ausreißer als Anomalien innerhalb der Daten angesehen werden - und die Analysen nur verfälschen und zu fehlerhaften Ergebnissen führen -, entfernen Sie diese aus Ihren Daten.

Eine Vervielfältigung in den Daten kann ebenfalls nützlich oder lästig sein. ein Teil davon kann notwendig sein, kann einen Wert anzeigen und kann einen genauen Zustand der Daten widerspiegeln. Zum Beispiel kann ein Datensatz eines Kunden mit mehreren Konten mit mehreren Einträgen dargestellt werden, die (technisch gesehen ohnehin) die gleichen Datensätze duplizieren und wiederholen.

Wenn die doppelten Datensätze keinen Wert für die Analyse liefern und nicht erforderlich sind, kann das Entfernen dieser Datensätze von enormem Wert sein. Dies gilt insbesondere für große Datenmengen, bei denen das Entfernen doppelter Datensätze die Komplexität der Daten vereinfachen und die für die Analyse benötigte Zeit verkürzen kann.

Sie können präventiv verhindern, dass fehlerhafte Daten in Ihre Systeme gelangen, indem Sie bestimmte Verfahren anwenden:

• Qualitätsprüfungen des Instituts und Datenvalidierung für alle erfassten Daten.

• Erlauben Sie Ihren Kunden, ihre persönlichen Daten zu validieren und selbst zu korrigieren.

• Stellen Sie Ihren Kunden mögliche und erwartete Werte zur Auswahl.

• Routinemäßige Überprüfung der Integrität, Konsistenz und Genauigkeit der Daten.