Zuhause Persönliche Finanzen Identifizierung fehlender Daten für maschinelles Lernen - Dummies

Identifizierung fehlender Daten für maschinelles Lernen - Dummies

Video: Fehlende Werte identifizieren in SPSS 2024

Video: Fehlende Werte identifizieren in SPSS 2024
Anonim

zu lernen. Selbst wenn Sie genügend Beispiele zur Verfügung haben, um sowohl einfache als auch komplexe Algorithmen des maschinellen Lernens zu trainieren, müssen sie vollständige Werte in den Merkmalen präsentieren. alle fehlenden Daten. Ein unvollständiges Beispiel macht das Verbinden aller Signale innerhalb und zwischen Merkmalen unmöglich. Fehlende Werte erschweren es auch dem Algorithmus, während des Trainings zu lernen. Sie müssen etwas gegen die fehlenden Daten unternehmen.

Meistens können Sie fehlende Werte ignorieren oder reparieren, indem Sie einen wahrscheinlichen Ersatzwert erraten. Zu viele fehlende Werte führen jedoch zu unsichereren Vorhersagen, da fehlende Informationen jede mögliche Zahl verdecken könnten. Folglich sind die Vorhersagen umso variabler und ungenauer, je mehr fehlende Werte in den Merkmalen enthalten sind.

Zählen Sie als ersten Schritt die Anzahl der fehlenden Fälle in jeder Variablen. Wenn eine Variable zu viele fehlende Fälle enthält, müssen Sie sie möglicherweise aus dem Trainings- und Test-Dataset löschen. Eine gute Faustregel ist, eine Variable zu löschen, wenn mehr als 90 Prozent ihrer Instanzen fehlen.

Einige Lernalgorithmen wissen nicht, wie sie mit fehlenden Werten umgehen und Fehler in Trainings- und Testphasen melden, während andere Modelle sie als Nullwerte behandeln, was zu einer Unterschätzung des vorhergesagten Werts oder der Wahrscheinlichkeit führt (Es ist so, als ob ein Teil der Formel nicht richtig funktioniert. Folglich müssen Sie alle fehlenden Werte in Ihrer Datenmatrix durch einen geeigneten Wert ersetzen, damit das maschinelle Lernen korrekt ausgeführt wird.

Es gibt viele Gründe für fehlende Daten, aber der wesentliche Punkt ist, ob die Daten zufällig oder in einer bestimmten Reihenfolge fehlen. Zufällige fehlende Daten sind ideal, da Sie ihren Wert mithilfe eines einfachen Durchschnitts-, eines Median- oder eines anderen maschinellen Lernalgorithmus ohne zu viele Bedenken schätzen können. Einige Fälle enthalten eine starke Tendenz zu bestimmten Arten von Beispielen.

Denken Sie zum Beispiel an den Fall der Untersuchung des Einkommens einer Bevölkerung. Wohlhabende Leute (vermutlich aus steuerlichen Gründen) neigen dazu, ihr wahres Einkommen zu verbergen, indem sie Ihnen berichten, dass sie es nicht wissen. Die armen Menschen hingegen können sagen, dass sie ihr Einkommen nicht aus Furcht vor einem negativen Urteil melden wollen. Wenn Sie Informationen von bestimmten Schichten der Bevölkerung vermissen, kann die Reparatur der fehlenden Daten schwierig und irreführend sein, weil Sie denken, dass solche Fälle genau wie die anderen sind.

Stattdessen sind sie ganz anders. Daher können Sie nicht einfach Durchschnittswerte verwenden, um die fehlenden Werte zu ersetzen - Sie müssen komplexe Ansätze verwenden und diese sorgfältig anpassen.Darüber hinaus ist es schwierig, Fälle zu identifizieren, in denen Daten nicht zufällig fehlen, da eine genauere Untersuchung erforderlich ist, wie fehlende Werte mit anderen Variablen im Datensatz verknüpft sind.

Wenn Daten zufällig fehlen, können Sie die leeren Werte leicht reparieren, da Sie Hinweise auf ihren wahren Wert aus anderen Variablen erhalten. Wenn Daten nicht zufällig fehlen, können Sie keine guten Hinweise von anderen verfügbaren Informationen erhalten, wenn Sie die Datenassoziation mit dem fehlenden Fall nicht verstehen.

Wenn Sie also fehlendes Einkommen in Ihren Daten herausfinden müssen und es fehlt, weil die Person reich ist, können Sie den fehlenden Wert nicht durch einen einfachen Durchschnitt ersetzen, weil Sie ihn durch ein mittleres Einkommen ersetzen. Stattdessen sollten Sie einen Durchschnitt des Einkommens der wohlhabenden Leute als Ersatz verwenden.

Wenn die Daten nicht zufällig fehlen, ist die Tatsache, dass der Wert fehlt, informativ, da sie hilft, die fehlende Gruppe aufzuspüren. Sie können die Lästigkeit, nach dem Grund zu suchen, warum es Ihrem maschinellen Lernalgorithmus fehlt, überlassen, indem Sie ein neues binäres Feature erstellen, das meldet, wenn der Wert einer Variablen fehlt. Folglich wird der maschinelle Lernalgorithmus den besten Wert herausfinden, den er als Ersatz für sich selbst verwenden kann.

Identifizierung fehlender Daten für maschinelles Lernen - Dummies

Die Wahl des Herausgebers

Netzwerkgrundlagen: IPv6-Adresse Vereinfachte Notation - Dummies

Netzwerkgrundlagen: IPv6-Adresse Vereinfachte Notation - Dummies

Bei der Arbeit mit IPv6-Adressen kann es viel Zeit in Anspruch nehmen. schreibe deine Adressen - immerhin sind sie 128 Bit lang. Um das Leben einfacher zu machen, gibt es einige Regeln, die Sie verwenden können, um diese Schreibweise zu verdichten: Führende Nullen in der Adresse sind optional. Für einen Adressblock wäre also 0A45 gleich A45, ...

Netzwerkgrundlagen: IP-Netzwerkklassen - Dummies

Netzwerkgrundlagen: IP-Netzwerkklassen - Dummies

Netzwerkadressierungsarchitektur unterteilt den Adressraum für Internet Protocol Version 4 (IPv4 ) in fünf Adressklassen. Jede Klasse, die in den ersten vier Bits der Adresse codiert ist, definiert entweder eine andere Netzwerkgröße, d.h. e. Anzahl der Hosts für Unicast-Adressen (Klassen A, B, C) oder Multicast-Netzwerk (Klasse D). Die fünfte Klasse (E) address ...

Netzwerkgrundlagen: Netzwerkport Übersicht - Dummys

Netzwerkgrundlagen: Netzwerkport Übersicht - Dummys

In TCP / IP- und UDP-Netzwerken ist ein Port ein Endpunkt eine logische Verbindung. Die Portnummer gibt an, um welchen Port es sich handelt. Port 80 wird beispielsweise für HTTP-Datenverkehr verwendet. Wenn Sie einen Befehl wie netstat -n unter Microsoft Windows oder Linux verwenden, sehen Sie eine Auflistung der lokalen Adressen ...

Die Wahl des Herausgebers

Excel-Dashboards: Wie Sie Ihr erstes Makro aufzeichnen - Dummies

Excel-Dashboards: Wie Sie Ihr erstes Makro aufzeichnen - Dummies

Wenn Sie ein Anfänger auf dem Dashboard sind Automatisierung in Excel ist es unwahrscheinlich, dass Sie den VBA-Code (Visual Basic für Applikationen) von Hand schreiben können, um Makros zu erstellen. Ohne vollständige Kenntnis des Objektmodells und der Syntax von Excel wäre das Schreiben des benötigten Codes für die meisten Anfänger unmöglich. Hier können Sie ein Makro aufzeichnen ...

Excel-Formelberechnungsmodi - Dummys

Excel-Formelberechnungsmodi - Dummys

Standardmäßig ist Excel so eingestellt, dass es automatisch neu berechnet wird. Wenn Sie eine der Zellen ändern, auf die in einer bestimmten Formel verwiesen wird, berechnet Excel diese Formel automatisch neu, sodass ein korrektes Ergebnis basierend auf den Änderungen in den Zellbezügen zurückgegeben wird. Wenn die Formel, die neu berechnet wird, auch als Zellenreferenz in anderen verwendet wird ...

Excel Formelfehler - Dummies

Excel Formelfehler - Dummies

Es ist nicht immer glatt, wenn Sie mit Excel-Formeln arbeiten. Manchmal gibt eine Formel einen Fehlerwert anstelle des erwarteten Werts zurück. Excel hilft Ihnen, das Problem zu identifizieren, indem Sie einen von sieben Fehlerwerten zurückgeben: # DIV / 0! , # N / A, #NAME? , #NULL! , #NUM! , #REF! und #WERT! , erklärt in der folgenden Liste: # DIV / 0! : ...

Die Wahl des Herausgebers

Teilen, Weiterverbreiten und Kommentieren von Google+ Posts - Dummies

Teilen, Weiterverbreiten und Kommentieren von Google+ Posts - Dummies

, Wenn Sie mit der Verwendung und Veröffentlichung beginnen Bei Google+ möchten Sie gelegentlich Links und Bilder teilen, die Beiträge anderer freigeben, ihre Beiträge kommentieren und andere in Ihren eigenen Google+ Beiträgen erwähnen. Vielleicht fragen Sie sich auch, wie Sie andere dazu bringen, Ihre eigenen Beiträge öfter zu kommentieren. Teilen von Links und Bildern in Google+ So geben Sie ein ...

Teilen Ihrer Google+ Posts mit bestimmten Personen - Dummies

Teilen Ihrer Google+ Posts mit bestimmten Personen - Dummies

Beiträge auf Google+ sind ganz einfach und können posten Text, Links, Fotos, Videos und sogar Ihren aktuellen Standort. Der schwierigste Teil des Beitrags auf Google+ besteht darin, auszuwählen, wen Sie Ihren Beitrag sehen möchten. Google+ verwendet Ihre Kreise, um festzulegen, wer Ihre Beiträge sehen kann. Kreise sind etwas einfacher als Listen, weil ...

Taggen von Personen in Google+ Fotos - Dummies

Taggen von Personen in Google+ Fotos - Dummies

Sie können Personen in Ihren Kreisen auf jedem Foto auf Google+ markieren. Wenn Sie eine Person in einem Foto taggen, wird diese Person über ihre Google+ Benachrichtigungen benachrichtigt. Sie können dann das Tag entfernen oder genehmigen, und das Foto wird mit dem Tag des Namens dieser Person darin angezeigt. Um jemanden zu markieren, ...