Die Grenzen von Bias beim maschinellen Lernen kennen lernen - Dummies

Das maschinelle Lernen hängt stark von den In-Sample-Daten ab. Dieser Teil Ihrer Daten ist wichtig, weil Sie einen Standpunkt der Welt entdecken wollen, und wie bei allen Gesichtspunkten kann er falsch, verzerrt oder einfach nur partiell sein. Sie wissen auch, dass Sie ein Out-of-Sample-Beispiel benötigen, um zu überprüfen, ob der Lernprozess funktioniert. Diese Aspekte bilden jedoch nur einen Teil des Bildes.

Wenn Sie einen maschinellen Lernalgorithmus mit Daten arbeiten lassen, um eine bestimmte Antwort zu erraten, nehmen Sie effektiv ein Risiko ein, und dieses Glücksspiel beruht nicht nur auf der Stichprobe, die Sie zum Lernen verwenden. Es gibt mehr. Stellen Sie sich vorläufig vor, dass Sie frei auf geeignete, unverzerrte In-Sample-Daten zugreifen können, so dass Daten nicht das Problem sind. Stattdessen müssen Sie sich auf die Lern- und Vorhersagemethode konzentrieren.

Zuerst müssen Sie bedenken, dass Sie darauf vertrauen, dass der Algorithmus die Antwort vernünftig erraten kann. Sie können diese Annahme nicht immer treffen, weil es nicht möglich ist, bestimmte Antworten herauszufinden, egal was Sie im Voraus wissen.

Zum Beispiel können Sie das Verhalten von Menschen nicht vollständig bestimmen, indem Sie ihre Vorgeschichte und ihr Verhalten kennen. Vielleicht ist ein zufälliger Effekt in den generativen Prozess unseres Verhaltens involviert (zum Beispiel der irrationale Teil von uns), oder vielleicht geht es um den freien Willen (das Problem ist auch ein philosophisch / religiöses, und es gibt viele unharmonische Meinungen)). Folglich können Sie nur einige Arten von Antworten erraten, und für viele andere, z. B. wenn Sie versuchen, das Verhalten von Personen vorherzusagen, müssen Sie ein gewisses Maß an Unsicherheit akzeptieren, das mit etwas Glück für Ihre Zwecke akzeptabel ist.

Zweitens müssen Sie bedenken, dass Sie darauf vertrauen, dass die Beziehung zwischen den Informationen, die Sie haben, und der Antwort, die Sie vorhersagen möchten, als eine mathematische Formel einer Art ausgedrückt werden kann und dass Ihr maschinelles Lernen Algorithmus ist tatsächlich in der Lage, diese Formel zu erraten. Die Fähigkeit Ihres Algorithmus, die mathematische Formel hinter einer Antwort zu erraten, ist inhärent in die Schrauben und Muttern des Algorithmus eingebettet.

Einige Algorithmen können fast alles erraten; andere haben tatsächlich eine begrenzte Anzahl von Optionen. Der Bereich möglicher mathematischer Formulierungen, den ein Algorithmus erraten kann, ist die Menge seiner möglichen Hypothesen. Folglich ist eine Hypothese ein einzelner Algorithmus, der in allen seinen Parametern spezifiziert ist und daher zu einer einzigen spezifischen Formulierung fähig ist.

Mathematik ist fantastisch. Es kann einen Großteil der realen Welt beschreiben, indem es eine einfache Notation verwendet, und es ist der Kern des maschinellen Lernens, da jeder Lernalgorithmus eine gewisse Fähigkeit besitzt, eine mathematische Formulierung darzustellen.Einige Algorithmen, wie die lineare Regression, verwenden explizit eine spezifische mathematische Formulierung, um darzustellen, wie sich eine Antwort (zum Beispiel der Preis eines Hauses) auf eine Reihe von Vorhersageinformationen (wie Marktinformationen, Hausstandort, Grundstücksfläche, und so weiter).

Einige Formulierungen sind so komplex und kompliziert, dass sie zwar auf Papier dargestellt werden können, dies jedoch in der Praxis zu schwierig ist. Einige andere ausgefeilte Algorithmen, wie zum Beispiel Entscheidungsbäume, haben keine explizite mathematische Formulierung, sind aber so anpassungsfähig, dass sie leicht an einen großen Bereich von Formulierungen angenähert werden können. Betrachten wir zum Beispiel eine einfache und leicht erklärbare Formulierung. Die lineare Regression ist nur eine Linie in einem Raum von Koordinaten, der durch die Antwort und alle Prädiktoren gegeben ist. Im einfachsten Beispiel können Sie eine Antwort, y, und einen einzigen Prädiktor, x, mit einer Formulierung von

y = β ₁ x ₁ + β ₀

In einer einfachen Situation einer Antwort, die von einem einzelnen Merkmal vorhergesagt wird, ist ein solches Modell perfekt, wenn sich Ihre Daten als eine Linie anordnen. Aber was passiert, wenn es nicht funktioniert und sich stattdessen wie eine Kurve formt? Betrachten Sie zur Darstellung der Situation nur die folgenden zweidimensionalen Darstellungen.

Beispiel für ein lineares Modell, das versucht, eine Kurvenfunktion abzubilden.

Wenn Punkte einer Linie oder einer Wolke ähneln, tritt ein Fehler auf, wenn Sie herausfinden, dass das Ergebnis eine gerade Linie ist. daher ist die durch die vorhergehende Formulierung bereitgestellte Abbildung irgendwie ungenau. Der Fehler tritt jedoch nicht systematisch, sondern zufällig auf, da einige Punkte über der abgebildeten Linie liegen und andere darunter. Die Situation mit der gekrümmten, geformten Punktwolke ist anders, weil diesmal die Linie manchmal exakt ist, aber zu anderen Zeiten systematisch falsch ist. Manchmal sind Punkte immer über der Linie; manchmal sind sie darunter.

In Anbetracht der Einfachheit der Abbildung der Antwort tendiert Ihr Algorithmus dazu, die realen Regeln hinter den Daten systematisch zu überschätzen oder zu unterschätzen. Die Verzerrung ist charakteristisch für einfachere Algorithmen, die keine komplexen mathematischen Formulierungen ausdrücken können.