Zuhause Persönliche Finanzen Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Video: Modul 5a - Manuelle Annotation und Evaluation 2025

Video: Modul 5a - Manuelle Annotation und Evaluation 2025
Anonim

Manchmal erfordert maschinelles Lernen, dass Sie auf Kreuzvalidierung zurückgreifen müssen. Ein auffälliges Problem bei der Aufteilung von Zug- und Testsätzen besteht darin, dass Sie eine Verzerrung in Ihren Tests einführen, da Sie die Größe Ihrer In-Sample-Trainingsdaten reduzieren. Wenn Sie Ihre Daten aufteilen, halten Sie möglicherweise einige nützliche Beispiele aus dem Training heraus. Darüber hinaus sind Ihre Daten manchmal so komplex, dass ein Testset, obwohl es anscheinend dem Trainingssatz ähnelt, nicht wirklich ähnlich ist, da die Kombinationen von Werten unterschiedlich sind (was typisch für hochdimensionale Datensätze ist).

Diese Probleme erhöhen die Instabilität von Sampling-Ergebnissen, wenn Sie nicht viele Beispiele haben. Das Risiko, Ihre Daten ungünstig aufzuteilen, erklärt auch, warum der Zug / Test-Split nicht die bevorzugte Lösung für Maschinelle Lernende ist, wenn Sie eine Machine-Learning-Lösung evaluieren und abstimmen müssen.

Kreuzvalidierung basierend auf k-folds ist eigentlich die Antwort. Es basiert auf zufälliger Aufteilung, aber dieses Mal teilt es Ihre Daten in eine Anzahl k von Falten (Teile Ihrer Daten) von gleicher Größe auf. Dann wird jede Falte abwechselnd als Testset gehalten und die anderen werden zum Training verwendet. Jede Iteration verwendet eine andere Faltung als Test, was eine Fehlerschätzung ergibt.

In der Tat wird nach dem Abschluss des Tests auf eine Falte gegen die anderen, die als Training verwendet werden, eine aufeinanderfolgende Falte, die sich von der vorherigen unterscheidet, herausgehalten und das Verfahren wird wiederholt, um eine weitere Fehlerabschätzung zu erzeugen… Der Prozess wird fortgesetzt, bis alle k-Faltungen einmal als Testsatz verwendet wurden und Sie eine k Anzahl von Fehlerschätzungen haben, die Sie in eine mittlere Fehlerschätzung (die Kreuzvalidierungsbewertung) und einen Standardfehler der Schätzungen berechnen können.

Eine grafische Darstellung der Funktionsweise der Kreuzvalidierung.

Dieses Verfahren bietet die folgenden Vorteile:

  • Es funktioniert gut, unabhängig von der Anzahl der Beispiele, denn wenn Sie die Anzahl der verwendeten Falten erhöhen, erhöhen Sie tatsächlich die Größe Ihres Trainingssatzes (größeres k, größeres Trainingsset, reduzierter Bias) und die Größe des Testsatzes verringert.
  • Verteilungsunterschiede für einzelne Falten spielen keine Rolle. Wenn eine Falte im Vergleich zu den anderen eine andere Verteilung hat, wird sie nur einmal als Testgruppe verwendet und während der verbleibenden Tests mit anderen als Teil des Trainingssatzes gemischt.
  • Sie testen tatsächlich alle Beobachtungen, also testen Sie Ihre Maschinelle Lernhypothese mit allen Daten, die Sie haben.
  • Wenn Sie den Mittelwert der Ergebnisse einnehmen, können Sie eine Vorhersageleistung erwarten. Darüber hinaus kann Ihnen die Standardabweichung der Ergebnisse sagen, wie viel Variation Sie bei echten Out-of-Sample-Daten erwarten können. Höhere Abweichungen in den kreuzvalidierten Leistungen informieren Sie über extrem vielfältige Daten, die der Algorithmus nicht richtig erfassen kann.

Die Verwendung der k-fachen Kreuzvalidierung ist immer die optimale Wahl, es sei denn, die Daten, die Sie verwenden, haben eine bestimmte Reihenfolge, auf die es ankommt. Zum Beispiel könnte es sich um eine Zeitreihe wie den Verkauf handeln. In diesem Fall sollten Sie keine zufällige Stichprobenmethode verwenden, sondern sich stattdessen auf einen Zug / Test-Split basierend auf der ursprünglichen Sequenz verlassen, damit die Reihenfolge erhalten bleibt und Sie die letzten Beispiele dieser geordneten Serie testen können.

Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Die Wahl des Herausgebers

Zusammen zieht, um Sicherheitstestergebnisse für Reporting - Dummies

Zusammen zieht, um Sicherheitstestergebnisse für Reporting - Dummies

Zusammen zu ziehen, wenn Sie Sicherheitstestdaten haben - Von Screenshots und manuellen Beobachtungen bis hin zu detaillierten Berichten, die von den verschiedenen von Ihnen verwendeten Schwachstellen-Scannern erstellt wurden - was machen Sie damit? Sie müssen Ihre Dokumentation mit einem fein gezahnten Kamm durchgehen und alle Bereiche hervorheben, die hervorstechen. Base ...

Wie man Datenbank-Schwachstellen minimiert, um Hacked-Dummys

Wie man Datenbank-Schwachstellen minimiert, um Hacked-Dummys

Datenbank-Systeme wie Microsoft SQL Server zu vermeiden , MySQL und Oracle, haben hinter den Kulissen gelauert, aber ihr Wert und ihre Schwachstellen sind endlich in den Vordergrund gerückt. Ja, sogar das mächtige Orakel, das einmal für unbarmherzig gehalten wurde, ist anfällig für ähnliche Heldentaten wie seine Konkurrenz. Mit der Vielzahl von regulatorischen Anforderungen für die Datenbank ...

Zeitersparnis Installieren von vSphere 4. 1 - dummies

Zeitersparnis Installieren von vSphere 4. 1 - dummies

Installieren von VMware vSphere 4. 1 ist ein Komplexer Prozess; Sie sollten tun, was Sie können, um die Installation reibungsloser zu machen. Wenn Sie sich auf die Installation von vSphere vorbereiten, sollten Sie diese praktische Checkliste verwenden, um Zeit und Mühe zu sparen: Freigegebener Speicher: vSphere erfordert gemeinsam genutzten Speicher für Funktionen wie vMotion und ...

Die Wahl des Herausgebers

Wie man Abstammung interpretiert. com Suchergebnisse - Dummies

Wie man Abstammung interpretiert. com Suchergebnisse - Dummies

Ausführen eines Ancestry. Die Suche ist nur die halbe Miete. Im nächsten Teil werden die Suchergebnisse durchsucht, um nützliche Informationen zu Ihrem jeweiligen Vorfahren zu finden.

Wie man nach militärischen Aufzeichnungen sucht - dummies

Wie man nach militärischen Aufzeichnungen sucht - dummies

Eine interessante Sammlung von militärischen Aufzeichnungen, die man für seine Genealogie suchen kann, ist die Soldaten- und Seemannssystem des Bürgerkriegs (CWSS). Die CWSS-Website ist ein Gemeinschaftsprojekt des National Park Service, der Genealogical Society of Utah und der Federation of Genealogical Societies. Die Website enthält einen Index von mehr als 6. 3 Millionen Soldaten ...

Wie man lebenswichtige genealogische Aufzeichnungen liest - Attrappen

Wie man lebenswichtige genealogische Aufzeichnungen liest - Attrappen

Vitale Aufzeichnungen gehören zu den ersten Gruppen von Primärquellen, die normalerweise von Genealogen benutzt werden .. Diese Aufzeichnungen enthalten Schlüssel und normalerweise zuverlässige Informationen, da sie in der Nähe des Ereignisses erstellt wurden und ein Zeuge des Ereignisses die Informationen lieferte. (Außerhalb der Vereinigten Staaten werden lebenswichtige Aufzeichnungen oft als zivile Registrierungen bezeichnet.) Geburtsaufzeichnungen ...

Die Wahl des Herausgebers

Ermittlung des maximalen Gewinns (Verlust) für Optionskontrakte der Serie 7 Exam - Dummies

Ermittlung des maximalen Gewinns (Verlust) für Optionskontrakte der Serie 7 Exam - Dummies

Optionskontrakte bieten Anlegern Sicherheit und die Serie 7 erwartet, dass Sie den maximalen Gewinn und Verlust für diese bestimmen können. Wenn ein Anleger Optionskontrakte auf Wertpapiere kauft oder verkauft, die er besitzt, wählt er eine ausgezeichnete Möglichkeit, um sich vor Verlust zu schützen oder zusätzliche Gelder auf sein Konto zu bringen. ...

Informationen über Zinserträge für die Series 7 Exam - Dummies

Informationen über Zinserträge für die Series 7 Exam - Dummies

Für die Series 7 Prüfung müssen Sie verstehen, wie sich Dividenden, Zinsen, Kapitalgewinne und Kapitalverluste auf Anleger auswirken. Zinserträge, die Anleihegläubiger erhalten, können abhängig von der Art des Wertpapiers oder der gehaltenen Wertpapiere steuerpflichtig sein: Unternehmensanleihezinsen: Zinsen aus Unternehmensanleihen sind auf allen Ebenen steuerpflichtig (Bundes-, Staats- und ...

Verwendung der Mittelwertbildung für die Dollar-Kosten auf der Series 7-Prüfung - Dummies

Verwendung der Mittelwertbildung für die Dollar-Kosten auf der Series 7-Prüfung - Dummies

Wenn ein Investor die Dollar-Kosten-Mittelungsformel anwendet, investiert er periodisch den gleichen Dollarbetrag in dieselbe Investition. Die Serie 7 erwartet, dass Sie mit dieser Formel vertraut sind. Obwohl Mittelwertbildung für Dollar vor allem für Investmentfonds verwendet wird, können sie auch für andere Anlagen verwendet werden. Dollar Kosten Mittelung Vorteile ...