Zuhause Persönliche Finanzen Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Video: Modul 5a - Manuelle Annotation und Evaluation 2025

Video: Modul 5a - Manuelle Annotation und Evaluation 2025
Anonim

Manchmal erfordert maschinelles Lernen, dass Sie auf Kreuzvalidierung zurückgreifen müssen. Ein auffälliges Problem bei der Aufteilung von Zug- und Testsätzen besteht darin, dass Sie eine Verzerrung in Ihren Tests einführen, da Sie die Größe Ihrer In-Sample-Trainingsdaten reduzieren. Wenn Sie Ihre Daten aufteilen, halten Sie möglicherweise einige nützliche Beispiele aus dem Training heraus. Darüber hinaus sind Ihre Daten manchmal so komplex, dass ein Testset, obwohl es anscheinend dem Trainingssatz ähnelt, nicht wirklich ähnlich ist, da die Kombinationen von Werten unterschiedlich sind (was typisch für hochdimensionale Datensätze ist).

Diese Probleme erhöhen die Instabilität von Sampling-Ergebnissen, wenn Sie nicht viele Beispiele haben. Das Risiko, Ihre Daten ungünstig aufzuteilen, erklärt auch, warum der Zug / Test-Split nicht die bevorzugte Lösung für Maschinelle Lernende ist, wenn Sie eine Machine-Learning-Lösung evaluieren und abstimmen müssen.

Kreuzvalidierung basierend auf k-folds ist eigentlich die Antwort. Es basiert auf zufälliger Aufteilung, aber dieses Mal teilt es Ihre Daten in eine Anzahl k von Falten (Teile Ihrer Daten) von gleicher Größe auf. Dann wird jede Falte abwechselnd als Testset gehalten und die anderen werden zum Training verwendet. Jede Iteration verwendet eine andere Faltung als Test, was eine Fehlerschätzung ergibt.

In der Tat wird nach dem Abschluss des Tests auf eine Falte gegen die anderen, die als Training verwendet werden, eine aufeinanderfolgende Falte, die sich von der vorherigen unterscheidet, herausgehalten und das Verfahren wird wiederholt, um eine weitere Fehlerabschätzung zu erzeugen… Der Prozess wird fortgesetzt, bis alle k-Faltungen einmal als Testsatz verwendet wurden und Sie eine k Anzahl von Fehlerschätzungen haben, die Sie in eine mittlere Fehlerschätzung (die Kreuzvalidierungsbewertung) und einen Standardfehler der Schätzungen berechnen können.

Eine grafische Darstellung der Funktionsweise der Kreuzvalidierung.

Dieses Verfahren bietet die folgenden Vorteile:

  • Es funktioniert gut, unabhängig von der Anzahl der Beispiele, denn wenn Sie die Anzahl der verwendeten Falten erhöhen, erhöhen Sie tatsächlich die Größe Ihres Trainingssatzes (größeres k, größeres Trainingsset, reduzierter Bias) und die Größe des Testsatzes verringert.
  • Verteilungsunterschiede für einzelne Falten spielen keine Rolle. Wenn eine Falte im Vergleich zu den anderen eine andere Verteilung hat, wird sie nur einmal als Testgruppe verwendet und während der verbleibenden Tests mit anderen als Teil des Trainingssatzes gemischt.
  • Sie testen tatsächlich alle Beobachtungen, also testen Sie Ihre Maschinelle Lernhypothese mit allen Daten, die Sie haben.
  • Wenn Sie den Mittelwert der Ergebnisse einnehmen, können Sie eine Vorhersageleistung erwarten. Darüber hinaus kann Ihnen die Standardabweichung der Ergebnisse sagen, wie viel Variation Sie bei echten Out-of-Sample-Daten erwarten können. Höhere Abweichungen in den kreuzvalidierten Leistungen informieren Sie über extrem vielfältige Daten, die der Algorithmus nicht richtig erfassen kann.

Die Verwendung der k-fachen Kreuzvalidierung ist immer die optimale Wahl, es sei denn, die Daten, die Sie verwenden, haben eine bestimmte Reihenfolge, auf die es ankommt. Zum Beispiel könnte es sich um eine Zeitreihe wie den Verkauf handeln. In diesem Fall sollten Sie keine zufällige Stichprobenmethode verwenden, sondern sich stattdessen auf einen Zug / Test-Split basierend auf der ursprünglichen Sequenz verlassen, damit die Reihenfolge erhalten bleibt und Sie die letzten Beispiele dieser geordneten Serie testen können.

Auf Cross-Validierung im maschinellen Lernen zurückgreifen - Dummies

Die Wahl des Herausgebers

Wie man die Socialcast Mobile App benutzt - dummies

Wie man die Socialcast Mobile App benutzt - dummies

Sogar die stoischste Anwendung wie Microsoft Excel hat ein begleitendes Smartphone-App, natürlich hat Socialcast auch eine. Wenn es so wäre, wäre es nicht wirklich eine Ausrede zu sagen, dass Socialcast nicht sehr sozial wäre, wenn du es nicht mit in die große Welt außerhalb deiner Zelle mitnehmen könntest. Die mobile App ...

Wie man das App Verzeichnis von Yammer benutzt - dummies

Wie man das App Verzeichnis von Yammer benutzt - dummies

Sie haben vielleicht gehört: "Es gibt eine App dafür. "Nun, das ist der Fall bei Yammer, der als einzige Ressource für die Vernetzung am Arbeitsplatz funktioniert. Aber Yammer bietet Ihnen auch eine Menge Apps, mit denen Sie Ihr Arbeitsleben noch einfacher gestalten können. Es gibt zwei Möglichkeiten, auf das App-Verzeichnis zuzugreifen: Option ...

So ​​verwenden Sie die Yammer-Analysetools - Dummies

So ​​verwenden Sie die Yammer-Analysetools - Dummies

Yammer rühmt sich damit als "führendes soziales Unternehmensnetzwerk für Unternehmen" um die Arbeit intelligenter und schneller zu erledigen. "Woher weißt du, ob das wahr ist? Ein guter Weg, um zu sehen, wie es für Sie funktioniert, ist die Analyse von Yammer. Wie greifen Sie auf diese großartigen Tools zu? Es ist einfach. Log ...

Die Wahl des Herausgebers

Die Evolution von Distributed Computing für Big Data - Dummies

Die Evolution von Distributed Computing für Big Data - Dummies

Hinter allen wichtigen Trends des letzten Jahrzehnts, einschließlich Serviceorientierung, Cloud Computing, Virtualisierung und Big Data, ist eine grundlegende Technologie namens Distributed Computing. Einfach gesagt, ohne die Verteilung von Datenverarbeitung wäre keiner dieser Fortschritte möglich. Distributed Computing ist eine Technik, mit der einzelne Computer über geografische Gebiete hinweg miteinander vernetzt werden können, so als ob ...

Drei Anbieter mit Data Mining-Produkten - Dummies

Drei Anbieter mit Data Mining-Produkten - Dummies

Es gibt mehrere Anbieter, die Data-Mining-Produkte verkaufen, die Sie vielleicht in Betracht ziehen möchten. Verwenden Sie mit Ihrem Data Warehouse. Hier sind drei, die eine Überlegung wert sind. Microsoft Microsoft hat das serverseitige Data Mining mit Microsoft SQL Server 2005 eingeführt. Obwohl es nicht so ausgereift und ausgeklügelt wie SAS und SPSS ist, hat Microsoft im Laufe der Zeit seine Fähigkeit bewiesen ...

Grundlagen der Big-Data-Integration - Dummies

Grundlagen der Big-Data-Integration - Dummies

Die fundamentalen Elemente der Big-Data-Plattform verwalten Daten auf neue Weise verglichen mit der traditionellen relationalen Datenbank. Dies liegt daran, dass Skalierbarkeit und hohe Leistung erforderlich sind, um sowohl strukturierte als auch unstrukturierte Daten zu verwalten. Komponenten des Big-Data-Ökosystems von Hadoop bis NoSQL DB, MongoDB, Cassandra, ...

Die Wahl des Herausgebers

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

So ​​stellen Sie eine Verbindung zu Spotify Mobile her - Dummies

Die meisten modernen Smartphones sind Wi-Fi-fähig. In ein lokales Netzwerk können Sie Spotify-Tracks mithilfe von Wi-Fi auf Ihr Telefon streamen. Sie können Spotify Mobile zu Hause und über Wi-Fi-Netzwerke in Hotels und Cafés problemlos nutzen - Sie müssen nur sicherstellen, dass Sie angemeldet und verbunden sind. ...

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert - Dummies

Wie Spotify funktioniert, kann Auswirkungen auf den Festplattenspeicher Ihres Computers haben. Internetverbindung. Spotify funktioniert anders als viele andere Online-Musikdienste, weil es auf mehrere Arten angewiesen ist, um Ihnen reibungslos Musik ohne Verzögerungen zu liefern. In Computing-Sprechen, das Maß der Verzögerung zwischen Anfordern eines Songs und Hören es ...

So ​​erreichen Sie Spotify Support - Dummies

So ​​erreichen Sie Spotify Support - Dummies

Es kann vorkommen, dass Sie eine kleine Hilfe beim Navigieren und Verwenden von Spotify benötigen von deinen Spotify Freunden. Sie können jederzeit Support @ spotify per E-Mail senden. com mit Ihrer Frage oder melden Sie sich bei Twitter an und senden Sie einen Tweet an @spotify. Stellen Sie sicher, dass Sie alle Informationen einschließen, die dem Support-Team helfen könnten, einschließlich Ihres Benutzernamens, damit sie ...