Zuhause Persönliche Finanzen , Wie die Anzahl der Elemente in einem Datenstrom zu finden - Attrappen

, Wie die Anzahl der Elemente in einem Datenstrom zu finden - Attrappen

Video: ESOcast 124: Q&A with ESO's Outgoing Director General Tim de Zeeuw — Thoughts and reflections on ... 2025

Video: ESOcast 124: Q&A with ESO's Outgoing Director General Tim de Zeeuw — Thoughts and reflections on ... 2025
Anonim

Auch wenn ein Bloom-Filter Objekte verfolgen kann, die von einem Stream kommen, kann er nicht feststellen, wie viele Objekte dort vorhanden sind. Ein mit Einsen gefüllter Bitvektor kann (abhängig von der Anzahl der Hashes und der Kollisionswahrscheinlichkeit) die wahre Anzahl der Objekte verschlüsseln, die an der gleichen Adresse gehasht werden.

Die Kenntnis der eindeutigen Anzahl von Objekten ist in verschiedenen Situationen nützlich, z. B. wenn Sie wissen möchten, wie viele verschiedene Benutzer eine bestimmte Website-Seite oder die Anzahl verschiedener Suchmaschinen-Abfragen gesehen haben. Alle Elemente zu speichern und die Duplikate unter ihnen zu finden, kann nicht mit Millionen von Elementen arbeiten, insbesondere wenn sie aus einem Stream kommen. Wenn Sie wissen möchten, wie viele verschiedene Objekte in einem Stream vorhanden sind, müssen Sie sich dennoch auf eine Hash-Funktion verlassen. Bei diesem Ansatz wird jedoch eine numerische Skizze verwendet.

Skizzieren bedeutet, eine Näherung zu nehmen, also einen ungenauen, aber nicht völlig falschen Wert als Antwort. Näherung ist akzeptabel, da der reale Wert nicht zu weit davon entfernt ist. In diesem intelligenten Algorithmus, HyperLogLog,, der auf Wahrscheinlichkeit und Näherung basiert, beobachten Sie die Eigenschaften von Zahlen, die aus dem Datenstrom generiert werden. HyperLogLog leitet sich aus den Studien der Informatiker Nigel Martin und Philippe Flajolet ab. Flajolet verbesserte ihren anfänglichen Algorithmus, Flajolet-Martin (oder der loglog Algorithmus), in die robustere HyperLogLog Version, die wie folgt funktioniert:

  1. Ein Hash konvertiert jedes vom Stream empfangene Element in eine Zahl.
  2. Der Algorithmus konvertiert die Zahl in eine Binärdatei, den numerischen Standard der Basis 2, den Computer verwenden.
  3. Der Algorithmus zählt die Anzahl der Nullen in der Binärzahl und die Anzahl der Spuren, die er sieht, also n.
  4. Der Algorithmus schätzt die Anzahl der einzelnen Elemente, die mit n im Stream übergeben wurden. Die Anzahl der verschiedenen Elemente ist 2 ^ 999 n 999.
    Zum Beispiel ist das erste Element in der Zeichenkette das Wort
Hund.

Der Algorithmus es in einen ganzzahligen Wert Hashes und wandelt sie in binären, mit einem Ergebnis von 01101010. nur eine Null erscheint am Anfang der Zahl, so geht der Algorithmus zeichnet sie als die maximale Anzahl von Nullen gesehen. Der Algorithmus sieht dann die Worte Papagei und Wolf,, deren binären Äquivalente 11101011 und 01101110, n unverändert bleibt. Wenn jedoch das Wort cat verläuft, wird der Ausgang 00101110 ist, so wird n 2 die Anzahl der unterschiedlichen Elemente abzuschätzen, berechnet der Algorithmus 2 ^ n, das heißt, 2 ^ 2 = 4 ist. Die Abbildung zeigt diesen Vorgang. Nur führende Nullen zählen. Der Trick des Algorithmus ist, dass, wenn Ihr Hash zufällige Ergebnisse erzeugt, gleichmäßig verteilt (wie in einem Bloom-Filter), indem Sie die binäre Darstellung betrachten, können Sie die Wahrscheinlichkeit berechnen, dass eine Folge von Nullen erschien. Da die Wahrscheinlichkeit, dass eine einzelne Binärzahl 0 ist, eins zu zwei ist, multiplizieren Sie zum Berechnen der Wahrscheinlichkeit von Folgen von Nullen einfach die 1/2 Wahrscheinlichkeit so oft wie die Länge der Folge von Nullen:

50 Prozent (1/2) Wahrscheinlichkeit für Zahlen, die mit einer Wahrscheinlichkeit von 0

25 Prozent (1/2 * 1/2) beginnen, beginnend mit 00

  • 12. 5 Prozent (1/2 * 1/2 * 1/2) Wahrscheinlichkeit für Zahlen, die mit 000
  • (1/2) beginnen ^ k Wahrscheinlichkeit für Zahlen, die mit k Nullen beginnen (Sie verwenden Kräfte für schnellere Berechnungen von vielen Multiplikationen der gleiche Zahl)
  • Je weniger Zahlen HyperLogLog sieht, desto größer ist die Ungenauigkeit. Die Genauigkeit erhöht sich, wenn Sie die HyperLogLog-Berechnung viele Male mit verschiedenen Hash-Funktionen verwenden und die Antworten aus jeder Berechnung zusammen zählen, aber das Hashing dauert oft und die Datenströme sind schnell. Alternativ können Sie den gleichen Hash verwenden, aber den Stream in Gruppen aufteilen (z. B. durch Trennen der Elemente in Gruppen, wenn diese entsprechend ihrer Ankunftsreihenfolge ankommen), und für jede Gruppe verfolgen Sie die maximale Anzahl von nachgestellten Nullen. Am Ende berechnen Sie die eindeutige Elementschätzung für jede Gruppe und berechnen das arithmetische Mittel aller Schätzungen. Dieser Ansatz ist eine stochastische Mittelwertbildung und liefert präzisere Schätzungen als die Anwendung des Algorithmus auf den gesamten Datenstrom.
, Wie die Anzahl der Elemente in einem Datenstrom zu finden - Attrappen

Die Wahl des Herausgebers

Auflistung Vereinbarungen über die Immobilienlizenz Prüfung - Dummies

Auflistung Vereinbarungen über die Immobilienlizenz Prüfung - Dummies

Listing-Vereinbarungen werden auf der Immobilien abgedeckt werden Lizenzprüfung. Eine Listungsvereinbarung stellt eine Agenturbeziehung zwischen einem Agenten und einem Grundstücksverkäufer her. Der Vertreter verpflichtet sich, den Verkäufer bei der Vermarktung der Immobilie zu vertreten. Hier sind die Namen und Beschreibungen der vier Arten von Listing-Vereinbarungen in der Reihenfolge, in der sie sind ...

Immobilien-Lizenz-Prüfung: 7 Verwirrende Wortpaare - Dummies

Immobilien-Lizenz-Prüfung: 7 Verwirrende Wortpaare - Dummies

Bevor Sie Ihre Immobilienlizenz nehmen Es ist wichtig, dass Sie den Unterschied zwischen ähnlich klingenden Begriffen verstehen. Die folgenden Immobilienbegriffe sind am häufigsten verwirrt; Holen Sie sich diese auswendig und Sie sind auf dem Weg zu mehr richtigen Antworten. Eigentumswohnung / Genossenschaft: Ein Eigentümer einer Eigentumswohnung besitzt tatsächlich Immobilien. Dieser Besitz ist in der Regel der Luftraum ...

Hypothek Akzeptanz Überlegungen zur Immobilienlizenz Prüfung - Dummies

Hypothek Akzeptanz Überlegungen zur Immobilienlizenz Prüfung - Dummies

Die Immobilienlizenz Prüfung wird Fragen zu Hypotheken und Kreditgebern. Ein primärer Kreditgeber hat zwei Überlegungen, wenn er einen Kredit für den Kauf oder die Refinanzierung von Immobilien vergibt: den Wert der Immobilie und die Fähigkeit des Kreditnehmers, die Schulden zu tilgen. Bei der Überprüfung des Wertes der Immobilie, ...

Die Wahl des Herausgebers

GED Fragen der wissenschaftlichen Praxis: Arbeit, Bewegung und Kraft - Dummies

GED Fragen der wissenschaftlichen Praxis: Arbeit, Bewegung und Kraft - Dummies

Die Gesetze von Physik beeinflusst alle Arten von alltäglichen Aktivitäten, vom Autofahren bis zum Baseballspiel. Es überrascht daher nicht, dass sich einige Fragen zum GED Science-Test mit Konzepten wie Arbeit, Bewegung und Kraft befassen. In den folgenden Übungsfragen müssen Sie sowohl Theorie als auch gesunden Menschenverstand anwenden, um ...

GED Beispielfragen: Argumentieren durch Sprachkunst Lesen von technischen Informationen - Dummies

GED Beispielfragen: Argumentieren durch Sprachkunst Lesen von technischen Informationen - Dummies

Zu den Begründungen Durch die Sprachabteilung der GED können Sie gebeten werden, Fragen zu einer technischen Passage zu beantworten. Dies könnte Anweisungen zur Fertigstellung enthalten, wie die folgenden. Die Fragen in diesem Artikel beziehen sich auf den folgenden Auszug aus Russell Harts Fotografie für Dummies, 2. Auflage (Wiley). Was ist das Geheimnis für ...?

GED Beispielfragen: Kurze wissenschaftliche Antwortfragen - Dummys

GED Beispielfragen: Kurze wissenschaftliche Antwortfragen - Dummys

Irgendwann während des Science-Teils der GEE-Test, werden Sie gebeten, eine kurze Antwort zu verfassen. Sie werden eine Passage erhalten und eine Frage stellen, auf die Sie antworten müssen. Machen Sie Ihre Antwort klar und prägnant. Kurzer Antwortdurchgang Jeder kennt Cheddar-Käse. Leute setzen ...

Die Wahl des Herausgebers

Stärkung des Selbstwertgefühls für Dummies Cheat Sheet (UK Edition) - Dummies

Stärkung des Selbstwertgefühls für Dummies Cheat Sheet (UK Edition) - Dummies

Selbstzweifel und schlechte Selbstwertschätzung scheinen Hand in Hand mit dem Menschsein zu gehen. Selbst wenn Sie im Allgemeinen gesund und ein gutes Selbstwertgefühl haben, haben Sie wahrscheinlich Zeiten in Ihrem Leben, an denen Sie sich unwohl fühlen und Gedanken und Gedanken über sich selbst verunglimpfen. Um zu helfen, halten Sie diesen Spickzettel, damit Sie ein paar Tipps und Hinweise haben ...

Antipsychotika und die Behandlung der bipolaren Störung - Dummies

Antipsychotika und die Behandlung der bipolaren Störung - Dummies

Atypische Antipsychotika (atypische Neuroleptika oder Antipsychotika der zweiten Generation) ursprünglich formuliert, um Psychose bei Schizophrenie zu behandeln, aber diese Klasse von Medikamenten hat sich auch als wirksam bei der Verringerung der Manie und Augmentierung Antidepressiva Behandlung erwiesen. Die atypische oder zweite Generation stammt aus der Tatsache, dass diese neuere Art von Antipsychotika anders funktioniert als der ältere Standard oder Neuroleptika der ersten Generation, ...

Verwaltung von Angst mit Achtsamkeit für Dummies Cheat Sheet - Dummies

Verwaltung von Angst mit Achtsamkeit für Dummies Cheat Sheet - Dummies

Sie möchten mehr darüber erfahren, wie Sie Ihre Angst mit Achtsamkeit? Sieh dir den Spickzettel an und entdecke die häufigsten Ursachen von Angstzuständen. Versuchen Sie eine kurze Achtsamkeitsübung, die Ihrer Angst helfen kann. Erkunde Wege, wie du deine ängstlichen Gedanken achtsam handhaben kannst. Finden Sie einfache Möglichkeiten heraus, jeden Tag aufmerksam zu sein. Dieser Spickzettel ...