Billion Words
Ein Benchmark-Datensatz für Sprachmodellierungsexperimente mit 1 Milliarde Wörtern, der Trainings-/Testdaten und Basismodellausgaben für reproduzierbare Forschung bereitstellt.
Überblick
Was ist Billion Words?
Das Billion Words-Projekt bietet einen Standard-Trainings- und Testaufbau für die Sprachmodellierung unter Verwendung von WMT 2011 News Crawl-Daten. Es enthält Skripte zum Neuaufbau von Daten und Log-Wahrscheinlichkeitswerten für Basismodelle wie Katz und Kneser-Ney und ermöglicht so reproduzierbares Benchmarking in der NLP-Forschung.
Wofür wird Billion Words verwendet?

Top-Funktionen
- Datensatz mit 1 Milliarde Wörtern
- Trainings- und Testdaten
- Ergebnisse des Basismodells
- Reproduzierbare Skripte
Wie verwendet man Billion Words?
Laden Sie die bereitgestellten Skripte und Daten herunter, um Experimente zur Sprachmodellierung einzurichten. Verwenden Sie die Trainingsdaten für die Modellentwicklung und die zurückgehaltenen Daten zum Testen und vergleichen Sie die Ergebnisse mit Basismodellen unter Verwendung der verfügbaren Log-Wahrscheinlichkeitsausgaben.
Alternative Tools
Vorteile & Nachteile
Vorteile
- Standardisierter Benchmark
- Reproduzierbare Ergebnisse
- Kostenlos und Open Source
- Unterstützt mehrere Modelle
Nachteile
- Erfordert technische Einrichtung
- Beschränkt auf eine bestimmte Datenquelle
Anwendungsfälle
- Benchmarking der NLP-Forschung
- Entwicklung eines Sprachmodells
- Akademische Experimente
Benutzerbewertungen
Noch keine Bewertungen
Seien Sie der Erste, der dieses Tool bewertet!