Billion Words
Un ensemble de données de référence pour les expériences de modélisation linguistique avec 1 milliard de mots, fournissant des données de formation/test et des résultats de modèle de base pour une recherche reproductible.
Aperçu
Qu'est-ce que Billion Words ?
Le projet Billion Words propose une configuration standard de formation et de test pour la modélisation du langage, en utilisant les données WMT 2011 News Crawl. Il comprend des scripts pour reconstruire les données et enregistrer les valeurs de probabilité pour les modèles de base tels que Katz et Kneser-Ney, permettant une analyse comparative reproductible dans la recherche en PNL.
À quoi sert Billion Words ?

Fonctionnalités Principales
- Ensemble de données d'un milliard de mots
- Données de formation et de test
- Résultats du modèle de référence
- Scripts reproductibles
Comment utiliser Billion Words ?
Téléchargez les scripts et les données fournis pour mettre en place des expériences de modélisation de langage. Utilisez les données d'entraînement pour le développement du modèle et les données conservées pour les tests, en comparant les résultats aux modèles de référence à l'aide des sorties de log-probabilité disponibles.
Outils Alternatifs
Avantages & Inconvénients
Avantages
- Benchmark standardisé
- Des résultats reproductibles
- Gratuit et open source
- Prend en charge plusieurs modèles
Inconvénients
- Nécessite une configuration technique
- Limité à une source de données spécifique
Cas d'Utilisation
- Analyse comparative de la recherche en PNL
- Développement de modèles de langage
- Expériences académiques
Avis Utilisateurs
Aucun avis pour le moment
Soyez le premier à évaluer cet outil !