Awesome GitHub RepositoriesText Classifier Training

fastText is a library and framework for word embedding generation, text vectorization, and supervised text classification. It provides tools to transform raw text into fixed-length vector representations and to train models that assign category labels to sentences or documents. The system utilizes subword-based vectorization and character n-gram embeddings, allowing it to generate meaningful vectors for words that were not present during training. To manage resource usage, it includes a quantized language model implementation that employs product quantization and dimensionality reduction to d

PyText is an extensible PyTorch-based framework for building, training, and deploying custom natural language processing models, including text classifiers, sequence taggers, and intent-slot predictors. It provides a modular toolkit that allows developers to assemble these models using pluggable registries for model architectures, data formats, and tensorizers, all configurable through YAML files without requiring code changes. The framework distinguishes itself through its comprehensive support for the full NLP model lifecycle, from training to production inference. It includes pre-built neu

Ce projet est une implémentation TensorFlow d'un réseau de neurones convolutif conçu pour la classification de texte. Il fonctionne comme un catégoriseur de texte par deep learning qui assigne des étiquettes prédéfinies aux documents texte en identifiant et en analysant des modèles appris au sein des jeux d'entraînement. Le modèle utilise une séquence de vectorisation par couche d'embedding, des couches convolutives pour l'extraction de caractéristiques et un sous-échantillonnage par max-pooling pour traiter les données textuelles. Les probabilités de catégorie finales sont déterminées via un système de classification par couche dense. Le flux de travail couvre le cycle de vie complet du machine learning, incluant l'apprentissage supervisé de texte, l'entraînement de modèle avec des dimensions d'embedding et des tailles de filtre configurables, et l'évaluation des performances en utilisant des jeux de données de validation et la persistance de modèle basée sur des points de contrôle (checkpoints).

Ce projet est un entraîneur de modèle multimodal et un outil de fine-tuning d'apprentissage automatique qui fournit un flux de travail conteneurisé pour adapter des modèles pré-entraînés à des tâches spécifiques. Il dispose d'une interface web no-code et d'un tableau de bord pour entraîner des modèles de langage (LLM) et d'autres jeux de données d'apprentissage automatique sans écrire de code. Le système se distingue en intégrant une interface no-code avec une orchestration GPU distante, permettant aux utilisateurs de déployer des environnements d'entraînement conteneurisés sur une infrastructure cloud ou du matériel local. Il inclut un intégrateur dédié pour télécharger les poids et configurations des modèles entraînés directement vers le Hugging Face Hub. Les capacités couvrent un large éventail de modalités, incluant la vision par ordinateur pour la classification d'images et la détection d'objets, le traitement du langage naturel pour la classification de texte et les tâches de séquence-à-séquence, et l'apprentissage supervisé pour les données tabulaires. La boîte à outils prend également en charge l'optimisation spécialisée des modèles de langage via le fine-tuning efficace en paramètres et la quantification. Les flux de travail d'entraînement sont gérés via des fichiers de configuration ou une interface basée sur navigateur, avec une prise en charge intégrée du mapping des colonnes de jeux de données et de la surveillance de la progression de l'entraînement.

Spark NLP est une boîte à outils pour l'analyse de texte évolutive et l'apprentissage automatique construite sur le framework de calcul distribué Apache Spark. Il fournit un framework d'apprentissage automatique multimodal et un système de pipeline distribué pour séquencer les annotateurs afin de traiter des données linguistiques à grande échelle. La bibliothèque inclut un processeur de texte transformer pour générer des embeddings vectoriels contextuels et un moteur d'inférence dédié pour gérer les grands modèles de langage. Le projet se distingue par sa capacité à traiter des types de données hétérogènes, y compris le texte, l'audio et les images, au sein d'une architecture vision-langage unifiée. Il prend en charge des capacités avancées d'IA générative telles que le prompt engineering, l'extraction d'entités structurées avec sortie JSON contrainte, et l'inférence locale pour éliminer la latence réseau. De plus, il fournit des outils pour la traduction inter-langues et la classification zero-shot à travers les modalités texte et image. Le framework couvre un large éventail de capacités, y compris l'entraînement de modèles supervisés pour la reconnaissance d'entités et l'analyse de sentiment, ainsi que la réponse aux questions extractive et la synthèse de documents. Il intègre la prise en charge des bases de données vectorielles pour la recherche de similarité et offre une infrastructure pour l'accélération GPU et la gestion du cycle de vie des modèles via un registre centralisé. La boîte à outils permet la distribution de modèles et de pipelines personnalisés via un dépôt public et prend en charge le déploiement de modèles via des API REST.

This project is an implementation of the ALBERT language model architecture, providing a framework for training and evaluating transformer-based text classifiers and similarity models. It specifically includes pre-trained assets and tools optimized for generating semantic embeddings and representations of Chinese text. The framework distinguishes itself through tools for converting heavy language model checkpoints into lightweight formats to enable low-latency inference on mobile devices. It utilizes specific weight reduction techniques, including cross-parameter sharing and factorized embedd