Awesome GitHub RepositoriesText Normalization

nlp.js is a JavaScript natural language processing library and development framework used to build natural language understanding engines. It provides a toolkit for creating local machine learning models for intent classification and acts as a multilingual text processor that detects languages and normalizes text across various dialects. The framework distinguishes itself by supporting local execution on both servers and mobile devices, enabling chatbot functionality without an internet connection. It features a specialized system for conversational slot filling to collect mandatory informati

本项目是 ALBERT 语言模型架构的实现，提供了一个用于训练和评估基于 Transformer 的文本分类器和相似度模型的框架。它特别包括针对生成中文文本的语义嵌入和表示而优化的预训练资产和工具。 该框架通过将重型语言模型检查点转换为轻量级格式以在移动设备上实现低延迟推理的工具脱颖而出。它利用特定的权重缩减技术，包括跨参数共享和因子分解嵌入参数化，以在较小的内存占用下保持性能。 该系统涵盖了自然语言处理的完整流水线，从原始文本归一化和子词分词，到使用掩码语言建模的自监督预训练。它提供下游任务适配功能，允许对预训练模型进行微调以进行文本相似度分析和监督分类。 该项目包括用于二进制记录数据转换和模型格式转换的实用程序，以确保跨不同机器学习平台的兼容性。