Awesome GitHub RepositoriesText Cleaning

zotero-gpt is an extension that integrates large language models with a reference management system to assist in the analysis and summarization of academic research papers. It functions as a research paper AI assistant capable of querying PDF documents and extracting insights directly from academic libraries. The tool features a contextual research search system that locates items within a library based on the semantic meaning of selected text. It includes a visual interface that renders AI-generated responses using Markdown and supports the display of complex mathematical formulas. The syst

Esta es una aplicación de Windows para el reconocimiento automático de voz que transcribe audio hablado de archivos de vídeo a archivos de subtítulos SRT con marca de tiempo. Sirve como un generador de subtítulos y herramienta de traducción que convierte el habla de los medios en texto sincronizado. El software funciona como un transcriptor de medios por lotes, permitiendo el procesamiento simultáneo de múltiples archivos de audio y vídeo para generar subtítulos de forma masiva. Incluye un flujo de trabajo de traducción para convertir transcripciones entre diferentes idiomas para la creación de archivos bilingües o localizados. El sistema también proporciona capacidades de refinamiento de texto, utilizando expresiones regulares y filtros personalizados para limpiar transcripciones eliminando palabras de relleno y patrones no deseados. Esto está soportado por una interfaz gráfica de usuario nativa de Windows.

Este proyecto es un recurso educativo integral y un curso para construir redes neuronales usando PyTorch. Cubre los bloques de construcción fundamentales del deep learning, incluyendo la manipulación de tensores, la diferenciación automática y la construcción de componentes modulares de redes neuronales. El repositorio sirve como guía técnica para varios dominios especializados. Proporciona detalles de implementación para tareas de visión artificial como clasificación de imágenes, detección de objetos y segmentación semántica, así como flujos de trabajo de procesamiento de lenguaje natural que involucran transformers, redes recurrentes y modelos generativos. Además, incluye una referencia para IA generativa, centrándose específicamente en la síntesis de imágenes mediante modelos de difusión y redes adversarias. El material se extiende a pipelines de optimización y despliegue de modelos. Cubre técnicas para reducir el tamaño del modelo y aumentar la velocidad de inferencia mediante cuantización y la exportación de modelos a formatos como ONNX y TensorRT. Otras áreas de capacidad incluyen ingeniería de datos para carga paralela, evaluación de modelos mediante métricas personalizadas y el despliegue de modelos de lenguaje grandes (LLM) de código abierto. El proyecto se entrega principalmente como una serie de Jupyter Notebooks.

CrawlerTutorial is a comprehensive Python web scraping tutorial and framework designed for extracting data from static and dynamic websites. It functions as a web data extraction pipeline and an HTTP request orchestrator, covering the full lifecycle of scraping applications from initial fetching to final data storage. The project provides specialized guidance on anti-bot bypass techniques and web API reverse engineering. It includes methods for evading browser detection through identity masking and proxy rotation, as well as techniques for identifying hidden API endpoints by analyzing network

Spark NLP es un kit de herramientas para el análisis de texto escalable y aprendizaje automático construido sobre el framework de computación distribuida Apache Spark. Proporciona un framework de aprendizaje automático multimodal y un sistema de tuberías distribuido para secuenciar anotadores para procesar datos lingüísticos a gran escala. La librería incluye un procesador de texto transformer para generar embeddings vectoriales contextuales y un motor de inferencia dedicado para gestionar grandes modelos de lenguaje. El proyecto se distingue por su capacidad para procesar tipos de datos heterogéneos, incluyendo texto, audio e imágenes, dentro de una arquitectura unificada de visión-lenguaje. Admite capacidades avanzadas de IA generativa como prompt engineering, extracción de entidades estructuradas con salida JSON restringida e inferencia local para eliminar la latencia de red. Además, proporciona herramientas para la traducción entre idiomas y la clasificación zero-shot a través de modalidades de texto e imagen. El framework cubre una amplia gama de capacidades, incluyendo el entrenamiento de modelos supervisados para el reconocimiento de entidades y el análisis de sentimientos, así como la respuesta a preguntas extractiva y el resumen de documentos. Integra soporte para bases de datos vectoriales para la búsqueda de similitud y ofrece infraestructura para la aceleración por GPU y la gestión del ciclo de vida del modelo a través de un registro centralizado. El kit de herramientas permite la distribución de modelos y tuberías personalizados a través de un repositorio público y admite el despliegue de modelos mediante APIs REST.

python-ftfy es una biblioteca de reparación de texto Unicode diseñada para arreglar mojibake y fallos de codificación. Proporciona utilidades para la detección de codificación de bytes, decodificación de entidades HTML y la recuperación de texto corrupto para restaurarlo a su forma Unicode prevista. El proyecto se distingue a través de un pipeline de decodificación de múltiples capas que identifica y revierte mezclas de codificación complejas. Utiliza detección basada en heurística para resolver casos donde el texto fue decodificado usando el códec incorrecto a través de múltiples capas de corrupción, y puede manejar variantes de UTF-8 no estándar y mapeos de codificación descuidados. La biblioteca también cubre una amplia gama de tareas de estandarización de texto, incluyendo normalización Unicode, estandarización de saltos de línea y la expansión de ligaduras latinas. Incluye capacidades para la normalización del ancho de caracteres y la eliminación de escapes de terminal y caracteres de control. Está disponible una interfaz de línea de comandos para automatizar la detección y reparación de fallos Unicode dentro de archivos.

Este proyecto es una herramienta de reparación de texto Unicode y biblioteca de corrección de mojibake diseñada para arreglar fallos de codificación y restaurar caracteres originales de cadenas dañadas. Funciona como un detector de codificación de texto y una herramienta de normalización Unicode para resolver problemas donde el texto ha sido decodificado incorrectamente. La biblioteca se especializa en revertir errores de codificación de múltiples capas y reparar patrones complejos de mojibake. Incluye capacidades para detectar secuencias de codificación con pérdida, adivinar codificaciones de bytes y decodificar variantes de UTF-8 no estándar. El conjunto de herramientas cubre una amplia gama de tareas de limpieza y normalización de texto, incluyendo la decodificación de entidades HTML y escapes con barra invertida, la expansión de ligaduras latinas y la estandarización de anchos de caracteres y saltos de línea. También proporciona utilidades para eliminar caracteres de control invisibles e inspeccionar cadenas Unicode por punto de código. Está disponible una interfaz de línea de comandos para reparar fallos Unicode y errores de codificación dentro de archivos o flujos de entrada.