Awesome GitHub RepositoriesSequence Models

This project is a speech recognition and translation engine that utilizes a sequence-to-sequence transformer architecture to convert audio into text. It is built upon a weakly supervised learning framework, which leverages large-scale, unlabelled audio-transcript data to create generalized speech representations capable of performing simultaneous transcription, language identification, and translation. The system distinguishes itself through a unified multi-task modeling approach that shares token sequences across different objectives, allowing it to handle diverse languages and vocabularies

This project is an open-source, interactive educational platform designed to teach deep learning through a comprehensive, code-first curriculum. It provides a structured learning path that covers foundational mathematics, modern neural network architectures, and practical optimization techniques, enabling practitioners to master complex artificial intelligence concepts through hands-on experimentation. The platform distinguishes itself by integrating technical explanations with executable Jupyter notebooks. This design allows readers to modify code and hyperparameters in real-time, facilitati

The algorithm is a distributed recommendation engine pipeline designed to construct and serve personalized content timelines. It functions as a multi-stage orchestration layer that aggregates candidate content from diverse social graphs and high-dimensional embedding spaces, processing user interaction data to deliver a unified, ranked experience. The system utilizes a high-performance machine learning serving infrastructure to execute deep learning models that predict engagement probabilities in real-time. It distinguishes itself through a hybrid retrieval strategy that combines graph-traver

This project is a comprehensive Chinese translation of a technical deep learning textbook, providing an educational resource on the theory and implementation of neural networks. It functions as a collaborative technical translation project designed to make complex academic AI literature accessible to non-English speakers. The project utilizes a community-driven translation model that integrates external suggestions and pull requests to refine linguistic accuracy and reduce bias. It employs standardized terminology mapping to ensure a uniform vocabulary throughout the translated content. To i

This project is an educational platform and research toolkit designed to teach deep learning through a combination of mathematical theory, visual diagrams, and executable code. It provides a comprehensive environment for building, training, and evaluating neural networks, grounding complex concepts in interactive computational notebooks that allow for hands-on experimentation. The framework distinguishes itself by interleaving theoretical foundations—including linear algebra, calculus, and probability—with practical implementations across multiple industry-standard libraries. It supports flex

This project is an educational resource focused on the internal mechanics and design principles of transformer-based neural networks. It provides a structured guide to the fundamental components of generative artificial intelligence, including sequence modeling, semantic embeddings, and the mathematical foundations of large language models. The repository distinguishes itself through a heavy emphasis on visual documentation, utilizing diagrams and step-by-step explanations to clarify how data flows through complex neural architectures. It serves as a technical reference for developers seeking

This project is a comprehensive deep learning framework and educational platform designed for constructing, training, and evaluating neural network architectures. It provides a modular environment for building models through tensor operations and automatic differentiation, supporting a wide range of tasks from image classification and object detection to sequential data processing. Beyond its core technical capabilities, the project distinguishes itself by integrating professional career development resources directly into its learning ecosystem. It offers structured guidance, resume reviews,

Mamba is a deep learning framework designed for building and training sequence models that process long-range data dependencies with linear-time computational efficiency. By utilizing selective state space modeling, the library enables the construction of neural network architectures that replace traditional attention mechanisms with high-performance state space operations. The framework distinguishes itself through the use of data-dependent state gating, which allows the model to dynamically filter information flow based on the input sequence. To ensure high throughput, it incorporates hardw

This repository is a deep learning for natural language processing course and curriculum. It provides educational material and guides focused on neural network architectures used for processing natural language, speech signals, and text classification. The content includes instructional tutorials on sequence modeling and neural language modeling, covering the implementation of n-gram and recurrent neural networks. It also provides a framework for studying word embeddings to map linguistic meanings into numerical representations. The curriculum covers a broad range of capabilities, including

This project is a Python-based educational framework designed to simulate reinforcement learning algorithms and environments. It serves as a platform for reproducing classic textbook examples, allowing users to study agent behavior, policy improvement, and the fundamental mechanics of decision-making in controlled settings. The library provides implementations for core reinforcement learning concepts, including temporal difference learning, Monte Carlo episode sampling, and tabular value function approximation. It enables the analysis of specific algorithmic behaviors, such as identifying and

Ludwig is a declarative machine learning framework designed for training neural networks and large language models using configuration files instead of manual coding. It functions as a multimodal model builder and a low-code tool for supervised fine-tuning, allowing users to build models that process mixed inputs of text, images, audio, and tabular data. The project distinguishes itself through an automated hyperparameter optimizer and a system for large language model fine-tuning using parameter-efficient adapters. It features a multimodal data pipeline and the ability to automatically gener

DeepCTR is a specialized software framework and deep learning model library designed for predicting click-through rates and implementing recommendation systems. It provides a suite of tabular data models and architectures tailored for binary classification and sparse feature processing. The framework includes dedicated toolkits for multi-task learning and sequential interest modeling. It allows for the simultaneous estimation of multiple related targets through shared-bottom and gated expert neural networks, while capturing evolving user behavior using attention mechanisms and transformers.

Qwen-Image is a text-to-image model and large language model image generation framework. It functions as an AI image editing suite and a personalized image trainer, capable of producing high-fidelity visuals and accurate typography from natural language descriptions. The system is distinguished by its precision text rendering engine, which integrates multi-script calligraphy and layout-coherent alphabetic text into images. It provides specialized capabilities for subject identity preservation and consistent subject generation across different poses and viewpoints, alongside a training pipelin

Dies ist ein Machine-Learning-Framework zur Behandlung diverser Natural-Language-Processing-Aufgaben als einheitliches Text-zu-Text-Problem. Es bietet ein Toolkit für das Pre-Training und Fine-Tuning groß angelegter Transformer-Modelle und nutzt ein System, bei dem sowohl Eingaben als auch Ausgaben als rohe Textsequenzen formatiert sind. Das Framework zeichnet sich durch sein verteiltes Trainingssystem aus, das Mesh-basierte Strategien verwendet, um Modellgewichte und Trainings-Batches über mehrere TPU-Kerne hinweg zu skalieren. Es unterstützt Multi-Task-Learning durch die Kombination diverser Datensätze in einem einzigen Trainingsstrom unter Verwendung konfigurierbarer Mischraten, wodurch ein einziges Modell verschiedene Sprachaufgaben bewältigen kann. Das System deckt ein breites Spektrum an Funktionen ab, einschließlich Encoder-Decoder-Architekturen, Beam-Search-Decoding für Textgenerierung und Transfer-Learning-Workflows. Es enthält Dienstprogramme für die Vorbereitung von NLP-Datensätzen, die Bewertung der Modellleistung und den Export trainierter Checkpoints für die produktive Bereitstellung. Die Bibliothek unterstützt das Laden vortrainierter Modell-Checkpoints verschiedener Größen, um die Entwicklung zu beschleunigen.

Sapiens ist ein hochauflösendes menschliches Sichtmodell, das für hochpräzise, menschenzentrierte Computer-Vision-Aufgaben entwickelt wurde. Es fungiert als Tool-Suite zur Schätzung menschlicher Posen, Tiefe und Oberflächengeometrie. Das Projekt nutzt ein Vision-Transformer-Backbone, um mehrere Aufgaben über einen gemeinsamen Encoder auszuführen. Diese Architektur ermöglicht die gleichzeitige Vorhersage von Skelettstrukturen, Gelenkpositionen und der Entfernung zwischen einer Kamera und einer menschlichen Person. Die Funktionen des Modells decken die Segmentierung menschlicher Körperteile zur Isolierung anatomischer Regionen vom Hintergrund sowie die Vorhersage von Oberflächennormalen zur Wiederherstellung von 3D-Geometriedetails aus 2D-Bildern ab. Diese Aufgaben werden durch ein Multi-Task-Learning-Framework unterstützt, das pixelweise Regression und semantische Segmentierungsmaskierung verwendet.

Flash Linear Attention is a training framework and inference engine for sequence models that use linear attention and state space mechanisms, designed to process long contexts with reduced memory and compute overhead. It provides hardware-optimized token mixing layers and fused CUDA kernels that minimize memory bandwidth and launch overhead across different GPU architectures, and includes a causal inference engine that generates text token-by-token using cached hidden states for efficient autoregressive decoding. The project supports building hybrid sequence models that interleave standard at

EconML ist eine Python-Bibliothek für kausale Inferenz, die darauf ausgelegt ist, heterogene Behandlungseffekte unter Verwendung einer Kombination aus maschinellem Lernen und Ökonometrie zu schätzen. Sie dient als Toolkit zur Berechnung bedingter durchschnittlicher Behandlungseffekte, um zu bestimmen, wie sich spezifische Interventionen auf Einzelpersonen oder Untergruppen auswirken. Das Projekt bietet ein Framework für Double Machine Learning und orthogonales maschinelles Lernen, um kausale Signale von hochdimensionalen Störfaktoren zu isolieren. Es enthält spezialisierte Implementierungen für kausale Wälder und Instrumentalvariablen-Lerner, die die Wiederherstellung kausaler Beziehungen selbst bei Vorhandensein unbeobachteter Störfaktoren ermöglichen. Die Bibliothek deckt ein breites Spektrum an Funktionen ab, einschließlich der Validierung kausaler Modelle durch Widerlegungstests und Kalibrierungskurven, der Konstruktion personalisierter Behandlungsrichtlinien und der Analyse dynamischer Behandlungsregime. Sie unterstützt zudem statistische Inferenz zur Quantifizierung von Unsicherheit und die Interpretation von Effekt-Heterogenität unter Verwendung baumbasierter Modelle und Shapley-Werte. Das Projekt wird primär durch Jupyter Notebooks implementiert und demonstriert.

Dieses Projekt ist eine Plattform für verteiltes maschinelles Lernen und ein Framework für Sparse Deep Learning, das für das Training und Serving von Modellen mit hochdimensionalen, spärlichen Daten konzipiert ist. Es fungiert als Online-Modell-Serving-Infrastruktur und Engine für Empfehlungssysteme und ermöglicht das Echtzeit-Item-Retrieval und Scoring mittels Deep-Tree-Matching und neuronalen Netzen. Das System zeichnet sich durch ein Multi-Task-Learning-Framework aus, das mehrere Zielfunktionen innerhalb eines gemeinsamen Repräsentationsraums optimiert. Es bietet eine spezialisierte Online-Serving-Infrastruktur, die dynamisches Hot-Loading von Modellen und die Transformation von Standard-Checkpoints in ein benutzerdefiniertes, optimiertes Format für High-Performance-Inferenz unterstützt. Die Plattform deckt eine breite Palette an Funktionen ab, einschließlich verteilter Parameterverwaltung zur Skalierung des Trainings über mehrere Worker hinweg, Sparse-Embedding-Berechnung für kategoriale Features und baumbasiertes neuronales Retrieval für groß angelegte Kataloge. Zudem bietet sie Tools für das Streaming-Trainingsmanagement, Feature-Lebenszykluskontrolle via Wahrscheinlichkeitsschwellenwerte und Performance-Profiling zur Identifizierung von Ausführungsengpässen. Das Projekt enthält eine einheitliche Trainingsschnittstelle und Backend-Framework-Integration, um die Ausführung von Trainings-, Vorhersage- und Evaluierungsaufgaben zu standardisieren.

Open Flamingo ist ein multimodales Large-Language-Model-Trainingsframework, das darauf ausgelegt ist, vortrainierte Vision-Encoder mit Sprachmodellen zu integrieren. Es implementiert eine Vision-Language-Architektur, die Cross-Attention-Layer nutzt, um verschachtelte Sequenzen von Bildern und Text zu verarbeiten. Das System zeichnet sich durch seine Few-Shot-multimodalen Lernfähigkeiten aus, die es dem Modell ermöglichen, sich mit einer kleinen Menge an Bild-Text-Beispielen im Prompt an neue visuelle Aufgaben anzupassen. Es unterstützt In-Context-Learning und multimodale Textgenerierung für Aufgaben wie visuelle Fragenbeantwortung (VQA) und Captioning. Das Framework enthält einen verteilten Modell-Trainer, der Datenparallelität und Gradient-Checkpointing zur Speicheroptimierung über mehrere GPUs hinweg einsetzt. Es bietet zudem Utilities für das Laden geshardeter multimodaler Datensätze, parallelisierte Modellevaluierung und Infrastruktur zum Hosten großskaliger Modelle für die Inferenz.