Awesome GitHub RepositoriesDeclarative Pipeline Construction

Pathway is a high-performance data processing framework designed for building unified batch and streaming pipelines. It functions as an orchestrator for complex data transformations, utilizing a differential dataflow engine to process updates incrementally. By treating static datasets and continuous event streams with identical logic, the platform ensures exactly-once processing semantics and consistent results across diverse data sources. The framework distinguishes itself through its specialized support for real-time artificial intelligence and retrieval-augmented generation. It features in

FFmpeg is a cross-platform multimedia framework designed for the recording, conversion, and streaming of audio and video content. It functions as a comprehensive toolkit that provides both a command-line utility for direct media manipulation and a collection of low-level libraries for integration into custom applications. At its core, the project utilizes a packet-based stream engine and a format-agnostic abstraction layer to handle diverse media standards, containers, and network protocols. The framework distinguishes itself through a modular, graph-based filter execution model that allows f

This tool is a command-line processor designed for querying, updating, and transforming structured data files. It functions as a versatile engine for manipulating YAML, JSON, TOML, and XML documents, allowing users to perform complex operations directly from the terminal. By utilizing a path-based expression language, it enables precise navigation and modification of data structures within configuration files and infrastructure-as-code workflows. What distinguishes this tool is its ability to perform in-place document mutations while preserving original formatting, comments, and metadata. It

Taskflow is a C++ task-parallel framework designed to build high-performance parallel workflows and complex dependency graphs. It provides a programming model that organizes computational work into directed acyclic graphs, enabling developers to manage concurrency, resource scheduling, and task dependencies across multi-core CPUs and GPU accelerators. The framework distinguishes itself through its ability to orchestrate heterogeneous systems, allowing for the integration of hardware-accelerated kernels and memory operations into unified execution pipelines. It supports dynamic runtime subflow

Benthos is a stream processing engine and data integration pipeline used for routing, transforming, and connecting data streams between diverse sources and sinks. It functions as event routing middleware and a change data capture tool, streaming real-time database modifications as discrete events for downstream processing. The system utilizes a declarative pipeline configuration, where data flow and processing logic are defined in a single static file. It features a specialized domain-specific language for mapping, filtering, and enriching data payloads, allowing for complex transformations w

node-fluent-ffmpeg ist ein Node.js-Wrapper für FFmpeg, der eine flüssige Schnittstelle zur Ausführung von Medienbefehlen und zur Dateiverarbeitung bietet. Er fungiert als Prozessmanager, der den Lebenszyklus externer FFmpeg-Binärdateien handhabt und programmatisches Medien-Transcoding, Video-Thumbnail-Generierung und Metadaten-Extraktion via ffprobe ermöglicht. Die Bibliothek zeichnet sich durch einen Befehls-Builder aus, der JavaScript-Methodenaufrufe in Befehlszeilenargumente übersetzt. Sie bietet ereignisgesteuerte Fortschrittsüberwachung zur Verfolgung verarbeiteter Frames und Durchsatz sowie die Möglichkeit, verarbeitete Mediendaten direkt an beschreibbare Streams für die Echtzeit-Handhabung weiterzuleiten. Das Projekt deckt ein breites Spektrum an Medienverarbeitungsfunktionen ab, einschließlich Kodierungskonfiguration für Audio- und Videoeigenschaften, komplexe Filtergraph-Definitionen für visuelle und Audio-Effekte sowie Eingabeverwaltung zum Zusammenführen mehrerer Quellen. Es enthält zudem Werkzeuge zur Untersuchung von Mediencontainern und Streams, um technische Metadaten abzurufen.

Dieses Projekt ist ein umfassendes Bildungsprogramm und Deep-Learning-Framework, das darauf ausgelegt ist, praktisches Deep Learning mit PyTorch anhand von Notebooks und Codebeispielen zu vermitteln. Es dient als High-Level-Bibliothek zum Erstellen, Trainieren und Bereitstellen neuronaler Netze und fungiert als Modell-Trainings-Orchestrator, der PyTorch-Modelle, Optimierer und Verlustfunktionen koordiniert. Das Projekt bietet spezialisierte Toolkits für Computer Vision, Natural Language Processing und die Vorverarbeitung tabellarischer Daten. Es zeichnet sich durch fortschrittliche Trainingskontrollen aus, wie z. B. diskriminative Lernraten, ein Zwei-Wege-Callback-System zur Anpassung der Trainingslogik und eine High-Level-Learner-Abstraktion, die die Geräteplatzierung und Trainingsschleifen automatisiert. Das Framework deckt ein breites Fähigkeitsspektrum ab, einschließlich der automatisierten Konstruktion von Datenpipelines, der Analyse von Modellarchitekturen und der Leistungsbewertung bei Klassifizierungs-, Regressions- und Segmentierungsaufgaben. Es enthält zudem Dienstprogramme für verteiltes Training über mehrere GPUs, Mixed-Precision-Training zur Speicheroptimierung und spezialisierte Unterstützung für medizinische Bilddaten. Das Projekt wird als eine Reihe von Jupyter Notebooks bereitgestellt.

docetl is an AI-powered document ETL tool and map-reduce orchestrator designed to transform large collections of unstructured documents into structured, queryable tables using language models. It provides a declarative pipeline framework for extracting, cleaning, and transforming data from sources such as PDFs and text files into predefined schemas. The project distinguishes itself through a semantic data integration suite that enables joining datasets and resolving duplicate entities based on embedding-based similarity. It includes an interactive prompt playground for developing and optimizi

This is a structured deep learning curriculum for programmers, delivered as a collection of Jupyter notebooks. It teaches the fundamentals of training neural networks for computer vision, natural language processing, tabular data analysis, and collaborative filtering using PyTorch and the fastai library. The course is designed to be hands-on, guiding learners from building a training loop from scratch to fine-tuning pretrained models for a variety of practical tasks. The curriculum distinguishes itself by covering the full lifecycle of a deep learning project, from data preparation and augmen

Dag-factory ist ein Framework zur Erstellung und Verwaltung von Apache Airflow-Datenpipelines durch deklarative Konfigurationsdateien. Durch den Ersatz von manuellem prozeduralem Code durch strukturierte YAML-Definitionen ermöglicht es die programmatische Generierung komplexer Workflow-Strukturen, Task-Abhängigkeiten und Ausführungspläne. Das Projekt zeichnet sich dadurch aus, dass Konfigurationsschlüssel direkt auf Python-Klassenkonstruktoren und Operatoren abgebildet werden, was die dynamische Instanziierung von Objekten und benutzerdefinierter Logik ermöglicht. Es unterstützt hierarchische Konfigurationsvererbung zur Standardisierung von Einstellungen über Umgebungen hinweg und bietet Mechanismen zur direkten Injektion von Kubernetes-Pod-Spezifikationen in Task-Definitionen, um eine isolierte, skalierbare Ausführung zu gewährleisten. Das Framework deckt den gesamten Pipeline-Lebenszyklus ab, einschließlich automatisierter Dateierkennung, dynamischem Mapping auf Task-Ebene für parallele Verarbeitung und das Anhängen von Metadaten für die Integration externer Systeme. Es enthält zudem CLI-Tools zur Validierung von Konfigurationen, zum Auslösen von Ausführungen und zur Verwaltung von Umgebungsmigrationen.