16 Repos
Models that process data as discrete packets for efficient manipulation.
Explore 16 awesome GitHub repositories matching data & databases · Packet-Based Stream Processors. Refine with filters or upvote what's useful.
FFmpeg is a cross-platform multimedia framework designed for the recording, conversion, and streaming of audio and video content. It functions as a comprehensive toolkit that provides both a command-line utility for direct media manipulation and a collection of low-level libraries for integration into custom applications. At its core, the project utilizes a packet-based stream engine and a format-agnostic abstraction layer to handle diverse media standards, containers, and network protocols. The framework distinguishes itself through a modular, graph-based filter execution model that allows f
Manages media data as discrete, timestamped packets to facilitate efficient routing and manipulation across the pipeline.
MediaPipe is a cross-platform machine learning framework designed for building and deploying pipelines that process live and streaming media. It provides a system for connecting processing components into custom machine learning chains to analyze real-time audio and video streams. The framework includes a suite of pre-trained models for tasks such as hand, face, and pose tracking, along with tools for retraining and customizing these models with specific datasets. It also features a dedicated benchmarker for measuring the execution speed and accuracy of machine learning models directly within
Uses typed data packets to communicate between pipeline components, ensuring synchronized media frames and timestamps.
PyMySQL is a MySQL database connector and SQL database driver for Python environments. It serves as a client library that enables Python applications to establish network connections and interact with MySQL database servers. The library is a pure Python implementation of the MySQL client-server wire protocol. This design allows for MySQL integration and data management without requiring native C extensions. The project provides capabilities for database connectivity, query execution, and secure access control. It follows the DB-API 2.0 specification to provide a consistent interface for mana
Implements buffer-based parsing to decompose raw binary network streams into discrete MySQL protocol packets.
libhv is a high-performance C/C++ network library and event-driven I/O framework used to build TCP, UDP, SSL, HTTP, WebSocket, and MQTT clients and servers. It provides a non-blocking event loop for managing network sockets, timers, and system signals across multiple threads. The project is distinguished by its integrated support for specialized network roles, including a full HTTP web server with RESTful routing and middleware, an MQTT messaging client for IoT communication, and the ability to implement SOCKS5 and HTTP proxies. It also features a reliable UDP implementation to ensure ordered
Reconstructs application messages from raw byte streams using fixed-length, delimiter-based, or length-field parsing.
Mineflayer is a Node.js game automation framework and JavaScript API for creating programmable Minecraft bots. It functions as a headless game client that implements the Minecraft protocol to connect external applications to game servers without a graphical user interface. The project enables the automation of character actions, including movement, combat, and interaction with the game world. It provides specialized systems for calculating navigation routes through 3D environments, manipulating blocks to build or mine, and managing user account authentication and session tokens. The framewor
Parses raw TCP streams into structured JavaScript objects according to the Minecraft binary protocol.
Trippy is a network diagnostic tool and terminal user interface that combines ping and traceroute functionality to analyze network paths and performance. It provides a network packet parser and path analyzer to detect packet loss, jitter, and multipath routing through continuous network probing. The project is distinguished by its support for specialized tracing strategies, including Paris and Dublin, to ensure consistent path discovery. It identifies network address translation devices and utilizes heuristic analysis to distinguish genuine packet loss from rate-limiting. Broad capability ar
Decodes raw packet wire formats and ICMP extensions into structured diagnostic data.
esptool ist ein Python-basiertes serielles Utility zum Flashen von Firmware, Konfigurieren von Hardware-Fuses und Provisionieren von Espressif-SoC-Geräten. Es fungiert als serieller Firmware-Flasher und Hardware-Provisioning-Tool, das über eine serielle Verbindung mit Chips interagiert, um Programmausführung und Geräte-Setup zu ermöglichen. Das Tool bietet spezialisierte Funktionen für die Verwaltung von Espressif-Hardware, einschließlich der Möglichkeit, permanente elektronische Fuses zu setzen, um Sicherheitseinstellungen zu sperren und Hardware-Konfigurationen zu definieren. Es verfügt zudem über eine serielle Kommunikationsbrücke, die Netzwerkverkehr auf einen seriellen Port umleitet, um Remote-Zugriff auf eine Gerätekonsole zu gewähren. Das Projekt deckt eingebettete Gerätediagnose und Low-Level-Chip-Interaktion ab. Es verwaltet das Firmware-Deployment durch Flashen von Binär-Images und stellt die Sicherheit durch kryptografische Integritätsprüfung sicher.
Implements a byte-level packet protocol with headers and footers to synchronize host and bootloader communication.
ssh2 is a JavaScript implementation of the SSH2 protocol for Node.js, providing the core components necessary to create secure clients and servers. It enables the establishment of authenticated sessions for remote server automation and secure communication. The project distinguishes itself by providing a complete suite of tools for identity management, including utilities for generating and parsing cryptographic key pairs and integrating with external authentication agents. It also functions as a tunneling proxy capable of routing TCP, HTTP, X11, and SOCKSv5 network traffic through encrypted
Implements length-prefixed packet framing to synchronize encrypted data streams over TCP.
This project provides a technical specification and reference manual for the MQTT 3.1.1 standard, serving as a translated Chinese guide for implementing this lightweight IoT messaging protocol in resource-constrained device networks. The documentation covers the fundamental mechanisms of the publish-subscribe model, including topic-based routing with wildcard filtering, retained message storage, and the configuration of last will and testament messages. It details the protocol's approach to reliability through various quality of service levels, ranging from single-level acknowledgments to exa
Assigns unique identifiers to packets to guarantee reliable delivery and acknowledgement across service levels.
MQTTnet ist eine .NET-Bibliothek, die ein Framework für die Implementierung von MQTT-Clients und -Brokern bereitstellt. Sie enthält eine Broker-Implementierung zum Hosten eines zentralen Message-Hubs, der Nachrichten zwischen verbundenen Clients weiterleitet, sowie eine Client-Bibliothek zum Publizieren und Abonnieren von Nachrichten. Das Projekt unterstützt sowohl TCP- als auch WebSocket-Transportebenen und ermöglicht sicheren Datenverkehr durch Transport Layer Security. Es erlaubt die Entwicklung von benutzerdefiniertem Middleware-Code, um Nachrichten beim Durchlaufen eines Servers abzufangen, zu transformieren oder zu validieren. Die Funktionsbereiche umfassen verteiltes Message-Routing, persistentes Verbindungsmanagement mit Quality-of-Service-Queuing sowie Sicherheitsprimitive für die Validierung von Client-Anmeldeinformationen und Einschränkungen bei Themen-Abonnements.
Transforms raw byte streams into structured protocol frames through a sequential processing pipeline.
go-mysql ist ein Toolkit für die Programmiersprache Go, das für die Implementierung von MySQL-Protokoll-Handlern, Binary-Log-Replikationssystemen, Mock-Servern und Schema-Parsing-Utilities entwickelt wurde. Es bietet die notwendigen Bibliotheken, um mit MySQL-Servern über native Netzwerkprotokolle und Binary-Log-Streams zu interagieren. Das Projekt ermöglicht die Erstellung benutzerdefinierter Datenbank-Proxys oder Mock-Server durch das Parsen und Dekodieren von Low-Level-Netzwerkpaketen. Es enthält zudem ein Replikationstool zum Streamen und Verarbeiten von Binary-Logs, um Daten über verschiedene Speichersysteme hinweg zu synchronisieren, sowie einen Schema-Parser zum Extrahieren und Analysieren von Datenbankstrukturdefinitionen. Das Toolkit deckt ein breites Spektrum an Datenbankintegrationsfunktionen ab, einschließlich Verbindungsmanagement, Query-Ausführung und der Verwaltung von Echtzeit-Datenreplikations-Workflows. Es unterstützt zudem die Automatisierung von Schema-Migrationen und die Synchronisation von Datensätzen mit externen Speichersystemen.
Decomposes raw binary network streams into protocol-specific MySQL packets for direct server communication.
go-mysql ist ein Toolkit für die MySQL-Datenbankintegration, das einen nativen Client-Treiber sowie Funktionen zur Implementierung benutzerdefinierter MySQL-kompatibler Server oder Proxys bereitstellt. Es ermöglicht Anwendungen die Kommunikation mit MySQL-Servern über Standard-SQL-Schnittstellenmuster. Das Projekt bietet spezialisierte Unterstützung für Echtzeit-Datensynchronisation durch das Streamen von Binary-Log-Events. Dies ermöglicht es, Datenbankänderungen zu erfassen und in externe Datenspeicher, Suchmaschinen oder Caches zu übertragen, um die Konsistenz zu wahren. Die Bibliothek enthält Tools für die speichereffiziente Verarbeitung großer Datensätze, wobei Query-Result-Streaming und Callback-Mechanismen genutzt werden, um Zeilen einzeln zu verarbeiten. Sie deckt zudem Low-Level-Protokoll-Parsing, zustandsbehaftetes Connection-Pooling und benutzerdefinierte Paket-Antwortlogik ab.
Provides low-level protocol packet parsers to decode raw bytes into structured MySQL packets.
Engine.io ist eine Echtzeit-Transportschicht und eine Cross-Browser-Kommunikations-Engine. Sie dient als Low-Level-Bibliothek für bidirektionale Kommunikation, die darauf ausgelegt ist, die zugrunde liegenden Netzwerkverbindungen und den Datenaustausch für Echtzeitanwendungen zu verwalten. Die Bibliothek bietet einen WebSocket-Transportmechanismus, der einen automatischen Fallback auf HTTP-Long-Polling beinhaltet, wenn bidirektionale Protokolle nicht verfügbar sind. Sie fungiert als essenzielle Infrastruktur für Socket.IO und ermöglicht Verbindungs-Upgrades von Standard-HTTP-Handshakes zu persistenten TCP-Verbindungen. Zu ihren Funktionen gehören heartbeat-basiertes Verbindungs-Monitoring zur Erkennung von Verbindungsabbrüchen, eine Zustandsmaschine zur Verwaltung von Verbindungslebenszyklen und paketbasiertes Frame-Encoding für die Nachrichtensequenzierung. Das System abstrahiert die Transportschicht, um ein konsistentes Daten-Streaming über verschiedene Webbrowser und Geräteumgebungen hinweg sicherzustellen.
Defines structural headers and markers to frame data packets for consistent message sequencing and delivery.
Dieses Projekt ist ein MySQL-Datenbanktreiber für Node.js, der Netzwerkverbindungen herstellt und SQL-Abfragen unter Verwendung eines nativen Kommunikationsprotokolls ausführt. Er fungiert als asynchroner SQL-Client und bietet eine auf Promises basierende Abfrageschnittstelle sowie Unterstützung für async/await-Muster zur Verwaltung nicht blockierender Datenbankoperationen. Die Bibliothek enthält eine vollständige Implementierung des MySQL-Protokolls und dient als Toolkit zum Erstellen benutzerdefinierter Datenbankserver, Proxys oder Clients. Sie fungiert zudem als Connection-Pool-Manager und Tool zur Injektionsprävention, wobei vorbereitete Anweisungen (Prepared Statements) und parametrisierte Abfragen verwendet werden, um Datenbankinteraktionen abzusichern. Das Projekt deckt ein breites Spektrum an Datenbankintegrationsfunktionen ab, einschließlich der Koordination atomarer Transaktionen, Binär-Log-Streaming und tabellarischem Daten-Streaming für Massenimporte. Es verwaltet Ressourcenlebenszyklen durch automatisierte Verbindungsbereinigung und bietet verschiedene Authentifizierungsmechanismen, wie Passwort-Hash-Authentifizierung und sichere Handshake-Aushandlung. Die Konnektivität wird zusätzlich durch SSL-Verschlüsselung, Komprimierung des Netzwerkverkehrs und die Fähigkeit unterstützt, Datenverkehr über benutzerdefinierte Duplex-Stream-Transporte zu leiten.
Implements the MySQL wire protocol to decode raw binary network streams into structured data packets.
Luvit ist eine ereignisgesteuerte Laufzeitumgebung für Lua, die libuv integriert, um nicht-blockierende I/O und asynchrone Systemoperationen bereitzustellen. Sie fungiert als asynchrones Netzwerk-Framework und Ausführungsumgebung, die Just-In-Time-Kompilierung für eine leistungsstarke Skriptverarbeitung nutzt. Die Plattform ermöglicht die Verteilung von Netzwerkverkehr auf mehrere CPU-Kerne durch einen TCP-Cluster-Manager, der Socket-Handles zwischen Kindprozessen teilt. Sie bietet spezialisierte Funktionen für den Bau von HTTP-Servern durch Dekodierung eingehender Request-Streams und Kodierung von Antworten via Stream-Prozessor. Die Laufzeitumgebung unterstützt die allgemeine ereignisgesteuerte Anwendungsentwicklung, asynchrone Netzwerkprogrammierung und die Integration kompilierter Binärmodule zur Erweiterung der Low-Level-Sprachfunktionen. Benutzer können über eine Read-Eval-Print-Loop (REPL) mit der Umgebung interagieren, eigenständige Skripte ausführen oder Code-Snippets über die Befehlszeile auswerten.
Implements stream-based processing to decode incoming HTTP requests and encode outgoing responses.
This project is a collection of research and tools for reverse engineering the hardware and communication protocols of Nintendo Switch consoles and controllers. It provides a comprehensive toolset for analyzing physical hardware interfaces, parsing controller communication protocols, extracting embedded firmware, and emulating input signals. The project focuses on decoding raw serial data and packets from controllers to extract input and sensor states. It includes capabilities for simulating hardware signals to send spoofed input data to the system console and extracting microcontroller softw
Decodes raw serial data and packets from controllers to extract input and sensor states.