16 Repos
Utilities for performing cryptographic hashing and base-encoding for secure data handling.
Distinct from Data Encoding and Serialization: Distinct from Data Encoding and Serialization: focuses on security-oriented encoding like hashing and base-encoding rather than general serialization.
Explore 16 awesome GitHub repositories matching data & databases · Data Encoders. Refine with filters or upvote what's useful.
Vector is a high-performance observability data pipeline designed to collect, transform, and route logs, metrics, and traces across distributed infrastructure. It functions as a modular engine that decouples data ingestion from processing and transmission, utilizing a component-based architecture to connect diverse sources to multiple destinations. The project distinguishes itself through a focus on reliability and flow control. It implements backpressure-aware data movement to prevent data loss during traffic spikes and utilizes disk-backed event buffering to ensure durability during network
Transforms telemetry data into various formats like CSV, JSON, or protocol buffers for downstream consumption.
crypto-js is a JavaScript cryptography library providing a collection of standard cryptographic algorithms and data transformation tools. It functions as a symmetric encryption toolset, a cryptographic hash implementation, and a password derivation tool for the JavaScript environment. The library enables the protection of sensitive data through symmetric encryption and the production of fixed-size data digests to verify integrity. It includes utilities for converting user passwords into secure cryptographic keys and a data format converter for translating information between Base64, Hex, and
Includes utilities for base-encoding and cryptographic hashing to ensure compatible data transmission.
Grav is a flat-file content management system that eliminates the need for a traditional database by storing site content and configuration in human-readable Markdown and YAML files. Built as a modular PHP web framework, it uses a hierarchical page routing system where the physical directory structure directly determines the site's URL paths. The platform is distinguished by its event-driven plugin architecture and a command-line interface that prioritizes system administration, deployment, and maintenance tasks. It utilizes a blueprint-driven system to generate administrative forms from stru
Performs cryptographic hashing and base-encoding to prepare data for secure storage.
This project provides a lossless compression algorithm and a byte-oriented compression library designed for high-speed data reduction and maximum decompression speed. It functions as a stream-oriented compression engine, a software library for encoding and decoding data blocks, and a command-line tool for managing interoperable compressed frames. The system distinguishes itself through the use of predefined pattern dictionaries to improve compression ratios for small data sets and small packets. It supports multiple processing modes, including high-speed block compression for minimal latency
Encodes data into a byte-oriented format using match-copy logic to minimize size while maintaining high throughput.
AndroidNote is a technical knowledge base and reference resource for Android development. It provides comprehensive guidance on application architecture, custom view development, and advanced graphics programming. The project is distinguished by its depth in visual implementation, covering pseudo-3D perspective projections via virtual cameras and complex 2D rendering using Bézier curves and PorterDuff color blending. It also provides detailed methodologies for app modularization and the management of internal libraries through private Maven repositories and JitPack. The reference surface ext
Utilizes an encryption toolkit for performing cryptographic hashing and secure data encoding.
Fluent Bit ist ein Cloud-nativer Log-Shipper und einheitlicher Telemetrie-Collector, der als ressourceneffiziente Datenpipeline konzipiert ist. Er nimmt Logs, Metriken und Traces aus mehreren Quellen auf und verarbeitet sie in Echtzeit, bevor die Daten an externe Speicher-Backends weitergeleitet werden. Das Projekt fungiert als Echtzeit-Stream-Prozessor und OpenTelemetry-Log-Prozessor, der in der Lage ist, Daten mithilfe von SQL und bedingter Logik zu transformieren und zu filtern. Es fungiert zudem als verteilter Tracing-Agent, der Traces sampeln kann, um das Datenvolumen zu reduzieren und gleichzeitig vollständige Anforderungspfade zu bewahren. Das System bietet eine zuverlässige Datenübermittlung durch dateisystembasiertes Buffering und zustandsbehaftete Wiederholungslogik, um Datenverlust bei Ausfällen zu verhindern. Seine modulare Architektur unterstützt steckbare Eingabe- und Ausgabe-Plugins, metadatengesteuertes Routing und die Möglichkeit, Funktionen über gemeinsam genutzte Bibliotheken zu erweitern. Die Software kann als Container über verschiedene CPU-Architekturen und Betriebssysteme hinweg bereitgestellt werden.
Serializes and encodes processed telemetry data into specific binary or text protocols for remote delivery.
libhv is a high-performance C/C++ network library and event-driven I/O framework used to build TCP, UDP, SSL, HTTP, WebSocket, and MQTT clients and servers. It provides a non-blocking event loop for managing network sockets, timers, and system signals across multiple threads. The project is distinguished by its integrated support for specialized network roles, including a full HTTP web server with RESTful routing and middleware, an MQTT messaging client for IoT communication, and the ability to implement SOCKS5 and HTTP proxies. It also features a reliable UDP implementation to ensure ordered
Provides utilities for Base64 encoding and data checksumming to ensure information integrity.
HackTools is a browser extension pentesting toolkit designed for offensive security professionals. It serves as a centralized collection of tools for generating payloads, managing penetration testing workflows, and accessing security reference materials within a web-based interface. The project provides specialized utilities for generating attack strings for XSS, SQL injection, and reverse shells to identify and exploit web vulnerabilities. It includes a data encoding and hashing utility to convert information between various formats for the purpose of bypassing security filters or verifying
Provides cryptographic hashing and base-encoding utilities to transform input strings for security testing.
Encodes audio data directly into byte buffers without intermediate disk writes.
Libation is a comprehensive audiobook management system designed to download, decrypt, and organize Audible audiobooks. It integrates account authentication, library synchronization, DRM removal, and format transcoding into a single desktop application with a plugin-free graphical interface and a built-in theme editor. The project distinguishes itself through a batch library synchronization engine that scans all configured Audible accounts in one pass, a metadata tag rewriting system that corrects chapter markers and cover art after decryption, and a template-based file naming engine that con
Transcodes audiobooks from multiple formats to MP3 for broader player compatibility.
This is a cross-platform media processing library that reads, writes, encodes, and decodes media in both browser and server environments. It supports common container formats including ISOBMFF, Matroska, Ogg, MPEG-TS, and HLS, and handles codec operations through a combination of WebCodecs API and WebAssembly-based encoders. Media is processed in streaming pipelines that maintain constant memory usage and automatically apply backpressure from output speed to all upstream components. The library distinguishes itself through a plugin-based codec registration system that allows extending support
Provides AAC-LC audio encoding via a WebAssembly-based encoder to fill gaps in browser support.
Bitcore ist ein Blockchain-Entwicklungsframework und eine Reihe von Bibliotheken, die zum Aufbau von Anwendungen verwendet werden, die mit dem Bitcoin-Netzwerk und anderen Blockchain-Protokollen interagieren. Es bietet eine Multi-Chain-Kryptowährungs-Wallet-Implementierung, einen Peer-to-Peer-Client zur Synchronisierung verteilter Ledger-Daten und einen Transaktions-Orchestrator zum Erstellen, Signieren und Übertragen von Transaktionen. Das Framework bietet einen standardisierten JSON-RPC-Wrapper zur Normalisierung der Kommunikation zwischen Anwendungen und verschiedenen Blockchain-Node-APIs. Es implementiert hierarchisch deterministische Wallets, die Schlüssel und Adressen aus einer einzigen Seed-Phrase ableiten, und bietet spezifische Koordinationslogik für Multi-Signature-Wallets und Schwellenwert-Signaturen. Das Projekt deckt ein breites Spektrum an Infrastruktur- und Sicherheitsfunktionen ab, einschließlich Peer-to-Peer-Networking, Blockchain-Datenindizierung in lokale Datenbanken und Offline-Transaktionssignierung. Es enthält zudem Tools zur Verwaltung von Zahlungskanälen, zur Verfolgung von Wallet-Guthaben und zur Orchestrierung containerisierter Node-Umgebungen für integrierte Tests.
Transforms data between different formats using standard encoding schemes and cryptographic primitives for network compatibility.
Mimesis ist ein Python-Generator für synthetische Daten, der zur Erstellung realistischer Testdatensätze und Mock-Daten für die Softwareentwicklung verwendet wird. Er fungiert als schema-basierter Datengenerator, der strukturierte Datensätze und relationale Daten erzeugen kann, und dient zudem als Anonymisierungstool für Produktionsdaten, um sensible Informationen durch synthetische Werte zu ersetzen. Die Bibliothek zeichnet sich durch umfassende Unterstützung für mehrere Sprachen aus, was die Generierung lokalisierter Informationen zur Simulation regionaler Benutzerprofile ermöglicht. Sie stellt Reproduzierbarkeit durch deterministische Datengenerierung mittels Seeds sicher, was konsistente Datensätze über verschiedene Durchläufe hinweg erlaubt. Das Tool deckt eine breite Palette an synthetischen Inhalten ab, darunter persönliche Identitäten, Finanzdaten, geografische Adressen, Netzwerk-Metadaten und wissenschaftliche Sequenzen. Die Funktionen erstrecken sich auf Datentransformation durch bedingte Logik und Piping sowie die Integration mit Dataframes und Factory-Mustern. Zudem unterstützt es die Generierung standardisierter Systemcodes, kryptografischer Token und das Mocking von Binärdateien. Das Framework ist über benutzerdefinierte Datenanbieter und Field-Handler erweiterbar, wodurch Benutzer domänenspezifische Logik und externe JSON-Dateien für spezialisierte Datengenerierung integrieren können.
Transforms generated values using cryptographic hashing algorithms and base64 encoding.
Cellnet ist ein Go-Netzwerk-Framework, das für den Aufbau verteilter Systeme und Peer-to-Peer-Netzwerke entwickelt wurde. Es bietet einen Multi-Protokoll-Transport-Layer, der den Nachrichtenaustausch über TCP, UDP und WebSockets standardisiert, und nutzt ein binäres Nachrichten-Codec-System, um Nachrichtentypen auf eindeutige Identifikatoren für die Netzwerkübertragung abzubilden. Das Framework zeichnet sich durch seine Remote-Procedure-Call-Bibliothek aus, die die Ausführung von Funktionen auf Remote-Peers unter Verwendung synchroner oder asynchroner Request-Muster ermöglicht. Es differenziert sich zudem durch einen asynchronen Event-Dispatcher, der Netzwerk-Callbacks über ein sequentielles Ausführungsmodell verarbeitet, um Nebenläufigkeit und Thread-Sicherheit zu verwalten. Zu seinen breiteren Fähigkeiten gehören die Entwicklung benutzerdefinierter Netzwerkprotokolle durch steckbare Serialisierungs-Codecs, automatisiertes Peer-Verbindungsmanagement mit Session-Tracking und Wiederverbindungslogik sowie ein handlerbasiertes Routing-System zur Steuerung des Netzwerkverkehrs. Es integriert zudem Tools für das Monitoring der Peer-Gesundheit, das Logging des Netzwerkverkehrs und das Bereitstellen von Dateien über HTTP.
Supports the use of multiple encoding schemes within a single session for network message serialization.
Rueidis is a high-performance Redis client library for Go that provides a type-safe and asynchronous interface for interacting with Redis servers. It includes a full implementation of the Redis serialization protocol and a dedicated connection manager to handle pooling, multiplexing, and automatic pipelining. The library is distinguished by its support for RDMA connectivity to reduce latency and CPU overhead. It features a distributed lock manager that implements majority-based locking and optimistic concurrency control, as well as client-side caching with invalidation signals to minimize net
Implements the encoding of complex data structures into compliant byte sequences for Redis transmission.
Awesome-qr.js is a JavaScript library designed for the generation and rendering of customizable QR codes. It provides a framework for encoding data into structured bit arrays while allowing for extensive visual styling, enabling the creation of branded graphics that remain compatible with standard scanning software. The library distinguishes itself through its support for layered graphical composition, which allows users to integrate background images, animated GIFs, and center logos directly into the QR code structure. To maintain scan reliability, it employs automated image binarization, en
Transforms input strings into structured bit arrays using standard error correction algorithms to ensure reliable data recovery during scanning.