18 Repos
Definitions for numeric field precision and scale to ensure data integrity.
Distinct from Numeric Fields: Focuses on schema-level constraints for numeric fields, distinct from general numeric utilities.
Explore 18 awesome GitHub repositories matching data & databases · Numeric Precision Constraints. Refine with filters or upvote what's useful.
SpringAll is a comprehensive reference library and learning resource for enterprise Java application development. It provides a collection of practical guides, configuration templates, and code examples designed to demonstrate standard architectural patterns within the Spring ecosystem. The project serves as a reference
Defines precise storage constraints for numeric fields to ensure data accuracy.
simdjson is a high-performance, header-only C++ library designed for parsing, querying, and serializing JSON data with minimal memory overhead. It functions as a hardware-aware data processing engine that leverages vector instructions to achieve gigabyte-per-second parsing speeds. By detecting host processor capabilities at runtime, the library automatically selects the most efficient instruction sets to accelerate structural analysis and validation. The library distinguishes itself through a focus on extreme efficiency and resource management. It utilizes memory mapping and padded buffer ali
Retrieves numeric data from parsed documents as string representations to preserve precision and prevent conversion errors with large numbers.
Nautilus Trader is a high-performance algorithmic trading framework built in Rust, designed for the development, backtesting, and live execution of automated trading strategies. It provides a comprehensive platform for managing multi-asset portfolios and interacting with diverse financial markets through a standardized connectivity suite. The system is engineered to handle high-frequency data processing and complex order execution while maintaining precise numerical accuracy across various asset classes. The framework distinguishes itself through an architecture centered on deterministic even
Allows configuration of internal bit-width for financial calculations to balance performance and decimal accuracy.
Sass is a stylesheet compilation engine and CSS preprocessor that extends standard CSS with variables, nested rules, mixins, and functions. It functions as a comprehensive design system tool, enabling developers to organize complex stylesheets into modular, reusable components while automating the transformation of advanced syntax into browser-compatible CSS. The project distinguishes itself through its sophisticated build automation and language-level extensibility. It provides robust support for programmatic style generation, including conditional logic, iterative loops, and unit-aware math
Standardizes floating point calculations and serialization to fixed decimal accuracy.
This project is a header-only C++ library designed for graphics mathematics, providing a comprehensive suite of vector, matrix, and quaternion types. It is built using template metaprogramming to generate mathematical primitives at compile time, eliminating the need for precompiled binary libraries and allowing for direct integration into existing build systems. The library is distinguished by its strict adherence to the OpenGL Shading Language specification, ensuring that mathematical results remain consistent across both CPU and GPU code. It provides specialized utilities for managing float
Provides specialized epsilon-based comparison and rounding utilities to ensure numerical stability in graphics calculations.
Numeral-js is a JavaScript number formatting library used to convert raw numeric values into human-readable strings for currencies, percentages, and abbreviations. It includes a numeric string parser to extract raw values from formatted strings by removing symbols and delimiters. The library provides locale-aware formatting to adjust decimal separators and currency symbols based on regional language settings. It also features a data size converter that transforms byte values into readable measurements using base-1000 or base-1024 standards. The system supports the registration of custom form
Extracts raw numeric values from formatted strings using regular expression patterns to preserve precision.
Sonic is a high-performance Go JSON serialization library that provides tools for encoding and decoding native data structures. It functions as a JIT-accelerated encoder, a JSON AST parser, a stream processor, and a lazy decoder. The project utilizes just-in-time machine code generation to optimize the encoding of large data schemas and employs a JIT assembler to maximize serialization and deserialization speeds. It features a precompiled schema warmup process to prevent latency spikes during initial execution and leverages SIMD hardware instructions for accelerated parsing. The library cove
Allows treating numbers as strings or integers during decoding to preserve exact numeric precision.
CatBoost is a gradient boosting machine learning library used to train decision tree ensembles for regression, classification, and ranking tasks. It functions as a high-performance framework that provides a categorical data processor for transforming non-numeric features, a distributed trainer for large-scale datasets, and GPU acceleration to speed up model construction. The library distinguishes itself through native handling of categorical data and text features, removing the need for manual encoding. It includes a specialized model interpretability tool that leverages SHAP values and featu
Caps the number of splits considered for numerical features to accelerate training when using a GPU.
decimal.js ist eine JavaScript-Bibliothek für beliebig genaue Arithmetik, die mathematische Berechnungen ohne die Rundungsfehler von Standard-Gleitkommazahlen ermöglicht. Sie bietet ein hochpräzises Mathe-Toolkit für grundlegende Arithmetik und fortgeschrittene transzendente Funktionen mit konfigurierbaren signifikanten Stellen. Die Bibliothek implementiert dezimalbasierte Mathematik, die verschiedene Rundungsmodi und Einstellungen für beliebige Präzision unterstützt. Sie enthält einen numerischen String-Parser zur Konvertierung von Dezimal-, Hexadezimal-, Binär- und Oktal-Strings in hochpräzise numerische Typen sowie ein Dienstprogramm zur Umwandlung hochpräziser Dezimalwerte in Brüche mit begrenzten Nennern. Die Funktionen decken grundlegende Arithmetik, hochpräzise Wertvergleiche und fortgeschrittene mathematische Funktionen wie Wurzeln, Exponenten, Logarithmen und Trigonometrie ab. Das Toolkit bietet zudem numerische Formatierung und sichere Zufallszahlengenerierung unter Verwendung von System-Entropie.
Allows users to set global or instance-level rules for significant digits and rounding modes to control calculation precision.
ArduinoJson is a C++ library for parsing and manipulating JSON data and MessagePack binary streams on microcontrollers with limited memory and processing power. It provides the core primitives necessary for embedded data serialization and parsing, enabling devices to exchange structured data over serial or network interfaces. The library is distinguished by its focus on microcontroller memory management, employing strategies such as pool-based allocation, string deduplication, and non-owning string views to minimize RAM usage. It further optimizes for constrained environments by allowing cons
Balances accuracy and memory usage by allowing selection of precision levels for numeric types.
bignumber.js ist eine JavaScript-Bibliothek für beliebige Präzision, die für mathematische Operationen mit Dezimalzahlen und Ganzzahlen entwickelt wurde, die die Grenzen von Standard-Gleitkommazahlen überschreiten. Sie fungiert als Dezimal-Arithmetik-Engine und Mathe-Bibliothek zur Berechnung von Quadratwurzeln, Potenzen und modularer Exponentiation. Das Projekt bietet ein Dienstprogramm zur Basiskonvertierung, das numerische Werte zwischen jeder Basis von 2 bis 36 parsen und übersetzen kann. Es enthält zudem ein numerisches Formatierungstool zur Darstellung hochpräziser Werte als lokalisierte Strings mit benutzerdefinierten Trennzeichen und Notationsstilen. Die Bibliothek deckt ein breites Spektrum an Fähigkeiten ab, einschließlich Arithmetik mit beliebiger Präzision, konfigurierbaren Rundungsregeln und hochpräzisen Wertvergleichen. Sie bietet zudem Tools für die Umwandlung von Dezimalzahlen in Brüche und kryptografisch sichere Zufallszahlengenerierung.
Extracts numeric values from strings containing non-numeric characters such as currency symbols or group separators.
Rockstar is an esoteric programming language whose syntax is inspired by 1980s hard rock and heavy metal lyrics, making programs read like song lyrics. It uses poetic number literals, where the length of each word in a phrase is parsed as a decimal digit to initialize numeric variables, and pronoun-based variable references, where words like "it" and "they" resolve to the most recently assigned or compared variable at runtime. The language can be compiled to WebAssembly and run inside a web page for in-browser code execution. The language distinguishes itself through a lyric-driven parsing sy
Supports writing numeric literals as fixed-precision decimals up to 29 digits.
SVGOMG is a browser-based SVG minification tool that applies SVGO transformations entirely on the client side. It processes SVG files in a Web Worker to keep the user interface responsive, then displays the original and optimized file sizes side by side, including gzipped size estimates. The tool provides a live preview of the optimized SVG markup, rendered directly in the browser for immediate visual feedback. Users can configure which SVGO optimization plugins are enabled or disabled, set numerical precision for coordinates and transforms, and optionally pretty-print the output. Multiple op
Sets decimal places for SVG coordinates and transforms to balance file size against visual accuracy.
H2 ist ein JDBC-konformes relationales Datenbankmanagementsystem, das in Java geschrieben ist. Es fungiert als einbettbare SQL-Datenbank, die direkt innerhalb eines Anwendungsprozesses ausgeführt werden kann, um Netzwerklatenz zu eliminieren, oder als In-Memory-Datenbank für performante, flüchtige Speicherung. Es enthält zudem eine webbasierte Konsole zur Ausführung von SQL-Befehlen und zur Verwaltung von Schemata. Das System zeichnet sich durch flexible Bereitstellungsmodi aus, einschließlich eines Standalone-Server-Modus für Remote-TCP/IP-Zugriffe und eines gemischten Modus für gleichzeitige lokale und Remote-Konnektivität. Es verfügt über eine Dialekt-Emulationsschicht und Kompatibilitätsmodi, die es ermöglichen, das Verhalten und die Syntax anderer Datenbanksysteme nachzuahmen. Die Engine bietet ein breites Spektrum an Funktionen, darunter ACID-Transaktionen mit Multi-Version Concurrency Control (MVCC), Unterstützung für Geodaten und JSON sowie fortgeschrittene analytische Fensterfunktionen. Es enthält Tools zur Datensicherung durch komprimierte Backups, SQL-Skript-Wiederherstellung und Off-Heap-Speicherverwaltung für große Datensätze. Die Datenbank lässt sich über Standard-JDBC-Treiber und Verbindungs-URLs in Anwendungen integrieren.
Provides precise decimal types to ensure accurate floating point and currency calculations.
Dieses Projekt ist eine umfassende Lehrressource und ein Kurs zum Aufbau neuronaler Netze mit PyTorch. Es deckt die grundlegenden Bausteine des Deep Learning ab, einschließlich Tensor-Manipulation, automatischer Differenzierung und der Konstruktion modularer Komponenten für neuronale Netze. Das Repository dient als technischer Leitfaden für verschiedene spezialisierte Bereiche. Es bietet Implementierungsdetails für Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und semantische Segmentierung sowie Workflows für die Verarbeitung natürlicher Sprache (NLP) mit Transformern, rekurrenten Netzen und generativen Modellen. Zudem enthält es eine Referenz für generative KI, mit Fokus auf die Synthese von Bildern mittels Diffusionsmodellen und adversarialen Netzwerken. Das Material erstreckt sich auf Modelloptimierung und Deployment-Pipelines. Es behandelt Techniken zur Reduzierung der Modellgröße und zur Erhöhung der Inferenzgeschwindigkeit durch Quantisierung und den Export von Modellen in Formate wie ONNX und TensorRT. Weitere Kompetenzbereiche umfassen Data Engineering für paralleles Laden, Modellevaluierung mittels benutzerdefinierter Metriken und das Deployment von Open-Source Large Language Models. Das Projekt wird primär als eine Reihe von Jupyter Notebooks bereitgestellt.
Allows changing the data type of model weights to balance memory usage and numerical accuracy.
Shapely ist eine Bibliothek für die Manipulation und Analyse planarer geometrischer Objekte und dient als Python-Wrapper für die GEOS-C++-Engine. Sie bietet ein Framework zur Berechnung geometrischer Eigenschaften, zur Bewertung räumlicher Beziehungen und zur Durchführung topologischer Prädikate innerhalb einer kartesischen Ebene. Das Projekt zeichnet sich durch einen vektorisierten Geometrie-Prozessor aus, der räumliche Operationen über große Arrays von Formen hinweg ausführen kann, um den Durchsatz zu erhöhen. Es enthält zudem ein räumliches Indizierungssystem auf Basis von R-Trees, um den Abruf sich schneidender Geometrien und nächstgelegener Nachbarn zu beschleunigen. Die Bibliothek deckt ein breites Spektrum an Funktionen ab, darunter geometrische Mengenoperationen zur Berechnung von Vereinigungen und Schnittmengen, Serialisierung räumlicher Daten zwischen Formaten wie GeoJSON und Well-Known-Text sowie Tools zur Validierung und Reparatur der Geometrietopologie. Sie unterstützt zudem geometrische Transformationen, Buffering und die Generierung konvexer Hüllen oder Voronoi-Diagramme.
Standardizes floating point calculations and coordinate snapping to a defined grid for numerical robustness.
Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di
Supports a wide range of numeric types for precise calculations.
Diese Bibliothek ist ein Java-basiertes Tool zur Durchsetzung von Datenstruktureinschränkungen und zur Verifizierung technischer Formate gegen definierte Schema-Spezifikationen. Sie fungiert als Verarbeitungsdienstprogramm, das komplexe Datenstrukturen parst und gleichzeitig externe Schema-Referenzen sowie zirkuläre Abhängigkeiten verwaltet. Die Engine zeichnet sich durch ein unveränderliches Prozessor-Design aus, das eine thread-sichere, gleichzeitige Validierung ermöglicht, ohne dass eine externe Synchronisation erforderlich ist. Sie verwendet Arithmetik mit beliebiger Präzision, um numerische Einschränkungen zu bewerten, was häufige Rundungsfehler bei Gleitkommazahlen verhindert, und nutzt zeichenbasierte Verarbeitung, um eine Unicode-bewusste String-Validierung für komplexe Symbole sicherzustellen. Entwickler können die Kern-Pipeline erweitern, indem sie benutzerdefinierte Schlüsselwörter und Format-Handler registrieren, um spezialisierte Geschäftslogik zu implementieren. Das Projekt bietet ein umfassendes Schema-Management, einschließlich struktureller Compliance-Prüfung gegen Meta-Schemas, URI-basierter Abhängigkeitsauflösung und konfigurierbarem Schema-Laden. Es unterstützt detaillierte Fehlerberichte, die die Validierung über Kindelemente hinweg fortsetzen, selbst nach Fehlern bei Elternelementen, und enthält eine Befehlszeilenschnittstelle für die terminalbasierte Datenverifizierung.
Enforces numeric precision constraints using arbitrary-precision arithmetic to avoid floating-point inaccuracies.