12 repositorios
Standardizes floating point calculations and serialization to fixed decimal accuracy.
Distinct from Numeric Precision Constraints: Distinct from Numeric Precision Constraints: focuses on runtime calculation precision rather than schema-level constraints.
Explore 12 awesome GitHub repositories matching data & databases · Numeric Precision Management. Refine with filters or upvote what's useful.
Nautilus Trader is a high-performance algorithmic trading framework built in Rust, designed for the development, backtesting, and live execution of automated trading strategies. It provides a comprehensive platform for managing multi-asset portfolios and interacting with diverse financial markets through a standardized connectivity suite. The system is engineered to handle high-frequency data processing and complex order execution while maintaining precise numerical accuracy across various asset classes. The framework distinguishes itself through an architecture centered on deterministic even
Allows configuration of internal bit-width for financial calculations to balance performance and decimal accuracy.
Sass is a stylesheet compilation engine and CSS preprocessor that extends standard CSS with variables, nested rules, mixins, and functions. It functions as a comprehensive design system tool, enabling developers to organize complex stylesheets into modular, reusable components while automating the transformation of advanced syntax into browser-compatible CSS. The project distinguishes itself through its sophisticated build automation and language-level extensibility. It provides robust support for programmatic style generation, including conditional logic, iterative loops, and unit-aware math
Standardizes floating point calculations and serialization to fixed decimal accuracy.
This project is a header-only C++ library designed for graphics mathematics, providing a comprehensive suite of vector, matrix, and quaternion types. It is built using template metaprogramming to generate mathematical primitives at compile time, eliminating the need for precompiled binary libraries and allowing for direct integration into existing build systems. The library is distinguished by its strict adherence to the OpenGL Shading Language specification, ensuring that mathematical results remain consistent across both CPU and GPU code. It provides specialized utilities for managing float
Provides specialized epsilon-based comparison and rounding utilities to ensure numerical stability in graphics calculations.
CatBoost is a gradient boosting machine learning library used to train decision tree ensembles for regression, classification, and ranking tasks. It functions as a high-performance framework that provides a categorical data processor for transforming non-numeric features, a distributed trainer for large-scale datasets, and GPU acceleration to speed up model construction. The library distinguishes itself through native handling of categorical data and text features, removing the need for manual encoding. It includes a specialized model interpretability tool that leverages SHAP values and featu
Caps the number of splits considered for numerical features to accelerate training when using a GPU.
decimal.js es una biblioteca de JavaScript de precisión arbitraria diseñada para realizar cálculos matemáticos sin los errores de redondeo asociados a los números de punto flotante estándar. Proporciona un kit de herramientas matemáticas de alta precisión para ejecutar aritmética básica y funciones trascendentales avanzadas con dígitos significativos configurables. La biblioteca implementa matemáticas basadas en decimales que admiten varios modos de redondeo y configuraciones de precisión arbitraria. Incluye un analizador de cadenas numéricas para convertir cadenas decimales, hexadecimales, binarias y octales en tipos numéricos de alta precisión, así como una utilidad para transformar valores decimales de alta precisión en fracciones con denominadores restringidos. Las áreas de capacidad cubren aritmética básica, comparación de valores de alta precisión y funciones matemáticas avanzadas como raíces, exponentes, logaritmos y trigonometría. El kit de herramientas también proporciona formato de salida numérica y generación segura de números aleatorios utilizando entropía del sistema.
Allows users to set global or instance-level rules for significant digits and rounding modes to control calculation precision.
ArduinoJson is a C++ library for parsing and manipulating JSON data and MessagePack binary streams on microcontrollers with limited memory and processing power. It provides the core primitives necessary for embedded data serialization and parsing, enabling devices to exchange structured data over serial or network interfaces. The library is distinguished by its focus on microcontroller memory management, employing strategies such as pool-based allocation, string deduplication, and non-owning string views to minimize RAM usage. It further optimizes for constrained environments by allowing cons
Balances accuracy and memory usage by allowing selection of precision levels for numeric types.
Rockstar is an esoteric programming language whose syntax is inspired by 1980s hard rock and heavy metal lyrics, making programs read like song lyrics. It uses poetic number literals, where the length of each word in a phrase is parsed as a decimal digit to initialize numeric variables, and pronoun-based variable references, where words like "it" and "they" resolve to the most recently assigned or compared variable at runtime. The language can be compiled to WebAssembly and run inside a web page for in-browser code execution. The language distinguishes itself through a lyric-driven parsing sy
Supports writing numeric literals as fixed-precision decimals up to 29 digits.
SVGOMG is a browser-based SVG minification tool that applies SVGO transformations entirely on the client side. It processes SVG files in a Web Worker to keep the user interface responsive, then displays the original and optimized file sizes side by side, including gzipped size estimates. The tool provides a live preview of the optimized SVG markup, rendered directly in the browser for immediate visual feedback. Users can configure which SVGO optimization plugins are enabled or disabled, set numerical precision for coordinates and transforms, and optionally pretty-print the output. Multiple op
Sets decimal places for SVG coordinates and transforms to balance file size against visual accuracy.
H2 es un sistema de gestión de bases de datos relacionales compatible con JDBC, escrito en Java. Funciona como una base de datos SQL embebible que puede ejecutarse directamente dentro de un proceso de aplicación para eliminar la latencia de red, o como una base de datos en memoria para almacenamiento volátil de alto rendimiento. También incluye una consola basada en web para ejecutar comandos SQL y administrar esquemas. El sistema se caracteriza por sus modos de despliegue flexibles, incluyendo un modo servidor independiente para acceso remoto TCP/IP y un modo mixto para conectividad local y remota simultánea. Cuenta con una capa de emulación de dialectos y modos de compatibilidad que permiten imitar el comportamiento y la sintaxis de otros sistemas de bases de datos. El motor proporciona un amplio conjunto de capacidades que cubren transacciones ACID con control de concurrencia multiversión, soporte para datos geoespaciales y JSON, y funciones avanzadas de ventana analítica. Incluye herramientas para la preservación de datos mediante copias de seguridad comprimidas, restauración de scripts SQL y gestión de memoria fuera del heap (off-heap) para manejar grandes datasets. La base de datos se integra con aplicaciones utilizando controladores estándar de Java Database Connectivity y URLs de conexión.
Provides precise decimal types to ensure accurate floating point and currency calculations.
Este proyecto es un recurso educativo integral y un curso para construir redes neuronales usando PyTorch. Cubre los bloques de construcción fundamentales del deep learning, incluyendo la manipulación de tensores, la diferenciación automática y la construcción de componentes modulares de redes neuronales. El repositorio sirve como guía técnica para varios dominios especializados. Proporciona detalles de implementación para tareas de visión artificial como clasificación de imágenes, detección de objetos y segmentación semántica, así como flujos de trabajo de procesamiento de lenguaje natural que involucran transformers, redes recurrentes y modelos generativos. Además, incluye una referencia para IA generativa, centrándose específicamente en la síntesis de imágenes mediante modelos de difusión y redes adversarias. El material se extiende a pipelines de optimización y despliegue de modelos. Cubre técnicas para reducir el tamaño del modelo y aumentar la velocidad de inferencia mediante cuantización y la exportación de modelos a formatos como ONNX y TensorRT. Otras áreas de capacidad incluyen ingeniería de datos para carga paralela, evaluación de modelos mediante métricas personalizadas y el despliegue de modelos de lenguaje grandes (LLM) de código abierto. El proyecto se entrega principalmente como una serie de Jupyter Notebooks.
Allows changing the data type of model weights to balance memory usage and numerical accuracy.
Shapely es una librería para la manipulación y análisis de objetos geométricos planos, que sirve como un wrapper de Python para el motor C++ GEOS. Proporciona un framework para calcular propiedades geométricas, evaluar relaciones espaciales y realizar predicados topológicos dentro de un plano cartesiano. El proyecto se distingue por un procesador de geometría vectorizado capaz de ejecutar operaciones espaciales a través de grandes arrays de formas para aumentar el rendimiento. También incluye un sistema de indexación espacial basado en R-trees para acelerar la recuperación de geometrías intersecantes y vecinos más cercanos. La librería cubre un amplio rango de capacidades, incluyendo operaciones de conjuntos geométricos para calcular uniones e intersecciones, serialización de datos espaciales entre formatos como GeoJSON y Well-Known Text, y herramientas para validar y reparar la topología de la geometría. Además, soporta transformaciones geométricas, buffering y la generación de cascos convexos o diagramas de Voronoi.
Standardizes floating point calculations and coordinate snapping to a defined grid for numerical robustness.
Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di
Supports a wide range of numeric types for precise calculations.