7 repositorios
Learning algorithms that utilize precise gradients for updating weights in computational graphs.
Distinct from Gradient Computation: Covers the application of gradients to learning algorithms, whereas Gradient Computation focuses on the calculation process
Explore 7 awesome GitHub repositories matching artificial intelligence & ml · Gradient-Based Learning. Refine with filters or upvote what's useful.
This is a Python machine learning library featuring a collection of core algorithms implemented from scratch to demonstrate foundational AI concepts. It provides a comprehensive toolkit for supervised learning, unsupervised learning, and neural network development. The project is distinguished by its custom implementation of a neural network framework, which includes multi-layer perceptrons with backpropagation, gradient descent, and weight regularization. It also includes a specialized anomaly detection toolkit that identifies outliers and rare events using Gaussian probability distributions
Implements weight updates in neural networks using gradients computed via backpropagation.
Autograd is an automatic differentiation library and numerical gradient engine for Python. Its primary purpose is to compute the gradients of mathematical functions to enable numerical optimization and the training of mathematical models. The library automates the calculation of derivatives to simplify the implementation of optimization algorithms. This supports activities such as machine learning research, gradient-based learning, and the optimization of numerical models.
Supports the implementation of learning algorithms that require precise gradients for updating weights.
clmtrackr is a JavaScript computer vision library designed for facial landmark detection and real-time tracking. It implements Constrained Local Models to identify specific coordinate points on a human face within video feeds or static images. The project functions as a real-time face warping engine and expression analysis tool. It can distort facial images via parametric models to create caricatures or identify and label emotional states such as happiness, sadness, anger, and surprise based on feature coordinates. The library covers a broad range of capabilities including automatic and manu
Calculates the similarity between the model's expected appearance and the image using pixel gradients or grayscale intensity.
Cleverhans is an adversarial machine learning library and toolkit designed to generate adversarial examples, incorporate them into training loops, and benchmark the resilience of machine learning models. It provides a gradient-based attack framework for constructing both white-box and black-box attacks to identify model misclassifications. The project includes capabilities for model robustness benchmarking, allowing users to evaluate and verify how models resist evasion attacks and malicious input perturbations. It also facilitates adversarial training to increase a model's resistance to pert
Generates adversarial inputs by calculating loss function gradients with respect to input data to find vulnerabilities.
Cleverhans es una librería de machine learning adversarial para TensorFlow que sirve como framework de ataque, benchmark de robustez y librería de defensa. Proporciona un conjunto de herramientas para generar ejemplos adversarios, probar la seguridad de redes neuronales e implementar mecanismos de protección para aumentar la resiliencia de los modelos frente a entradas maliciosas. El proyecto se centra en crear entradas perturbadas diseñadas para engañar a los modelos de machine learning y provocar predicciones incorrectas. Permite evaluar la estabilidad y precisión de modelos de deep learning cuando se someten a ruido adversarial, proporcionando implementaciones de referencia de ataques conocidos para identificar debilidades de seguridad. El toolkit cubre la generación de ejemplos adversarios, la defensa de modelos de machine learning y el benchmarking de robustez de redes neuronales. Utiliza una interfaz agnóstica al modelo e implementaciones de ataques diferenciables para ejecutar perturbaciones basadas en gradientes y bucles de optimización iterativos.
Calculates input gradients via backpropagation to generate the minimal noise required to deceive a model.
Neuralangelo es un framework de reconstrucción de superficies neuronales que transforma secuencias de imágenes bidimensionales y fotografía multivista en mallas 3D de alta fidelidad. Implementa un pipeline para entrenar campos de radiancia neuronales (NeRF) para representar escenas complejas como geometría digital. El proyecto utiliza una función de distancia con signo (SDF) para la representación de superficies y codificación hash multiresolución para capturar detalles geométricos tanto gruesos como finos. Emplea renderizado de volumen diferenciable y regularización eikonal basada en gradientes para garantizar que las funciones de distancia aprendidas sigan siendo físicamente plausibles. El sistema incluye un pipeline completo de entrenamiento de visión por computadora con entrenamiento distribuido en múltiples GPUs y seguimiento del rendimiento del entrenamiento. Proporciona utilidades para la preparación de datos de fotogrametría, incluyendo preprocesamiento de video, estimación de pose de cámara y conversión de formato de dataset. Una herramienta de extracción dedicada convierte las representaciones neuronales entrenadas en mallas 3D texturizadas utilizando marching cubes y eliminación de ruido.
Employs gradient-based eikonal regularization to ensure the learned distance functions remain physically plausible.
Machine-Learning-From-Scratch es un repositorio educativo que proporciona implementaciones de modelos fundamentales de machine learning construidos utilizando lógica de programación estándar en Python. Sirve como recurso para comprender la mecánica interna de algoritmos estadísticos y predictivos comunes construyéndolos desde cero en lugar de depender de frameworks de machine learning de alto nivel. El proyecto se distingue por priorizar la transparencia en el diseño algorítmico, utilizando primitivas matemáticas y cálculos vectorizados de arrays para exponer el cálculo subyacente y la lógica estadística. Al estructurar las técnicas de aprendizaje como componentes modulares e independientes, el repositorio permite el examen de bucles de entrenamiento iterativos y procesos de optimización basados en gradientes de forma aislada. Esta colección cubre una amplia gama de técnicas de ciencia de datos, centrándose en la implementación manual de pasos de procesamiento central y procedimientos de entrenamiento de modelos. El repositorio está diseñado para apoyar el desarrollo de habilidades en ciencia de datos demostrando cómo funcionan los modelos predictivos a través de prácticas básicas de programación y análisis.
Implements gradient-based learning algorithms by manually calculating partial derivatives to update model parameters.