6 repository-uri
Retrieving and standardizing internal model weights for structural analysis across different architectures.
Distinct from Model Architecture Analysis: Distinct from model extraction (surrogates) or parameter tuning; focuses on the technical retrieval and formatting of weights.
Explore 6 awesome GitHub repositories matching artificial intelligence & ml · Weight Extraction. Refine with filters or upvote what's useful.
LLaMA-Adapter este un framework de fine-tuning eficient în parametri, conceput pentru a adapta modelele de limbaj mari folosind un set minim de parametri antrenabili. Funcționează ca un instrument de tuning pentru instrucțiuni și un adaptor multimodal, permițând modelelor pre-antrenate să urmeze instrucțiunile umane și să proceseze date non-textuale. Proiectul se specializează în integrarea datelor de imagine, video, audio și senzori în modelele de limbaj pentru înțelegerea cross-modală. Permite personalizarea modelelor LLaMA prin utilizarea unor adaptoare ușoare, ceea ce permite extragerea și stocarea ponderilor învățate independent de checkpoint-ul complet al modelului. Framework-ul acoperă întregul ciclu de viață de antrenament și evaluare, inclusiv pre-antrenarea și rafinarea adaptorului. Oferă capabilități pentru integrarea datelor multimodale și evaluarea performanței modelului față de seturi de date de referință pentru a măsura acuratețea răspunsurilor.
Isolates trained adapter parameters from full model checkpoints for lightweight storage and portable deployment.
AnimeGANv2 este un framework de antrenare pentru rețele generative adversariale (GAN) și un instrument de stilizare a imaginilor, conceput pentru a converti fotografii și videoclipuri reale în imagini stilizate anime. Acesta funcționează ca un generator de stil anime care transformă scenele reale în animație prin transfer de stil supervizat. Proiectul oferă un sistem pentru antrenarea modelelor de stil și extragerea parametrilor specifici ai generatorului din checkpoint-uri de deep learning, pentru a crea modele ușoare destinate inferenței. Se concentrează pe stilizarea imaginilor de peisaj și pe capacitatea de a imita stiluri artistice specifice din seturile de date furnizate. Framework-ul suportă atât conversia foto-la-anime, cât și video-la-anime, aplicând o estetică consistentă pe cadrele individuale ale videoclipurilor. Capacitățile sale acoperă generarea generală de artă AI și antrenarea generatoarelor pentru a replica stilurile țintă.
Isolates generator weight parameters from training checkpoints for use during model inference.
AnimeGAN este o rețea adversară generativă (GAN) și un traducător de imagini dezvoltat cu TensorFlow. Este conceput pentru transferul de stil foto-în-anime, utilizând un sistem de deep learning pentru a transforma fotografiile din lumea reală și cadrele video în imagini în stil anime. Sistemul include un convertor video-în-anime care aplică transformări vizuale consistente pe cadrele secvențiale. Suportă atât antrenarea rețelelor generative pe seturi de date artistice pentru a replica stiluri specifice, cât și extragerea ponderilor generatorului din checkpoint-uri pentru o inferență eficientă. Proiectul oferă utilitare pentru rafinarea imaginilor, inclusiv netezirea marginilor și blurarea pentru a îmbunătăți tranzițiile vizuale. De asemenea, gestionează procesarea fișierelor video prin pipeline-uri de cadre secvențiale.
Isolates generator weights from trained checkpoints to enable lightweight style transfer inference.
MedSAM is a deep learning framework designed for automating the segmentation of anatomical structures in 2D and 3D medical imagery. It provides specialized tools for fine-tuning pretrained segmentation weights on custom medical datasets and evaluating the accuracy of those predictions against ground truth labels. The project focuses on adapting the Segment Anything Model architecture for medical use, enabling the isolation of specific anatomical structures through prompt-guided methods such as bounding boxes and point prompts. The system covers a full medical AI workflow, including data engi
Provides tools for extracting and standardizing model weights from checkpoints to ensure correct loading during inference.
Stable-audio-tools is a toolkit for training and deploying latent diffusion models for high-fidelity audio synthesis. It provides a framework for generating audio by iteratively refining noise within a compressed latent space, using specialized encoders to preserve temporal and spectral features of the audio signal. The project features a system for adapting pre-trained audio checkpoints to new datasets through modular initialization and configuration files. It includes utilities for weight extraction and inference model export, which remove training metadata and optimizer states to create li
Extracts core weights from training wrappers to reduce file size for efficient inference and training.
TransformerLens is a library for mechanistic interpretability research designed to reverse engineer the learned algorithms within large language models. It provides a standardized framework for wrapping diverse transformer architectures, allowing researchers to extract, manipulate, and analyze internal activations and weights through a consistent interface. The project distinguishes itself through a comprehensive system of activation hooks that can capture, patch, and ablate internal tensors during the forward pass. It includes specialized utilities for decomposing fused projections, material
Extracts internal model weights and converts them into a standardized format to facilitate analysis across diverse architectures.