1 مستودع
Awesome GitHub RepositoriesImplicit Quantization Code Generation
Generates discrete codes via linear projections using frozen codebooks to stabilize neural network training.
Distinct from Code Generation: Unlike software code generation, this refers to the generation of discrete latent codes in a ML model.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Implicit Quantization Code Generation. Refine with filters or upvote what's useful.
Awesome Implicit Quantization Code Generation GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- lucidrains/vector-quantize-pytorch
lucidrains/vector-quantize-pytorch
3,968عرض على GitHubهذه مكتبة PyTorch لتنفيذ تكميم المتجهات والقياسات لإنشاء تمثيلات كامنة منفصلة في الشبكات العصبية. توفر مجموعة من الوحدات والأدوات لتحويل المتجهات المستمرة إلى رموز منفصلة، مما يدعم معماريات مثل vector quantized variational autoencoders. تتميز المكتبة بآليات متخصصة للحفاظ على صحة وكفاءة دفتر الرموز، بما في ذلك إعادة تهيئة المتجهات العشوائية لمنع انهيار دفتر الرموز وتهيئة مركز k-means لتسريع التقارب. تدعم استراتيجيات تكميم متنوعة مثل التكميم المتبقي المتكرر لدقة أعلى، والتكميم المتوازي متعدد الرؤوس لتقسيم فضاء الميزات الفرعي، والتكميم القياسي المحدود لإنشاء رموز hypercube. تتضمن مجموعة الأدوات وحدة تكميم قابلة للتمايز تستخدم مقدرات straight-through وخدع التدوير لتمكين الانتشار العكسي عبر خطوات التكميم غير القابلة للتمايز. تغطي القدرات الإضافية مطابقة المسافة الزاوية عبر تشابه جيب التمام، والتنظيم المتعامد لترجمة الميزات، وفك تشابك الفضاء الكامن من خلال دفاتر رموز قياسية قابلة للتعلم.
Produces discrete codes through linear projections using frozen codebooks to improve convergence and prevent collapse.
Pythonartificial-intelligencedeep-learningpytorch
