2 Repos
Benchmarks for evaluating the code generation and software development capabilities of models.
Explore 2 awesome GitHub repositories matching part of an awesome list · Programming Benchmarks. Refine with filters or upvote what's useful.
AlphaCodium ist ein LLM-Code-Generierungs-Framework und ein automatisierter Programmier-Benchmark, der darauf ausgelegt ist, Programmierprobleme durch iterative Generierung und Tests zu lösen. Es fungiert als iteratives Code-Refinement-System, das die Präzision des generierten Codes verbessert, indem es Ausgaben mit erwarteten Ergebnissen vergleicht und das Modell erneut auffordert. Das Projekt implementiert eine Flow-Engineering-Pipeline, die eine strukturierte Sequenz von Prompting-Stufen verwendet, um Code durch einen Zyklus aus Generierung, Evaluierung und Korrektur zu verfeinern. Dieser Ansatz ermöglicht es dem System, Programmierdatensätze zu verarbeiten und die Genauigkeit generierter Lösungen anhand von Testfällen zu messen. Das Framework deckt breite Fähigkeiten in der automatisierten Code-Generierung ab, einschließlich testgetriebener KI-Entwicklung und Evaluierung von Programmierdatensätzen. Es verwaltet diese Aufgaben durch eine mehrstufige Synthese-Pipeline, die Planung, Entwurf und Überprüfung umfasst.
Functions as a benchmark for processing programming datasets and measuring the accuracy of generated solutions.
Math24o: 高中奥林匹克数学竞赛测评集 High School Olympiad Mathematics Chinese Benchmark
Evaluates model proficiency in solving high school level mathematical problems.