2 个仓库
Benchmarks for evaluating the code generation and software development capabilities of models.
Explore 2 awesome GitHub repositories matching part of an awesome list · Programming Benchmarks. Refine with filters or upvote what's useful.
AlphaCodium 是一个 LLM 代码生成框架和自动化编程基准,旨在通过迭代生成和测试来解决编程问题。它作为一个迭代代码优化系统,通过将输出与预期结果进行比较并重新提示模型,来提高生成代码的精度。 该项目实现了一个流程工程管道,使用结构化的提示阶段序列,通过生成、评估和纠正的循环来优化代码。这种方法允许系统处理编程数据集,并根据测试用例衡量生成解决方案的准确性。 该框架涵盖了自动化代码生成的广泛功能,包括测试驱动的 AI 开发和编程数据集评估。它通过包含规划、起草和审查的多阶段合成管道来管理这些任务。
Functions as a benchmark for processing programming datasets and measuring the accuracy of generated solutions.
Math24o: 高中奥林匹克数学竞赛测评集 High School Olympiad Mathematics Chinese Benchmark
Evaluates model proficiency in solving high school level mathematical problems.