4 dépôts
Lexical analyzers that break raw source code into a sequence of discrete tokens.
Distinct from Lexical Tokenizers: A general implementation for Go source code, whereas the sibling is specific to JavaScript.
Explore 4 awesome GitHub repositories matching programming languages & runtimes · Source Code Tokenizers. Refine with filters or upvote what's useful.
go-ast-book est une collection de ressources éducatives et techniques axées sur l'analyse des arbres de syntaxe abstraite (AST), le développement de compilateurs et la vérification de code statique. Il fournit des guides et manuels pour parser, parcourir et analyser le code source Go afin d'en extraire la signification sémantique. Le projet sert de référence pour construire des frontends de compilateurs, couvrant la traduction de code de haut niveau en représentations intermédiaires et en formes d'assignation statique unique (SSA). Il fournit également des instructions pour utiliser ces techniques afin de développer des outils de langage et effectuer de l'analyse de code statique. Les ressources couvrent un large éventail de capacités d'analyse statique, incluant la tokenisation lexicale, le parsing structurel des expressions et déclarations, et le suivi des coordonnées pour les fichiers sources. Il détaille également les processus d'analyse sémantique tels que la résolution d'identifiants, la vérification de la correction des types et l'analyse du flux de contrôle pour la concurrence et l'exécution différée.
Breaks down source code into identifiers and operators to prepare text for structural analysis.
Cette bibliothèque est un tokenizer de code source PHP et un outil d'analyse statique qui convertit le code PHP brut en jetons discrets et en représentations XML structurées. Il fonctionne comme un sérialiseur qui transforme les flux de jetons en un format lisible par machine pour l'analyse programmatique et la manipulation de l'arborescence source. Le projet utilise la sérialisation XML basée sur les flux et l'écriture de tampons basée sur des fragments pour maintenir une faible surcharge mémoire lors du traitement de fichiers volumineux. Il permet une configuration personnalisée des espaces de noms XML pour garantir la compatibilité des schémas et éviter les collisions de noms pendant le processus de transformation. La boîte à outils couvre l'analyse lexicale et la conversion du code source en XML structuré pour prendre en charge les flux de travail d'analyse de code statique. Elle traite les flux de jetons en un seul passage pour organiser les listes sources plates en une structure XML hiérarchique.
Converts PHP source code into discrete tokens to enable programmatic analysis and processing.
CodeGen est un grand modèle de langage entraîné et un modèle de synthèse de programme conçu pour générer du code source fonctionnel. Il utilise une architecture de réseau neuronal pour synthétiser du code exécutable à partir de descriptions en langage naturel ou d'extraits de code partiels. Le modèle permet la synthèse de programme automatisée et le codage assisté par IA en prédisant et en remplissant les sections manquantes de code au sein d'un programme. Il transforme les descriptions en langage naturel en logique de programmation fonctionnelle pour automatiser la création de code standard et de logique.
Converts source code into numerical representations using a specialized vocabulary optimized for programming language syntax.
This project is an interactive JavaScript course and beginner programming guide designed to teach fundamental scripting logic and language syntax. It functions as a web-based coding tutorial that transforms markdown-based lessons into a static site curriculum for learning web development basics. The resource features a browser-based code sandbox that allows for the execution of JavaScript snippets within a secure environment for immediate feedback. Lessons are organized into a linear sequence of modules to provide a structured onboarding process for those new to software development. The sys
Uses lexical analysis to tokenize JavaScript source code for the purpose of applying syntax highlighting.