4 repositorios
Lexical analyzers that break raw source code into a sequence of discrete tokens.
Distinct from Lexical Tokenizers: A general implementation for Go source code, whereas the sibling is specific to JavaScript.
Explore 4 awesome GitHub repositories matching programming languages & runtimes · Source Code Tokenizers. Refine with filters or upvote what's useful.
go-ast-book es una colección de recursos técnicos y educativos centrados en el análisis de árboles de sintaxis abstracta (AST), desarrollo de compiladores y verificación estática de código. Proporciona guías y manuales para analizar, recorrer y examinar código fuente en Go con el fin de extraer su significado semántico. El proyecto sirve como referencia para construir frontends de compiladores, cubriendo la traducción de código de alto nivel a representaciones intermedias y formas de asignación estática única (SSA). También proporciona instrucciones para utilizar estas técnicas en el desarrollo de herramientas de lenguaje y análisis estático de código. Los recursos cubren una amplia gama de capacidades de análisis estático, incluyendo tokenización léxica, análisis estructural de expresiones y declaraciones, y seguimiento de coordenadas para archivos fuente. También detalla procesos de análisis semántico como la resolución de identificadores, verificación de corrección de tipos y análisis de flujo de control para concurrencia y ejecución diferida.
Breaks down source code into identifiers and operators to prepare text for structural analysis.
Esta librería es un analizador léxico de código fuente PHP y una herramienta de análisis estático que convierte código PHP sin procesar en tokens discretos y representaciones XML estructuradas. Funciona como un serializador que transforma flujos de tokens en un formato legible por máquina para el análisis programático y la manipulación del árbol de fuentes. El proyecto utiliza serialización XML basada en flujos y escritura de búfer basada en fragmentos para mantener un bajo consumo de memoria al procesar archivos grandes. Permite la configuración de espacios de nombres XML personalizados para asegurar la compatibilidad del esquema y evitar colisiones de nombres durante el proceso de transformación. El kit de herramientas cubre el análisis léxico y la conversión de código fuente en XML estructurado para soportar flujos de trabajo de análisis de código estático. Procesa flujos de tokens en una sola pasada para organizar listas de fuentes planas en una estructura XML jerárquica.
Converts PHP source code into discrete tokens to enable programmatic analysis and processing.
CodeGen es un modelo de lenguaje grande entrenado y modelo de síntesis de programas diseñado para generar código fuente funcional. Utiliza una arquitectura de red neuronal para sintetizar código ejecutable a partir de descripciones en lenguaje natural o fragmentos de código parciales. El modelo permite la síntesis automática de programas y la codificación asistida por IA al predecir y completar secciones faltantes de código dentro de un programa. Transforma descripciones en lenguaje natural en lógica de programación funcional para automatizar la creación de código repetitivo y lógica.
Converts source code into numerical representations using a specialized vocabulary optimized for programming language syntax.
This project is an interactive JavaScript course and beginner programming guide designed to teach fundamental scripting logic and language syntax. It functions as a web-based coding tutorial that transforms markdown-based lessons into a static site curriculum for learning web development basics. The resource features a browser-based code sandbox that allows for the execution of JavaScript snippets within a secure environment for immediate feedback. Lessons are organized into a linear sequence of modules to provide a structured onboarding process for those new to software development. The sys
Uses lexical analysis to tokenize JavaScript source code for the purpose of applying syntax highlighting.