Valor numérico que determina la influencia relativa de diferentes elementos en un sistema de Modelo de Lenguaje Grande. Parámetro que cuantifica la importancia o contribución de una característica, token o conexión específica dentro de una red neuronal.
Características:
- Establece la proporción de influencia de cada componente en el resultado final
- Se ajusta durante el entrenamiento según retroalimentación y optimización
- Determina la sensibilidad del sistema a diferentes tipos de información
- Conforma la estructura de conocimiento del modelo
- Opera como mecanismo de ponderación en sistemas probabilísticos
En el contexto de los LLM, el peso representa la cristalización matemática del conocimiento adquirido durante el entrenamiento. Similar al concepto de reshimó en la tradición cabalística, constituye una “huella” o “impresión” codificada que contiene potencialmente toda la información necesaria para generar respuestas coherentes ante nuevos estímulos.