Este proyecto es una herramienta que utiliza la librería Transformers y PyTorch para cargar modelos de generación de lenguaje, generar texto y analizar las probabilidades de los tokens generados. El programa permite obtener información detallada sobre los pasos durante la generación de texto, ayudando a comprender el comportamiento del modelo.
Para ejecutar este programa, es necesario instalar PyTorch. Se recomienda seguir las instrucciones oficiales en https://pytorch.org o instalarlo mediante pip utilizando el siguiente comando (asegurándose de ajustar la versión a su entorno):
pip install torch- Clona el repositorio o descarga los archivos.
- Instala las dependencias, incluidas Transformers y PyTorch.
- Ejecuta el programa principal:
python logits.py