LLM desde cero (Large Language Model desde cero)

Presentación

El impacto de la inteligencia artificial, particularmente los LLM (Large Language Model) ha generado una transformación en la industria. Para entender cómo se desarrollan estos modelos se debe partir desde su arquitectura base Transformer, arquitecturas optimizadas como BERT (Bidirectional Encoder Representations from Transformers) hasta llegar a GPT (Generative Pretrained Transformer). Así también entender cómo se usan las redes neuronales para el desarrollo de los LLMs , los modelos pre entrenados y el Fine-tuning.

La innovación detrás del entrenamiento de un LLM radica en la introducción de la arquitectura Transformer, que permite que el modelo aprenda de grandes cantidades de datos mientras preserva relaciones contextuales del texto.  Pudiendo inferir de manera eficaz conocimientos en función de los textos proporcionados, ya sean palabras individuales, oraciones, párrafos o más. Más aún, los modelos LLMs han abierto nuevas oportunidades para tareas de generación de texto con un grado alto de comprensión.

Por esta razón, el Departamento de Ciencia de la Computación de la UCSP dará una charla de presentación, en el cual se introducirá la arquitectura Transformer, BERT, GPT y cómo son usados para construir un LLM. Finalmente, se brindarán detalles del contenido, metodologías y docentes del curso y se atenderán las consultas del público asistente.

Objetivos

• Introducir los fundamentos de Transformer, BERT y GTP y su importancia en diversas áreas.
• Realizar la presentación del curso LLM desde cero (Large Language Model desde cero).
• Presentar todos los aspectos concernientes al programa: objetivos, perfil, contenidos, docentes, metodología, etc.
• Responder todas las consultas que tengan los interesados en la certificación.

Dirigido a

Profesionales de ciencia de la computación y áreas afines con conocimientos en programación en Python e interesados en desarrollar y construir un LLM.

Contenido

Modelo Transformer

• Revisión de redes neuronales.
• Introducción a los Word Embeddings.
• Fundamentos teóricos del modelo Transformer.
• Codificación.
• Aplicaciones.

Modelo BERT (Bidirectional Encoder Representations from Transformers)

• Introducción.
• Mecanismo de atención de BERT.
• Entrenamiento BERT.
• BERT embeddings.

Modelo GPT (Generative Pretrained Transformer)

• Introducción.
• Pre-entrenamiento GPT.
• Fine-tuning GPT.
• Aplicaciones avanzadas con GPT.

Expositores

Dr. Julio Santisteban Pablo

Doctor en Ciencia de la Computación en la Cátedra CONCYTEC de la Universidad Nacional de San Agustín de Arequipa, Perú. Maestro en ciencias en Internetworking por la Universidad Tecnológica de Sídney, 2003. GradCert. en Internetworking por la Universidad Tecnológica en Australia, 2003. Diplomado en Tecnología de la Información – Aplicaciones de Programación por el Instituto del Suroeste de Sídney, Australia, 2000. Se incorporó a la Universidad Católica San Pablo en el 2010 como profesor en la Escuela Profesional de Ciencia de la Computación. En julio del 2000 se incorporó como Analista Programador Sénior en Qantas Airways Australia, donde trabajó hasta diciembre de 2009. Anteriormente laboró en la Australian Red Cross (Cruz Roja Australiana).

Mgtr. Rosa Paccotacya Yanque

Magíster en Ciencia de la Computación en la Universidad Estadual de Campinas (Brasil) en el laboratorio Recod. bajo la orientación de la Prof. Sandra Ávila. Su investigación se centró en la IA explicable para el análisis del cáncer de piel, con el objetivo de comprender y validar los mecanismos internos de los modelos de caja negra para garantizar predicciones confiables. Ha sido investigadora en diferentes proyectos de investigación aplicada usando Inteligencia Artificial. Actualmente es profesora en la Universidad Nacional de San Agustín y en la Universidad Católica San Pablo. Sus intereses de investigación son: AI for Social good,Responsible AI, fairness, accountability, Explainable AI, y Computer Vision.

Metodología

• Las clases se llevarán a cabo de manera virtual y sincrónica. Se presentarán los conceptos del temario y se aplicarán en casos prácticos, luego de lo cual el material quedará a disposición de los participantes como material de consulta. La nota aprobatoria es 12.00.
• Se otorgará certificado de aprobación a los participantes que obtengan la nota mínima aprobatoria y hayan asistido por lo menos al 70% de las sesiones.
• La Nota Final se dispondrá según las siguientes equivalencias:
  • Trabajo Final: 100%

Requisitos de admisión

• Conocimiento de programación en Python

Creditaje

• 3 créditos académicos

Calendario

Inversión

• Precio: S/ 550.00
• Pronto pago: S/ 430.00 hasta el 12 de agosto del 2026
• Descuentos:
  • 5% de descuento corporativo (2 personas).
  • 10% de descuento corporativo (3 personas a más).
  • 20% de descuento para alumnos y exalumnos UCSP.
• Cierre de Inscripciones: 24 de agosto del 2026.

Certificación

Certificado virtual otorgado por la Dirección de Formación Continua de la Escuela de Postgrado y el Departamento de Computación.

Organiza