Escala y Emergencia. ¿Destellos de Inteligencia Artificial General en GPT4?
En los últimos años hemos visto cómo han ido creciendo los modelos de lenguaje: GPT2, GPT3 y ahora GPT4. Cuando los modelos de lenguaje crecen en tamaño desarrollan nuevas habilidades de manera espontánea y no predecible, por ejemplo, la capacidad de hacer cálculos matemáticos. Hoy vamos a hablar sobre este fenómeno de emergencia de habilidades al aumentar la escala y discutiremos si esta senda de entrenar modelos más grandes en cada vez más datos es suficiente para llegar a la inteligencia artificial general.
Participan en la tertulia Íñigo Olcoz, Paco Zamora, Josu Gorostegui y Guillermo Barbadillo.