Hace un tiempo leí una frase «el mejor momento para plantar un árbol fue hace veinte años; el segundo mejor momento es ahora».

Hay muchas ofertas de trabajo relacionadas con la Inteligencia Artificial. ¿Cuándo es un buen momento para estudiar IA? Se parece a plantar un árbol. Si querés disfrutar de la sombra (presentarte a las ofertas de trabajo) entonces hace años deberías haber estudiado IA. Este post es sobre un árbol que acabo de plantar: un plan de estudio para aprender cómo funcionan los modelos de lenguaje grandes, desde cero.

⚠️ Curiosidad nerd lateral — esto no es ciencia de la computación.

Hace un tiempo escribí acá sobre el enema de humo de tabaco. El post arrancaba con un problema de performance —alguien agrega RAM para acelerar un login y el login tarda el doble— y terminaba en los médicos europeos del siglo XVII soplando humo de tabaco por el recto de sus pacientes para tratar cefaleas, hernias, calambres, tifus y cólera. La pregunta era «¿por qué funcionaba?» y la respuesta era «no funcionaba». La tesis, que repito textual porque este post entero se apoya en ella:

«Computer programs have become too large and complex to encompass in a human mind. Therefore, the job of computer science education is to teach people how to discipline their work in such a way that 500 mediocre programmers can join together and produce a program that correctly meets its specification.»

Así arranca, casi al pasar, el prefacio de Simply Scheme: Introducing Computer Science (Brian Harvey y Matthew Wright, MIT Press, 1994).¹ No es una crítica ajena — es la caricatura que los propios autores hacen de lo que ellos llaman la vista conservadora de la educación en ciencias de la computación. La escriben para después voltearla.²