Tenho pensado na revolução das GPUs na IA ultimamente. Sabes como algumas mudanças tecnológicas parecem inevitáveis em retrospectiva, mas no momento em que estão a acontecer, é realmente um grande salto de fé?

O que realmente me deixa curioso é: quando é que os veteranos da indústria perceberam pela primeira vez que as GPUs não eram apenas para gráficos - que eram, na verdade, o verdadeiro fator de mudança para o aprendizado de máquina? Houve algum experimento crucial que deixou isso bem claro? Ou foi algo que se desenrolou de forma mais gradual, através de tentativas e erros?

Porque aqui está a questão - os momentos de avanço na tecnologia raramente chegam com um laço bonito em cima. Às vezes é óbvio a partir dos primeiros princípios, outras vezes é mais confuso. Você está mergulhado no trabalho, testando diferentes abordagens, e de repente as peças se encaixam.

Toda essa evolução importa muito além da IA também. Olhe para a mineração de criptomoedas, mecanismos de consenso em blockchain, até mesmo a infraestrutura de computação que alimenta os projetos Web3 de hoje - a otimização de GPU está no coração de tudo isso. Compreender como esses insights se cristalizaram naquela época pode nos dizer algo sobre onde a próxima mudança de paradigma computacional está escondida.