At the moment, o principal obstáculo da inteligência artificial (IA) não é apenas o processamento de dados, mas garantir que eles cheguem ao processador com a agilidade suficiente. O gargalo está na memória: mover grandes volumes de informação na velocidade exigida pelos modelos atuais virou um dos maiores limites da área. Mas, entre as tecnologias testadas recentemente está o uso de quilômetros de fibra óptica como sistema de armazenamento para IA.
Em vez de guardar dados em chips tradicionais de memória RAM, a proposta prevê o envio de informações como pulsos de luz por longas bobinas de fibra óptica. Conforme o programador John Carmack, um dos criadores do jogo Doom, a tecnologia permitiu transferir 32 GB de dados com largura de banda de 32 TB/s por mais de 200 km de fibra. “A inferência e o treinamento de redes neurais podem ter padrões de referência de pesos determinísticos. Then, é interessante considerar um sistema sem DRAM, com os pesos sendo continuamente transmitidos para um cache L2 por um circuito de fibra com reciclagem”, afirma Carmack.
Como funciona a tecnologia
A tecnologia tem como base um princípio simples, no qual a luz percorre o cabo em velocidade constante. Com isso, o tempo que o sinal leva para atravessar a fibra funciona como uma forma de armazenamento temporário. Em vez de dados parados em módulos físicos, as informações permanecem circulando pelo cabo.
Para tarefas que exigem fluxo contínuo, como treinamento e inferência de redes neurais, a fibra entregaria os dados exatamente no momento em que o processador precisasse deles. A dinâmica é semelhante a uma esteira de altíssima velocidade, que mantém os bits em movimento constante até o ponto de processamento, reduzindo atrasos típicos das memórias tradicionais.
A carreira de Carmack, responsável por divulgar esta novidade, sempre foi marcada por soluções de engenharia fora do convencional de mercado. Doom revolucionou a renderização 3D nos games nos anos 1990. Depois de atuar como CTO da Oculus VR, ele passou a se dedicar à Keen Technologies, startup focada em IA.
That's why, sobre a viabilidade da proposta, Carmack complemente: “seria necessário interligar várias delas para implementar os modernos modelos com trilhões de parâmetros, mas a transmissão por fibra óptica pode ter uma trajetória de crescimento melhor do que a DRAM atualmente, então talvez um dia se torne viável”.
