En este momento, El principal obstáculo de la inteligencia artificial. (Iowa) No se trata sólo de procesamiento de datos, pero asegúrese de que lleguen al procesador lo suficientemente rápido. El cuello de botella está en la memoria.: mover grandes volúmenes de información a la velocidad que exigen los modelos actuales se ha convertido en uno de los mayores límites en el área. Pero, Entre las tecnologías probadas recientemente está el uso de kilómetros de fibra óptica como sistema de almacenamiento de IA.
En lugar de almacenar datos en chips RAM tradicionales, La propuesta prevé enviar información en forma de pulsos de luz a través de largas bobinas de fibra óptica.. Según el programador John Carmack, uno de los creadores del juego Doom, La tecnología hizo posible la transferencia 32 GB de datos con ancho de banda de 32 TB/s durante más de 200 km de fibra. “La inferencia y el entrenamiento de redes neuronales pueden tener patrones de referencia de peso deterministas. Entonces, Es interesante considerar un sistema sin DRAM, y los pesos se transmiten continuamente a una caché L2 mediante un circuito de fibra de reciclaje”., Carmack dijo.
Cómo funciona la tecnología
La tecnología se basa en un principio simple., en el que la luz viaja a través del cable a velocidad constante. Por lo tanto, El tiempo que tarda la señal en atravesar la fibra actúa como una forma de almacenamiento temporal.. En lugar de datos alojados en módulos físicos, La información sigue circulando por el cable..
Para tareas que requieren un flujo continuo, como el entrenamiento y la inferencia de redes neuronales, la fibra entregaría los datos exactamente cuando el procesador los necesitara. La dinámica es similar a la de una cinta de correr de muy alta velocidad., que mantiene los bits en constante movimiento hasta el punto de procesamiento, reduciendo los retrasos típicos de las memorias tradicionales.
La carrera de Carmack., responsable de dar a conocer esta noticia, siempre ha estado marcada por soluciones de ingeniería fuera del mercado convencional. Doom revolucionó el renderizado 3D en juegos a lo largo de los años 1990. Después de desempeñarse como CTO de Oculus VR, Luego se dedicó a Keen Technologies., Startup centrada en la IA.
Es por eso, sobre la viabilidad de la propuesta, Carmack complemente: “sería necesario interconectar varios de ellos para implementar modelos modernos con billones de parámetros, pero la transmisión de fibra óptica puede tener una mejor trayectoria de crecimiento que la DRAM actualmente, Entonces tal vez algún día sea viable”..
