ReplaySSM acelera la decodificación de modelos híbridos mediante el almacenamiento en caché de entradas en lugar del estado
Investigadores de NVIDIA y Princeton presentan ReplaySSM, una técnica que acelera la decodificación de Modelos de Espacio de Estados (State Space Models) al reducir el tráfico de memoria y simplificar el rollback especulativo.
