Apples maschinelles Lern-Framework erhält Nvidia CUDA-Backend

Das Apple MLX Machine Learning Framework wurde ursprünglich für Apple Silicon entwickelt, die jetzt ein CUDA-Backend von Nvidia erhält.

Das Backend wird noch integriert, doch eine Reihe Kernoperationen werden bereits unterstützt.

Apple erhält Nvidia CUDA-Backend

Ein Nvidia CUDA-Backend wird in Apples MLX Machine Learning Framework eingearbeitet und bedeutet einen gewichtigen Schritt für das Unternehmen.

Geleitet wird die Arbeit vom Entwickler zcbenz auf GitHub, der vor Monaten mit dem Prototyping der CUDA-Unterstützung startete und das Projekt in kleinere Teile aufteilte.

Das Backend ist noch in Arbeit, doch mehrere Kernoperationen wie Softmax, Reduktion, Sortierung, Indizierung und Matrixmultiplikation werden schon unterstützt und erprobt.

Was ist CUDA?

Bei CUDA handelt es sich um eine Computerplattform, die speziell für die Ausführung auf eigenen GPUs entwickelt wurde und leistungsstarke parallele Rechenaufgaben lösen kann. Die Plattform dient dazu, maschinelle Lern-Workloads auf Nvidia-GPUs auszuführen und wird im gesamten ML-Ökosystem eingesetzt.

Die Einsatzbereiche reichen von der akademischen Forschung bis hin zur kommerziellen Nutzung. Vor allem Frameworks wie PyTorch und TensorFlow setzen auf CUDA zur GPU-Beschleunigung.

Das Hinzufügen des CUDA-Backends in das Apple MLX  Machine Learning Framwork ermöglicht es Forschern und Ingenieuren GPU-basierte Modelle lokal auf dem Mac mit MLX prototypisieren, um sie anschließend auf großen Nvidia GPU-Clustern bereitzustellen.