PinnedRafael Manzano Masapanta·Oct 31, 2023Ditching CUDA for AMD ROCm for more accessible LLM inference. Ryzen APUs Edition.We test the limits of ROCm compatibility (CUDA’s alternative) using Ryzen APUs, for GPU accelerated at-home LLM training.A response icon5A response icon5
PinnedRafael Manzano Masapanta·Oct 31, 2023¿Sin CUDA ni GPU? Probando ROCm 5.7 con APUs Ryzen.Escribo esta entrada como referencia para quien desee entrenar un LLM localmente y posea un procesador Ryzen en su portátil con gráficos…