Escritos /
Radial LoRA: cuando la dirección importa más que el tamaño
R-LoRA es una variante de LoRA que atempera el tamaño de la entrada del adaptador con un exponente aprendido por capa. En cuatro corpus de voz clínica supera a LoRA en 12,4 puntos de Macro-F1, y se aplica sin cambios a cualquier Transformer que LoRA pueda adaptar.
Los grandes modelos de habla preentrenados saben mucho de la voz, pero los conjuntos de datos clínicos son pequeños: unos cientos de hablantes como mucho. Adaptar un modelo de 95 millones de parámetros a 150 pacientes es el problema cotidiano de la IA para la salud basada en el habla, y el tema de mi tesis. Radial LoRA (R-LoRA) es el método que propongo para abordarlo, presentado en IberSPEECH 2026: un cambio de un solo parámetro en LoRA que, en cuatro corpus clínicos, eleva el Macro-F1 en 12,4 puntos con el mismo presupuesto de parámetros.
La idea en un párrafo
LoRA adapta una matriz de pesos congelada sumándole una pequeña actualización de rango bajo, y esa actualización es lineal en su entrada: reacciona tanto a lo grande que es una activación oculta como a la dirección hacia la que apunta. Dentro de un Transformer, la normalización de capa mantiene las representaciones sobre una esfera de radio fijo, y en muchas dimensiones el ángulo entre dos vectores dice más que su distancia. R-LoRA pide al adaptador que atienda primero a la dirección: antes de la proyección de rango bajo, divide la entrada por su norma elevada a una potencia aprendible λ.
Cómo funciona
Para un peso congelado W₀, LoRA calcula h = W₀x + (α/r)·BAx, donde A y B son matrices estrechas de rango r. R-LoRA cambia una sola cosa: la rama recibe Tλ(x) = x / (‖x‖ + ε)λ en lugar de x.
- λ = 0 devuelve el LoRA original.
- λ = 1 proyecta la entrada sobre la esfera unidad: la actualización depende solo de su dirección.
- Los valores intermedios conservan parte de la magnitud.
λ se aprende, un valor por proyección adaptada, mediante una sigmoide que lo mantiene entre 0 y 1. Como en LoRA, B empieza en cero, así que el entrenamiento parte exactamente del modelo preentrenado y descubre por sí solo cuánta normalización necesita cada capa. En Wav2Vec2 base, con adaptadores en las proyecciones de consulta y valor de sus 12 capas, eso suma 24 parámetros a los 290 000 de LoRA con rango 8.
Por qué debería ayudar en el habla clínica
El artículo mide primero la geometría del modelo congelado en cada corpus. Las representaciones están apiñadas: sus vectores apuntan casi en la misma dirección, ocupan una pequeña fracción del espacio, y a los hablantes sanos y patológicos los separan ángulos pequeños.
| Corpus | Tarea | Coseno medio | Dimensiones con el 90 % de la varianza | Ángulo entre clases |
|---|---|---|---|---|
| NeuroVoz | enfermedad de Parkinson | 0,81 | 30 | 8,5° |
| COPERIA /a/ | COVID persistente, vocal sostenida | 0,84 | 24 | 21,1° |
| COPERIA tos | COVID persistente, tos | 0,94 | 22 | 5,4° |
| VisIA | ideación suicida, habla espontánea | 0,90 | 16 | 12,2° |
Cuando todo apunta casi en la misma dirección, la señal útil está en pequeñas diferencias de dirección, y un adaptador lineal gasta parte de su capacidad en seguir el tamaño de la entrada.
Qué encontramos
La comparación es estricta: Wav2Vec2 base, ocho rangos de 2 a 256, R-LoRA y LoRA con el mismo rango, validación cruzada anidada 5 × 5 estratificada por hablante, y todas las métricas calculadas por hablante, la unidad que importa clínicamente.
- En conjunto: +12,4 puntos de Macro-F1 (IC del 95 %: de 8,9 a 15,8), con 113 victorias en 160 comparaciones pareadas. Significativo en tres corpus y nunca significativamente peor.
- Con cualquier presupuesto: la ventaja es máxima en el rango más pequeño (+17,4 puntos con rango 2) y aún es de +10,7 con rango 256.
- Frente al ajuste fino completo: actualizar los 95 millones de pesos queda por detrás en todos los rangos, a 14,2 puntos de media. R-LoRA lo iguala o lo supera en todos los corpus entrenando unas 322 veces menos parámetros.
El caso que más importa es VisIA:
| VisIA, mejor rango por método | Macro-F1 | Sensibilidad, ideación activa | Precisión, ideación activa |
|---|---|---|---|
| Ajuste fino completo | 36,3 | 0,0 | 0,0 |
| LoRA | 46,4 | 0,0 | 0,0 |
| R-LoRA | 67,0 | 50,0 | 80,0 |
Los dos modelos de referencia colapsan hacia la clase mayoritaria y nunca detectan a una persona con ideación suicida activa. R-LoRA encuentra a la mitad. En cribado, el caso que se escapa es el error caro, y en el conjunto de los cuatro corpus R-LoRA eleva la sensibilidad de la clase patológica del 51,9 % al 59,0 %.
Donde LoRA ya funciona bien, hay menos que ganar: en NeuroVoz se queda a menos de dos puntos de la mejor puntuación que alcanza cualquier método, y R-LoRA añade solo 1,1 puntos, no significativos.
Qué elige el modelo
Con libertad para elegir, cada capa se sitúa en algún punto intermedio. Ese es el mecanismo detrás de la ganancia: ni la entrada en bruto de LoRA ni una puramente direccional, sino un compromiso aprendido que cambia según la capa y el corpus.
El coste
R-LoRA renuncia a una de las comodidades de LoRA. Una actualización LoRA es lineal, así que tras el entrenamiento puede fusionarse con los pesos y no cuesta nada en inferencia. El operador radial no es lineal, de modo que la rama de R-LoRA tiene que ejecutarse en cada pasada hacia delante. Medida con rango 8, la inferencia tarda 3,30 ms por muestra frente a 3,28 de una rama LoRA sin fusionar, dentro del ruido entre ejecuciones; el entrenamiento va a 0,96 veces la velocidad de LoRA, con la misma memoria. Para un cribado fuera de línea con datos escasos, es un precio pequeño.
No solo para el habla clínica
Nada en R-LoRA es específico del habla ni de la salud. Cambia la entrada del adaptador, no el modelo, así que se aplica allí donde se aplica LoRA: cualquier proyección lineal de cualquier Transformer, para clasificación o para generación.
Por ahora, la evidencia cubre dos escenarios. En el artículo, Wav2Vec2 clasificando cuatro condiciones clínicas. Y en mi participación en el reto de reconocimiento del habla ALBAYZIN 2026, Whisper-large-v3, un codificador-decodificador entrenado para transcribir, adaptado al español dialectal rural: en el test ciego, R-LoRA alcanzó una tasa de error por palabra normalizada del 26,31 % frente al 29,24 % de LoRA, con el mismo rango y los mismos datos, y entrenó de forma más estable.
Lo que no se transfiere automáticamente es el tamaño de la ganancia. Es mayor donde las representaciones están más colapsadas y los datos son más escasos, y el artículo prevé que codificadores más potentes, con espacios mejor condicionados, muestren un efecto menor. Los Transformers de texto y de visión están sin probar. Los siguientes pasos son WavLM y HuBERT, y una comparación directa con DoRA, que normaliza los pesos en lugar de la entrada; ambos actúan sobre cosas distintas y podrían combinarse.
El artículo, con el protocolo completo y la estadística, está en su página de Investigación. Para implementarlo por tu cuenta, el tutorial Radial LoRA en Whisper, implementado desde cero lo construye en PyTorch y lo entrena junto a LoRA en la CPU de un portátil.
Con Laura Docío-Fernández, Alejandro García-Caballero y Carmen García-Mateo (Universidade de Vigo y Complexo Hospitalario Universitario de Ourense). Financiado por la Xunta de Galicia (GPC ED431B 2024/36) y la Unión Europea. Presentado en IberSPEECH 2026.