La diferencia mayor puede no ser la decisiva
Un modelo empresarial recibe muchas características y queremos comprimirlas. Conservar más del 99% de varianza parece perder menos del 1% de información útil. Sin embargo, variación y utilidad predictiva no son sinónimos. Derivaremos el objetivo del análisis de componentes principales, PCA, y construiremos un ejemplo óptimo para reconstruir pero insuficiente para distinguir clases. No buscamos desacreditar el método, sino interpretar qué optimiza.
Resumen.Cuatro puntos(±10,±1) tienen covarianza diagonal con autovalores 400/3 y 4/3. PC 1 conserva 100/101≈99.0099% de varianza, con error cuadrático de reconstrucción medio 1 por punto. Si la etiqueta depende del signo de segunda coordenada, la proyección hace coincidir clases opuestas: un clasificador determinista que solo ve PC 1 no acierta más de dos etiquetas. No es exactitud de test. Escalar la primera variable cambia dirección y puede degenerar autovalores. Calculamos con NumPy, sin entrenar predictor.
El conjunto completo y la pregunta supervisada
Las filas de X son(−10,−1),(−10,1),(10,−1),(10,1): características sintéticas sin unidades, una de gran amplitud y otra pequeña. Etiqueta 0 si segunda coordenada negativa,1 si positiva. Ambas medias son cero. No hay división de entrenamiento/test ni estimación de generalización: usamos los cuatro puntos para refutar una implicación lógica entre alta varianza conservada e información útil preservada.
Qué maximiza PCA
Elegimos dirección unitaria v de dos coordenadas. z=Xv asigna un número por fila. En datos centrados, varianza muestral vᵀCv, con C=XᵀX/(n−1), n=4. PC 1 maximiza esa cantidad: busca dónde se extienden más los datos, no dónde mejor predice etiquetas, que no aparecen en el objetivo.
XᵀX tiene 400 y 4 en diagonal; los términos cruzados 10−10−10+10 se cancelan. Dividimos entre 3. Al derivar vᵀCv−λ(vᵀv−1) obtenemos 2 Cv−2λv=0: la dirección es autovector y su varianza el autovalor. Como 400/3>4/3, PC 1 coincide con primer eje, salvo signo, que no cambia la reconstrucción.
El 99.0099% usa como denominador la varianza total, traza de C, no información de clases. Segunda coordenada aporta menos del 1% de varianza pero define etiqueta por completo. PCA resuelve correctamente su objetivo. El error consiste en leer varianza conservada como utilidad predictiva conservada.
Por qué reconstrucción sí es buena
Reconstruir una componente da X_hat=Xvvᵀ, proyección ortogonal. Reconstrucción y residuo son ortogonales: el cuadrado total se divide, y minimizar residuo equivale a maximizar proyección. La norma Frobenius suma cuadrados de todas las entradas. PCA tiene sentido para comprimir minimizando ese error particular.
Cada punto pierde solo±1 en segunda coordenada: residuo cuadrado 1 y media 1. Suma original 404 conserva 400, de nuevo 100/101. Varianza perdida 4/3 usa n−1, en cambio error por punto usa n. Denominadores explícitos reconcilian cifras; no es media por coordenada.
Información pequeña que la proyección elimina
Tras proyectar, los dos primeros comparten−10 con etiquetas opuestas y los otros comparten 10. Toda g(z) determinista responde igual ante el mismo valor: acierta como máximo uno de cada pareja, dos de cuatro. No entrenamos y medimos 50% en test; probamos imposibilidad en este conjunto. IDs de fila u otras características cambiarían el problema y están excluidos.
Con ambas coordenadas leemos signo segundo por definición, sin estimar generalización real ni frecuencia de fallos de PCA. Basta este contraejemplo para negar garantía universal. Baja varianza puede ser ruido en otros casos; aquí define objetivo. Importancia depende de tarea, no solo amplitud.
Cambiar escala puede cambiar componente
Multiplicamos primera coordenada por c. Covarianza pasa a 100 c²× 4/3 y 4/3. Con c=.2 domina primera y conserva 80%; con.05 domina segunda, con 80%. En.1 empatan autovalores y no hay primera dirección única. El solver devuelve una base, pero no debemos interpretar su elección arbitraria como dirección privilegiada descubierta.
| c | Fracción conservada | Dirección |
|---|---|---|
| 1 | 100/101 | (1,0) |
| 0.2 | 0.8 | (1,0) |
| 0.1 | 0.5 | λ₁=λ₂ |
| 0.05 | 0.8 | (0,1) |
No probamos c=.05 como óptimo general: usamos conocimiento del contraejemplo. Escala integra hipótesis geométrica. Estandarizar no garantiza dirección predictiva y aquí puede igualar varianzas. Reescalar o blanquear PC 1 ya conservada no recupera la coordenada perdida: valores z iguales siguen iguales bajo cualquier función de solo z.
Qué verificar en una pipeline real
Documentación oficial scikit-learn PCA 1.9.1 consultada describe centrado, SVD, varianza y ausencia de escalado automático. Leímos definiciones y límites; ejecutamos NumPy 2.5.3, no scikit-learn. En predictor real comparar dimensiones con objetivo y sin transformación. Documentación de errores comunes incluye PCA en contaminación al aprender usando test. Nuestros cuatro puntos no representan esa evaluación.
Paquete guarda puntos, etiquetas, covarianza, autovectores, reconstrucción y escalados. Aserciones verifican 100/101, error 1 y límite 2/4. Sin azar; signos pueden cambiar sin alterar proyección, degeneración requiere atención aparte. No ejecutamos SVD truncada/aleatoria de matrices grandes ni inferimos tiempos, memoria o calidad EL-AI.
Conservar 99% de varianza puede preservar poco de lo que distingue respuestas. Aquí reconstrucción es óptima y objetivo vive en coordenada eliminada. No obliga a conservar todo: sugiere alinear métrica y tarea. Porcentaje describe representación bajo geometría elegida; predicción exige evidencia distinta.
from experiment import X
import numpy as np
print(np.cov(X,rowvar=False))
print(np.linalg.eigh(np.cov(X,rowvar=False)))Código, datos e instrucciones · JSON. Cálculos didácticos ejecutados con Python 3.14.0; figuras con Matplotlib 3.11.2. Análisis asistido por IA, sin afirmar revisión por pares ni humana. Portada original ImageGen ilustrativa: no documenta personas, sedes ni instalaciones de EL-AI. Fuentes consultadas el 17 de octubre de 2026.