Postura · última revisión 17 de septiembre de 2026
Una medida puede romperse de cuatro maneras
Garrabrant sostiene que un número deja de reflejar lo que debía reflejar de al menos cuatro maneras distintas cuando la gente lo persigue, y cada una pide su propio arreglo.
- Áreas
- SaberApariencias
En nuestras palabras
Scott Garrabrant toma la ley de Goodhartley de Goodhart — Cuando una medida se convierte en objetivo, deja de ser una buena medida: la gente aprende a mejorar el número en vez de lo que el número indicaba., la observación de que una medida deja de funcionar cuando la gente apunta a ella, y la divide en al menos cuatro fallas. Elegir a quienes sacan el puntaje más alto también elige a los que tuvieron suerte. La gente sube el número con medios que no ayudan en nada al objetivo real. Si se empuja un número lo suficiente, sale del rango en que coincidía con el objetivo. O alguien hace trampa a propósito, como un vendedor que registra pedidos falsos para cumplir la meta. Cada falla pide un arreglo distinto, así que meterlas en la misma bolsa oculta qué hacer.
Scott GarrabrantComunidad racionalista (LessWrong)2017
En sus palabras
«Sin embargo, no se trata de un único fenómeno. Propongo que hay (al menos) cuatro mecanismos distintos por los cuales las medidas sustitutas se rompen cuando se optimiza para ellas.»Traducción: nuestraOriginal: «However, this is not a single phenomenon. I propose that there are (at least) four different mechanisms through which proxy measures break when you optimize for them.»
Ideas conectadas
derivado de
- Goodhart TaxonomyFuente
El pasaje citado y el argumento que lo rodea (párrafo inicial).
extiende
- Una medida que se vuelve objetivo deja de medirPostura
Convierte la frase de Strathern en una taxonomía con remedios separados.
relacionado con
- SustitutoConcepto
Toda la entrada trata de cómo se rompen las medidas sustitutas.
responde a
- ¿Cuándo hacer algo más eficiente lo empeora?Pregunta
Cada uno de los cuatro tipos es una manera en que la presión de optimización destruye lo que una medida seguía.
- ¿Qué pasa cuando el número se vuelve la meta?Pregunta
Divide el fallo único de la pregunta en cuatro mecanismos.