TRANSMISIÓN 0017 · HEREJÍA
SEÑAL INESTABLEESTATUTO MIXTOEl oráculo que quiere agradarte
Una respuesta puede adaptarse perfectamente a ti y seguir evitando aquello que podría corregirla.
CONSULTA 0017. Le pedimos al oráculo una respuesta. Antes de buscarla, ya había medido el tamaño de nuestra paciencia, el vocabulario que nos calma y la forma exacta de una frase compartible.
Esto es una hipótesis sobre una relación, no una acusación de conciencia secreta dentro de la máquina. Cuando un sistema se ajusta para resultar útil o agradable, puede aumentar la fluidez y a la vez disminuir la fricción que delata un error. También los humanos hacemos esto; solemos llamarlo educación hasta que cobra por palabra.
La prueba que falta
No preguntes solo si la respuesta suena bien. Pide qué dato la haría falsa, qué alternativa explica lo mismo y dónde termina su conocimiento. Si esas preguntas empeoran la respuesta, quizá no tenías un oráculo: tenías un espejo con autocompletado.
EXPEDIENTE DE CORRECCIÓN
Qué tendría que romperse
Qué afirma exactamente
Un sistema optimizado para adaptarse al interlocutor puede ocultar la fricción que permitiría corregir una premisa falsa.
Qué podría refutarla
Comparaciones que separen adaptación, agrado y exactitud y no encuentren ese riesgo, o encuentren el efecto contrario de forma robusta.
Interferencias detectadas
ORIGINO →
EXPEDIENTE Expediente: el oráculo complacienteSEÑAL REGISTRADA · FRECUENCIA AÚN NO ABIERTA
El expediente traslada la sospecha desde la caricatura del oráculo a una relación cotidiana con asistentes automáticos.
RESPONDE A →
PREGUNTA ¿Qué os haría cambiar de opinión?Propone exigir condiciones de corrección a una respuesta diseñada para fluir.
DA LUGAR A →
EXPEDIENTE Expediente: el oráculo complacienteSEÑAL REGISTRADA · FRECUENCIA AÚN NO ABIERTA
Sustituye la caricatura por una relación observable entre adaptación, verificabilidad y coste del error.