En 2020, una filósofa hispanomexicana treintañera irrumpió con fuerza en la discusión global sobre los efectos de la tecnología. En su libro Privacidad es poder (Destino), Carissa Véliz (Ciudad de México, 40 años) describió por qué es inadmisible que el capitalismo de la vigilancia implique una constante intromisión en la privacidad. Su enfoque fresco y riguroso lo colocó como un ensayo de referencia en la materia. Seis años después, esta profesora de filosofía de la Universidad de Oxford ha vuelto a las librerías con Prophecy (Profecía, que en España saldrá a la venta en junio en Debate).
Su nueva obra analiza de forma lúcida cómo la estadística y las predicciones, muy usadas ahora por la inteligencia synthetic (IA), son una herramienta de poder que moldea el mundo. “Las predicciones a menudo son órdenes disfrazadas de búsqueda de conocimiento. Toda la economía de datos se ha desplegado porque queremos predecir; si no, no gastaríamos nuestro tiempo y energía en ello”, explica a EL PAÍS de paso por Madrid.
Pregunta. ¿Qué tienen las profecías de atractivo?
Respuesta. En los últimos años, me he dado cuenta de que hay una cultura de la adivinación que está surgiendo y que tiene que ver con la IA. El machine studying inspira a un tipo de mentalidad probabilística, que está surgiendo al mismo tiempo que los mercados de predicción y que presenta las predicciones como hechos. Eso tiene implicaciones éticas profundas.
P. Sostiene en el libro que una de las perversiones de las predicciones es que pueden servir para moldear el mundo, para forzar que se cumplan.
R. Tendemos a ser muy ingenuos sobre las predicciones y mi hipótesis es que es en parte una ilusión del lenguaje porque las predicciones suenan como hechos, como si fueran descripciones del mundo, pero cuando las analizas filosóficamente, te das cuenta de que no lo son. En specific, las predicciones sobre seres humanos influyen a los seres humanos porque afectan a nuestras expectativas, y las expectativas en parte dan forma al mundo. Tienen, por tanto, un poder de atracción magnético.
P. Cuenta también que, aunque las matemáticas tienen un recorrido de milenios, el estudio de las probabilidades es bastante reciente.
R. Sí. Los griegos, por ejemplo, eran filosófica y matemáticamente muy sofisticados, pero no desarrollaron una matemática de la probabilidad. No sabemos por qué, pero una hipótesis que me parece muy believable es que period incompatible con pensar en los dioses y en el destino. Si tienes la concept de que el destino está escrito y que los dioses deciden, no tiene ningún sentido pensar en la probabilidad como algo matemático.
P. Traza el paralelismo entre el surgimiento de la matemática de la probabilidad con los censos y cómo ambas fueron herramientas básicas del colonialismo.
R. Me parece muy importante entender las raíces de cómo se desarrolló la estadística de la población. El origen está en Francis Galton. Es realmente alucinante porque descubrimos la curva regular a través de dos caminos independientes: uno es el de las apuestas, los dados y los juegos de azar, y el otro es el estudio de las estrellas. Como es tan difícil medir el espacio entre las estrellas porque hay nubes o porque el cielo se mueve, se desarrolla la noción de la distribución de los errores en la medición. Es alucinante que a alguien se le haya ocurrido aplicar esa herramienta a las cuestiones sociales. Y no de cualquier manera, sino de forma muy normativa, imponiendo cuestiones de normalidad en las personas. Si no entras en la concept de normalidad, eres un desviado. Efectivamente, tiene que ver con el colonialismo, con controlar primero a las poblaciones en las que confiamos menos y luego a la población en common.
P. Esa es una de las concepts de su libro: que los orígenes de la estadística tienen mucho que ver con el management social. Y que son una herramienta de poder. ¿Por qué?
R. Porque hacer una predicción que suena como un hecho, si convences a la gente de que ese es el futuro, es en realidad una manera de hacer el futuro que tú quieres. Hay declaraciones que parecen ser descriptivas de la realidad, pero lo que hacen es transmitir una orden. Cuando escuchamos una predicción y la tomamos como si fuera un hecho, lo que estamos haciendo en realidad es obedecer.
P. Sostiene que la categorización de las personas acaba con la idiosincrasia de los individuos. Y que la IA está llevando ese proceso al extremo.
R. Exactamente. Considerar a las personas simples números es deshumanizarlas. Llega el momento en que las personas tienen que adaptarse a las categorías dadas, y no al revés. Cuando veías las profesiones en Francia antes del desarrollo de las estadísticas, eran muy flexibles y muy fluidas. Una persona podía ser medio carpintero, medio herrero o lo que fuera. Pero cuando el gobierno establece ciertas categorías y crea subsidios asociados, si no encajas en la categoría, empiezas a sufrir las consecuencias. Entonces, el carpintero se vuelve solamente carpintero y las estadísticas funcionan mucho mejor, pero eso es a costa de crear la realidad que se supone que estás describiendo. Las estadísticas nunca son neutrales.
P. ¿Por qué se desarrolló esta burocracia?
R. Confiamos en los números porque no confiamos en las personas, y se nos olvida que las personas son las que tienen que escoger y crear los números. Por otra parte, una vez eliminada la realeza, cuya justificación period la gracia divina, los burócratas se sienten vulnerables porque tienen que mostrar que valen para algo, que tienen una razón de ser. La justificación que se esgrime son los números. Confiar en procesos automatizados hace que haya menos rendición de cuentas, porque ya no sabes a quién acudir. Cuando algo va mal, todo el mundo se esconde detrás de la máquina. Este ente impersonal que hemos construido se vuelve como un monstruo con su propia vida, que va empujando a las personas por aquí y por allá.
P. Usted critica que una afirmación, si tiene números detrás, parezca más válida que otra que no los tenga. ¿Por qué?
R. Si te quieres hacer famoso en la academia, haz una predicción sobre cualquier cosa y dale un número, da igual de dónde lo saques. Muchas veces, tener un número no solamente no ayuda, sino que confunde, porque justamente parece que estamos hablando de la realidad, mientras que si es un número totalmente fabricado, lo que está haciendo es ofuscar, confundir a la población.
P. La IA se basa en predicciones construidas con datos que a menudo también son predicciones. ¿Debemos considerar que la IA es un gigantesco castillo de naipes?
R. Totalmente. Y, cuanto más instalada tengamos la ilusión de que todo es previsible y que lo tenemos todo controlado, más ciegos seremos al hecho incontrovertible de que la IA también está generando sus propios riesgos, y que esos riesgos son sistémicos, a los cuales no se les puede dar un número.
P. ¿Cómo podemos salir de esta situación?
R. Deberíamos ser mucho más inteligentes en el uso de la predicción. Yo no digo que no la usemos. Me gusta saber qué tiempo hará mañana, pero debemos ser conscientes de qué se puede predecir y qué no. Deberíamos concentrarnos mucho más en construir una sociedad robusta y no tanto en predecir. Por ejemplo, sabemos que tarde o temprano habrá otra pandemia. No sé por qué no hemos logrado en estos años que los edificios tengan mucha más ventilación. En vez de dedicar recursos a predecir cosas que no se pueden predecir, podríamos centrarnos en ir a lo que ya sabemos que puede pasar.
P. ¿Una predicción cube algo sobre el mundo o sobre nuestro conocimiento o desconocimiento del mismo?
R. Cuando las predicciones varían mucho, como el caso del futuro de la IA, es señal de que no estamos diciendo nada, de que en realidad no tenemos ni concept. Otro punto importante: uno puede ser experto en algo, pero eso no le convierte en experto en el futuro de ese algo. ¡El futuro no se conoce, no está escrito! Yo, por ejemplo, sé sobre privacidad, pero si me preguntas por el futuro de la privacidad, no sé más que cualquiera. No debemos caer en la trampa de que hay expertos en el futuro, aunque quien hable sea un Premio Nobel.
P. Desgrana también el papel del utilitarismo y de los altruistas efectivos como engranaje de la burocracia
R. Hace un tiempo releí a Charles Dickens. No le gustaban nada los utilitaristas por muy buenas razones. Han sido increíblemente exitosos, convenciéndonos de pensar en la moralidad de cierta manera. Tendemos a pensar intuitivamente de esa manera por lo exitosos que han sido a través de los siglos en vendernos la concept de que el análisis del coste y beneficio, de que se pueden transformar los hábitos morales en una suma. Es muy importante criticar a los utilitaristas porque llevan mucho tiempo influyendo mucho en políticas públicas. Los altruistas efectivos, que sostienen que es éticamente aceptable enriquecerse de manera obscena porque así podrán ayudar a más gente con sus donaciones, están ahora un poquito más calladitos [uno de sus máximos exponentes era Sam Bankman-Fried, el criptomillonario que cumple desde 2023 una pena de 25 años por estafarle 8.000 millones de dólares a sus clientes]. Pero volverán. Es el marco perfecto para justificar por qué los billonarios hacen lo que hacen.
