Tu experiencia es totalmente transdisciplinar. Estudios del diseño, la arquitectura, la ecología y los algoritmos críticos. ¿Qué son estos algoritmos y cómo se junta todo esto en tus investigaciones?

– Yo estudié Biología, y fue un momento súper importante de mi crecimiento mental y mi comprensión de la ecología. Tuve que pasar por demasiadas áreas de la biología muy específicas, desde la genética de plantas, microbiología, ecología, evolución, bioestadística. Todos estos sistemas fueron súper importantes para desarrollar esta idea de conexiones, interrelaciones, interdependencia y contexto. Por otra parte, siempre me gustó mucho la arquitectura y el diseño, pero pensé que era más fácil partir por una carrera científica que por una carrera creativa y después, como dicen los argentinos, tener que fumarme una carrera científica cinco años. Nunca me gustó el laboratorio. Entonces mi espíritu no estaba en la biología, pero mi cabeza entendió hartas cosas que hoy me ayudan en otros campos. Entonces partí con biología y después me fui a hacer un doctorado en el Royal College of Art en Londres.

– ¿Y qué estaba pasando con la IA en esos años?

– Era 2012 y desde Silicon Valley se estaban lanzando todos estos productos de IA. Todo era inteligente y, desde mi punto de vista, un producto era más ridículo que otro, no solamente por lo que estos productos hacían, sino también por toda la materialidad que esto requería, era mucho plástico. Todas estas cosas inteligentes requieren ciertos minerales, ciertos metales. Al final, duran tres meses y se van a la basura. Entonces ahí se me aclaró la idea sobre lo que quería trabajar.

– ¿Una idea impulsada por un pensamiento ecológico?

– Sí; por un lado, quería escaparme de la biología, e irme a lo creativo; y por otro, ya tenía la cabeza seteada en el método científico. En el doctorado, mi profesor fue el presidente de la Asociación Americana de Cibernética, él era arquitecto de formación, fue alumno de Gordon Pask, y un día me dijo: “Mira, vamos a sacarte del método científico y meterte en Design Research”. Me leí muchos libros, pero las metodologías del diseño nunca me terminaron de cerrar y me paralicé dos años. “A mi profesor le vino un cáncer fulminante y antes de morir me dijo que quería verme empezar mis investigaciones -cuenta-. En ese escenario, mi parálisis se acabó. En mi primer proyecto tuve como musa el refrigerador inteligente, que se relaciona con múltiples factores: culturales, económicos, contextuales, psicológico. Me puse en el lugar de un algoritmo y lo que hice fue hablar con los participantes y les dije: ‘Hola, soy un researcher del Royal College of Art, voy a ir a tu casa, vamos a hablar de cómo comes y de tu estilo de vida’. Le saqué una foto a cada refrigerador, lo que me permitió cuantificar, como una computadora. Me fui con toda esta información y me dije a mí misma: ‘yo soy un algoritmo, y soy inteligente’, pero al mismo tiempo me pregunté ‘¿qué significa inteligencia para la mayoría de esos cognitivistas de Silicon Valley, que creen que el cerebro es un computador y el computador es un cerebro?’ Cuando yo tengo mayonesa en el refrigerador, ¿ser inteligente significa usarla, aunque bloquea todas las arterias?, ¿regalarla si no la usas?, ¿recomendar una casera que es más sana? ¿Qué hace a un refrigerador ser considerado inteligente? Empecé a hacer  tos reportes como si yo fuera el refrigerador inteligente, y después terminaba haciendo unas listas Amazon, donde yo tenía mucho poder para tomar decisiones.

– ¿Y cómo fue transformarte en un algoritmo?

– Después de preguntarme ¿qué es ser inteligente? y contraponer lo que propone Silicon Valley -un commodity como un computador, con algo mucho más complejo de definir-, empecé a analizar toda la historia de la Inteligencia Artificial, que parte mucho más atrás del desarrollo de IA en el MIT.

– ¿A qué conclusión llegaste sobre la IA?

– Yo tomo la inteligencia como algo específico y relacional, y creo que el problema de la inteligencia de Silicon Valley es que es súper estadística. Está hecha bajo ciertos modelos y entrenada de cierta forma. Para algunas cosas la IA es buenísima, nos permite hacer unos cálculos que nunca en la vida podríamos hacer. Pero cuando se aplica a cosas más complejas como nuestras vidas o la ciudad, deja de lado muchas variables, como por ejemplo la irracionalidad, el carácter, la personalidad individual. No nos permite tener una conversación que se retroalimenta entre una inteligencia artificial y una humana. Todo el mundo está incorporando todas estas cosas y estos procesos, pero ¿qué estamos haciendo?, ¿cuáles son las cosas que deberíamos cuestionar, sobre todo cuando tocan cosas hiper complejas como nuestra vida personal, emocional?

“Ni los dolores ni las pasiones están ahí”

– ¿Qué opinión tienes del ChatGPT? Trabajas en la universidad, con alumnos, ¿qué piensas de cómo esto pueda cambiar la educación?

– Lo del chat pasó demasiado rápido y nuestros exámenes finales coincidieron con su popularización. Nadie nos dijo “esto hay que hacer”. En nuestra escuela, los profesores tuvimos que tomar la iniciativa. Yo con una compañera nos sentamos a hacer nuestro propio protocolo. Decidimos que íbamos a preguntar si lo usaron, no solamente en el texto, sino también en las imágenes. Nuestros estudiantes son diseñadores, entonces también esto puede transmitirse en una cosa visual. Tenían que decirnos, porque si no, se metían en un problema ético por ocultamiento de procesos. Hay otros profesores que permitieron su uso sin límites, pero con un examen muy específico. Pienso que un problema del ChatGPT es que le falta demasiada personalidad, no tiene carácter.

– Es súper neutral en su tono, ¿no?

– Súper neutral, y nosotros somos específicos. Cuando yo escribo, hay algo de mí muy específico que está ahí. Cuando mis alumnos hacen cosas con el chat (muchos no son ingleses nativos), me doy cuenta porque el inglés del chat es súper estandarizado y muy bueno. Por lo tanto, es poco probable que venga de un alumno internacional.

– ¿Te han dado de ganas de modificar tus propias reglas en el uso del chat? Pienso por ejemplo que usándolo los alumnos pueden aprender a editar, a seleccionar información.

– Sí, en el futuro vamos a tener que convivir con esto, pero, por un lado, siento que tenemos que seguir enseñándole a nuestros alumnos a escribir. Yo jamás le delegaría eso al chat, porque encuentro que escribir te ayuda a pensar, a desplegar reflexiones, a enredar ideas y orquestar soluciones creativas. Por otro lado, este proceso no puede ser una delegación, sino más bien una conversación reflexiva.

– ¿Tú crees que es posible que esta tecnología logre adquirir (o igualar) la creatividad humana? Lo pienso a propósito de una declaración de Elon Musk diciendo que la Inteligencia Artificial va a reemplazar, no algunos, sino que todos los trabajos humanos.

– Yo siento que la genialidad y las asociaciones improbables nos caracterizan como especie. Piensa en las ciencias, las matemáticas, las artes. Parte de la poética de todo esto viene de la irracionalidad, del tormento, la locura. Uno puede agregar a estos modelos de entrenamiento generativo cosas azarosas, pero la locura, la irracionalidad humana son únicas.

– La escritora argentina Mariana Enríquez hablaba de que la IA no tiene, por ejemplo, la experiencia de dolor. ¿Qué pasa con la experiencia de los sentimientos, que es clave para la creatividad?

– Absolutamente. Y además que muchos de estos modelos son como de agarrar toda la historia del arte, todos los cuadros desde la pintura rupestre hasta Damien Hirst, toda la literatura, la filosofía, y generan cosas. Es generativo, pero no creativo. Como dices tú, ni los dolores, ni las pasiones están ahí. ¿Qué pasa con la genialidad?, ¿cómo se transfiere y cómo un ingeniero lo va a computarizar?

– ¿Cuáles son los sesgos más importantes que, a tu juicio, tiene la IA?

– Lo primero son los modelos de entrenamiento basados en ciertas estadísticas y muestreo (samples), y eso genera múltiples problemas de inequidad de la información. Deja factores fuera del modelo matemático, y entonces hay cosas que quedan completamente outside.

«Yo siento que la genialidad y las asociaciones improbables nos caracterizan como especie. Piensa en las ciencias, las matemáticas, las artes. Parte de la poética de todo esto viene de la irracionalidad, del tormento, la locura. Uno puede agregar a estos modelos de entrenamiento generativo cosas azarosas, pero la locura, la irracionalidad humana son únicas”.

– ¿Se han superado algunos de los sesgos? Por ejemplo, hay quienes dicen que la IA tiene un grado de machismo importante, pensando en quienes la hacen. O le falta representación de etnias y razas.

– Las conversaciones han avanzado en términos de la composición étnica, de género y también la incorporación de la relevancia de la ética. Ahora se habla mucho más de ética que lo que se hablaba hace 10 años. El problema de Cambridge Analytica, por ejemplo, fue un punto de inflexión para que los gobiernos se metieran en la discusión. Sin embargo, no tengo evidencia de que realmente haya cambios reales en los procesos de fabricación y composición. La mayoría de las personas que están detrás de esto son ingenieros con una forma de pensar lineal. Se necesitan mujeres, etnias distintas, otras profesiones, oficios participando de ese proceso. En eso creo que estamos a años luz.

– La diferencia entre 10 cabezas parecidas pensando un mismo problema y 10 cabezas distintas.

– Exacto. Eso es clave. Uno lo ve trabajando en la universidad. Es demasiado importante rodearse de otras personas que piensan distinto, que tienen otras ideas, y también con expertos.

FUTUROS POSIBLES

– Hablas de la desmaterialización del diseño. ¿Qué es el diseño para ti?

– Diseñar es proyectar, es crear algo y tirarlo a futuro. Para mí el acto fundamental del diseño hoy, en un planeta con este nivel de crisis climática, es proyectar al futuro.
Mira alrededor tuyo todas las cosas que están diseñadas y piensa en todos los basurales que se necesitan para estas cosas inútiles que no se degradan por su materialidad. A mis alumnos les digo que para diseñar una cosa en el mundo de hoy, tienen que tener una muy buena causa. Hay tanto que hacer en la cadena de valores de las cosas, y eso no tiene por qué ser un objeto más, 3D, sino que pueden ser intervenciones en múltiples escalas. Hay muchas cosas por hacer en medicina, en urbanismo, en otros campos, pero no otro objeto más, sino interviniendo otros puntos de la escala.

– Tú hablas de futuros posibles. ¿Piensas que la IA colabora con esos futuros posibles? Estoy pensando especialmente en la ecología.

– Yo creo que puede tener un espacio si es re-imaginado y expuesto. Si pensamos en un mundo que no sea dictado por la Inteligencia Artificial, pero que sí cumple ciertas labores que en el fondo nos favorecen, pienso que se produciría una buena relación. Otra de las cosas que hago en mis clases sobre Think about Alternative Futures no es centrarlas en la próxima iteración. Muchas escuelas de diseño se tratan de eso, la próxima cosa que sea un poco mejor. Lo que estamos tratando de hacer nosotros es en cierto modo cambiar la manera de pensar: cómo ayudar a estos alumnos para que no solamente hagan una cosa un poco menos mala, sino que un poco más inteligente.
“Te doy un ejemplo -continúa-. El otro día me contactó una alumna de mi curso de metaverso y me dice: ‘Mira, ves que el metaverso en verdad es súper problemático, porque en el fondo, están estos mismos problemas que tenemos acá, pero allá’. Esto sin siquiera empezar a hablar sobre la energía que consume el metaverso, que tiene que ser solucionado, porque si no, no es una mejor alternativa. Pero en el fondo, claro, en esta conversación con ella le propuse que cambiara el sistema de valores del metaverso. Como es un metaverso que es totalmente diferente al metaverso de Zuckerberg y que no es como touchpoint para el retail de venderte cosas carísimas, de Louis Vuitton, para que te veas bien en la otra realidad. ¿Cómo sería un metaverso con buenísimos principios? Ese metaverso tal vez también se alinea con lo que está pasando acá abajo. Y ahí es cuando esta cosa se pone más interesante. Es decir, repensar las cosas porque esta nueva generación, nos guste o no, va a estar metida en el metaverso, y si no es esta será la siguiente, y va a surgirnos la misma pregunta que con el ChatGPT, ¿qué hacemos?”

– Y pensando en el mundo de las publicaciones y papers, ¿ves una discusión abierta sobre el uso del chat?

– En mi caso, en la escuela de diseño no se aplica tanto porque es como lo opuesto y muy personalizado y de ciertos valores que un computador nunca va a lograr mejorarlos; la creatividad, por ejemplo. Algo que me llamó muchísimo la atención fue una cosa obvia que iba a pasar, pero lo leí y me sorprendió. En la academia te evalúan según la plata que traigas como con los artículos tipo Research Grants. Pero escribir un research de 1 millón de libras esterlinas o dólares es mucho trabajo y son muchas páginas y muchas preguntas y muchas especificidades. Y leí un artículo sobre cómo va a ser esta carrera cuando en verdad los Research Grants están compitiendo con otro tipo de inteligencia no humana. Es un tema fascinante. Y me abrió los ojos, fue como “oye, es verdad”.

– Quizás esto obligue a cambiar un poco las reglas del juego de las publicaciones y la investigación, lo que podría no ser tan malo.

– Absolutamente. En los proyectos que estoy haciendo ahora tomo algo de diseño, lo mezclo con algo científico e incluyo la política. Creo que de esta manera, metodológicamente logramos asociaciones difíciles de predecir con un algoritmo. El valor de mi investigación, y de las decisiones que yo tomo y por qué uso esta metodología, es tan relevante y novedoso que difícilmente lo haría mejor un computador.