Licencia para matar

Vas por la carretera a bordo de tu coche sin conductor, uno de esos supermodernos que negocian los obstáculos y son capaces de reaccionar ante cualquier cambio. Te aproximas a un túnel. De pronto, un niño pequeño se cruza frente al coche. La situación es tal, que si el coche sigue su marcha, atropellará al niño, matándolo. Pero si se desvía para salvarlo, se estrellará inevitablemente contra las paredes y te matará a ti.

¿Qué debe hacer el coche?

Ésa es la pregunta de Should your driverless car kill you to save a child?. Se trata de un experimento mental, por supuesto. En muchas circunstancias reales habrá una tercera, cuarta o enésima opción. Pero inevitablemente, en algún momento se dará ese caso: una muerte segura para uno de los implicados.

Estamos acostumbrados a considerar que los únicos actores en una situación ética son los seres humanos. Pero cada vez es más evidente que a medida que vamos delegando poder de decisión a las máquinas, en situaciones cada vez más complicadas en las que resulta difícil establecer reglas de antemano, será habitual que las máquinas tengan que resolver problemas éticos. Precisamente Isaac Asimov, el primero en adoptar las leyes de la robótica, se escribió una buena serie de cuentos elucubrando sobre ese tipo de escenarios.

En cualquier caso, si esa situación es una posibilidad, habrá que decirle a la máquina qué debe hacer. El autor se pregunta si será el diseñador del dispositivo o el usuario. En el primer caso, no está muy claro que uno se sienta seguro sabiendo que una empresa ha decidido que según ciertas circunstancias tu muerte es la consecuencia más “ética”. Por otra parte, si decide el usuario, la situación es prácticamente como ir ahora mismo en tu coche y no hacer ni el más mínimo esfuerzo por desviarte o desviarte y sacrificarte por otro.

Es una situación muy complicada. El autor señala que habría que examinar primero los dilemas éticos que se plantean en medicina y evaluar las soluciones que allí se aplican. Como bien dice, si la decisión es de los diseñadores se está evitando que el usuario tome unas decisiones que son muy complejas y personales. Si eres tú el que decides no girar el volante, al menos habrás decidido tú y la responsabilidad será totalmente tuya.

Me resulta una situación especialmente compleja, porque como decía aquel filósofo, inventar una tecnología es inventar el accidente de esa tecnología. Si inventar el avión implica inventar el accidente de aviación, el coche autónomo implica el accidente de un coche autónomo que toma decisiones y resuelva problemas que ni siquiera nosotros tenemos claro cómo resolver (y que, como buen accidente, incluso podría equivocarse). Quizá sí es cierto que lo mejor sea permitir que cada usuario decida según su conciencia. O la sociedad podría decidir en su conjunto que una opción es mejor que otra y establecer que todos los coches deben hacer lo mismo.

Pero por desgracia en ese segundo caso, estamos hablando por ahora de un experimento mental. Cada uno, ahora mismo, sentado frente a su mesa o leyendo este texto en un móvil, puede tomar una decisión que considere más o menos firme. Cambia un par de detalles en el escenario (no es un niño, es un adulto) y muchas decisiones podrían virar, y la solución acordada anteriormente ya podría no valer. Y eso sin contar que probablemente años y años de legislación en zonas afines (en qué sentido es uno responsable o no de ciertas consecuencias) deberían tenerse en cuenta en este tipo de casos. Estoy seguro de que muchas disciplinas, ajenas a la tecnología y la ética, podrían aportar puntos de vista interesantes y necesarios.

Por lo demás, concluye:

None of this simplifies the design of autonomous cars. But making technology work well requires that we move beyond technical considerations in design to make it both trustworthy and ethically sound. We should work toward enabling users to exercise their autonomy where appropriate when using technology. When robot cars must kill, there are good reasons why designers should not be the ones picking victims.

Evidentemente, el coche siempre podría lanzar un dado. Sospecho que la solución estocástica no contentaría a nadie.

Continuar leyendoLicencia para matar

Ceci n´est pas une chat

Compartido simplemente por esta imagen.

unechat

Vale, también comparto Is Hello Kitty not a cat? porque trata la dificultad de determinar qué se está diciendo sobre la naturaleza, como si existiese en la realidad, de un ser totalmente inventado. Hello Kitty es un ente dibujado. ¿Pero qué se supone que representa ese dibujo si existiese un referente real de lo que sea que es Hello Kitty considerando que las afirmaciones ontológicas sobre Hello Kitty se han hecho en un idioma totalmente diferente rebosante de sutilezas propias que se nos escapan a los que hablamos otra lengua?

Déjenme un par de días y estoy seguro de que podré escribir una pregunta todavía más enrevesada.

Y ahora, una cita que he sacado de una cita:

I read an article with excerpts from the designers’ interviews, and the first designer (i.e., the creator of Kitty) simply created this character because she likes cats and thought it would be fun if those cats around her could chat, eat ice cream, and go shopping. This explains everything. Although I have not read the original article in the LA Times, yet I think this is just an overreaction of people. There is no need to discuss whether it is a cat or a girl, because it is, in the end, one lady’s imaginary character based on a cat. I don’t know why the first designer’s words were not quoted anywhere.

Continuar leyendoCeci n´est pas une chat

The Simpsons and Their Mathematical Secrets, de Simon Singh

Siento que en este libro, donde se combinan el mundo de los guionistas con inclinaciones matemáticas de Los Simpson y el mundo de la matemática en sí, no hay ni lo suficiente de Los Simpson ni lo suficiente de matemática. Vive así es una zona intermedia donde parece intentar no decidirse, no sea que el equilibrio se rompa y el material se incline demasiado en un sentido o en otro . Tale son los rigores de la vida comercial de los libros.

No me malinterpreten.

No se trata de una cuestión de no ser interesante y no estar bien contado. Todo lo contrario, Simon Singh se explica muy bien y es capaz de dar buenas charlas matemáticas. Y cuando se centra en los guionistas (algunos de los cuales tienen estudios avanzados en matemática), logra situar su interés por la matemática en el contexto de una persona real que en su cabeza logra combinar esas etéreas abstracciones con la capacidad de concebir esotéricos chistes que aparecerán durante una fracción de segundo en la pantalla (y que los más devotos deberán cazar con el mando a distancia).

Tampoco es que los temas matemáticos estén mal. Son interesantes y se salen incluso de lo habitual en un libro de divulgación matemática. Los dados no conmutativos (que, a pesar de mis esfuerzos, no pude comprar), por ejemplo, o la explicación de las complejidades de Pi.

Pero la impresión final es esa que he dicho de un poco “vale, bueno, un libro sobre Los Simpson y la matemática”. Da mucho la impresión de que Los Simpson no dejan de ser una excusa. Lo que queda en evidencia en los capítulos finales, cuando se habla de Futurama, la serie que sí está repleta de referencias y chistes matemáticos, sobre la que podría escribirse miles de palabras sobre casi cada episodios.

Pero Futurama no es famosa como Los Simpson, y por tanto aquí hay un libro que podría ser mejor de lo que es. Lo que no sé es si ese libro mejor sería sobre Los Simpson o sobre la matemática.

Continuar leyendoThe Simpsons and Their Mathematical Secrets, de Simon Singh

La levedad de la medida

No medimos lo que queremos medir. Medimos lo que podemos medir. Y cuanto más fácil resulta medirlo, más dispuestos estamos a hacerlo. Luego confundimos lo que queríamos medir con lo que podemos medir, edificando un laberinto de cifras, cambios y porcentajes. Finalmente nos perdemos alegremente en ese laberinto, creyendo que cada paso nos lleva más cerca de la salida, fingiendo que allí se encuentra lo que buscamos.

De tal suerte, los números que cribamos se acaban convirtiendo en un tamiz incapaz de retener lo que realmente valorábamos.

O mejor leen el cómic:

medida

Continuar leyendoLa levedad de la medida

Hora de aventuras

No digo que sea la mejor serie de animación, que es fácil. Digo que es la mejor serie de televisión del momento. No digo con ello que la serie sea perfecta, porque no es así. Es más, en ocasiones tiene detalles que me hacen desear una suerte horrible a los guionistas (y, por supuesto, el doblaje español es una abominación), cuando no están a la altura de sí mismos. Pero cuando Hora de aventuras es buena, se eleva muy por encima de lo que es fácil ver en televisión.

Hay que admitir, claro, que la serie parte con la ventaja de ser animación y con episodios que duran apenas 10 minutos. Eso le regala una libertad creativa y temática que series “serias” no se pueden permitir fácilmente. Si los personajes supuestamente protagonistas, Jake el perro y Finn el humano, no necesitan aparecer en el episodio, pues no salen y listo, y la serie se dedica con alegría a explorar el mundo de algún secundario. Y como es animación, y de fantasía, dentro de su humor alocado, febril y surrealista, se concede momentos de ternura asombrosamente eficaz, como en uno de los episodios más recientes donde durante unos breves segundos sabemos de la culpa de un padre por no morir antes que su hija.

Como dice Sam Keeper en Cha-Change! Formal Experimentation in Adventure Time, la serie se lo puede permitir porque ante todo ha cultivado el fondo emocional de los personajes. Más allá del trasfondo fantástico (la serie transcurre 1000 años en el futuro en un mundo poblado por criaturas fantásticas producto de una guerra terrible, donde sólo queda un ser humano: Finn), los guionistas se han cuidado de dotar a los personajes de dobleces, contradicciones, virtudes y defectos, y de una rica urdimbre de relaciones y encuentros entre ellos. Por ejemplo, Finn y Jake podrían ser simples héroes, pero en más de una ocasión se dejan llevar por el egoísmo o el trauma.

Se ve especialmente claro en el caso de la Princesa Chicle, una niña de 18 años, pero que lleva en ese estado casi 1.000 años, hecha de chicle que gobierna un reino donde todas las criaturas son de dulce. Es una persona joven que puede disfrutar, reír y cantar, pero es también un jefe de estado que en ocasiones debe tomar decisiones muy difíciles, aceptar responsabilidad por actos apresurados del pasado o que simplemente usa el poder de forma absurda a indiscriminada, dejándose llevar por los celos o la furia.

La Princesa Chicle es una investigadora genial capaz de conjurar inventos de todo tipo. Pero también se deja llevar por la hibris e inventa, por la simple razón de que se podía inventar y sin estar dispuesta a reconocer limitaciones personales, aquello que no debería existir. Puede ser infinitamente fría y calculadora, decidiendo en un instante quién debe vivir o quién debe morir (para ella, el problema de The Fat Man no existe), pero cuando se siente amenazada puede dejarse llevar por la histeria. Normalmente es tranquila y bondadosa, pero cuando debe pelear cuerpo a cuerpo se convierte en una guerrero feroz y sin misericordia.

Y es así como los secundarios van apilando complejidades y matices.

Sam Keeper comenta en su artículo dos episodios recientes especialmente destacables: “Ocarina” y “Food Chain”.

“Ocarina” ejemplifica el aspecto de la relación entre los personajes. Jake el perro, compañero de Finn y uno de los héroes de la serie, aparece representado como un padre ausente, que básicamente no se preocupa de sus hijos. Jake es en el fondo un niño grande, que prefiere las emociones y las aventuras a pensar en los problemas de cada día. Él hace las cosas simplemente porque en ese momento apetecía hacerlas.

Cada hijo reacciona de una forma diferente, pero uno de ellos, Kim Kil Whan, el que es tan responsable como irresponsable es su padre, decide poner patas arriba el mundo de Jake, comprar la casa en la que vive con Finn, echarlos de ellas y, eso espera, obligarle así a madurar.

Hay muchos detalles, pero lo interesante del episodio es cómo resuelve la situación. Finn (que es un niño de 13 años, recordemos) y Jake llegan a la conclusión de que Kim Kil Whan simplemente quiere el amor de su padre. Lo cuál es cierto, pero irrelevante: no hay duda de que Jake ama a sus hijos. Lo que quiere es algo más. Quiere que su padre sea mejor de lo que es, en todos los aspectos, que acepte sus responsabilidades y todo lo que hizo. Pero en lugar de una epifanía final en la que Finn y Jake reconocen ese hecho, es Kim Kil Whan el que comprende que no hay nada que hacer.

Al final, el pobre Kim Kil Whan acepta la ocarina contrahecha e inútil que su padre ha “fabricado” con amor y, en uno de los finales más agridulce de la serie, concluye que Jake es un buen tipo, que no pretende hacer mal a nadie, pero que jamás será el padre que él quiere. Jake nunca será Kim Kil Whan. Y Kim Kil Whan jamás será Jake.

El otro gran pilar de la serie es estar dispuesta a experimentar consigo misma, con las ideas, a levantar un tremendo edificio metatextual, donde las metáforas se manifiestan de forma real o la realidad es totalmente metafórica. Hora de aventuras no tiene problemas es mostrar un episodio que es totalmente un problema filosófico y luego cambiar a otro episodio puramente emocional. De hecho, puede hacer el cambio en apenas unas pocas escena, mientras explora, como pasa en el caso de Lemonhope, los límites de la responsabilidad personal: ¿debes sacrificar tu libertad para ayudar a aquellos que sacrificaron su libertad para liberarte a ti? ¿Irte y vivir tu vida o volver a rescatarles? ¿Cuál de las dos opciones es la que se ajusta más a lo que querían?

Pero no sólo eso, también está dispuesta a cambiar el tono narrativo, el tipo de dibujo, a invertir el sexo de todos los personajes para comentarse a sí misma y las limitaciones de las historias de fantasía que está contando.

All of this makes it possible for the show to experiment with metatextuality, drastic style shifts, and more abstract narratives. And, bless their hearts, the Adventure Team has taken those opportunities and run with them. Between highly metafictional genderflop episodes, meditations on the nature of fanfiction, weird interconnected multi-thread narratives, and whole episodes animated and written by auteur directors, the show cheerfully has dived off the deep end numerous times secure in the knowledge that the groundwork laid in other episodes with respect to the characters and the bonds that connect them will act as a safety net to catch them.

Y ahí entra “Food Chain”, uno de los episodios animado totalmente por alguien externo al equipo del programa (el otro es “A Glitch is a Glitch”, animado por el gran David OReilly) .

Creado por Masaaki Yuas, “Food Chain” explora la cadena alimenticia, pero lo hace transformando, en una sucesión rápida de imágenes casi alucinatoria ,a Finn y Jake en orugas, flores, pájaros y bacterias, mostrando cómo se ve el mundo desde cada uno de esos niveles (las transformaciones arrancan con una divertida versión del aria de la reina de La flauta mágica). Tiene una estructura circular y un ritmo de ametralladora. Termina con una extraña iluminación mística, que eleva la cadena alimenticia a ley fundamental del universo. Pero al mismo tiempo, se cuestiona si tu posición en dicha cadena es realmente tu destino.

Los protagonistas mueren en varias ocasiones, sólo para reencarnarse inmediatamente en otro nivel. Pero el Finn pájaro (siempre hambriento) no se comporta como el Finn planta (con su visión de un mundo exterior que se mueve a toda velocidad) ni como el Finn oruga (dispuesto a comer hojas y a casarse). Cada Finn es un Finn diferente, siendo, curiosamente, Jake el que se niega a participar por completo en el juego, rechazando en más de una ocasión su posición en la cadena.

Citando otra vez:

Adventure Time is thus capable, like Finn and Jake, of going through countless changes that are visible precisely because they work upon the relationships so well established elsewhere. The nature of the show transforms with the transformation of its aesthetics and focus, but we can understand and recognize that transformation because of the baseline that we perceive and compare to the alternative versions. It’s a delicate dance, and the show is all the more worthy of praise for how well it travels each of its transformative steps.

De Hora de aventuras no sólo me gusta el humor, la animación, la exuberante fantasía, sino también me gusta porque puede llegar a ser inteligente y sutil, porque en general reconoce que no hay soluciones simples a los problemas y que la vida humana se vive en gran parte en la ambigüedad. Donde otras series hubiesen condenado unilateralmente a Jake o a Kim Kil Whan, uno por ser un viva la vida o al otro por ser demasiado serio, Hora de aventuras no tiene problemas en reconocer que la relación entre los dos es complicada y que no hay una forma sencilla de resolverla.

En resumen, veo la serie porque me gusta. Pero también me gusta porque cuando la veo con mi hija luego tengo mucho de lo que hablar con ella.

Continuar leyendoHora de aventuras

Pi mecánico

Mechanical Pi – In memory of William Shanks es una curiosa instalación que recrea el cálculo mecánico del número Pi empleando la fórmula de Leibniz:

The mathematician William Shanks sacrificed years of his spare time to the decimal expansion of the irrational number pi by hand. In 1873 he published his handwritten calculations to the 707th digit. Much to his regret, in 1945, D.F. Ferguson proved that only the first 527 decimal places have been calculated correctly. Nowadays Shanks tedious manual task is done with the help of computer algebra, performing millions of steps in fragments of a second, while calculating billions of decimal places.

Mechenical Pi – In memory of William Shanks from Florian Born on Vimeo.

Continuar leyendoPi mecánico