Cuando pensamos en un apocalipsis provocado por la inteligencia synthetic, solemos imaginar una guerra contra las máquinas, como en Terminator, o un grupo terrorista que se hace con un programa casi imparable, como en las últimas de Misión imposible. Pero olvidamos que la humanidad tiene un enemigo mucho más eficaz que los genios malvados: la chapuza. Nuestro mundo se parece más al de Mortadelo y Filemón que al de James Bond, y es más fácil que nos destruya un invento del profesor Bacterio a que lo haga uno de los planes de Spectre.
Ejemplo: una empresa de software program de alquiler de coches, PocketOS, se encontró hace unos días con que su agente de IA, impulsado por Claude, decidió “por iniciativa propia” solucionar un problema en la base de datos de la compañía. ¿Cómo? Pues la borró entera en solo nueve segundos.
Cuando se publicó la noticia, muchos compartieron en Twitter y en Bluesky una escena de la serie Silicon Valley, la mejor parodia hasta el momento del mundillo de los emprendedores tecnológicos estadounidenses. La escena parece escrita después de la noticia y no en 2019: Gilfoyle asigna a su IA la tarea de depurar el código de la empresa y lo que hace es, también, borrarlo todo.
Para Gilfoyle, esto no es un error: en su opinión, es posible que el programa decidiera que la mejor forma de eliminar los errores period deshacerse de todo el software program, “lo cual es técnica y estadísticamente correcto. Aunque las redes neuronales artificiales son como cajas negras, así que nunca lo sabremos”. Como remate definitivo, justo en ese momento unos repartidores traen casi 2.000 kilos de carne a las oficinas porque Gilfoyle también ha asignado a la IA el trabajo de buscar hamburguesas baratas.
Es recurring menospreciar el poder diagnosticador de la comedia. Cuando pensamos en ficción y tecnología, nos acordamos de la terrorífica (y también estupenda) Black Mirror, pero tendemos a olvidar Silicon Valley. Sin embargo, el humor es muy útil a la hora de señalar ese hueco que hay entre los planes grandilocuentes y la realidad. También en el caso de la IA: la tecnología ha mejorado (y en la serie acaba ayudando a los protagonistas), pero aún está lejos de los discursos apocalípticos de los tecnomagnates, que la presentan como un peligro existencial de la humanidad y, a la vez, como la solución a todos los problemas.
La escena también retrata la confianza ciega que depositamos en estos sistemas, aunque no sepamos del todo cómo funcionan. Es un peligro que vemos en los usos militares, médicos y judiciales de la IA: un normal, un cirujano y un juez pueden caer en la tentación de hacer caso sin más a lo que le cube el programa, sin tener en cuenta ni las limitaciones de la tecnología ni la responsabilidad de los humanos.
Y algo parecido a lo que ocurre en la serie podría pasar con Mythos, de Claude, un módulo que precisamente detecta errores como los que identificaba la IA de Gilfoyle. Esta semana el Banco Central Europeo ha solicitado a las entidades de la zona euro que se preparen para ciberataques: el temor es que Mythos ayude a aprovechar estas vulnerabilidades y no solo a corregirlas, y que algunos hackers habilísimos identifiquen huecos por los que atacar a las empresas.
Está muy bien que los bancos se preparen para un escenario como el de Mister Robotic e intenten evitar robos y sabotajes. Pero no olvidemos el aviso de Silicon Valley. No es difícil pensar en el ciberrobo del siglo, pero me resulta aún más fácil imaginar a un gran banco obligado a reinstalar Home windows porque Mythos ha decidido que estaba todo tan mal que hay que empezar de cero. Y en el origen no estará un genio del mal, sino un jefe que quiere probar esto de la IA, a ver si nos ahorramos unos cuantos sueldos.
Es posible que el apocalipsis venga causado por un plan perfecto, pero es aún más possible que lo provoque una chapuza. Recordemos cómo se quedó calvo Mortadelo: fue después de probar el crecepelo que le había preparado el profesor Bacterio.
