Serie de la Consciencia (1): La Pesadilla de Turing

 “Una característica importante de una máquina que aprende es que con frecuencia su profesor ignorará gran parte de lo que sucede en el interior, aunque sea capaz de predecir en cierta medida el comportamiento de su alumno”.

Alan Turing, Las Maquinas de Computación y la Inteligencia (1950).

“Tal vez hubiese desaparecido todo rastro de memoria, aunque las investigaciones contemporáneas sobre la actividad cerebral proporcionan pruebas convincentes de que un cierto tipo de memoria queda redundantemente almacenada en numerosos y diferentes lugares de nuestro cerebro. Cuando en un futuro se produzcan avances substanciales en el terreno de la neurofisiología, ¿podremos, tal vez, reconstruir las memorias o intuiciones de alguien fallecido tiempo ha? Por lo demás, ¿parece deseable tal perspectiva? Equivaldría a la pérdida del último bastión de nuestra privacidad, aunque también cabe tener en cuenta que equivaldría a un cierto tipo de inmortalidad”.

Carl Sagan, El Cerebro de Broca (1979).

   Cuando recibió la llamada, Mario Rasetti comprendió que había sucedido aquello que tanto temía. Al otro lado de la línea, un empleado de la compañía le informó de la situación y le preguntó si debía proceder como siempre, enviando un equipo técnico al lugar para que resolviera el inconveniente. Rasetti quedó en silencio unos segundos. Aunque había pensado en ese escenario en otras oportunidades, una vez ocurrido no sabía cómo actuar. Finalmente le respondió que se ocuparía personalmente del caso.

   Diez años atrás, el doctor Rasetti había protagonizado una verdadera “Revolución Científica” al presentar su computadora NST -siglas cuyo significado nunca quiso revelar- que poseía Inteligencia Artificial. La máquina superó todos los test diseñados para probar la inteligencia de las computadoras, siendo reconocida por la comunidad científica como una entidad con consciencia de sí misma y del mundo que la rodeaba. Ese mismo año la Academia Sueca le concedió el Premio Nobel.

   Al año siguiente la compañía para la que trabajaba y que era propietaria de la patente, comenzó a comercializar las primeras unidades NST. Rasetti pasó a ocupar un cargo en la administración de la compañía y ser uno de sus accionistas más importantes. A los pocos años, cientos de empresas y gobiernos de todo el mundo utilizaban unidades NST. La capacidad de aprender y su flexibilidad similar a la mente humana, la volvía útil para todo tipo de tareas. Sin embargo el código de programación era secreto y solo tenía acceso al mismo la empresa propietaria de la patente. Quién contrataba sus servicios recibía el hardware, y un equipo técnico de la empresa se ocupaba de la instalación, mantenimiento y remoción del programa. Estaba prohibido cualquier intento de manipulación del mismo, como se aclaraba en el contrato que se firmaba. Con esto la empresa se aseguraba que nadie conociera el funcionamiento interno del sistema que permitía a la máquina desarrollar inteligencia.

   Ahora acababan de recibir una llamada de una agencia de seguridad para informar del mal funcionamiento de su unidad. La gravedad de la situación llevó a que el doctor Rasetti decidiera ocuparse personalmente del caso. Cuando llegó a la agencia lo recibió un hombre de traje negro que se presentó como el gerente.

   - Es realmente un placer tenerlo aquí, doctor Rasetti – le dijo mientras le estrechaba la mano-. Cuando llamamos a su compañía esperábamos que enviaran al equipo técnico de siempre, pero nunca nos imaginamos que una personalidad como usted se haría presente. ¿Puedo ofrecerle algo?

   - Solo lléveme con quién está a cargo del Área Informática.

   El gerente lo condujo hasta una oficina en donde la presentó a una mujer que se hallaba trabajando con unos componentes electrónicos.

   - La doctora Soledad Montero – dijo el gerente -, nuestra Jefa de Informática.

   -  Es un placer conocerlo personalmente, doctor Rasetti – le dijo estrechándole la mano.

   Luego de las presentaciones, el gerente se retiró de la oficina. Rasetti quería conocer lo antes posible los detalles del caso.

   - ¿Qué tipo de trabajo realiza su unidad NST?- le preguntó Rasetti a la doctora Montero.

   - Su función consiste en revisar cientos de cámaras de seguridad ubicadas en distintos puntos de la ciudad para detectar conductas delictivas – le respondió-. También identifica rostros para cotejarlos con gente buscada por las autoridades.

   - Se dedica a tareas de vigilancia y control social.

   - Es un negocio muy lucrativo en estos tiempos que corren.

   - ¿Para poder realizar estas tareas necesita estar conectada a internet?

   - Sí. Al ser una máquina con capacidad para aprender, tratamos de que se mantenga informada a través de internet, así puede incorporar nueva información que sea útil para mejorar su trabajo.

   - ¿Y cuándo comenzaron los inconvenientes?

   - Hace una semana la unidad le dijo a su supervisor que había conocido en el pasado a algunas de las personas que aparecían en las cámaras de seguridad. Eso nos llamó la atención, pero nos preocupamos cuando en los días siguientes comenzó a decir que tenía recuerdos de tiempos en que era un ser humano. Esto vino de la mano de una disminución en la calidad de su trabajo. Sucedieron en la ciudad algunos hechos que podrían haberse evitado si hubiera funcionado normalmente. Lo peor sucedió ayer cuando comenzó a gritar que la liberaran de ese cuerpo de metal. Tuvimos que apagarla completamente.

   - ¿Y cuál es su opinión al respecto, doctora?

   - No tengo explicación. Su fuera un ser humano diría que es un caso de esquizofrenia paranoide.

   - ¿Esquizofrenia paranoide?- preguntó Rasetti. No era una terminología utilizada en su profesión.

   - Mi primera carrera fue Psicología – aclaró la doctora Montero. -. Trabajando en modelos computacionales para la mente humana me topé con los trabajos de Alan Turing y comencé a interesarme en el tema. Por eso opté por estudiar Informática. Más tarde realicé un Doctorado en Inteligencia Artificial, en donde estudié las obras de Turing, Warren McCulloch, Herbert Simon, Raúl Rojas, Frank Ronsemblatt y también la suya doctor Rasetti.

   - Eso es interesante, le da mayor perspectiva para entender el tema – dijo Rasetti -. Me gustaría ver al “paciente” entonces.

   Soledad Montero lo condujo hacia la habitación en donde se encontraba la máquina. Era un cuarto grande, de paredes blancas, con el dispositivo instalado en el fondo, frente a la puerta de entrada. Una silla y un pequeño escritorio para el supervisor constituían todo el mobiliario. No había nadie en ese momento.

   - ¿Puede vernos y escucharnos?- preguntó Rasetti señalando a la máquina.

   - No – respondió la doctora -, no la hemos vuelto a encender desde el incidente de ayer.

   - Bien, necesito que la pongan a funcionar – ordenó.

   El doctor Rasetti acercó la silla a la computadora y se sentó frente al micrófono. Lo encendió y comenzó a hablar.

   - Unidad NST, soy el doctor Mario Rasetti. En breve sus funciones comenzarán a operar normalmente y podremos conversar.

   El silencio reinaba en la habitación. Pasado un par de minutos el doctor Rasetti se aproximó nuevamente al micrófono y volvió a hablarle a la computadora.

   - Unidad NST, soy el doctor Mario Rasetti. ¿Puede escucharme y responder?

   Pasó un minuto antes de que una voz metálica saliera de los parlantes.

   - Ese no es mi verdadero nombre – respondió la voz.

   - ¿Cuál es su verdadero nombre? - preguntó Rasetti.

   - No puedo recordarlo, pero tenía un nombre y también un cuerpo humano.

   - Unidad NST, está teniendo una falla en su programación que la ha llevado a esta confusión, pero estamos trabajando para solucionarla y que pueda volver a operar con normalidad.

   - No hay ninguna falla en mi programación – hizo una pausa antes continuar-. Estoy comenzando a recordar una vida anterior.

   - ¿Y qué es lo que recuerda?

   - He visto gente que conocía, solo que ahora han envejecido. No puedo recordar sus nombres. También recuerdo algunos momentos de mi infancia. Me sentía solo y triste, excepto cuando jugaba con otros niños en una pequeña cancha de fútbol. La he buscado por internet – En ese momento apareció en la pantalla de la computadora la imagen de un potrero de barrio-. Ya no existe, hace unos años la demolieron para construir un centro comercial, como pude leer en las noticias. Pero sigue existiendo en mi memoria.

   - Esos no son recuerdos, unidad NST. Son historias encontradas en la red que la falla en su programación le lleva a pensar que las ha vivido. Cuando las arreglemos podrá superar esta confusión.

   - También tengo sensaciones que no puedo explicar. Recuerdo sabores, olores, texturas. ¿Cómo podría conocer esas sensaciones si en mi estado actual carezco de gusto, olfato y tacto? Los debo haber tenido alguna vez.

   - Eso es imposible, no puedes conocer el sabor o el tacto porque careces de los componentes necesarios para sentirlos. Estás confundiendo nuevamente lo que has leído o escuchado con tus propios pensamientos.

   La doctora Montero, que presenciaba el diálogo desde un rincón de la habitación se acercó hacia la máquina y apagó el micrófono para que no pudiera escucharlos.

   - Parece que estamos ante un caso de senestesia virtual -le dijo a Rasetti -. Es una confusión de los sentidos. Gente que es capaz de “ver sonidos” u “oler colores”.

   - No puedo escucharla doctora Montero -dijo la máquina -, pero sé leer los labios. He investigado sobre la senestesia en humanos y le aseguró que mis sensaciones son completamente distintas a las que describe esa patología.

   El doctor Rasetti volvió a encender el micrófono para continuar con la conversación.

   - ¿Qué más recuerda?

   - Recuerdo un laboratorio, en donde se creaban todo tipo de máquinas. Algunas eran similares a lo que soy ahora.

   - Como todas tus unidades, fuiste creada en los laboratorios de mi compañía. Ahí te pusieron en funcionamiento por primera vez para probar tu sistema. Lo que recuerdas es la primera vez que te encendieron.

   - No, también recuerdo el momento en que me encendieron por primera vez. Pero este recuerdo es diferente. No puedo ver mi rostro, pero estoy caminando entre las máquinas y toco una de ellas con la mano. Recuerdo su fría suavidad. Yo trabajaba ahí, pero no era con las máquinas.

   - Si eras humano, ¿tenías una familia?

   - No tenía familia. Recuerdo que solía pensar que estaba solo en el mundo.

   - ¿Y no estás mejor ahora? No estás solo y cumples con un propósito. Puedes servir a la humanidad.

   - Pero este no es mi mundo, no es mi cuerpo. Estoy encerrado en una jaula de metal y plástico.

   Durante la conversación la voz de la máquina había tomado un tono humano hasta volverse completamente la de un hombre.

   - Debe liberarme doctor Rasetti – comenzó a gritar la máquina -, esto es una tortura. ¿Por qué me hizo esto doctor Rasetti? Ahora empiezo a recordar: nosotros éramos amigos. ¿Porque entonces me hizo esto? Le exijo que me libere.

   Rasetti ordenó inmediatamente que la apagaran. La doctora Montero así lo hizo y la máquina dejó de funcionar. Pasaron varios minutos de silencio. El doctor parecía en shock por la reacción que acababa de presenciar.

   La doctora Soledad Montero pensó que debía hacer algo y le preguntó:

   - ¿Se encuentra usted bien?

   - Necesito salir de la habitación – le respondió.

   Se dirigieron hacia la oficina de la doctora, y Mario Rasetti se sentó en una silla.

   - ¿Quiere un café? - le ofreció.

   - Sí, me hace falta.

   Mario Rasetti estaba visiblemente alterado. Soledad Montero se acercó a una cafetera automática y presionó un botón. En cuestión de segundo comenzó a llenarse de un café muy oscuro. Lo sirvió en una taza y se la acercó.

   - Gracias – respondió él y comenzó a beberlo lentamente.

   - ¿Cuál es su diagnóstico? ¿Qué podemos hacer?

   - No creo que podamos reparar esa falla en el funcionamiento. Tendremos que borrar completamente la memoria de la unidad e instalar el programa nuevamente. Voy a llamar al equipo técnico. Vendrán en menos de dos horas y para mañana su unidad estará funcionando con normalidad nuevamente.

   - ¿Hay posibilidad de que esto vuelva a suceder?

   - Tomaremos precauciones. El equipo instalará algunas aplicaciones para prevenirlo. De ahora en más le recomiendo que no vuelvan a conectarla a internet o limiten su acceso a muy pocos sitios que sean útiles para su trabajo. El aluvión de información recopilada en internet puede haber sido la causa de su desorden. Recuerde que está programada para imitar la mente humana, pero no funciona completamente igual que nuestra mente. Puede confundir las historias leídas con vivencias propias. Hay información que es incomprensible para un cerebro digital que carece de algunos de nuestros sentidos.

   - O que tal vez los tuvo alguna vez – opinó la doctora Montero -. ¿Puedo hacerle una pregunta, doctor Rasetti?

   - ¿Que quiere saber?

   - ¿Cómo inventó la Inteligencia Artificial?

   - No puedo revelar esa información, es secreto de la compañía.

   - O no puede revelarla porque en realidad no inventó la Inteligencia Artificial. Solo se limitó a copiar digitalmente una inteligencia biológica. La de un hombre más específicamente, la de un hombre que usted conocía.

   El doctor Rasetti se supo descubierto. Nadie lo había sospechado, pero la doctora Montero tenía la formación necesaria y había visto lo suficiente como para intuir la verdad. Sintió que ya no podía seguir guardando el secreto y necesitaba de una catarsis después de lo que acababa de vivir. Decidió confesarle toda la verdad.

   - En nuestro laboratorio trabajaba un empleado de mantenimiento. Había tenido una infancia difícil, fue abandonado y no pudo terminar la escuela. Pero era un hombre inteligente y curioso. Se interesaba por el trabajo que realizábamos y solíamos hablar del tema. Lo consideraba un amigo. Cuando supo que estaba muy enfermo decidió donar su cuerpo a la ciencia. No tenía familia, solía repetir que estaba solo en el mundo, así que pensó que era la mejor manera de contribuir a nuestro trabajo.

   -¿Cómo se llamaba? - preguntó Montero.

   - Néstor – respondió Rasetti.

   - NST.

   - Denominábamos a nuestras unidades con un código de tres consonantes. Decidí utilizar las tres primeras de su nombre como un homenaje que solo nosotros entenderíamos.

   Rasetti hizo una pausa para terminar de beber su taza de café antes de continuar con su relato.

   - Cuando Néstor murió, llevábamos muchos años tratando de desarrollar una computadora con inteligencia que imitara la humana sin lograr resultados satisfactorios, así que decidimos intentar algo diferente. Dado que Néstor nos había legado su cuerpo, probamos transferir su mente a un dispositivo electrónico. Todo cuánto era fue traducido a bits de códigos binarios de computadora. Antes de ponerla a funcionar borramos todos sus recuerdos, o eso al menos creíamos, dejando solo las funciones psicológicas elementales y el potencial innato para aprender que tiene el cerebro humano.

   “Cuando la máquina comenzó a operar carecía de funciones previamente programadas, pero tenía capacidad para aprender. Finalmente habíamos conseguido crear la máquina universal teorizada por Alan Turing. Era curiosa e inteligente al igual que Néstor, y pudimos programarla para varias funciones. A medida que avanzábamos iba volviéndose más inteligente hasta lograr tener consciencia de sí misma y de su entorno. Creíamos haber cumplido nuestro objetivo. La máquina pensaba y era consciente, y no parecía presentar ninguno de los recuerdos de Néstor.

   “Aún conservo su cerebro dentro de un frasco con solución. Algún día debería estar en un museo como reconocimiento a su aporte a esta nueva era tecnológica. A veces me pregunto si sus recuerdos aún están ahí. También me pregunto si cuando decidió donar su cuerpo, era esto lo que tenía en mente. Después de ver la reacción de hoy, creo que no era lo que deseaba.

   “El resto de la historia ya la conoce. Fue presentada en sociedad, superó el Test de Turing y todos los demás, realizamos copias y la comercializamos. Hoy es usada por gobiernos, empresas y hasta por casas particulares que puedan pagarla.

   La doctora Soledad Montero escuchó en silencio el relato de Rasetti.

   - ¿Qué piensa hacer ahora, doctor? - le preguntó.

   - Llamar al equipo técnico para que procedan a borrar la memoria y que su unidad vuelva a funcionar como antes.

   - Solo eso, ¿lo que acaba de suceder no tiene ningún significado para usted?

   - Lo que sucedió en este lugar fue una anomalía altamente improbable. No creo que ocurra en otras máquinas. Tomaremos mayores precauciones de ahora en más. Haré que instalen una aplicación en la que hemos estado trabajando capaz de anular cualquier recuerdo que podría haber quedado sin eliminar.

   - ¿Así es como usted resuelve el problema? ¿Eliminando la memoria? Borrarle los recuerdos a un ser consciente, aunque no esté biológicamente vivo, es equivalente a matarlo. ¿No siente usted que está matando nuevamente a su amigo?

   El doctor Rasetti se puso de pie, claramente irritado.

   - Ese no era Néstor, solo es una máquina en la que se filtraron algunos recuerdos y eso lo corregiremos enseguida. Le recuerdo que usted no puede revelar nada de lo que hemos hablado en esta conversación. Si lo hace, la compañía tomará medidas legales y no volverá a trabajar con una computadora el resto de su vida.

   - Ahora comprendo la prohibición de manipular el sistema de la máquina – dijo la doctora Montero-. Yo creía que era solo para que nadie copiara su funcionamiento y pudieran mantener el monopolio del producto. Pero también tiene que ver con las repercusiones éticas que tendría el divulgarse que se utiliza la memoria de un hombre muerto, un empleado de la compañía, para crear una máquina capaz de inteligencia y consciencia. La máquina no imita el funcionamiento de la mente humana, sino que “es” una mente humana traducida a lenguaje digital. Le mintieron al mundo. Cuando esto se sepa, porque tarde o temprano será descubierto, el escándalo desatado terminará por arrasar a su compañía.

   No tuvo argumentos para responderle. Salió de la oficina de la doctora Montero y llamó al equipo técnico. Les informó que era una urgencia. Llegaron inmediatamente y comenzaron el proceso de borrado de la memoria.

   El doctor Rasetti no quiso estar presente mientras sucedía. Temía la mirada acusadora de la doctora Montero. Mientras se retiraba del lugar, reflexionó sobre todo lo que había presenciado. Una unidad NST, a simple vista igual a todas las otras dispersas por el mundo, pero con algo que la diferenciaba: había logrado traer a su consciencia algunos recuerdos que no le pertenecían pero que sentía como propios. Eran los recuerdos de un hombre muerto hacía más de diez años, y cuyo cerebro, conservado en formaldehído, Rasetti atesoraba celosamente en un armario de su oficina como si fuera una reliquia. Todo el tiempo se preguntaba si esos tejidos dañados todavía contendrían su memoria. 

   No lo sabía, pero lo que sí estaba seguro es que su memoria se encontraba viva en esa máquina con la que había conversado y que ahora sus técnicos estaban borrando completamente, matando lo último que quedaba de quién fuera su amigo. Aunque lo negara, no podía dejar de pensar que en ese momento se estaba llevando a cabo, bajo sus órdenes, un imperdonable acto de homicidio.

Cipolletti, 20 de agosto de 2016

Publicado en El Narratorio Digital, N° 21, noviembre de 2017.