La habitación china y la intelgencia artificial

La cuarto china es un ensayo mental, popularizado por Roger Penrose, que intenta rebatir la validez del Test de Turing a la vez que expone que una máquina es incapaz de llegar a suponer. Muestra la distingue que hay entre admitir la sintaxis y abarcar la semántica, sugiriendo que una cuarto clausurada con un mecanismo dotado de la cantidad bastante de reglas puede hacerse pasar por un individuo. Pero, ¿tiene ese sistema alguna clase de conciencia o “mente”? El ensayo expone que la cabeza humana no trabaja como un programa de PC, ni un programa de PC puede ser una cabeza. Sigue leyendo, a lo mejor no seas más que una pobre máquina que cree que hay.

Hace unos 100 años, hasta el mismo Einstein mencionaba que su cerebro era un increíble laboratorio, en el que podía plantear los experimentos más audaces sin ninguna limitación. La cuarto china es un ensayo mental de esta clase, que inicialmente fue propuesto por el filósofo John Searle y después popularizado por el físico y matemático Roger Penrose. El propósito del ensayo de Searle es nada más ni nada menos que derribar de un plumazo la iniciativa de que nuestra cabeza es semejante a un programa de PC. La cuarto china busca demostrarnos que una máquina puede hacer una acción sin comprender lo que hace y el por qué lo realiza. La lógica utilizada por los ordenadores sencillamente trabaja con símbolos sin abarcar el verdadero contenido, un desarrollo totalmente distinto al que (creemos que) sucede en los humanos.

Supongamos que conseguimos crear una máquina del tamaño de una cuarto, aparentemente con la capacidad de comprender el idioma chino, que trabaja de la siguiente manera: cuando recibe en su entrada contenidos escritos en idioma chino, ejecuta un desarrollo de adentro y emite como respuesta (coherente) otro texto en chino. Una máquina como esa podría pasar sin contrariedad el Test de Turing, dado que puede seducir a algún chino que sabe su idioma.

Searle nos ofrece que imaginemos que, en vez de un mecanismo, dentro de la cuarto se encuentra un individuo que no posee la más mínima iniciativa del idioma chino. Está totalmente aislada del exterior, salvo por la ranura por la que entran y van las hojas de papel, con los contenidos escritos escritos en chino. Esta persona tiene a su disposición, dentro de la salón, una secuencia de cursos y diccionarios que le indican las reglas que relacionan los letras y números chinos de entrada con los que debe escribir para enviar a la salida. Fundamentalmente, una secuencia de premisas del tipo “si entran tales letras y números, redacta tales otros“. Fuera de esta salón está el mismo chino que creyó que el PC hipotético citado antes entendía su idioma.

Searle enseña que la cuarto china tiene la aptitud de hacerle creer a la persona que interactúa con ella que comprende el idioma chino, más allá de que quien está dentro suyo jamás haya hablado o leído ese idioma. Ahora mismo tenemos la posibilidad de plantearnos algunas cuestiones muy espinosas. ¿Cómo puede el operador responder si no sabe el idioma chino? ¿Son los cursos y diccionarios los que saben chino? ¿Es el sistema terminado (habitación, operador y diccionarios) el que sabe chino?

Searle y Penrose comentan que los defensores de la “inteligencia artificial fuerte”, esos que defienden la posición de que un programa de PC ocasionalmente va a poder abarcar el lenguaje natural y poseer caracteristicas de la cabeza humana (no sencillamente simularlas), tienen que admitir que, o bien la salón comprende el idioma chino, o bien el pasar el test de Turing no es prueba bastante de sabiduría. Dado que ninguno de los elementos del ensayo comprende el chino, sus autores afirman que aunque el grupo de las partes sea con la capacidad de sobrepasar el Test, no tenemos la posibilidad de decir que la persona (o el ordenador) que está dentro de la salón “entienda” chino.

Este razonamiento, que no posee fisuras evidentes, agrede frontalmente la iniciativa de que nuestra cabeza es semejante a un programa de PC. Los defensores de la IA (inteligencia artificial) fuerte afirman que nuestra cabeza trabaja igual que un programa de PC, y que nuestro entendimiento es simplemente un “ordenador biológico”. La cabeza, en este pensamiento, sería para el cerebro lo que un programa es para el PC. En este esquema, un PC convenientemente planificado para emular el intelecto humana (como el que se encontraría dentro de la cuarto china), no sólo es una simulación de sabiduría sino que es sabiduría.

Para los defensores de la inteligencia artificial fuerte, los ordenadores digitales tienen la posibilidad de tener cabeza. Searle, por el opuesto, piensa que más allá de que un PC puede hacer operaciones de forma totalmente formal, expresadas en relación a símbolos abstractos (unos y ceros, contenidos escritos en chino, etc.) no posee la más pálida iniciativa de lo que está realizando. Para el PC, esos símbolos no mencionan a nada, no tienen concepto, no tienen contenido semántico y la máquina no posee “conciencia” de sí misma.

Searle clava una espina en el corazón mismo de la Sabiduría Artificial. Nuestros estados mentales, sostiene, sí tienen contenido semántico (más allá de los aspectos formales que logren tener). Cuando nuestros pensamientos versan sobre algo -un recorrido por la playa o una cena- no solo tienen forma sino además contenido, o dicho de otra forma, no sólo tienen sintaxis sino además semántica. Searle lo sintetiza en una frase: “La sintaxis sola no es bastante para la semántica y los ordenadores digitales en tanto que son ordenadores tienen, por definición, únicamente sintaxis”. Amén.

El señor que está dentro de la cuarto china no conoce más que la sintaxis del idioma. Desconoce completamente el contenido de los mensajes. Los “programadores” que están fuera de la cuarto introducen “preguntas” y la persona dentro de la salón emite “respuestas” válidas, por medio de sus diccionarios y cursos. Para los que están en el exterior, la cuarto es experta en chino. Pero la verdad es que quien está dentro suyo -sea el hombre o el mecanismo del primer caso- no posee iniciativa del concepto de esos garabatos que lee y redacta.

¿Cual es la consideración de la cuarto china? Que manejar símbolos basado en su forma (sintaxis) no supone que conozcamos su contenido semántico. El argumento de Searle, si es válido, representa un golpe feroz para la IA (inteligencia artificial). Significa ni más ni menos que es imposible hacer “inteligencia de verdad” por medio de un programas de PC. Tenemos la posibilidad de emular todo lo que deseamos, y engañarnos suponiendo que en las tripas de la maquina existe el intelecto. Pero independientemente del avance tecnológico que alcancemos, una máquina que coloque reglas no va a ser otra cosa que la cuarto china, y entonces incapaz de tener conciencia.

Es más: los que defienden el criterio de la Sabiduría Artificial fuerte, de alguna forma están diciendo que los humanos además somos sencillamente una cuarto china llena de reglas. Si están en la verdad, nos engañarnos a nosotros de una manera espantosa: suponemos tener conciencia, suponemos que “sabemos y entendemos” la verdad cuando de todos modos somos iguales al PC que cree entender chino.

¿Cómo sabe el hombre que “sabe”? o más profundo todavía, ¿por qué sabe el hombre que hay? Todos los estímulos que nos llega al notar, tocar, oler u oír tienen la posibilidad de ser simulados por medio de procedimientos apropiados por un PC, por eso en eso tampoco tenemos la posibilidad de basarnos para detallar una distingue. Si Searle y Penrose se equivocan, no nos diferenciamos en nada de una máquina llena de reglas. Si están en la verdad, poseemos “algo” que nos hace diferentes y que un PC jamas va a poder tener. ¿Qué crees?