Maquinas inteligentes, una teoría herética
No puedes fabricar una máquina que piense por ti. Es una opinión común y normalmente se acepta sin ser cuestionada. Este es el propósito de estas notas.
La mayoría de máquinas creadas con fines comerciales están diseñadas para realizar un tipo específico de trabajo, y para hacerlo lo más rápido posible. A menudo repiten una y otra vez las mismas operaciones sin cesar. Este hecho constituye para algunos un poderoso argumento en favor de la opinión expresada al principio. Para un lógico matemático no es un argumento válido, se ha probado que existen máquinas teóricamente posibles que hacen algo muy parecido a pensar. Por ejemplo, pueden comprobar la validez de una prueba dentro de los Principia Mathematica, o incluso indicar si una formulación en el mismo sistema es probable o improbable. En caso de que la formulación no sea ninguna de ambas cosas ciertamente la máquina no se comportará de forma satisfactoria pues continuará trabajando indefinidamente sin producir ningún resultado final, pero ésto no puede considerarse muy diferente a las reacciones de los matemáticos, los cuales, por ejemplo, han tratado durante cientos de años de decidir sobre la falsedad o no del teorema de Fermat. Para las máquinas de este tipo se necesita un tipo de argumento más sutil. Mediante el famoso teorema de Gödel, o alguno similar, se puede comprobar que aunque la máquina sugerida no consiga llegar a una respuesta en algunos de los problemas que se le suministren, un matemático si puede. Por otro lado, la máquina tiene alguna ventaja sobre el matemático. Haga lo que haga es fiable, obviando fallos mecánicos, mientras que el matemático con toda seguridad cometerá errores. Pienso que el riesgo de cometer errores del matemático es un corolario inevitable de su capacidad para dar con enfoques totalmente nuevos. Esto parece confirmarse si, como parece ser, la gente más fiable no suelen ofrecer nuevos caminos.

