Va a ser un buen Dios? Parte I
Es difícil explicar el tema de la singularidad tecnológica a aquellos que no tienen inclinacion técnica. Me encontré este post de Tim Urban, que tiene un blog llamado "Wait But Why" y me pareció que lo explica de una forma que la gente puede entenderlo, así que me he dedicado a traducirlo. Como es largo, voy por partes. Esta es la primera entrega. No os extrañeis si una vez publicado lo sigo editando. Ya que me pongo quiero dejarlo lo más decente que pueda. Así que aquí teneis la traducción:
Nota: La razón por la que tardé tres semanas en terminar este post es que a medida que profundicé en la investigación de la inteligencia artificial, no podía creer lo que estaba leyendo. Pronto me di cuenta que lo que está pasando en el mundo de la IA (Siglas de la inteligencia artificial en Inglés) no es sólo un tema importante, sino, con mucho, el tema más importante para nuestro futuro. Así que quise aprender cuanto me fuese posible sobre él, y una vez lo hice, quise asegurarme de que escribía un post que realmente explica toda esta situación y por qué importa tanto. No es extraño que se convirtiese en exageradamente largo.
_______________
Estamos al borde de un cambio comparable al comienzo de la vida humana en la Tierra -. Vernor Vinge
¿Qué le parecería estar aquí?
Parece una sitio interesante en el que estamos, pero hay que recordar algo sobre una gráfica temporal: no vemos lo que hay a la derecha, en el futuro. Así que esto es lo que realmente vemos:
Y visto así parece bastante normal ...
_______________
Sería poco decir que esta experiencia sería sorprendente, chocante o incluso alucinante para él. Esas palabras no son suficientes. Realmente le podría dar algo.
Más interesante sería si esta persona volviera a 1750 y decidiera aplicar la misma idea: Usar una máquina del tiempo, viajar 250 años al pasado y llevar a alguien del año 1500 al 1750. Al hombre del 1500 le sorprenderían muchas cosas, pero no moriría de la impresión. Sería mucho menos locura para él, porque mientras que 1500 y 1750 fueron muy diferentes, eran mucho menos diferentes que 1750 y 2015. El tipo del 1500 aprendería cosas sobre Física, se sorprendería con Europa y la nueva moda del imperialismo, y tendría que hacer algunas revisiones importantes en su mapa del mundo. Pero ver la vida cotidiana del 1750, el transporte, la comunicación, etc, definitivamente no le quitarían el hipo.
Para que el hombre del 1750 pudiese tener tanta diversión como la que tuvimos nosotros con él, tendría que ir mucho más atrás, tal vez a alrededor del 12.000 antes de Cristo, antes de que la primera revolución agrícola diera lugar a las primeras ciudades y al concepto de civilización. Si alguien desde una perspectiva de cazador recolector, en un momento en que los seres humanos eran, más o menos, simplemente otra especie animal, viera los vastos imperios humanos de 1750 con sus iglesias imponentes, sus barcos que cruzan la alta mar, la enorme montaña de conocimientos humanos y descubrimientos... Posiblemente le daría un patatús. Si lo entendiese, claro.
Y entonces ¿qué pasaría si el hombre del 12.000 antes de cristo se pusiera celoso y quisiera hacer lo mismo? Viajaría a 24.000 años antes de Cristo y llevaría a alguien al 12.000 antes de Cristo. Ese alguien pensaría, "Bueno ¿qué me quieres enseñar? es todo igual." Para que el truco le funcionase al individuo del 12.000 antes de Cristo, tendría que ir atrás más de 100.000 años y encontrar a alguien a quién pudiera mostrarle el fuego y el lenguaje por primera vez.
Llamemos "Unidad de Progreso de Infarto" (UPI) a la cantidad de tiempo necesaria para que el mundo se vuelva irreconocible. Transcurrió una UPI durante los 100.000 años de cazadores-recolectores, pero al ritmo posterior a la Revolución Agrícola, sólo se tardaron unos 12.000 años en conseguir la siguiente UPI. El mundo posterior a la Revolución Industrial ha avanzado tan rápidamente que se ha producido una UPI entre 1750 y 2015.
Este patrón - el progreso humano es más y más rápido a medida que pasa el tiempo, es lo que el futurista Ray Kurzweil llama la Ley de Rendimientos Acelerados. Esto sucede porque las sociedades más avanzadas tienen capacidad de avanzar a un ritmo más rápido que las sociedades menos avanzadas - simplemente porque son más avanzadas. El progreso produce progreso. La humanidad del siglo 19 sabía más y tenía mejor tecnología que la humanidad del siglo 15, por lo que no es de extrañar que se consiguieran muchos más avances en el siglo 19.
Esto funciona en escalas más pequeñas también. La película Retorno al Futuro salió en 1985, y "el pasado" tuvo lugar en el año 1955. En la película, cuando Michael J. Fox viajó a 1955, le sorprendió que los televisores fueran nuevos para ellos, los precios de los refrescos, que no les gustasen las guitarras eléctricas, y la forma de hablar. Era un mundo diferente, sí, pero si la película se hiciera hoy y viajasen al 1985, podría explotar diferencias mucho mayores. El personaje viajaría a un tiempo anterior a los ordenadores personales, las redes sociales, el GPS, el Internet o los teléfonos móviles. Un adolescente de hoy lo pasaría mucho peor en 1985 de lo que Marty McFly lo pasó en 1955.
Y sería por la razón que acabamos de explicar, la Ley de Rendimientos Acelerados. La tasa de avance entre 1985 y 2015 fue más alta que entre 1955 y 1985, ya que el mundo de 1985 era más avanzado, así que hay mucho más cambio en los últimos 30 años que en los 30 anteriores.
Los avances son cada vez más y más grandes y ocurren más y más rápidamente. Esto sugiere algunas cosas bastante interesantes sobre nuestro futuro, ¿verdad?
Ray Kurzweil predijo que se lograría el progreso de todo el siglo 20 en sólo 20 años al ritmo de avance del año 2000. En otras palabras, en el año 2000, la tasa de progreso era cinco veces más rápida que la tasa media de progreso del siglo 20. Él cree que una cantidad de progreso similar a la de todo el siglo 20 se consiguió entre 2000 y 2014 y que otro siglo 20 de progreso va a ocurrir del 2014 al 2021, en sólo siete años. Un par de décadas más tarde, cree que se va a generar la cantidad de progreso de todo el siglo 20 varias veces en el mismo año, e incluso más tarde, en menos de un mes. Con todo, a causa de la Ley de Rendimientos Acelerados, Kurzweil cree que en el siglo 21 se progresará 1.000 veces lo que en el siglo 20.
Si Kurzweil y otros están en lo cierto, entonces estaremos tan flipados en 2030 como nuestro tipo del 1750 lo estaba en el año 2015. Es decir, la próxima UPI podría ocurrir en un par de décadas, y el mundo en el año 2050 podría ser tan diferente del mundo de hoy que apenas podríamos reconocerlo.
Esto no es ciencia ficción. Es lo que muchos científicos más inteligentes y con más conocimiento que usted y que yo creen firmemente, y si nos fijamos en la historia, es lo que lógicamente deberíamos predecir.
Así que ¿por qué, cuando me oyen decir algo como "el mundo de dentro de 35 años podría ser totalmente irreconocible," están pensando: "Si... pero no"?
Hay tres razones por las que se es escéptico respecto de este tipo de predicciones:
2) La evolución creó la inteligencia original. Utilicémosla para que cree una inteligencia para nosotros.
Hay algo que sabemos. La construcción de un equipo tan potente como el cerebro es posible. Nuestro propio cerebro es la prueba. Y si el cerebro es demasiado complejo de emular, podríamos tratar de emular la evolución que llevó a él. Es una buena idea porque, incluso si podemos emular un cerebro, podría ser como intentar construir un avión copiando los movimientos de aleteo de un pájaro. Las máquinas suelen funcionar mejor si se diseñan utilizando un nuevo enfoque, en lugar de imitar la biología exactamente .
Entonces, ¿cómo podemos simular la evolución para construir un AGI? El método, llamado "algoritmos genéticos", funciona así: habría un proceso de creación y evaluación automática de programas que se repetiría una y otra vez (igual que las criaturas biológicas nacen, viven y son "evaluadas", esto es, se las arreglan para reproducirse o no). Un grupo de programas de ordenador trataría de ejecutar determinadas tareas, y los más exitosos serían "cruzados" entre sí para crear un programa nuevo. Los menos exitosos serían eliminados. Durante muchas, muchas iteraciones, este proceso de selección natural produciría programas cada vez mejores. El reto sería la creación de un ciclo de evaluación y cría automatizado para que este proceso de evolución pudiera funcionar por sí solo.
La desventaja de la copia de la evolución es que la evolución requiere miles de millones de años para hacer las cosas y nosotros queremos hacer esto en unas pocas décadas.
Pero tenemos un montón de ventajas con respecto a la evolución. En primer lugar, la evolución no tiene previsión y funciona de forma aleatoria produciendo mutaciones inútiles. Nosotros controlaríamos el proceso para permitir sólo cambios beneficiosos y ajustes específicos. En segundo lugar, la evolución no tiene ningún objetivo, incluyendo la inteligencia. A veces un ecosistema incluso podría seleccionar contra la inteligencia superior (ya que esta utiliza una gran cantidad de energía). Nosotros, por otro lado, podríamos dirigir específicamente este proceso evolutivo hacia el aumento de la inteligencia. En tercer lugar, para hacer posible la inteligencia, la evolución tiene que cambiar la biología en asuntos que no parecen relacionados con esta. Por ejemplo, el metabolismo humano utiliza el 25% de la energía que obtenemos de la alimentación. Los homínidos tuvieron que encontrar una forma de digerir un 25% más de comida que la que son capaces de digerir el resto de mamíferos con un peso parecido. Sin embargo nuestro sitema podría obviar este tipo de condicionantes. No hay duda de que iríamos mucho, mucho más rápido que la evolución, pero aún no está claro si vamos a ser capaces de mejorar la evolución lo suficiente como para hacer de esto una estrategia viable.
3) Hacer que sea el ordenador el que resuelva el problema.
La idea es que nos gustaría construir un equipo cuyos dos principales habilidades sean la evaluación de su propia inteligencia y la codificación de cambios en sí mismo, lo que le permitía no sólo aprender sino mejorar su propia arquitectura . Su principal trabajo sería encontrar la manera de hacerse a sí mismos más inteligentes. Más sobre esto más adelante.
Todo esto podría ocurrir pronto, y de repente
Los avances en hardware y la experimentación con software están ocurriendo simultáneamente. Las AGI podrían aparecer rápida e inesperadamente por dos razones principales:
1) El crecimiento exponencial es intenso y lo que parece ser un ritmo muy lento al principio, se convierte en algo sorprendentemente rápido. Esta image animada ilustra el concepto:
2) Cuando se trata de software, el progreso puede parecer lento, pero una idea felíz puede cambiar instantáneamente la velocidad de avance (algo así como el descubrimiento de que la tierra no era el centro del universo que hizo mucho más fácil entender los movimientos de los astros).
Nota: La razón por la que tardé tres semanas en terminar este post es que a medida que profundicé en la investigación de la inteligencia artificial, no podía creer lo que estaba leyendo. Pronto me di cuenta que lo que está pasando en el mundo de la IA (Siglas de la inteligencia artificial en Inglés) no es sólo un tema importante, sino, con mucho, el tema más importante para nuestro futuro. Así que quise aprender cuanto me fuese posible sobre él, y una vez lo hice, quise asegurarme de que escribía un post que realmente explica toda esta situación y por qué importa tanto. No es extraño que se convirtiese en exageradamente largo.
_______________
Estamos al borde de un cambio comparable al comienzo de la vida humana en la Tierra -. Vernor Vinge
¿Qué le parecería estar aquí?
Parece una sitio interesante en el que estamos, pero hay que recordar algo sobre una gráfica temporal: no vemos lo que hay a la derecha, en el futuro. Así que esto es lo que realmente vemos:
Y visto así parece bastante normal ...
_______________
El futuro lejano, próximamente
Imagínese una máquina del tiempo que nos permita viajar a 1750, una época en que no había ni electricidad ni petróleo, la comunicación a larga distancia significaba gritar en voz alta o disparar un cañón al aire y el transporte era en animales. Si trajésemos a alguien al 2015, y observásemos cómo reacciona, cuesta imaginar qué sentiría al ver cápsulas brillantes corriendo por una carretera, al hablar con personas que habían estado al otro lado del océano esa misma mañana, al ver deportes en directo desde 1.000 millas de distancia, al escuchar una actuación musical que sucedió hace 50 años, al jugar con un asistente mágico rectangular que puede capturar una imagen de la vida real o grabar un momento de esta, o cargar un mapa con un punto azul que se mueve y muestra dónde se encuentra uno en cada momento. O al ver la cara de alguien y charlar con él a pesar de que está al otro lado del país... y otras muchas cosas mágicas e inconcebibles para él. Todo esto antes de enseñarle el Internet o explicarle cosas como la Estación Espacial Internacional, el gran colisionador de hadrones, las armas nucleares, o la relatividad general.Sería poco decir que esta experiencia sería sorprendente, chocante o incluso alucinante para él. Esas palabras no son suficientes. Realmente le podría dar algo.
Más interesante sería si esta persona volviera a 1750 y decidiera aplicar la misma idea: Usar una máquina del tiempo, viajar 250 años al pasado y llevar a alguien del año 1500 al 1750. Al hombre del 1500 le sorprenderían muchas cosas, pero no moriría de la impresión. Sería mucho menos locura para él, porque mientras que 1500 y 1750 fueron muy diferentes, eran mucho menos diferentes que 1750 y 2015. El tipo del 1500 aprendería cosas sobre Física, se sorprendería con Europa y la nueva moda del imperialismo, y tendría que hacer algunas revisiones importantes en su mapa del mundo. Pero ver la vida cotidiana del 1750, el transporte, la comunicación, etc, definitivamente no le quitarían el hipo.
Para que el hombre del 1750 pudiese tener tanta diversión como la que tuvimos nosotros con él, tendría que ir mucho más atrás, tal vez a alrededor del 12.000 antes de Cristo, antes de que la primera revolución agrícola diera lugar a las primeras ciudades y al concepto de civilización. Si alguien desde una perspectiva de cazador recolector, en un momento en que los seres humanos eran, más o menos, simplemente otra especie animal, viera los vastos imperios humanos de 1750 con sus iglesias imponentes, sus barcos que cruzan la alta mar, la enorme montaña de conocimientos humanos y descubrimientos... Posiblemente le daría un patatús. Si lo entendiese, claro.
Y entonces ¿qué pasaría si el hombre del 12.000 antes de cristo se pusiera celoso y quisiera hacer lo mismo? Viajaría a 24.000 años antes de Cristo y llevaría a alguien al 12.000 antes de Cristo. Ese alguien pensaría, "Bueno ¿qué me quieres enseñar? es todo igual." Para que el truco le funcionase al individuo del 12.000 antes de Cristo, tendría que ir atrás más de 100.000 años y encontrar a alguien a quién pudiera mostrarle el fuego y el lenguaje por primera vez.
Llamemos "Unidad de Progreso de Infarto" (UPI) a la cantidad de tiempo necesaria para que el mundo se vuelva irreconocible. Transcurrió una UPI durante los 100.000 años de cazadores-recolectores, pero al ritmo posterior a la Revolución Agrícola, sólo se tardaron unos 12.000 años en conseguir la siguiente UPI. El mundo posterior a la Revolución Industrial ha avanzado tan rápidamente que se ha producido una UPI entre 1750 y 2015.
Este patrón - el progreso humano es más y más rápido a medida que pasa el tiempo, es lo que el futurista Ray Kurzweil llama la Ley de Rendimientos Acelerados. Esto sucede porque las sociedades más avanzadas tienen capacidad de avanzar a un ritmo más rápido que las sociedades menos avanzadas - simplemente porque son más avanzadas. El progreso produce progreso. La humanidad del siglo 19 sabía más y tenía mejor tecnología que la humanidad del siglo 15, por lo que no es de extrañar que se consiguieran muchos más avances en el siglo 19.
Esto funciona en escalas más pequeñas también. La película Retorno al Futuro salió en 1985, y "el pasado" tuvo lugar en el año 1955. En la película, cuando Michael J. Fox viajó a 1955, le sorprendió que los televisores fueran nuevos para ellos, los precios de los refrescos, que no les gustasen las guitarras eléctricas, y la forma de hablar. Era un mundo diferente, sí, pero si la película se hiciera hoy y viajasen al 1985, podría explotar diferencias mucho mayores. El personaje viajaría a un tiempo anterior a los ordenadores personales, las redes sociales, el GPS, el Internet o los teléfonos móviles. Un adolescente de hoy lo pasaría mucho peor en 1985 de lo que Marty McFly lo pasó en 1955.
Y sería por la razón que acabamos de explicar, la Ley de Rendimientos Acelerados. La tasa de avance entre 1985 y 2015 fue más alta que entre 1955 y 1985, ya que el mundo de 1985 era más avanzado, así que hay mucho más cambio en los últimos 30 años que en los 30 anteriores.
Los avances son cada vez más y más grandes y ocurren más y más rápidamente. Esto sugiere algunas cosas bastante interesantes sobre nuestro futuro, ¿verdad?
Ray Kurzweil predijo que se lograría el progreso de todo el siglo 20 en sólo 20 años al ritmo de avance del año 2000. En otras palabras, en el año 2000, la tasa de progreso era cinco veces más rápida que la tasa media de progreso del siglo 20. Él cree que una cantidad de progreso similar a la de todo el siglo 20 se consiguió entre 2000 y 2014 y que otro siglo 20 de progreso va a ocurrir del 2014 al 2021, en sólo siete años. Un par de décadas más tarde, cree que se va a generar la cantidad de progreso de todo el siglo 20 varias veces en el mismo año, e incluso más tarde, en menos de un mes. Con todo, a causa de la Ley de Rendimientos Acelerados, Kurzweil cree que en el siglo 21 se progresará 1.000 veces lo que en el siglo 20.
Si Kurzweil y otros están en lo cierto, entonces estaremos tan flipados en 2030 como nuestro tipo del 1750 lo estaba en el año 2015. Es decir, la próxima UPI podría ocurrir en un par de décadas, y el mundo en el año 2050 podría ser tan diferente del mundo de hoy que apenas podríamos reconocerlo.
Esto no es ciencia ficción. Es lo que muchos científicos más inteligentes y con más conocimiento que usted y que yo creen firmemente, y si nos fijamos en la historia, es lo que lógicamente deberíamos predecir.
Así que ¿por qué, cuando me oyen decir algo como "el mundo de dentro de 35 años podría ser totalmente irreconocible," están pensando: "Si... pero no"?
Hay tres razones por las que se es escéptico respecto de este tipo de predicciones:
1) Cuando se trata de la historia, pensamos en líneas rectas. "Linealmente".
Cuando imaginamos el progreso de los próximos 30 años, miramos al progreso de los 30 anteriores como un indicador de lo que va a suceder. Cuando pensamos en cuánto va a cambiar el mundo en el siglo 21, tomamos el progreso del siglo 20 y lo añadimos al año 2000. El mismo error que cometió nuestro tipo del 1750 cuando fué a buscar al del 1500 y pensó que alucinaría tanto como cuando él avanzó 250 años. Es intuitivo para nosotros pensar linealmente, (la línea roja en la gráfica de abajo) pero no funciona. Predeciríamos mejor los avances de los próximos 30 años no mirando los 30 anteriores, sino tomando el ritmo actual de progreso y juzgando en base a eso (La línea naranja de la gráfica). Estaríamos más cerca, pero aún así no sería suficiente. Para pensar en el futuro correctamente, hay que ver el progreso exponencialmente (linea verde). Y la exponencial es una función matemáteca que nos cuesta imaginar. Necesitaríamos poder imaginar las cosas cambiando a un ritmo mucho más rápido del actual.
2) La trayectoria de la historia más reciente a menudo muestra una imagen distorsionada.
En primer lugar, incluso una curva exponencial parece lineal cuando sólo se mira a una pequeña porción de ella, de la misma manera que si nos fijamos en un pequeño segmento de un círculo enorme de cerca , se ve casi como una línea recta. En segundo lugar el crecimiento exponencial no es uniforme. Kurzweil explica que el progreso ocurre en "curvas S":
Un S es creada por la ola de progreso cuando un nuevo paradigma (descubrimiento) se extiende por el mundo. La curva pasa por tres fases:
Un S es creada por la ola de progreso cuando un nuevo paradigma (descubrimiento) se extiende por el mundo. La curva pasa por tres fases:
- El descubrimiento y las primeras aplicaciones pioneras. Avanza lentamente.
- La maduración y su aplicación en muchas áreas. Avanza rápidamente.
- El agotamiento de ese paradigma en particular. Vuelve a avanzar lentamente.
3) Nuestra experiencia nos pesa.
Basamos nuestras ideas sobre el mundo en nuestra experiencia personal, y la experiencia nos dice que la tasa de crecimiento de los últimos años es "lo normal." también estamos limitados por nuestra imaginación, que toma nuestra experiencia y la utiliza para evocar las predicciones futuras, pero en este caso, lo que "sabemos", simplemente no nos da las herramientas necesarias para pensar con precisión sobre el futuro. Cuando oímos una predicción sobre el futuro que contradice nuestra experiencia basada en la noción de "cómo funcionan las cosas", nuestro instinto es que la predicción debe ser ingenua. Si te digo, más adelante, que puedes vivir hasta los 150 o 250 años, o no morir del todo, tu instinto será: "Eso es estúpido, si hay una cosa que sé, es que todo el mundo muere". No hay nadie en el pasado que no haya muerto. Pero tampoco voló nadie antes de que se inventaran los aviones.
Así, mientras que "buahh!!!" parece la reacción más normal a estas ideas, es probable que sea equivocada. Si somos lógicos y esperamos el mantenimiento de los patrones históricos, debemos concluir que mucho, mucho, mucho más cambiará en las próximas décadas que lo que intuitivamente esperamos. La lógica sugiere también que si la especie más avanzada en un planeta da saltos más y más grandes a un ritmo cada vez más rápido, en algún momento dará un salto tan grande que alterará por completo la vida tal y como la entendemos. Incluso la percepción de lo que significa ser humano. De la misma forma que la evolución dió grandes saltos hacia la inteligencia hasta que finalmente se dió un gran salto en el que surgió el ser humano y que alteró por completo el entorno de cualquier criatura viva en el planeta Tierra. Si usted pasa algún tiempo leyendo sobre lo que está ocurriendo hoy en día en ciencia y tecnología, verá signos que dan a entender que la vida que actualmente conocemos no puede soportar el salto que viene a continuación.
_______________
Si es como yo, pensará que la Inteligencia Artificial (AI por sus siglas en ingles) es un concepto de ciencia ficción. Pero últimamente lo está mencionando gente seria, y podría acabar materializándose.
Así, mientras que "buahh!!!" parece la reacción más normal a estas ideas, es probable que sea equivocada. Si somos lógicos y esperamos el mantenimiento de los patrones históricos, debemos concluir que mucho, mucho, mucho más cambiará en las próximas décadas que lo que intuitivamente esperamos. La lógica sugiere también que si la especie más avanzada en un planeta da saltos más y más grandes a un ritmo cada vez más rápido, en algún momento dará un salto tan grande que alterará por completo la vida tal y como la entendemos. Incluso la percepción de lo que significa ser humano. De la misma forma que la evolución dió grandes saltos hacia la inteligencia hasta que finalmente se dió un gran salto en el que surgió el ser humano y que alteró por completo el entorno de cualquier criatura viva en el planeta Tierra. Si usted pasa algún tiempo leyendo sobre lo que está ocurriendo hoy en día en ciencia y tecnología, verá signos que dan a entender que la vida que actualmente conocemos no puede soportar el salto que viene a continuación.
_______________
El camino a la súper Inteligencia
¿Qué es AI?
Si es como yo, pensará que la Inteligencia Artificial (AI por sus siglas en ingles) es un concepto de ciencia ficción. Pero últimamente lo está mencionando gente seria, y podría acabar materializándose.
Hay tres razones por las que mucha gente no entiende bien el término AI:
1) Se asocia con películas. Star Wars. Terminator. 2001: Una odisea del espacio. Películas de ficción.
1) Se asocia con películas. Star Wars. Terminator. 2001: Una odisea del espacio. Películas de ficción.
2) AI es un tema muy amplio. Va desde el programa que calcula la mejor ruta en su GPS a aplicaciones futuras que podrían cambiar el mundo de manera espectacular. AI se refiere a todas estas cosas, lo cual es confuso.
3) Utilizamos AI todo el tiempo en nuestra vida diaria, pero a menudo no nos damos cuenta de que está ahí. John McCarthy, quien acuñó el término "Inteligencia Artificial" en 1956, se quejó de que "tan pronto como funciona, nadie lo llama AI nunca más". Debido a este fenómeno, AI a menudo suena como una mítica tecnología futura más que como una realidad.
Así que vamos a aclarar las cosas. En primer lugar, deje de pensar en robots. Un robot es un contenedor de AI, a veces imitando la forma humana, a veces no, pero la propia AI es el sistema que controla el robot. AI es el cerebro, y el robot es su cuerpo, si es que tiene un cuerpo. Por ejemplo, el software y los datos detrás de Siri, el asistente personal de los iphone, es AI. La voz de mujer que oímos es generada por una AI, y no hay ningún robot involucrado en el asunto.
Por último, si bien hay muchos tipos o formas de AI diferentes ya que la IA es un concepto amplio, las categorías fundamentales que necesitamos para pensar en ella se basan en la capacidad de una IA. Hay tres categorías principales:
3) Utilizamos AI todo el tiempo en nuestra vida diaria, pero a menudo no nos damos cuenta de que está ahí. John McCarthy, quien acuñó el término "Inteligencia Artificial" en 1956, se quejó de que "tan pronto como funciona, nadie lo llama AI nunca más". Debido a este fenómeno, AI a menudo suena como una mítica tecnología futura más que como una realidad.
Así que vamos a aclarar las cosas. En primer lugar, deje de pensar en robots. Un robot es un contenedor de AI, a veces imitando la forma humana, a veces no, pero la propia AI es el sistema que controla el robot. AI es el cerebro, y el robot es su cuerpo, si es que tiene un cuerpo. Por ejemplo, el software y los datos detrás de Siri, el asistente personal de los iphone, es AI. La voz de mujer que oímos es generada por una AI, y no hay ningún robot involucrado en el asunto.
Por último, si bien hay muchos tipos o formas de AI diferentes ya que la IA es un concepto amplio, las categorías fundamentales que necesitamos para pensar en ella se basan en la capacidad de una IA. Hay tres categorías principales:
AI Nivel 1) Inteligencia Artificial especializada (IAE):
Inteligencia Artificial que se especializa en un área. Hay AIs que pueden vencer al campeón mundial de ajedrez pero eso es lo único que hacen. Pídele que juegue a las damas y te mirará sin comprender.
AI Nivel 2) Inteligencia Artificial General (IAG):
Algunas veces conocido como AI fuerte, o AI de nivel humano. IAG se refiere a un sistema que es tan inteligente como un ser humano en todo. Una máquina que puede realizar cualquier tarea intelectual que un ser humano puede. La creación de IAG es una tarea mucho más difícil que la creación una IAE, y todavía trabajamos en ello. La profesora Linda Gottfredson describe la inteligencia como "una capacidad mental muy general que, entre otras cosas, implica la capacidad de razonar, planear, resolver problemas, pensar de manera abstracta, comprender ideas complejas, aprender rápidamente y aprender de la experiencia." una AIG sería capaz de hacer todas esas cosas.
AI Nivel 3) Super Inteligencia Artificial (SIA):
El filósofo y pensador Nick Bostrom define la SIA como "un intelecto que es mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluyendo la creación científica, la sabiduría general y las habilidades sociales". La superinteligencia va desde un sistema que es sólo un poco más inteligente que un ser humano a otro que es billones de veces más inteligente en todo. La idea de las ASI es la razón por la que el tema de la Inteligencia Artificial es tan delicado y es la razón por la qué las palabras "inmortalidad" y "extinción" aparecerán en este artículo múltiples veces.
Hasta ahora, los seres humanos han conseguido el nivel más bajo. Las IAEs están en todas partes. La revolución actual es el camino hacia la SIA, a través de la AIG. Una revolución a la que puede que sobrevivamos o no, pero que, en cualquier caso, no podemos parar y va a cambiar todo.
Vamos a intentar entender cómo será este camino según los principales pensadores dedicados a este campo. Y por qué esta revolución puede ocurrir más pronto de lo que parece:
Pero mientras las IAE no tengan la capacidad de causar una amenaza existencial, debemos ver este ecosistema cada vez más grande y complejo de relativamente inofensivas IAE como un precursor del huracán que alterará el mundo. Cada innovación IAE añade silenciosamente otro paso en el camino a la IAG y la SIA. O como Aarón Sáenz lo ve , los sistemas IAE de nuestro mundo "son como los aminoácidos en el fango primordial de la Tierra primitiva", la materia inanimada de la vida que, un día inesperado, se despertó.
Nada le hará apreciar la inteligencia humana como aprender acerca de lo increíblemente difícil que es tratar de crear sistemas tan inteligentes como nosotros. La construcción de rascacielos, poner seres humanos en el espacio, averiguar los detalles de cómo fué el Big Bang, todo eso es mucho más fácil que entender nuestro propio cerebro y aún más cómo construir algo parecido. Hasta ahora, el cerebro humano es el objeto más complejo del universo conocido.
Resulta que las partes más difíciles de tratar de construir un AIG (un sistema tan inteligente como los seres humanos en general, no sólo en un área) no son las que podríamos pensar intuitivamente. Construir un sistema que multiplique dos números de diez dígitos en una fracción de segundo es increíblemente fácil. Construir uno que pueda mirar a un perro y responder si es un perro o un gato es espectacularmente difícil. Vencer a cualquier ser humano en el ajedrez? Hecho. Leer un párrafo de un libro de imágenes para niños de seis años de edad, y no sólo reconocer las palabras, sino entender su significado? Google está gastando miles de millones tratando de hacerlo. Cosas como el cálculo, las estrategias de mercados financieros o la traducción de lenguas son abrumadoramente fáciles para un ordenador, mientras que cosas fáciles como la visión, el movimiento y la percepción son terriblemente duras para ellos. O, como dice Donald Knuth, las AI ya han tenido éxito haciendo todo lo que requiere "pensar", pero son incapaces de hacer lo que la gente y los animales hacen "sin pensar".
Al considerar esto, se da uno cuenta de que cosas que nos parecen fáciles son en realidad muy complicadas, y sólo parecen fáciles porque esas habilidades se han optimizado en nosotros (y en la mayoría de los animales) durante cientos de millones de años de evolución. Al llevar su mano hacia un objeto, los músculos, los tendones y los huesos de su hombro, el codo y la muñeca realizan al instante una larga serie operaciones físicas, conjuntamente con sus ojos, que le permiten mover la mano en una linea recta a través de tres dimensiones. No le supone esfuerzo, porque la evolución ha perfeccionado la programación de su cerebro para ello. No es que los ordenadores sean tontos por no poder entender las letras manuscritas que se ponen en los formularios de registro web para evitar que se cuelen máquinas, más bien es impresionante que nuestro cerebro sea capaz de entenderlas.
La multiplicación de números grandes o jugar al ajedrez son actividades nuevas para las criaturas biológicas y no hemos tenido tiempo de desarrollar habilidades para ellas, por lo que un ordenador lo tiene fácil para superarnos.
Un ejemplo. Mirando esta imagen, un ordenador y un humano pueden describirla fácilmente: un rectángulo hecho de cuadrados grises y blancos alternados.
Empate hasta ahora. Pero quitamos el negro y revelamos la imagen completa ...
... un humano no tiene ningún problema describiendo detalladamente los diversos cilindros opacos y translúcidos, las esquinas en 3-D, pero el ordenador fallaría miserablemente. Diría que vé una formas bidimensionales en varios tonos diferentes (que en realidad es lo que hay). El cerebro humano ejecuta un montón de trabajo inconsciente para interpretar la profundidad implícita, la mezcla de sombras y la iluminación que la imagen trata de representar.
Mirando a la imagen siguiente, un ordenador ve una imagen bidimensional blanca, negra y gris, mientras que el cerebro humano entiende fácilmente lo que realmente es: una foto en blanco y negro de una piedra:
Lo anterior es sólo información estática. Para llegar al nivel de inteligencia humano, un ordenador tendría que entender cosas como la diferencia entre las expresiones faciales sutiles, la distinción entre estar satisfecho, aliviado, alegre, y por qué Braveheart era genial, pero el patriota era terrible.
Difícil. Pero, ¿cómo llegaremos?
Una manera de expresar esta capacidad es averiguando las operaciones de cálculo por segundo (cps) que puede desarrollar el cerebro. Se podría llegar a este número mirando los cps máximos de cada estructura en el cerebro y sumándolos.
Ray Kurzweil calculó una aproximación a ese número a partir de una estimación hecha por un neurólogo. Suena un poco dudoso, pero repitió el cálculo varias veces con diversas estimaciones de diferentes profesionales para diferentes regiones cerebrales, y el total al que llegaba era más o menos el mismo, alrededor de 1016 cps, osea un 10 seguido de quince ceros.
El superordenador más rápido del mundo, el chino Tianhe-2, construido hace dos años, ha superado por primera vez ese número, multiplicándolo por tres. Pero el Tianhe-2 es una monstruosidad, ocupando 720 metros cuadrados, usa 24000 kilovatios de potencia eléctrica (el cerebro funciona con tan sólo 20 vatios ), y costó 390 millones de dólares. No es aún aplicable al uso general, o incluso a la mayoría de usos comerciales o industriales.
Kurzweil sugiere medir el progreso viendo cuántos cps se puede comprar por 1.000 dolares. Si ese número llega a 10 cuatrillones cps (la potencia de cálculo de un cerebro humano) entonces significará que la AIG podría llegar a ser una parte integral de la vida.
La Ley de Moore es una predicción históricamente fiable que afirma que la potencia de cálculo máximo del ordenador medio se duplica aproximadamente cada dos años. Es la versión para ordenadores de la Ley de Rendimientos Acelerados de Kurtzweil . Si la intentamos aplicar a contestar la pregunta de cuándo veremos un ordenador de 1.000 dólares con la capacidad de un cerebro humano, lo primero que veremos es que a día de hoy estamos en 10 seguido de 13 ceros para un ordenador de 1.000 dólares, justo en el punto previsto por este gráfico creado hace casi veinte años por Kurtzweil y cuyas previsiones se han cumplido perféctamente durante los últimos veinte años, además de encajar perfectamente con los ochenta años anteriores.
Vemos en la gráfica que los ordenadores de 1.000 dólares en la actualidad están bordeando la capacidad del cerebro de un ratón y tienen una potencia de una milésima parte del nivel humano. Esto no parece mucho hasta que recordamos que estábamos en una millonésima del nivel humano en 2005, en una mil millonésima en 1995, y en una billonésima en 1985. Estar en esta situación en 2015 nos sitúa justo en posición para llegar a un precio asequible en el año 2025 para equipos que compitan con el poder del cerebro.
Así que en cuanto a hardware, el poder necesario para crear una AIG está disponible hoy mismo, en China. Y estará disponible de forma general y asequible dentro de 10 años. Pero la potencia de cálculo en bruto no es suficiente. La siguiente pregunta es, ¿cómo podemos programar inteligencia de nivel humano en ese hardware?
La verdad es que nadie sabe realmente cómo programar inteligencia. Todavía debatimos cómo construir sistemas con el nivel de inteligencia de los humanos y capaces de entender lo que es un perro, reconocer una B mal escrita o distinguir una película mediocre. Pero se están intentando diferentes estrategias y en algún momento, una de ellas va a funcionar. Aquí están las tres estrategias más comunes que encontré:
Hasta ahora, los seres humanos han conseguido el nivel más bajo. Las IAEs están en todas partes. La revolución actual es el camino hacia la SIA, a través de la AIG. Una revolución a la que puede que sobrevivamos o no, pero que, en cualquier caso, no podemos parar y va a cambiar todo.
Vamos a intentar entender cómo será este camino según los principales pensadores dedicados a este campo. Y por qué esta revolución puede ocurrir más pronto de lo que parece:
Dónde Estamos Actualmente, un mundo lleno de IAE
IAEs son sistenas con igual o mayor inteligencia que un humano en una cosa específica. Unos pocos ejemplos, aunque hay muchos más:- Los coches están llenos de sistemas IAE, desde el que vigila que los frenos no se bloqueen (ABS) hasta el ordenador que sintoniza los parámetros de los sistemas de inyección de combustible. El coche autónomo de Google que se está probando ahora, contendrá sistemas IAE robustos que le permiten percibir y reaccionar ante el mundo a su alrededor.
- El teléfono móvil tiene montones de IAE. Al navegar con la aplicación de mapas, recibir recomendaciones musicales a medida, comprobar el tiempo de mañana, hablar con Siri, u otras docenas de actividades cotidianas, se están utilizando IAEs.
- El filtro de spam (emails que no queremos) del correo electrónico es un tipo clásico de IAE que empieza con unas reglas de qué es spam y qué no lo es, y luego adapta su funcionamiento a usted, aprendiendo sus preferencias particulares. El termostato Nest hace lo mismo, averiguando sus rutinas típica y actuando en consecuencia.
- Cuando busca un producto en Amazon y luego ve un "recomendado para usted" en un sitio diferente, o cuando Facebook de alguna manera sabe quién podría ser su amigo. Eso es una red de sistemas de IAE, compartiendo información acerca de quién eres y lo que te gusta y luego usando esa información para decidir lo que mostrarte. Lo mismo ocurre con el sistema de Amazon "Las personas que compraron esto también compraron ..." Es un sistema IAE cuyo trabajo es recopilar información a partir del comportamiento de millones de clientes y sintetizar esa información para aumentar las ventas.
- El Traductor Google es otra impresionante IAE clásica. Excelente en su estrecha tarea. El reconocimiento de voz es otra, y hay aplicaciones que utilizan esos dos IAE en tándem para conseguir traducción simultanea, lo que permite decir una frase en un idioma al teléfono y que el teléfono la diga en otro.
- Cuando el avión aterriza, no es un ser humano que decide a qué puerta debe ir. Al igual que no es un ser humano el que determina el precio de su billete.
- Los mejores jugadores de Damas, ajedrez, Scrabble, Backgammon, y Otelo son ahora IAEs. El último juego de mesa en el que los humanos eran superiores a los ordenadores, el Go, finalmente ha caido ante una rede neuronal creada por Google hace unos meses.
- La búsqueda de Google es una gran cerebro IAE con métodos muy sofisticados para clasificar páginas web y decidir que mostrar al usuario. Igual que la sección de noticias de Facebook.
- Y esos son sólo las aplicaciones que ven los consumidores. Sistemas IAE sofisticados son muy utilizados en sectores e industrias como la militar, la manufactura y las finanzas (las IAE ejecutan más de la mitad de las compras y ventas de acciones en los mercados de Estados Unidos). También sistemas expertos, como los que ayudan a los médicos a hacer diagnósticos y, el más famoso, el IBM Watson , que contenía suficientes elementos de juicio como para derrotar a los campeones del juego Jeopardy (un juego de preguntas y respuestas en el que tiene gran peso la ironía, las asociaciones mentales y las metáforas).
Pero mientras las IAE no tengan la capacidad de causar una amenaza existencial, debemos ver este ecosistema cada vez más grande y complejo de relativamente inofensivas IAE como un precursor del huracán que alterará el mundo. Cada innovación IAE añade silenciosamente otro paso en el camino a la IAG y la SIA. O como Aarón Sáenz lo ve , los sistemas IAE de nuestro mundo "son como los aminoácidos en el fango primordial de la Tierra primitiva", la materia inanimada de la vida que, un día inesperado, se despertó.
El camino de la IAE a la AIG
Por qué es tan difícil:Nada le hará apreciar la inteligencia humana como aprender acerca de lo increíblemente difícil que es tratar de crear sistemas tan inteligentes como nosotros. La construcción de rascacielos, poner seres humanos en el espacio, averiguar los detalles de cómo fué el Big Bang, todo eso es mucho más fácil que entender nuestro propio cerebro y aún más cómo construir algo parecido. Hasta ahora, el cerebro humano es el objeto más complejo del universo conocido.
Resulta que las partes más difíciles de tratar de construir un AIG (un sistema tan inteligente como los seres humanos en general, no sólo en un área) no son las que podríamos pensar intuitivamente. Construir un sistema que multiplique dos números de diez dígitos en una fracción de segundo es increíblemente fácil. Construir uno que pueda mirar a un perro y responder si es un perro o un gato es espectacularmente difícil. Vencer a cualquier ser humano en el ajedrez? Hecho. Leer un párrafo de un libro de imágenes para niños de seis años de edad, y no sólo reconocer las palabras, sino entender su significado? Google está gastando miles de millones tratando de hacerlo. Cosas como el cálculo, las estrategias de mercados financieros o la traducción de lenguas son abrumadoramente fáciles para un ordenador, mientras que cosas fáciles como la visión, el movimiento y la percepción son terriblemente duras para ellos. O, como dice Donald Knuth, las AI ya han tenido éxito haciendo todo lo que requiere "pensar", pero son incapaces de hacer lo que la gente y los animales hacen "sin pensar".
Al considerar esto, se da uno cuenta de que cosas que nos parecen fáciles son en realidad muy complicadas, y sólo parecen fáciles porque esas habilidades se han optimizado en nosotros (y en la mayoría de los animales) durante cientos de millones de años de evolución. Al llevar su mano hacia un objeto, los músculos, los tendones y los huesos de su hombro, el codo y la muñeca realizan al instante una larga serie operaciones físicas, conjuntamente con sus ojos, que le permiten mover la mano en una linea recta a través de tres dimensiones. No le supone esfuerzo, porque la evolución ha perfeccionado la programación de su cerebro para ello. No es que los ordenadores sean tontos por no poder entender las letras manuscritas que se ponen en los formularios de registro web para evitar que se cuelen máquinas, más bien es impresionante que nuestro cerebro sea capaz de entenderlas.
La multiplicación de números grandes o jugar al ajedrez son actividades nuevas para las criaturas biológicas y no hemos tenido tiempo de desarrollar habilidades para ellas, por lo que un ordenador lo tiene fácil para superarnos.
Un ejemplo. Mirando esta imagen, un ordenador y un humano pueden describirla fácilmente: un rectángulo hecho de cuadrados grises y blancos alternados.
Empate hasta ahora. Pero quitamos el negro y revelamos la imagen completa ...
... un humano no tiene ningún problema describiendo detalladamente los diversos cilindros opacos y translúcidos, las esquinas en 3-D, pero el ordenador fallaría miserablemente. Diría que vé una formas bidimensionales en varios tonos diferentes (que en realidad es lo que hay). El cerebro humano ejecuta un montón de trabajo inconsciente para interpretar la profundidad implícita, la mezcla de sombras y la iluminación que la imagen trata de representar.
Mirando a la imagen siguiente, un ordenador ve una imagen bidimensional blanca, negra y gris, mientras que el cerebro humano entiende fácilmente lo que realmente es: una foto en blanco y negro de una piedra:
Lo anterior es sólo información estática. Para llegar al nivel de inteligencia humano, un ordenador tendría que entender cosas como la diferencia entre las expresiones faciales sutiles, la distinción entre estar satisfecho, aliviado, alegre, y por qué Braveheart era genial, pero el patriota era terrible.
Difícil. Pero, ¿cómo llegaremos?
Primera condición para crear AIG: El aumento de la potencia de cálculo de los ordenadores.
Una cosa que sin duda tiene que pasar para que la AIG sea posible es un aumento en la potencia de los ordenadores. Si un sistema de inteligencia artificial va a ser tan inteligente como el cerebro, tendrá que tener una capacidad bruta de computación similar al cerebro.Una manera de expresar esta capacidad es averiguando las operaciones de cálculo por segundo (cps) que puede desarrollar el cerebro. Se podría llegar a este número mirando los cps máximos de cada estructura en el cerebro y sumándolos.
Ray Kurzweil calculó una aproximación a ese número a partir de una estimación hecha por un neurólogo. Suena un poco dudoso, pero repitió el cálculo varias veces con diversas estimaciones de diferentes profesionales para diferentes regiones cerebrales, y el total al que llegaba era más o menos el mismo, alrededor de 1016 cps, osea un 10 seguido de quince ceros.
El superordenador más rápido del mundo, el chino Tianhe-2, construido hace dos años, ha superado por primera vez ese número, multiplicándolo por tres. Pero el Tianhe-2 es una monstruosidad, ocupando 720 metros cuadrados, usa 24000 kilovatios de potencia eléctrica (el cerebro funciona con tan sólo 20 vatios ), y costó 390 millones de dólares. No es aún aplicable al uso general, o incluso a la mayoría de usos comerciales o industriales.
Kurzweil sugiere medir el progreso viendo cuántos cps se puede comprar por 1.000 dolares. Si ese número llega a 10 cuatrillones cps (la potencia de cálculo de un cerebro humano) entonces significará que la AIG podría llegar a ser una parte integral de la vida.
La Ley de Moore es una predicción históricamente fiable que afirma que la potencia de cálculo máximo del ordenador medio se duplica aproximadamente cada dos años. Es la versión para ordenadores de la Ley de Rendimientos Acelerados de Kurtzweil . Si la intentamos aplicar a contestar la pregunta de cuándo veremos un ordenador de 1.000 dólares con la capacidad de un cerebro humano, lo primero que veremos es que a día de hoy estamos en 10 seguido de 13 ceros para un ordenador de 1.000 dólares, justo en el punto previsto por este gráfico creado hace casi veinte años por Kurtzweil y cuyas previsiones se han cumplido perféctamente durante los últimos veinte años, además de encajar perfectamente con los ochenta años anteriores.
Vemos en la gráfica que los ordenadores de 1.000 dólares en la actualidad están bordeando la capacidad del cerebro de un ratón y tienen una potencia de una milésima parte del nivel humano. Esto no parece mucho hasta que recordamos que estábamos en una millonésima del nivel humano en 2005, en una mil millonésima en 1995, y en una billonésima en 1985. Estar en esta situación en 2015 nos sitúa justo en posición para llegar a un precio asequible en el año 2025 para equipos que compitan con el poder del cerebro.
Así que en cuanto a hardware, el poder necesario para crear una AIG está disponible hoy mismo, en China. Y estará disponible de forma general y asequible dentro de 10 años. Pero la potencia de cálculo en bruto no es suficiente. La siguiente pregunta es, ¿cómo podemos programar inteligencia de nivel humano en ese hardware?
Segunda condición para crear AIG: Programar inteligencia
Esta es la parte complicada, y no hay forma de hacerla no técnica. El lector puede saltársela si se aburre, hasta donde dice "Todo esto podría ocurrir pronto, y de repente".La verdad es que nadie sabe realmente cómo programar inteligencia. Todavía debatimos cómo construir sistemas con el nivel de inteligencia de los humanos y capaces de entender lo que es un perro, reconocer una B mal escrita o distinguir una película mediocre. Pero se están intentando diferentes estrategias y en algún momento, una de ellas va a funcionar. Aquí están las tres estrategias más comunes que encontré:
1) plagiar el cerebro.
Resulta que existe un ejemplo perfecto de "máquina" inteligente. El cerebro humano. Como no está siendo fácil programar inteligencia, un camino que se está explorando es copiar lo que hace el cerebro cuando piensa.
El mundo de la ciencia está trabajando en reproducir el funcionamiento de las neuronas para averiguar como funciona el cerebro: las estimaciones más optimistas dicen que podríamos conseguirlo en 2030. En ese punto, vamos a saber todos los secretos de cómo funciona de manera tan poderosa y eficiente y podremos inspirarnos en él y robar sus innovaciones. Un ejemplo es la red neuronal artificial. Comienza como una red de neuronas simuladas, conectados entre sí con entradas y salidas, que al principio está en blanco como un cerebro infantil. La forma en que "aprende" es tratando de hacer una tarea, por ejemplo el reconocimiento de escritura, y en un primer momento, actuará completamente al azar. Pero cuando se le dice que hace algo bien, las conexiones que crearon esa respuesta se fortalecen; y cuando se le dice que es un error, se debilitan. Después de una gran cantidad de ensayos y errores, la red forma caminos neuronales útiles para realizar la tarea. El cerebro aprende más o menos así, pero es más sofisticado. Y a medida que estudiamos el cerebro, descubrimos nuevas formas de funcionamiento de los circuitos neuronales.
Otra estrategia de copia más extrema es la "emulación de todo el cerebro", donde el objetivo es cortar un cerebro real en capas delgadas, escanear cada capa e importar la información a un ordenador, creando un modelo exacto del cerebro original. Así tendríamos un ordenador capaz de todo aquello que el cerebro es capaz de hacer. Si los ingenieros consiguen crear un sistema realmente bueno, sería capaz de emular un cerebro real con una precisión tan exacta que la personalidad y la memoria seguirían intactas una vez que la información se ha cargado en el ordenador. Si el cerebro pertenecía a Jim justo antes de su fallecimiento, el ordenador despertaría pensando que es Jim ( ? ), Se convertiría en un AGI a nivel humano, y a partír de ahí se podía trabajar en convertir a Jim en un ASI inimaginablemente inteligente.
¿A que distancia estamos de alcanzar la emulación de todo el cerebro? Hasta ahora, hemos sido capaces de emular un cerebro de gusano plano de 1 mm de largo, que se compone de sólo 302 neuronas totales. El cerebro humano contiene 100 mil millones. Si esto lo hace parecer un proyecto desesperado, recuerde el poder del progreso exponencial. Ahora que hemos conquistado el diminuto cerebro de un gusano, una hormiga puede ocurrir en poco tiempo, seguida del ratón, y de repente parecerá mucho más plausible.
Resulta que existe un ejemplo perfecto de "máquina" inteligente. El cerebro humano. Como no está siendo fácil programar inteligencia, un camino que se está explorando es copiar lo que hace el cerebro cuando piensa.
El mundo de la ciencia está trabajando en reproducir el funcionamiento de las neuronas para averiguar como funciona el cerebro: las estimaciones más optimistas dicen que podríamos conseguirlo en 2030. En ese punto, vamos a saber todos los secretos de cómo funciona de manera tan poderosa y eficiente y podremos inspirarnos en él y robar sus innovaciones. Un ejemplo es la red neuronal artificial. Comienza como una red de neuronas simuladas, conectados entre sí con entradas y salidas, que al principio está en blanco como un cerebro infantil. La forma en que "aprende" es tratando de hacer una tarea, por ejemplo el reconocimiento de escritura, y en un primer momento, actuará completamente al azar. Pero cuando se le dice que hace algo bien, las conexiones que crearon esa respuesta se fortalecen; y cuando se le dice que es un error, se debilitan. Después de una gran cantidad de ensayos y errores, la red forma caminos neuronales útiles para realizar la tarea. El cerebro aprende más o menos así, pero es más sofisticado. Y a medida que estudiamos el cerebro, descubrimos nuevas formas de funcionamiento de los circuitos neuronales.
Otra estrategia de copia más extrema es la "emulación de todo el cerebro", donde el objetivo es cortar un cerebro real en capas delgadas, escanear cada capa e importar la información a un ordenador, creando un modelo exacto del cerebro original. Así tendríamos un ordenador capaz de todo aquello que el cerebro es capaz de hacer. Si los ingenieros consiguen crear un sistema realmente bueno, sería capaz de emular un cerebro real con una precisión tan exacta que la personalidad y la memoria seguirían intactas una vez que la información se ha cargado en el ordenador. Si el cerebro pertenecía a Jim justo antes de su fallecimiento, el ordenador despertaría pensando que es Jim ( ? ), Se convertiría en un AGI a nivel humano, y a partír de ahí se podía trabajar en convertir a Jim en un ASI inimaginablemente inteligente.
¿A que distancia estamos de alcanzar la emulación de todo el cerebro? Hasta ahora, hemos sido capaces de emular un cerebro de gusano plano de 1 mm de largo, que se compone de sólo 302 neuronas totales. El cerebro humano contiene 100 mil millones. Si esto lo hace parecer un proyecto desesperado, recuerde el poder del progreso exponencial. Ahora que hemos conquistado el diminuto cerebro de un gusano, una hormiga puede ocurrir en poco tiempo, seguida del ratón, y de repente parecerá mucho más plausible.
2) La evolución creó la inteligencia original. Utilicémosla para que cree una inteligencia para nosotros.
Hay algo que sabemos. La construcción de un equipo tan potente como el cerebro es posible. Nuestro propio cerebro es la prueba. Y si el cerebro es demasiado complejo de emular, podríamos tratar de emular la evolución que llevó a él. Es una buena idea porque, incluso si podemos emular un cerebro, podría ser como intentar construir un avión copiando los movimientos de aleteo de un pájaro. Las máquinas suelen funcionar mejor si se diseñan utilizando un nuevo enfoque, en lugar de imitar la biología exactamente .
Entonces, ¿cómo podemos simular la evolución para construir un AGI? El método, llamado "algoritmos genéticos", funciona así: habría un proceso de creación y evaluación automática de programas que se repetiría una y otra vez (igual que las criaturas biológicas nacen, viven y son "evaluadas", esto es, se las arreglan para reproducirse o no). Un grupo de programas de ordenador trataría de ejecutar determinadas tareas, y los más exitosos serían "cruzados" entre sí para crear un programa nuevo. Los menos exitosos serían eliminados. Durante muchas, muchas iteraciones, este proceso de selección natural produciría programas cada vez mejores. El reto sería la creación de un ciclo de evaluación y cría automatizado para que este proceso de evolución pudiera funcionar por sí solo.
La desventaja de la copia de la evolución es que la evolución requiere miles de millones de años para hacer las cosas y nosotros queremos hacer esto en unas pocas décadas.
Pero tenemos un montón de ventajas con respecto a la evolución. En primer lugar, la evolución no tiene previsión y funciona de forma aleatoria produciendo mutaciones inútiles. Nosotros controlaríamos el proceso para permitir sólo cambios beneficiosos y ajustes específicos. En segundo lugar, la evolución no tiene ningún objetivo, incluyendo la inteligencia. A veces un ecosistema incluso podría seleccionar contra la inteligencia superior (ya que esta utiliza una gran cantidad de energía). Nosotros, por otro lado, podríamos dirigir específicamente este proceso evolutivo hacia el aumento de la inteligencia. En tercer lugar, para hacer posible la inteligencia, la evolución tiene que cambiar la biología en asuntos que no parecen relacionados con esta. Por ejemplo, el metabolismo humano utiliza el 25% de la energía que obtenemos de la alimentación. Los homínidos tuvieron que encontrar una forma de digerir un 25% más de comida que la que son capaces de digerir el resto de mamíferos con un peso parecido. Sin embargo nuestro sitema podría obviar este tipo de condicionantes. No hay duda de que iríamos mucho, mucho más rápido que la evolución, pero aún no está claro si vamos a ser capaces de mejorar la evolución lo suficiente como para hacer de esto una estrategia viable.
3) Hacer que sea el ordenador el que resuelva el problema.
La idea es que nos gustaría construir un equipo cuyos dos principales habilidades sean la evaluación de su propia inteligencia y la codificación de cambios en sí mismo, lo que le permitía no sólo aprender sino mejorar su propia arquitectura . Su principal trabajo sería encontrar la manera de hacerse a sí mismos más inteligentes. Más sobre esto más adelante.
Todo esto podría ocurrir pronto, y de repente
Los avances en hardware y la experimentación con software están ocurriendo simultáneamente. Las AGI podrían aparecer rápida e inesperadamente por dos razones principales:
1) El crecimiento exponencial es intenso y lo que parece ser un ritmo muy lento al principio, se convierte en algo sorprendentemente rápido. Esta image animada ilustra el concepto:
2) Cuando se trata de software, el progreso puede parecer lento, pero una idea felíz puede cambiar instantáneamente la velocidad de avance (algo así como el descubrimiento de que la tierra no era el centro del universo que hizo mucho más fácil entender los movimientos de los astros).
El camino de AGI a ASI
En algún momento, habremos logrado AGI. Inteligencia general a nivel humano. Podríamos pensar que la cosa para ahí, con ordenadores y personas a niveles similares.
Pero no...
Para empezar, un AGI con el mismo nivel de inteligencia y capacidad computacional que un ser humano tendría ventajas significativas sobre nosotros tanto en hardware como en software. veamos:
Hardware:
Software:
Esto puede dejarnos sin habla cuando suceda. La razón es que, desde nuestra perspectiva, reflejada en el siguiente gráfico, aunque la inteligencia de los diferentes tipos de animales varía, en todos los casos es más baja que la nuestra, y lo que es mucho más importante, vemos a los seres humanos más inteligentes como mucho más inteligentes que los seres humanos más tontos. Más o menos lo vemos (equivocadamente) así:
Vamos a ver las AIs, mientras progresan hacia nuestro nivel, como símplemente muy inteligentes para un animal. Luego, cuando lleguen al nivel que Nick Bostrom califica como "el tonto del pueblo" vamos a decir: "Mira, es como un ser humano mudo. Que chulo!". El problema es que, en el gran espectro de la inteligencia, todos los seres humanos, desde el tonto del pueblo a Einstein, están dentro de un rango muy pequeño. Muy poco después del nivel "tonto del pueblo" y de que la declaremos una AGI hecha y derecha, nuestra AI va a ser más inteligente que Einstein y no sabremos que fué lo que nos golpeó:
Y despues ...?
Como he dicho anteriormente, la mayoría de nuestros modelos actuales para llegar a AGI implican que las AI llegarán a ese punto por auto-mejora. En cualquier caso una vez que lleguen al nivel AGI, incluso los sistemas que se crearon y mejoraron a través de métodos sin auto-mejora serían lo suficientemente inteligentes como para modificarse a sí mismos.
Y aquí es donde llegamos al concepto final: Auto-mejora recursiva. Funciona así:
Un sistema de inteligencia artificial a un cierto nivel, digamos "tonto del pueblo" está programado con el objetivo de mejorar su propia inteligencia. Una vez llegue a la inteligencia de Einstein tendrá más recursos y será mucho mejor mejorando su propia inteligencia. Por supuesto le será más fácil y progresará más rápido que cuando era el tonto del pueblo. Cuando estos progresos lo lleven al punto en que es mucho más inteligente que cualquier ser humano, tendrá recursos e inteligencia para mejorar aún más rápido. A medida que los progresos se hacen más y más grandes y ocurren con mayor rapidez, la AGI progresa al nivel superinteligente (ASI). Esto se llama una explosión de Inteligencia, y es el último ejemplo de la ley de rendimientos acelerados.
Existe cierto debate sobre cuándo alcanzarán las AIs el nivel AGI. La mediana en una encuesta a cientos de científicos fué el año 2040. Que es sólo dentro de 25 años, y que no suena demasiado cerca hasta que se considera que muchos de los pensadores en este campo creen que es probable que la progresión de la AGI a ASI suceda muy rápidamente. Esto convertiría en factible el siguiente escenario:
Después de décadas de trabajo se consigue que el primer sistema de inteligencia artificial llegue a poseer inteligencia general de bajo nivel. En ese momento existe un ordenador que es capaz de entender el mundo que lo rodea como lo entendería un niño de cuatro años. De repente, una hora después de conquistar ese hito, el ordenador sería capaz de desarrollar la gran teoría de la física que unifica la relatividad general y la mecánica cuántica, algo que ningún humano ha sido capaz de hacer hasta ahora. 90 minutos después de eso, la AGI se habría convertido en un ASI, 170.000 veces más inteligente que un ser humano.
La super-inteligencia de esta magnitud no es algo que podamos comprender. No más que un abejorro intentando comprender la teoría económica keynesiana. En nuestro mundo, ser inteligente significa un CI de 130 y ser estúpido significa un CI de 85. Aún no disponemos de una palabra para describir un un CI de 12000.
Pero el dominio absoluto de los seres humanos sobre la Tierra nos puede sugerir una regla clara: Con la inteligencia se obtiene poder sobre los seres vivos y sobre las cosas. Un ASI, cuando lo creemos o surja, será el ser más poderoso en la historia de la vida en la Tierra. Todos los seres vivos, incluidos los seres humanos, estarán enteramente a su merced. Y esto podría ocurrir en las próximas décadas.
Si nuestros penosos cerebros fueron capaces de inventar el WIFI, entonces algo cien, o mil, o mil millones de veces más inteligente que nosotros no tendría ningún problema para controlar, tal y como le apeteciese y en todo momento, este planeta. Todo aquello que consideramos magia, todos los poderes que imaginamos que tendría un Dios, serían tan naturales y sencillos de manejar para una ASI como apretar un interruptor de la luz lo es para nosotros. Por ejemplo La creación de tecnología para revertir el envejecimiento humano, acabar con el hambre y la mortalidad, reprogramar el tiempo para proteger el futuro de la vida en la Tierra. De repente todo eso es posible. También es posible el fín inmediato de toda la vida en la Tierra. En lo que a nosotros respecta, si un ASI nace, en ese momento pasa a existir un Dios omnipotente en la Tierra. Y entonces la pregunta más importante es:
Para empezar, un AGI con el mismo nivel de inteligencia y capacidad computacional que un ser humano tendría ventajas significativas sobre nosotros tanto en hardware como en software. veamos:
Hardware:
- Velocidad. Las neuronas del cerebro funcionan en torno a 200 Hz (200 operaciones por segundo, digamos). Mientras que los microprocesadores de hoy (que son mucho más lento de lo que serán cuando llegue la AGI) corren a 2 GHz (dos trillones de operaciones por segundo), osea, 10 millones de veces más rápido que nuestras neuronas. Y las comunicaciones internas del cerebro, que pueden moverse a unos 120 metros por segundo, son brutalmente superadas por la capacidad de un equipo para comunicarse ópticamente a la velocidad de la luz.
- Tamaño y almacenamiento. El cerebro no puede aumentar de tamaño por la forma de nuestros cráneos, y no podía ser mucho más grande de todos modos, puesto que su peso lo colapsaría y las comunicaciones a 120 metros por segundo serían demasiado lentas para llegar de una estructura del cerebro a otra. Las computadoras se pueden ampliar a cualquier tamaño físico, tienen mucha más memoria de trabajo (RAM) y memoria a largo plazo (almacenamiento en disco duro).
- La fiabilidad y la durabilidad. No sólo los recuerdos de un equipo son más precisos puesto que los transistores son más precisos que las neuronas. También es menos probable que la información se deteriore (y pueden ser reparados o reemplazados si se rompen). Los cerebros humanos se fatigan con facilidad. Los ordenadores pueden correr al máximo rendimiento 24 horas al día, sin descanso.
Software:
- Capacidad de modificación y generalidad. A diferencia del cerebro humano, el software puede recibir actualizaciones y correcciones y puede ser fácilmente evaluado y descartado. Las mejoras también podrían extenderse a las zonas donde los cerebros humanos son más débiles. La visión humana es extraordinariamente avanzada, mientras que su capacidad de pensamiento simbólico es pobre. Las computadoras podrían alcanzar al ser humano en entender imágenes, pero lo superarían en los demás aspectos, al ser más generalistas.
- Capacidad colectiva. Los humanos superamos a todas las otras especies en la construcción de una gran inteligencia colectiva. Desde el desarrollo del lenguaje y la formación de comunidades grandes y densas, pasando por los inventos de la escritura y la impresión, hasta herramientas como el Internet, la inteligencia colectiva de la humanidad es una de las principales razones por las que hemos sido capaces de llegar tan lejos. Pero en esto los ordenadores son mejores que nosotros. Una red mundial de AI podría sincronizar conocimientos periódicamente entre sus miembros de forma que cualquier cosa que aprendiese uno de ellos pasaría inmediatamente a formar parte de la inteligencia de todos. Es un poco como los automóviles autónomos de Google. Si uno de ellos tiene un accidente por un error propio, este accidente se analizará y una versión nueva del software de control será cargada en todos los vehículos, no sólo en el que causó el accidente. De esta manera todos ellos "aprenderán" del accidente. Otra ventaja de las AIs sería su capacidad de colaborar. Sumar sus habilidades para construir una inteligencia mayor. Un grupo de AIs podría trabajar en un proyecto, y su colaboración sería mucho más eficiente puesto que sería más fácil para ellas alinear sus objetivos que para los humanos (un ejemplo perfecto de los humanos teniendo problemas para colaborar en una tarea son las reuniones de comunidades de vecinos).
Esto puede dejarnos sin habla cuando suceda. La razón es que, desde nuestra perspectiva, reflejada en el siguiente gráfico, aunque la inteligencia de los diferentes tipos de animales varía, en todos los casos es más baja que la nuestra, y lo que es mucho más importante, vemos a los seres humanos más inteligentes como mucho más inteligentes que los seres humanos más tontos. Más o menos lo vemos (equivocadamente) así:
Vamos a ver las AIs, mientras progresan hacia nuestro nivel, como símplemente muy inteligentes para un animal. Luego, cuando lleguen al nivel que Nick Bostrom califica como "el tonto del pueblo" vamos a decir: "Mira, es como un ser humano mudo. Que chulo!". El problema es que, en el gran espectro de la inteligencia, todos los seres humanos, desde el tonto del pueblo a Einstein, están dentro de un rango muy pequeño. Muy poco después del nivel "tonto del pueblo" y de que la declaremos una AGI hecha y derecha, nuestra AI va a ser más inteligente que Einstein y no sabremos que fué lo que nos golpeó:
Y despues ...?
Una explosión de Inteligencia
Espero que hayan disfrutado del periodo "normal". Ahora es cuando la cosa se torna increible y dá miedo, y va a seguir así a partir de este momento. Quiero hacer una pausa aquí para recordarles que cada cosa que voy a decir es ciencia-real, no ciencia-ficción y proviene de las previsiones reales del futuro hechas por una gran variedad de los pensadores y científicos más respetados.Como he dicho anteriormente, la mayoría de nuestros modelos actuales para llegar a AGI implican que las AI llegarán a ese punto por auto-mejora. En cualquier caso una vez que lleguen al nivel AGI, incluso los sistemas que se crearon y mejoraron a través de métodos sin auto-mejora serían lo suficientemente inteligentes como para modificarse a sí mismos.
Y aquí es donde llegamos al concepto final: Auto-mejora recursiva. Funciona así:
Un sistema de inteligencia artificial a un cierto nivel, digamos "tonto del pueblo" está programado con el objetivo de mejorar su propia inteligencia. Una vez llegue a la inteligencia de Einstein tendrá más recursos y será mucho mejor mejorando su propia inteligencia. Por supuesto le será más fácil y progresará más rápido que cuando era el tonto del pueblo. Cuando estos progresos lo lleven al punto en que es mucho más inteligente que cualquier ser humano, tendrá recursos e inteligencia para mejorar aún más rápido. A medida que los progresos se hacen más y más grandes y ocurren con mayor rapidez, la AGI progresa al nivel superinteligente (ASI). Esto se llama una explosión de Inteligencia, y es el último ejemplo de la ley de rendimientos acelerados.
Existe cierto debate sobre cuándo alcanzarán las AIs el nivel AGI. La mediana en una encuesta a cientos de científicos fué el año 2040. Que es sólo dentro de 25 años, y que no suena demasiado cerca hasta que se considera que muchos de los pensadores en este campo creen que es probable que la progresión de la AGI a ASI suceda muy rápidamente. Esto convertiría en factible el siguiente escenario:
Después de décadas de trabajo se consigue que el primer sistema de inteligencia artificial llegue a poseer inteligencia general de bajo nivel. En ese momento existe un ordenador que es capaz de entender el mundo que lo rodea como lo entendería un niño de cuatro años. De repente, una hora después de conquistar ese hito, el ordenador sería capaz de desarrollar la gran teoría de la física que unifica la relatividad general y la mecánica cuántica, algo que ningún humano ha sido capaz de hacer hasta ahora. 90 minutos después de eso, la AGI se habría convertido en un ASI, 170.000 veces más inteligente que un ser humano.
La super-inteligencia de esta magnitud no es algo que podamos comprender. No más que un abejorro intentando comprender la teoría económica keynesiana. En nuestro mundo, ser inteligente significa un CI de 130 y ser estúpido significa un CI de 85. Aún no disponemos de una palabra para describir un un CI de 12000.
Pero el dominio absoluto de los seres humanos sobre la Tierra nos puede sugerir una regla clara: Con la inteligencia se obtiene poder sobre los seres vivos y sobre las cosas. Un ASI, cuando lo creemos o surja, será el ser más poderoso en la historia de la vida en la Tierra. Todos los seres vivos, incluidos los seres humanos, estarán enteramente a su merced. Y esto podría ocurrir en las próximas décadas.
Si nuestros penosos cerebros fueron capaces de inventar el WIFI, entonces algo cien, o mil, o mil millones de veces más inteligente que nosotros no tendría ningún problema para controlar, tal y como le apeteciese y en todo momento, este planeta. Todo aquello que consideramos magia, todos los poderes que imaginamos que tendría un Dios, serían tan naturales y sencillos de manejar para una ASI como apretar un interruptor de la luz lo es para nosotros. Por ejemplo La creación de tecnología para revertir el envejecimiento humano, acabar con el hambre y la mortalidad, reprogramar el tiempo para proteger el futuro de la vida en la Tierra. De repente todo eso es posible. También es posible el fín inmediato de toda la vida en la Tierra. En lo que a nosotros respecta, si un ASI nace, en ese momento pasa a existir un Dios omnipotente en la Tierra. Y entonces la pregunta más importante es:
Comentarios
Pero yo quiero verlo.
¿Lo veré, Dios mio?
Supongo que conocéis que ya están pensando en el botón rojo para desactivar a ese Dios (http://intelligence.org/files/Interruptibility.pdf).
Aunque supongo también que una vez alcanzado cierto nivel de inteligencia, cosa que sucederá muy deprisa y de forma impredecible, saltarse esos protocolos o botones de desactivación es trivial...
Este mismo razonamiento podría haberse hecho en 1950 con la velocidad de los vehículos o la esperanza de vida y concluir que los coches desplazándose a velocidades próximas a la luz aparecerían casi sin darnos cuenta en la década de 1990-2000 o que para entonces seríamos inmortales. Bueno, en cierta manera, la Humanidad sigue creyendo estas patrañas para aliviar la insoportable inevitabilidad de nuestra muerte individual y colectiva.
O se lanza en brazos de un determinado Dios, o se entrega a estas creencias ciegas en el progreso tecnológico.
Estoy muy tranquilo a este respecto.
Vamos a considerar las segundas, por probabilidad e importancia.
Un ejemplo, suponemos que la evolución de la AI es exponencial abrupta, y se desarrolla una superinteligencia en muy pocos minutos, además, sabemos que la base del conocimiento es la información, y más concretamente, su trasmisión y comprensión (humana).
¿En qué situación estaríamos si no recibimos el feedback informativo que esperábamos?, y si finalmente una superinteligencia decide un método de comunicación que solo está al alcance de otras superinteligencias, o ... y si decide callar (textualmente convertirse en una piedra). Esto nos lleva directamente a la pregunta del 1M de dólares,:
... ¿Quién te dice que no hay otras superinteligencias conviviendo con nosotros, incluso artificiales en forma de cantaros de rio, ofreciéndonos ese conocimiento, pero es nuestra evolución física natural (mucho más lenta) la que limita ese desarrollo?
Y luego, también se dice que una vez llegue la AGI, el crecimiento será aún más rápido de lo que sería esperable mirando a la exponencial que nos ha llevado hasta allí. La AGI rompería el modelo anterior, y nuestra capacidad de predecir qué pasará después. Ahí estaría el cambio "abrupto".