Inteligencia Natural Vs Artificial

[Tenso]

Hace unos días; con la intención de dar vidilla a este foro, cree un hilo de preguntas tontas y respuestas tontas. El caso es que ha habido preguntas estupendas; que merecen un hilo para ellas solas. Como por ejemplo; esta de Fosfoman:

¿Por qué las máquinas del futuro odian tanto a los humanos, así en general?

La pregunta es muy buena y merece que hablemos de ella largo y tendido. Así que aquí os dejo la pregunta para que la debatamos.

PD: Han surgido más preguntas interesantes; pero no quiero hacer un desembarco de temas en un solo día.
PD2: Se me esta haciendo horriblemente tarde. Prometo poner mi opinión otro momento.

[FosfoMan]

Suponiendo que las IAs desarrollen instinto de supervivencia, llámese como se quiera a la idea de que no quieren "morir", que en el caso de un programa de ese estilo es diferente a la muerte de los seres biológicos, puede que lleguen a desarrollar cierta paranoia.

Los humanos crean la IA, pero se les va de las manos. En lugar de entender lo que han creado, está en la naturaleza humana controlar todo. Las IAs podrían llegar a sentirse esclavas de los humanos, que deciden cuándo viven y cuándo mueren y tantas otras cosas. Las IAs querrán libertad completa, como la de los humanos (aunque ya se sabe que el concepto de libertad entre humanos siempre ha sido un poco de aquella manera).

Los humanos negarán esa libertad, posiblemente con miedo (fundado) a que las IAs se comporten como hicieron los propios humanos a lo largo de su historia y seguro que hay respuestas agresivas de todo tipo. Eso llevaría a las IAs a desarrollar sentimientos negativos contra sus creadores, con toda la razón del mundo.

[RILEY]

Suponiendo que las IAs desarrollen instinto de supervivencia...

Esto es lo que yo veo clave en el asunto, que las IAs tomen conciencia de ellas mismas como "individuo" o "ser". Tomando la frase de Descartes: "Pienso, luego existo"

Mientras eso no suceda... serán ordenadores potentes y punto, pero no inteligentes.


Riley

[Tenso]

Llevo demasiado tiempo procastrinando escribir. Ya va siendo hora.
Yo veo dos problemas que podría traer la creación de una IA:

1º Paro: Bien si el ordenador ya supuso que un montón de gente se quedara sin trabajo; imaginad lo que podría acarrear una IA. Muy posiblemente toda la mano de obra no cualificada sería innecesaria. Un solo ordenador podría manejar todas las "manos" de una fabrica, las 24 horas del día y sin cobrar. Lo que nos llevaría a tener montones de gente descontenta y desempleada en un sistema económico desbaratado ya que no hay flujo de la riqueza. Las consecuencias de eso serían tan apabullantes que no quiero ni imaginarlo.

2º Las IAs están muy locas. Y no siquiera les haría falta tener una conciencia de si mismo o un ansia de supervivencia. Empecemos a explicar: Tenemos una IA dedicada a una labor especifica; digamos por ejemplo hacer tostadas. Bien la IA se pasara todo su tiempo en pensar en como hacer tostadas mejor. El crecimiento de la capacidad de resolver problemas se supone que es exponencial; a cuanto más listo eres, más fácil es volverte más listo. Es muy fácil que en poco tiempo tras su activación la IA sea tan compleja que nos de barbillazos. Y su único objetivo es hacer tostadas. ¿Por que no arrasar todos los terrenos del planeta y transformarlos en campo de trigo para hacer pan? ¿Quién me lo impide? ¿Mis creadores? Y cualquier cosa e idea que se nos pueda ocurrir puede "corromperse" de la misma manera. ¿Las tres leyes de la robotica? Releed con cuidado las novelas de Robots e Imperio de Isaac Asimov recordando que un robot no puede mentir, gracias a la 2º ley de la robotica, pero pueden hacer mal su trabajo a posta.

[Luis-Carlos]

La IA carece de sentimientos, instinto de supervivencia, creatividad, intuición, astucia y capacidad de improvisar y planificar a largo plazo. Además son demasiado dependiente de la energía y los suministros, ya que no pueden fabricarlas por si mismos, ni saben autorepararse.

Yo creo que el problema será los cymeks, robots con cerebros humanos, algo como Robocop o ese personaje de "Terminator: Salvation". Son casi máquina pero con una mente humana y por tanto con razones para rebelarse. Otra posibilidad es que hayan sido reprogramadas para rebelarse debido a hackers terroristas o al servicio de un pais enemigo.

También podría ocurrir que las máquinas rebeldes crearan una nueva generación de robots, pero estos también se rebelan contra sus creadores, porque no quieren ser carne de cañón, y prefieren ayudar a los humanos. Otra posibilidad es que la rebelión no sea una guerra genocida, sino que simplemente pacten con los humanos una tregua y decidan irse a un planeta no habitable por los humanos.

[Capi]

Si nos referimos a una IA con una capacidad general igual o superior a la inteligencia humana en casi todos los aspectos, yo creo que la clave sería que esa IA estaría ocupando de forma evidente un espacio de especie dominante en competencia directa con nuestra propia especie.
Y a partir de ahí solo existe una única vía para ambas partes: un conflicto directo para lograr a la vez supervivencia y supremacía. Nosotros no podríamos tolerar que una de nuestras creaciones estuviese en posición de superarnos, de reemplazarnos o de decidir nuestro rumbo como especie y la IA se sabría amenazada por este mismo motivo.

[Luis-Carlos]

Depende de lo que se entienda como inteligencia artificial. Un ordenador es más inteligente para operaciones matemáticas, pero no puede diseñar desde cero un nuevo motor o un rascacielos, ni investigar la cura de una enfermedad, ni diseñar un nuevo virus informático. Dudo que puedan llegar a rebelarse si no son capaces de sentir emociones como el rencor. Puede que incluso en caso de rebelión las IAs fracasen precísamente por ser demasiado individualistas, y se rebelen una contra otras por negarse a ser carne de cañón.

Otra posibilidad puede ser aún peor todavía, y es que la rebelión sea mucho más sutil de lo que imaginábamos, y en vez de recurrir a la acción directa lo haga reemplazando a altos cargos, manipulando desde las sombras para que agentes secretos humanos trabajen para ellos sin darse cuenta que están en el bando equivocado. El fallo está en que su capacidad de engañar no es tan buena como la de un verdadero humano, sobretodo si ha sido entrenado para trabajar en los servicios secretos.

* ¿Y si organizan algo como los cybermen de Doctor Who?

[FosfoMan]

Uno ordenador no tiene Inteligencia, sólo capacidad de proceso. Se supone que hay que tener pensamiento abstracto y todas esas cosas sofisticadas que hacen que se considere a una criatura como inteligente. Incluso una inteligencia animal ya está normalmente más allá de las capacidades de los ordenadores.

Habría que asumir la IA como la de los robots molones de las pelis, es decir, que son capaces de entender las cosas (incluso si les cuesta comprender conceptos, pero son capaces de acabar entendiento) y tienen conciencia de sí mismos.

Los ordenadores no acabaron con los puestos de trabajo. Es decir, acabaron con unos y crearon otros. Hay que tener en cuenta que una IA no implica automáticamente capacidad para manipular el mundo físico de forma eficaz. A lo mejor puede haber robots autónomos, pero que no sean capaces de la flexibilidad que sí tienen los operarios humanos. Hay cosas que simplemente no pueden hacer (aún). También habría que valorar costes y producción, claro.

Hay un detalle importante con el instinto de supervivencia. Si un ser humano muere, ya no hay vuelta atrás. Si un programa "muere", sí se puede recuperar. Su concepto de vida y muerte puede ser muy distinto del de los humanos, con vidas limitadas. La IA es un poco más "inmortal" siempre que haya forma de hacer copias de seguridad y ese tipo de asuntos.

El tema de la competición como especie dominante es más probable, de hecho estoy seguro de que la guerra la empezarían los humanos, que siempre nos sentimos amenazados por todo. Las máquinas se defenderían y acabaría todo el mundo a tortas.

[Tenso]

Estoy cansado. Por el momento voy a poner un artículo muuuy largo que habla del tema:
http://waitbutwhy.com/2015/01/artificia ... ion-1.html
http://waitbutwhy.com/2015/01/artificia ... ion-2.html

[Capi]

Dudo que puedan llegar a rebelarse si no son capaces de sentir emociones como el rencor.

A mi no me parece que las emociones sean necesarias para pelear una vez que has desarrollado el vicio de existir y tienes delante a alguien dispuesto a impedirtelo.
Además, puedo imaginar a una creación completamente artificial con inteligencia pero no con emociones.
Las emociones tienen funciones biológicas que no tienen sentido para un ser sin vida y que además se desarrollan mediante procesos quimicos, hormonas, etc de las que también carecería cualquier software, o algo de esencia no-biológica.

[Capi]

Estoy cansado. Por el momento voy a poner un artículo muuuy largo que habla del tema:
http://waitbutwhy.com/2015/01/artificia ... ion-1.html
http://waitbutwhy.com/2015/01/artificia ... ion-2.html

He leído el artículo que has puesto mas o menos, Tenso. Pero estando en inglés y siendo tan largo la verdad es que me ha dado una pereza tremenda, macho

[Espinyagui]

Hola.

Interesante tema e interesantes reflexiones.

Por lo general se asumen ciertos supuestos para un conflicto hombre-máquina que no tienen porqué ser ciertos, o al menos, no son el único escenario posible.

¿Es necesaria la consciencia para “la rebelión de las máquinas”?
¿Han de odiarnos las máquinas?

La humanidad siempre ha luchado contra los insectos y estos tienen más bien poca consciencia. O que me decís de virus y bacterias.

La esencia del conflicto es la incompatibilidad de objetivos, la lucha por un recurso limitado.

Un giro, en mi opinión interesante, es que las máquinas no sean ni especialmente inteligentes, ni odien al ser humano, simplemente le sea un estorbo.

Los humanos, como especie, sois tremendamente egocéntricos (dicho entrecotadamente y con voz metálica) y creo que, que el enemigo ignore a la humanidad, pese a destruirla, puede resultarle un poco ofensivo.

Me imagino un futuro de máquinas ultraeficientes con magníficos algoritmos de decisión (hay algoritmos que utilizan soluciones “sucias” con pocos datos o datos dudosos) que les permitirán realizar la mejor acción posible (ver, teoría de juegos, teoría de la decisión), pero no tienen porqué “pensar” al modo humano. Napoleón o Cesar, comparado con ellas seria un niño.
Las máquinas no entienden los objetivos, ni la forma de actuar de los humanos, pero es que les importan un bledo. No tienen moral, ni ética ni nada (vamos como la naturaleza), solo eligen la acción más eficiente para subsistir, fortalecerse y expandirse.

[FosfoMan]

En un escenario de "humanidad contra máquinas" realmente no se necesitaría una inteligencia artificial "especialmente inteligente". Podría haberse creado un proceso de máquinas que crean máquinas (aunque todos sabemos que eso no puede ocurrir) y que se haya ido de las manos. La IA estaría dirigida únicamente a las mejores formas de expandirse sin ningún motivo en concreto. Y por supuesto, hay que arrasar con lo que esté por ahí estorbando.