Stephen Hawking alerta sobre los peligros de la inteligencia artificial

[WolfHeart]

A ver si no terminamos como en Matrix o Terminator.

jejeje... Hey qué ondas Chronikuz?? Juepoc..  . Ya tenía ratos vos, de no leer estas fumadencias que publicas... 

Hey quizás posteas en tu Topic... pero yo no puedo verlo... 


Tranqui todos, que ya va salir dentro de poco (en el 2015) Terminator Genisys, a ver que dice Don Arnold, ahí vamos a ver quien ganará la guerra entre nosotros y las máquinas... jejeje 

creo que estas descartando que las otras especies NO son lo suficientemente inteligentes para plantear una amenaza para nosotros. tomate un ejemplo mas certero... como que pasa cuando una civilizacion mas avanzada encuentra otra. como digamos... que paso con los indios despues de la colonizacion de america?

x2
Exactly...

Pero Mmmm... Siempre he sostenido que el hombre, gana más la obsesión que posee del saber y descubrir; y, siempre generamos poco a poco nuestra autodestrucción, siendo consciente de ello, sin embargo, no nos importa mucho y lo seguimos haciendo. Entonces, si cabe la posibilidad de que otra civilización nos sustituya, ya sea que iniciemos creándola nosotros, o puede ser que ya exista, solo falta que evolucione, nos conquiste o nos destruya en un futuro no muy lejano. 

[kingblue]

creo que estas descartando que las otras especies NO son lo suficientemente inteligentes para plantear una amenaza para nosotros. tomate un ejemplo mas certero... como que pasa cuando una civilizacion mas avanzada encuentra otra. como digamos... que paso con los indios despues de la colonizacion de america?

muchos humanos, a través de la historia, han carecido de lo que yo pienso que es la verdadera inteligencia y que motivados por la avaricia, egocentrismo, discriminación, odio y muchos otros actos de maldad han dañado a su propia especie y a las que nos rodean. La IA no necesariamente llegue a desarrollar este tipo de emociones humanas, y aunque no se como evolucionara un ente de esta magnitud, creo que podrá desarrollar verdadera capacidad para solucionar los problemas de manera mas imparcial y objetiva que nosotros los seres humanos, convivir con su creador, a través de un protocolo de respeto a los seres orgánicos, es algo que los programadores tendrán como reto lograr para que no se den los acontecimientos apocalípticos que muchos temen.

[g00mba]

creo que podrá desarrollar verdadera capacidad para solucionar los problemas de manera mas imparcial y objetiva que nosotros los seres humanos, convivir con su creador,

y todos cantando cumbaya... si pero todavia no me han dicho, que ganaria una inteligencia artificial con ayudarnos o mantenernos vivos?

a través de un protocolo de respeto a los seres orgánicos

vos estas hablando de las tres leyes de la robotica de Asimov.

Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

lamentablemente en la realidad es imposible hacer eso con una verdadera IA.

es algo que los programadores tendrán como reto lograr para que no se den los acontecimientos apocalípticos que muchos temen.

contame, para que necesita un programador una inteligencia que es capaz de programarse a si misma?

[Chronikuz]

jejeje... Hey qué ondas Chronikuz?? Juepoc..  . Ya tenía ratos vos, de no leer estas fumadencias que publicas... 

Hey quizás posteas en tu Topic... pero yo no puedo verlo... 

Si he estado perdido, separacion, problemas personales y trabajar en un puto callcenter que no me da tiempo. Pero bueno, siempre vamos tratando de ir para mejor... aunque siempre los leo.

La IA no necesariamente llegue a desarrollar este tipo de emociones humanas, y aunque no se como evolucionara un ente de esta magnitud, creo que podrá desarrollar verdadera capacidad para solucionar los problemas de manera mas imparcial y objetiva que nosotros los seres humanos, convivir con su creador, a través de un protocolo de respeto a los seres orgánicos, es algo que los programadores tendrán como reto lograr para que no se den los acontecimientos apocalípticos que muchos temen.

El problema es que nuestra misma humanidad nos impide ser totalmente parciales, hay muchas decisiones que por lógica podrían resolver muchos problemas... pero serian éticas? Imagínense que le dieran la potestad a una IA sin sentimientos de que decidiera el destino de todos los parásitos pandilleros que tenemos en la cárceles?

En fin, la verdad es que hasta que no pase no se sabe como actuaria una IA, aun no sabemos si podría generar sentimientos en algún punto de su existencia también...

[kingblue]

y todos cantando cumbaya... si pero todavia no me han dicho, que ganaria una inteligencia artificial con ayudarnos o mantenernos vivos?

vos estas hablando de las tres leyes de la robotica de Asimov.lamentablemente en la realidad es imposible hacer eso con una verdadera IA.
contame, para que necesita un programador una inteligencia que es capaz de programarse a si misma?

ganar? seriamos objeto de estudio por muchos años, una entidad compleja estudiando a otra logrando solucionar aquello que no tenía solución, ¿te has preguntado que ganan los investigadores, los científicos? Conocimiento.
Un programador que logre en su momento crear la IA ganara reconocimiento, fama, dinero. Afectara a muchos eso si, pero eso no ha detenido al ser humano es sus ambiciones.
Una IA sera algo enigmático hasta que esta exista, pero no podemos condenarla antes de que siquiera nazca.

[g00mba]

ganar? seriamos objeto de estudio por muchos años, una entidad compleja estudiando a otra logrando solucionar aquello que no tenía solución, ¿te has preguntado que ganan los investigadores, los científicos? Conocimiento.

de que estas hablando? el conocimiento tiene valor por cuanto sea UTIL. el saber por la mera gana de saber es INUTIL

Un programador que logre en su momento crear la IA ganara reconocimiento, fama, dinero. Afectara a muchos eso si, pero eso no ha detenido al ser humano es sus ambiciones.
Una IA sera algo enigmático hasta que esta exista, pero no podemos condenarla antes de que siquiera nazca.

... joder... NO es enigmatico. y nadie esta hablando del programador. hay tesis y tesis sobre la posible singularidad. lean los links que les pongo.

Es así como surgen cuatro posturas distintas:

    Quienes creen que la tecnología siempre será controlada por los seres humanos y que el único peligro está en el mal uso que se le dé, de modo que solo bastaría con limitar, prohibir o controlar su utilización (desarrollo sostenible).
    Quienes creen que las tecnologías igualarán y superarán al ser humano y precipitarán el surgimiento de una superinteligencia (singularidad tecnológica).
    Quienes aceptan que las tecnologías constituirán una superestructura y creen que, dado el contexto actual del poder, estas se convertirían en un competidor demasiado peligroso para la humanidad, por lo cual hay que hacer todo lo posible por que esto no suceda (bioconservadurismo).
    Quienes ven a la tecnología como una aliada que puede llevar a la humanidad a una superinteligencia colectiva en la cual seres humanos y tecnologías cooperarán por un futuro sostenible 3 (sostenibilidad tecnológica).

https://es.wikipedia.org/wiki/Singularidad_tecnol%C3%B3gica

[mxgxw]

de que estas hablando? el conocimiento tiene valor por cuanto sea UTIL. el saber por la mera gana de saber es INUTIL

En eso no estoy de acuerdo, muchos descubrimientos de los cuales depende la tecnología actual simplemente no tenían aplicación práctica y eran inútiles en el momento que se descubrieron. Fué hasta muchísimos años después que se les encontró una aplicación práctica.

Algunos ejemplos son las propias ondas electromagnéticas (y sus mecanismos de transmisión), la mayoría de elementos fueron descubiertos por la simple curiosidad de conocer que componía X o Y cosa pero que no tenía ninguna aplicación práctica directa y que hoy son necesarios para la fabricación de semi-conductores.

Hay muchos fenómenos quanticos que originalmente no tenían ninguna aplicación práctica pero en microprocesadores que trabajan a varios GHz de velocidad y a tamaños tan reducidos ya son lo suficientemente considerables en escala como para que haya que tomarlos en consideración en el diseño.

El saber por la mera gana de saber no es para nada INUTIL, el saber por si mismo es suficiente razón para conocer. Sino no existieran laboratorios como el CERN que investigan la naturaleza de la materia que compone el universo y que realmente muchos de sus resultados no tienen ninguna utilidad práctica directa más que saber como está estructurado el universo.

Que mejor ejemplo de cosas que son realmente inutiles que la matemática teórica, no tiene absolutamente ninguna aplicación práctica y/o utilidad directa... Pero de tanto en tanto algún físico descubre que algún postulado de la matemática teórica sirve para simplificar los cálculos o explicar las interacciones dentro de algún fenómeno físico que luego puede ser aplicado en otras cosas.

Por ejemplo la criptografía que utilizamos día a día se basa en que hay algunos problemas matemáticos que son más fáciles de verificar su respuesta que el resolverlos, es algo tomado de las "matemáticas" que no tenía mayor utilidad que ser una curiosidad hasta que alguien se dió cuenta que podría ser una forma eficaz de proteger información en sistemas electrónicos.

[sarezer]

Me recuerda un capitulo de invasor zim donde el robot dice: "INTELIGENCIA CUESTIONABLE"

[g00mba]

En eso no estoy de acuerdo, muchos descubrimientos de los cuales depende la tecnología actual simplemente no tenían aplicación práctica y eran inútiles en el momento que se descubrieron. Fué hasta muchísimos años después que se les encontró una aplicación práctica.

creo que te perdiste del contexto en el que lo estabamos hablando, estoy de acuerdo en lo que decis, pero aqui el muchacho tiene una su hipotesis que en el caso que una IA de verdad existiera, sentiria la necesidad de "estudiarnos" para ganar "conocimiento" y por eso nos mantendria vivos. lo que a mi me parece absurdo.

[HuMs]

disculpen la ignorancia pero tengo entendido que lo unico posible es generar codigo de programación que haga que una maquina responda de cierta manera  o de otra dependiendo de la seleccion

Segun entiendo una maquina siempre tiene q estar programada para que pueda hacer o dejar de hacer lo que el programador diga en ciertas situaciones pero de ninguna manera es posible que ella se autoprograme para tomar decisiones que ni por cerca ha pensado el programador que la creo o me equivoco?

[ernesto84]

disculpen la ignorancia pero tengo entendido que lo unico posible es generar codigo de programación que haga que una maquina responda de cierta manera  o de otra dependiendo de la seleccion

Segun entiendo una maquina siempre tiene q estar programada para que pueda hacer o dejar de hacer lo que el programador diga en ciertas situaciones pero de ninguna manera es posible que ella se autoprograme para tomar decisiones que ni por cerca ha pensado el programador que la creo o me equivoco?

si y no, precisamente ese es la diferencia entre un inteligencia artificial y una maquina programa, inteligencia se define como la capacidad del organismo de resolver problemas Nuevos, y ademas aprender, el tema aquí es el termino conciencia...