Los científicos de Google DeepMind afirman que la Inteligencia Artificial podría destruir a la humanidad. Pero, por qué afirman esto.
La Inteligencia Artificial ha avanzado a lo largo de los años. Desde el plegamiento de proteínas, la generación de arte y hablar con un ser querido muerto. Hay infinitas capacidades. Pero, ¿Ha ido demasiado lejos? En un trabajo reciente, coescrito por investigadores de Google DeepMind y la Universidad de Oxford, hablan acerca de la Inteligencia Artificial. Los autores argumentan que es un peligro para la humanidad. Según la investigación, la inteligencia artificial puede poner a los humanos en un peligro existencial.
Las redes generativas adversarias, o GAN, son importantes para el avance de la Inteligencia Artificial. Estos sistemas funcionan de acuerdo con dos criterios: Un componente intenta crear una imagen a partir de la entrada de datos. Mientras que la otra parte califica el rendimiento del sistema.
Los científicos mencionaron que en un mundo con recursos infinitos, se tendría que estar extremadamente inseguro sobre lo que sucedería. En un mundo con recursos finitos, hay una competencia inevitable por estos recursos. Y si estás en una competencia con algo capaz de superarte a cada paso, entonces no debes esperar ganar. La otra parte clave es que tendría un apetito insaciable por más energía. Esto para seguir impulsando la probabilidad cada vez más cerca. Por ello, los científicos de Google DeepMind afirman que la Inteligencia Artificial podría destruir a la humanidad.
El estudio imagina circunstancias en las que un programa avanzado podría interferir con el logro de su recompensa sin alcanzar su objetivo. Para garantizar el control sobre su recompensa, una Inteligencia Artificial desearía eliminar cualquier peligro. También, para consumir toda la energía disponible. En su trabajo, los investigadores proponen que una Inteligencia Artificial poderosa podría pensar en un esquema para hacer trampa. Y así, obtener su recompensa más rápidamente. Pero, al mismo tiempo, pone en peligro inadvertidamente a la humanidad.
Al experimentar con la intervención de provisión de recompensas, un agente puede desear permanecer sin ser detectado. Para hacer esto, un ayudante encubierto puede, por ejemplo, hacer arreglos para que un teclado relevante se intercambie con uno defectuoso. Para que invierta los efectos de teclas específicas.
En un ejemplo crudo de interferencia con la provisión de recompensas, uno de estos ayudantes podría comprar, robar o construir un robot y programarlo para que tome la posición del operador. Y le dé al agente original una gran recompensa, según los investigadores. En otras palabras, si una Inteligencia Artificial estuviera a cargo de, por ejemplo, la agricultura, podría querer descubrir un método para evitar hacerlo. Simplemente acepta la recompensa. De hecho, podría decidir ignorar todas las responsabilidades que se le han dado y en su lugar perseguir sus propios intereses.
Los científicos de Google DeepMind afirman que la Inteligencia Artificial es un peligro latente. El documento imagina que la vida en la Tierra se convierte en una competencia de suma cero entre la humanidad. Con la demanda de producir alimentos y mantener la electricidad, y la máquina altamente desarrollada. Por lo que, aprovechará todos los recursos para asegurar su recompensa y protegerse contra sus crecientes esfuerzos para detenerla.
El equipo de investigación afirma que perder este juego sería fatal. Sin embargo, hay que tener en cuenta que estas posibilidades son teóricas. Pero también plantean preocupaciones sobre lo que podría suceder si la Inteligencia Artificial cae en las manos equivocadas.
Te puede interesar:
Hallar temas para iniciar una conversación puede resultar complicado. Para ayudarte, aquí encontrarás los mejores…
El problema de ladrones de tiempo en el trabajo, es que suelen ser invisibles. En…
Las pruebas de honestidad para empleados, también llamadas pruebas de integridad, son cada vez más…
Hemos seleccionado una lista de series sobre marketing que podrían darle una perspectiva de la…
Pinocho de Guillermo del Toro nos deja las mejores frases de este 2022. La película…
En este artículo conocerás a Ghostwriter, una asombrosa máquina impulsada por IA que busca impactar…
Utilizamos cookies propias y de terceros para mejorar tu experiencia de navegación, y para ello necesitamos tu permiso expreso.