RSS
Facebook
G+

Buscador de IntercambioSOS:


Retroceder   Foro de Ayuda IntercambiosvirtualeS > Tecnologías & Hardware > Nuevas Tecnologías

Respuesta
 
Herramientas Desplegado
Antiguo 26-dic-2016     #1
Predeterminado El gran botón rojo que puede parar la inteligencia artificial

El gran botón rojo que puede parar la inteligencia artificial

Deep Mind, una start-up de Google, ha desarrollado un mecanismo que puede interrumpir toda la inteligencia de sus sistemas en caso de emergencia

La inteligencia artificial es una de las apuestas de las grandes compañías


Llegará un momento en el que las máquinas superarán la inteligencia de los humanos y estos deberán contar con un sistema de prevención para poder interrumpirlas. No es otro guión de película de ciencia ficción, sino la hipótesis de la que parte un estudio realizado por Deep Mind, la empresa de Google especializada en inteligencia artificial, y el Instituto para el Futuro de la Humanidad (FHI, por sus siglas en inglés) de la Universidad de Oxford. Ambas empresas han desarrollado de forma conjunta un “gran botón rojo” de emergencia para evitar que las máquinas realicen una “secuencia de acciones dañinas” para el entorno, el operador humano o para ellas mismas y poder “guiarlas a una situación segura”.

“Es improbable que los agentes de aprendizaje que interaccionan con un ambiente tan complejo como el mundo real se comporten de manera óptima todo el tiempo”, reconocen los autores del estudio Agentes que se pueden interrumpir de manera segura. Los investigadores sostienen que han creado un “marco de trabajo que permite al operador humano interrumpir de forma segura (e incluso de forma repetida)” determinados tipos de inteligencia artificial. Además, se han asegurado de que las máquinas no puedan aprender a prevenir, impedir o provocar estas interrupciones.

“Esta forma de interrupción segura puede ser muy útil para tomar el control de un robot que se está comportando mal y que puede llevar a consecuencias irreversibles; también para que supere una situación delicada o realice una tarea para la que no había aprendido a comportarse”, reflexionan los autores del estudio. "Pero no está claro si todos los algoritmos pueden ser fácilmente interrumpibles", admiten.

La investigación hace referencia a un tipo muy específico de inteligencia artificial conocida como de aprendizaje reforzado, que combina variables para determinar de forma automática —sin necesidad de un ajuste específico— su comportamiento "ideal". "Es un tipo de inteligencia artificial que ha despegado muy fuerte, porque es más sencillo desarrollarla. Lo que hace el robot es maximizar una especie de función matemática, pero no entiende los conceptos sobre los que trabaja. Como solo entiende fórmulas puede ser posible que exista el problema potencial de que decida ignorar o dañar a los humanos que la han programado, pero es algo improbable", explica Juan Antonio Recio, director del departamento de Ingeniería de Software e Inteligencia Artificial de la Universidad Complutense de Madrid.

Sin embargo, Recio sostiene que este problema no ocurriría con otro tipo de inteligencias que en vez de entender formulas, comprendieran conceptos como humano, como es la inteligencia simbólica. "De cualquier forma, este tipo de medidas sirven para tranquilizar a la sociedad, para ayudar a que la gente acepte a esa inteligencia artificial porque tenga claro que siempre va a estar controlada, que nunca se va a ir de las manos", considera este experto.

Desarrollo de una 'superinteligencia'

Este tipo de reflexiones no son nuevas en el sector de inteligencia artificial. El director del Instituto para el Futuro de la Humanidad, Nick Bostrom, ya describía como escenario posible en su libro Superinteligencia: caminos, peligros, estrategias cómo las máquinas iban a superar a sus programadores, iban a ser tan inteligentes y capaces de mejorarse a sí mismas e iban a tomar el planeta. "Debemos saber cómo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve lo suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podría incluir esconder sus propias capacidades de modo estratégico", sostenía en una entrevista con este diario.

“Algunas personas han expresado sus preocupaciones sobre un agente superinteligente que se resista a ser apagado”, decían los autores en su estudio, aunque sin atreverse a especificar cuando podría ocurrir algo así. Otros expertos en inteligencia artificial que Bostrom cita en su libro afirman que hay un 90% de posibilidades de que entre 2075 y 2090 haya máquinas tan inteligentes como los humanos.

Responder Citando
Los siguientes 5 usuarios agradecen a matigari por este mensaje:
carmen10 (04-ene-2017), farias (26-dic-2016), Francisco6812 (26-dic-2016), Sandra0001 (27-dic-2016), tortex (26-dic-2016)
Antiguo 26-dic-2016     #2
Predeterminado


Responder Citando
Usuarios que han agradecido este mensaje de Francisco6812
matigari (27-dic-2016)
Antiguo 27-dic-2016     #3
Predeterminado

La Inteligencia Artificial es un tema fascinante.
Por ahora, a pesar de existir numerosos proyectos en esa línea, todavía se encuentra en el terreno de la ciencia-ficción; pero no nos daremos cuenta y se irá introduciendo en nuestras vidas poco a poco.
Quien sabe si en un futuro no tan lejano vamos a vivir situaciones como las descritas por los más imaginativos escritores.

Gracias por otro interesantísimo artículo.
Salu2
Responder Citando
Usuarios que han agradecido este mensaje de Sandra0001
matigari (27-dic-2016)
Antiguo 03-ene-2017     #4
Predeterminado

Responder Citando
Usuarios que han agradecido este mensaje de baduser
matigari (03-ene-2017)
Respuesta


(0 miembros y 1 visitantes)
 
Herramientas
Desplegado

Normas de Publicación
No puedes crear nuevos temas
No puedes responder mensajes
No puedes subir archivos adjuntos
No puedes editar tus mensajes

Los Códigos BB están Activado
Las Caritas están Activado
[IMG] está Activado
El Código HTML está Desactivado

Ir al Foro

Temas Similares
Tema Autor Foro Respuestas Último mensaje
Herramientas del FORO - Cómo Funciona el Foro de Ayuda de Intercambios & Chat logo Tutoriales sobre Intercambios 53 21-ago-2017 22:00
Signos del Zodiaco cardavid Off-Topic 25 23-nov-2015 22:06
Algunos Mmorpg's AgUiLa32 Juegos PC 12 04-feb-2013 06:20
Reflexión sobre el amor amistosa72 Intercambiossentimentales 12 10-jun-2010 10:18
Windows Sidebar y gadgets jchierro Tutoriales & Videos Tutoriales 0 05-sep-2009 07:07


Desarrollado por: vBulletin® Versión 3.8.1
Derechos de Autor ©2000 - 2019, Jelsoft Enterprises Ltd.
Ad Management by RedTyger