Por eso Google trabaja en un protocolo para desactivar su inteligencia artificial en caso de problemas.

Google es una de las empresas más comprometidas en el desarrollo de la inteligencia artificial. Hemos visto como su tecnología por ejemplo DeepMind, ha vencido al hombre resolviendo problemas mediante el uso de algoritmos que le permiten encontrar la respuesta más óptima para ganar retos.

google deepmind

Google compró DeepMind en el 2014 por 540 millones de dólares y actualmente está siendo trabajada y desarrollada por investigadores del Instituto para el Futuro de la Humanidad de la Universidad de Oxford. Entre todas estas implementaciones que se le están haciendo incluye un botón que desactivaría la IA en caso que esté cometiendo fallos no deseados.

Esto se explica en un documento llamado “Safely Interruptible Agents” donde se describe cómo entraría en acción este mecanismo en caso que la inteligencia artificial actué por si sola y desobedezca los mecanismos de seguridad. Se piensa que un gran botón rojo puede ser el detonante para desactivar manualmente a DeepMind u alguna otra IA.

boton desactivar ia

Nótese que este mecanismo está pensado para detener una inteligencia artificial común sin ganas de acabar con la humanidad como cuando un proceso está siendo mal ejecutado en una fábrica y se tienen que detener las labores porque se pueden presentar pérdidas de bienes y líneas de producción importantes.

Por último, Nick Bostrom, investigador de la Universidad de Oxford dice que la inteligencia artificial dará un gran paso adelante cuando pueda aprender por si misma y DeepMind va por ese camino ya sea para bien o para mal.

¿Qué opináis que Google trabaja en protocolo para desactivar su inteligencia artificial en caso de problemas?

Fuente: Computer Hoy

Comentarios

comentarios