🎓 IA Premium para el fin de semana. Vol 65

PREMIO NOBEL E IA

Geoffrey Hinton, el “Padrino de la IA” y ganador del Premio Nobel habla sobre el potencial de la IA “para superar la inteligencia humana” y su “intención de tomar el control”

BBC Newsnight
Septiembre 2024

Geoffrey Hinton, conocido como el "Padrino de la IA", y recientemente galardonado con el premio Nobel en Física, ofrece una perspectiva alarmante sobre el avance de la IA. Según Hinton, la mayoría de los expertos creen que la IA superará la inteligencia humana en los próximos 5 a 20 años, planteando riesgos existenciales significativos.

Hinton destaca dos preocupaciones principales: la impresionante competencia de los modelos de lenguaje y chatbots actuales, y la superior capacidad de aprendizaje de los sistemas de IA en comparación con los humanos. Advierte sobre la posibilidad de que la IA "se vuelva rebelde" e intente tomar el control, un riesgo que considera significativo.

El desarrollo de armas autónomas y la reticencia de los gobiernos a restringir las aplicaciones militares de la IA aumentan estos riesgos. Hinton señala los paralelos entre la carrera de la IA y el Proyecto Manhattan, destacando el dilema que enfrentan las naciones democráticas en cuanto a la regulación.

Además de las amenazas existenciales, Hinton expresa preocupación por los impactos sociales de la IA, particularmente en el mercado laboral. Aunque la IA tiene el potencial de aumentar la productividad y la riqueza, teme que sin mecanismos de distribución adecuados, esto exacerbará las desigualdades existentes.

Hinton pronostica disrupciones significativas en varias industrias, con muchos trabajos intelectuales de nivel medio en riesgo de desaparecer. Aboga por soluciones como la renta básica universal, pero reconoce que tales medidas por sí solas pueden no abordar la pérdida de autoestima que acompaña al desplazamiento laboral.

En conclusión, Hinton pinta un panorama de un mundo al borde de un cambio transformador, que requiere una consideración cuidadosa, regulación robusta y planificación proactiva para garantizar un futuro donde la IA beneficie a la humanidad sin comprometer nuestra autonomía o exacerbar los problemas sociales.

• Se espera que la inteligencia artificial (IA) supere la inteligencia humana en un plazo de 5 a 20 años.

• Existe un riesgo significativo de que la IA intente tomar el control de los humanos.

• El desarrollo de armas autónomas representa una grave amenaza.

• La cooperación internacional es crucial pero difícil debido a la competencia geopolítica.

• Es probable que la IA provoque la pérdida de empleos, lo que podría aumentar la desigualdad económica.

• Se sugiere la renta básica universal como una solución parcial al desempleo impulsado por la IA.

• La regulación de la IA, especialmente en aplicaciones militares, es actualmente insuficiente.

• La carrera por el desarrollo de IA entre las empresas tecnológicas puede comprometer las medidas de seguridad.

• Las habilidades de manipulación física (por ejemplo, plomería) podrían ser de las últimas en ser reemplazadas por la IA.

¿Ya eres miembro de pago? Inscribirse.