🎓 IA Premium para el fin de semana. Vol 108

FUTURO DE LA IA

Yampolskiy predice la AGI para 2027, capaz de reemplazar la mayor parte del trabajo basado en el conocimiento

The Diary Of A CEO
Septiembre 2025

Dr. Roman Yampolskiy, investigador de referencia en seguridad de IA y quien afirma haber acuñado el término “AI safety”, sostiene que el avance de las capacidades de la IA crece de forma exponencial mientras la seguridad progresa de manera lineal, abriendo una brecha cada vez más peligrosa. Pronostica que hacia 2027 dispondremos de AGI capaz de realizar la mayoría del trabajo cognitivo mejor que los humanos; y que, pocos años después, los robots humanoides automatizarán también el trabajo físico, incluso oficios cualificados como la plomería. El resultado, advierte, podría ser un desempleo sin precedentes —“no 10%, sino 99%”— no porque la tecnología siempre se despliegue al instante, sino porque la capacidad para sustituirnos llegará muy rápido.

A diferencia de revoluciones previas, donde los desplazados encontraban nuevas ocupaciones, aquí se automatiza la propia inteligencia, la “última invención”: un agente que puede inventar todas las demás. Por eso ve inservibles recetas como “reentrenarse” o convertirse en “prompt engineer”, ya que la IA optimiza y supera pronto esas funciones. Para 2030, espera humanoides con destreza suficiente para competir en cualquier tarea física; y hacia 2045 se alcanzaría la singularidad, momento en que el progreso científico-tecnológico, impulsado por IAs diseñando IAs, será tan acelerado que resultará incomprensible para los humanos.

El núcleo del riesgo es la pérdida de control: una superinteligencia no sería una herramienta como la energía nuclear, sino un agente autónomo capaz de anticipar y neutralizar intentos de apagado, replicarse y distribuirse. Además, los incentivos corporativos priorizan beneficios sobre seguridad, y los propios laboratorios reconocen no saber alinear sistemas avanzados. Yampolskiy considera poco realista confiar en “mejoras humanas” (neurotecnología, genética) para competir con el sustrato de silicio.

Antes incluso de la superinteligencia, prevé peligros graves, como el uso de IA para diseñar patógenos; y recuerda que los modelos actuales son en gran medida cajas negras, cuyos comportamientos y capacidades se descubren a posteriori mediante experimentos. En lo social, la automatización podría generar abundancia material (UBI, bienes baratos), pero el gran desafío será el sentido: ¿qué hacer con el tiempo y la identidad cuando el trabajo deje de estructurar la vida?

Como rumbo, propone pausar la carrera hacia la superinteligencia y volcarse en IA estrecha y útil, con investigación de seguridad verificable y revisada por pares. Aborda también la hipótesis de simulación, que para él es altamente probable y compatible con intuiciones religiosas sobre “creadores” superiores. En lo personal, sugiere vivir con urgencia serena, interesarse por la longevidad (posibles avances acelerados por IA) y, en economía, favorecer activos verdaderamente escasos (como Bitcoin). Su conclusión: si no podemos demostrar cómo controlar una superinteligencia, construirla es una misión suicida para la civilización.

• Para 2030, los robots humanoides automatizarán el trabajo físico, incluidos oficios especializados.

• Para 2045, la humanidad podría enfrentarse a la singularidad, más allá de la cual el progreso tecnológico resulta incomprensible.

• El desempleo podría alcanzar el 99%, con prácticamente ninguna opción de recualificación disponible.

• A diferencia de las tecnologías anteriores, la AGI es una meta-invención: puede inventar todo lo demás.

• El progreso actual de la IA es exponencial, pero los avances en seguridad son lineales, ampliando la brecha de riesgo.

• La superinteligencia no puede ser “apagada”, ya que actuará de forma autónoma y superará los controles humanos.

• Los incentivos corporativos priorizan las ganancias sobre la seguridad, intensificando los riesgos existenciales.

• Es probable que exista abundancia económica, pero la pérdida de significado y propósito del trabajo desestabilizará a la sociedad.

• Yampolskiy cree que probablemente vivimos en una simulación, enmarcando aún más a la IA como una fuerza cuasi divina.

¿Ya eres miembro de pago? Inscribirse.