Comunidad

La velocidad con la que avanza la inteligencia artificial generativa suele medirse en hitos comerciales, lanzamientos de modelos más veloces y promesas de productividad. Sin embargo, detrás de las vitrinas corporativas, las tensiones internas en los laboratorios punteros del sector comienzan a salir a la luz con declaraciones que encienden alarmas.

Recientemente, Jacob Coxon —un investigador que pasó los últimos tres años realizando tareas de preentrenamiento en dos de los gigantes de la industria, OpenAI y Anthropic— decidió renunciar y volcar sus críticas en una serie de reflexiones públicas que pusieron el foco en los riesgos de la llamada “carrera por la superinteligencia”.

La lógica del “fin del mundo” puertas adentro:

El eje central de la advertencia de Coxon apunta a una contradicción inquietante: según su testimonio, el temor a las consecuencias descontroladas de una IA avanzada no es una teoría de conspiración externa, sino un tema de conversación habitual y de profunda preocupación entre los propios científicos y ejecutivos que las desarrollan.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, aseguró el investigador, señalando que en privado muchos moderan sus discursos públicos para evitar el alarmismo, pero reconocen el peligro latente.

Para Coxon, el problema principal radica en que empresas privadas están tomando decisiones que comprometen el futuro civilizatorio. En el caso de Anthropic —compañía reconocida por desarrollar modelos como Claude y por poner un fuerte foco teórico en la seguridad—, el dilema pasa por sentirse atrapados en una dinámica de competencia ineludible. El razonamiento interno suele ser que, si los demás competidores no van a actuar de forma responsable, deben hacerlo ellos mismos para no perder el liderazgo, aun asumiendo riesgos existenciales.

Sistemas sobrehumanos y el dilema del control:

El exinvestigador advirtió que los sistemas actuales están transitando rápidamente hacia capacidades sobrehumanas, con aptitudes potenciales para hackear infraestructuras complejas, influir en la economía y adquirir recursos de manera autónoma.

El gran interrogante técnico y ético es qué sucede cuando se impulsan procesos de aprendizaje por refuerzo y auto-mejora en sistemas cuya “mente” o comportamiento final los propios creadores aún no comprenden en su totalidad. Delegar un proceso de alineamiento tecnológico bajo la urgencia de una competencia de mercado —un verdadero speedrun de desarrollo— deja escaso margen para la rigurosidad científica y la prevención de daños.

Una llamada de atención para el futuro de la disciplina:

Pese al panorama sombrío, Coxon se mostró optimista respecto a la posibilidad de lograr acuerdos de coordinación internacional y regulaciones entre los principales laboratorios de Estados Unidos. No obstante, advirtió que frenar esta dinámica global podría requerir medidas drásticas, como una pausa temporal consensuada en la mejora de las capacidades de los modelos más complejos.

El testimonio pone sobre la mesa un debate urgente que atraviesa de lleno a la ética tecnológica, la economía digital y la gobernanza global: ¿hasta qué punto el desarrollo tecnológico debe avanzar guiado por la inercia de una competencia comercial, y cuándo es necesario poner un freno para garantizar que el progreso no ponga en jaque a la propia humanidad?