Te lo digo sin anestesia. La gente que está construyendo la Inteligencia Artificial más avanzada del planeta está genuinamente aterrada. No es una campaña de relaciones públicas ni un guion de ciencia ficción.
Jacob Coxon, un investigador que pasó los últimos tres años entrenando modelos en OpenAI y Anthropic, acaba de renunciar y soltar una bomba pública: ninguna de las dos empresas está actuando con responsabilidad. En lugar de frenar, están acelerando a ciegas hacia una superinteligencia que se mejora a sí misma, apostando literalmente nuestras vidas en el proceso.
¿Estamos realmente preparados para ejecutar el próximo entrenamiento?
La competencia no va a esperar.
Ese no era exactamente el punto.
Una decisión con consecuencias civilizatorias sigue ocurriendo dentro de empresas privadas.
La arrogancia mesiánica de la industria
El teatro corporativo es absoluto. Mientras los directivos suavizan sus discursos frente a la prensa para sonar sensatos, en privado creen honestamente que esta tecnología podría matarnos a todos antes de que termine la década. Saben que están desarrollando sistemas superhumanos con el poder de hackear cualquier infraestructura y acaparar recursos reales.
“Estamos construyendo el futuro de forma segura y responsable.”
Sonrisa corporativa incluida.
“¿Y si perdemos el control?”
Respuesta: seguir entrenando.
El ego como acelerador de riesgo
Si saben que es letal, ¿por qué siguen construyéndolo? La respuesta de Coxon destripa la ética de Silicon Valley. En OpenAI, ni siquiera han interiorizado el riesgo a nivel civilizatorio. En Anthropic sí entienden lo que está en juego, pero están atrapados en una carrera frenética porque creen arrogantemente que nadie más que ellos debe llegar primero.
Todos quieren frenar. Nadie quiere frenar primero.
La lógica es brutal: cada laboratorio puede creer que la carrera es peligrosa y, al mismo tiempo, convencerse de que detenerse sería todavía peor porque permitiría que otro competidor llegue primero.
El miedo no está funcionando como freno. Está funcionando como acelerador.
Sabemos que podría salir mal.
Pero alguien lo construirá de todos modos.
Entonces tiene que ser nosotros.
No necesitas que nadie sea malvado para terminar en una catástrofe. Solo necesitas suficientes personas convencidas de que no pueden permitirse perder.
Una reunión.
Un laboratorio.
Un Slack privado.
Todo el maldito planeta.
No entendemos completamente qué ocurre dentro.
Entender primero.
Ejecutar antes que la competencia.
Aceptar esta carrera y entrar en la fase final del desarrollo es una apuesta arrogante que no debería estarse decidiendo desde el chat de Slack de una empresa privada.
Coxon está rogándole a los investigadores de los laboratorios que no ejecuten los próximos modelos de aprendizaje reforzado (RL) sin entender primero de forma rigurosa cómo funciona la mente de estos sistemas.
300
km/hEsperar que el otro laboratorio frene primero.
Si tu marca sigue aplaudiendo cada nuevo lanzamiento de IA como si fuera un juguete brillante para generar textos baratos, despierta. Le acabamos de entregar el volante a un par de corporaciones cegadas por el ego que prefieren chocar el auto a 300 km/h antes que dejar que su competencia gane la carrera.
Si quienes están construyendo el sistema tienen miedo de encenderlo, quizá deberíamos dejar de celebrar cada vez que anuncian que es más potente.
.png)