Código Abierto

En este episodio de Código Abierto analizamos el artículo de Anthropic sobre mejora recursiva de la inteligencia artificial: la posibilidad de que los modelos de IA participen cada vez más en el desarrollo de sus propios sucesores.
Hablamos de agentes que escriben código, revisan errores, ejecutan experimentos, aceleran la investigación y desplazan el papel humano desde la ejecución hacia la supervisión, el criterio y la toma de decisiones.
Pero también abordamos la parte incómoda: qué ocurre si los sistemas llegan a cerrar el ciclo completo de mejora, qué riesgos aparecen para el control y el alineamiento, y si nuestras organizaciones e instituciones están preparadas para una tecnología que podría avanzar a velocidad de cómputo.

Durante los últimos años muchas empresas han vivido la inteligencia artificial generativa como si fuera una tecnología plug and play: se enchufa, se conecta al negocio y empieza la magia.

Pero la realidad está siendo bastante más incómoda.

En este episodio de Código Abierto, Álex y Nelson conversan sobre el salto que muchas organizaciones todavía no han conseguido dar: pasar de pilotos, PoCs, RAGs, copilots y agentes llamativos a impacto real en el negocio.

Porque el problema ya no es si la IA funciona.

Los modelos funcionan.
Los agentes empiezan a funcionar.
El RAG puede resolver problemas concretos.
Las herramientas de generación de código impresionan.

La pregunta importante ahora es otra:

¿qué proceso mejora realmente?, ¿qué coste reduce?, ¿qué error evita?, ¿qué tiempo ahorra?, ¿qué experiencia de cliente transforma?

Hablamos de arquitecturas escaparate, de KPIs técnicos frente a KPIs de negocio, del coste oculto de los tokens, de la necesidad de gobernanza, del papel de los usuarios de negocio, de por qué no todo necesita IA generativa y de cómo muchas veces la IA no arregla los procesos rotos: simplemente los deja más visibles.

Quizá la IA no sea tanto una solución mágica como un espejo.

Y quizá lo que está mostrando es que muchas organizaciones tienen que ordenar primero su casa antes de pedirle milagros a un modelo.

En este episodio de Código Abierto nos metemos de lleno en una de las grandes preguntas del momento:
¿La IA realmente está transformando las empresas… o seguimos viviendo dentro de una narrativa exagerada sobre productividad y automatización?
A partir de un artículo inspirado en las tesis del Nobel de Economía Daron Acemoglu, debatimos sobre la diferencia entre “usar IA” y “operar con IA”. Porque una cosa es resumir reuniones con ChatGPT… y otra muy distinta rediseñar procesos completos, coordinar agentes o transformar cómo funciona una organización real.
Durante la conversación aparecen dos visiones muy distintas:
la de quienes creen que ya están naciendo empresas completamente agénticas, capaces de competir con estructuras mínimas y velocidades imposibles hace solo unos años;
y la de quienes piensan que la mayoría de compañías todavía están atrapadas entre procesos mal documentados, cultura legacy y una adopción mucho más lenta de lo que el hype tecnológico sugiere.
Hablamos de:
agentes autónomos,
automatización real,
consultoras creadas por “tres taraos con IA”,
el caos operativo de las empresas,
la importancia del contexto,
la grabación masiva de reuniones para alimentar modelos,
el futuro de los trabajadores del conocimiento,
SAP y la revolución industrial,
resistencia al cambio,
data centers creciendo por todas partes,
y la posibilidad de que el verdadero problema no sea la inteligencia artificial… sino nuestra capacidad para adaptarnos a ella.
Además, debatimos sobre una idea especialmente incómoda:
Quizá la IA actual no sea un reemplazo perfecto del trabajador humano.
Quizá se parezca más a un becario brillantísimo… pero caótico.
Un episodio donde hay debate real, visiones opuestas, bastante cuñadismo ilustrado y una pregunta de fondo que todavía nadie sabe responder:
¿Estamos viendo el inicio de una nueva revolución industrial… o seguimos atrapados en la fase demo?

La inteligencia artificial promete automatizar empresas, acelerar procesos y multiplicar la productividad.

Pero también está creando una nueva crisis de ciberseguridad.

En este episodio de Código Abierto hablamos sobre Mythos de Anthropic, agentes autónomos, prompt injection, phishing automatizado, exfiltración de datos y el nuevo escenario donde las vulnerabilidades empiezan a explotarse más rápido de lo que los humanos pueden reaccionar.

Porque quizá el mayor cambio de la IA no sea solo económico.

Quizá sea que Internet empieza a convertirse en un campo de batalla entre sistemas autónomos capaces de atacar… y defender… a velocidad máquina.

La conversación sobre ética en inteligencia artificial ha cambiado radicalmente.
Hace apenas unos años discutíamos sobre sesgos, privacidad o discriminación algorítmica. Pero mientras debatíamos sobre fairness y datasets… la IA empezó a hacer algo mucho más importante: actuar.
En este episodio de Código Abierto, Álex, Mónica e Ignacio exploran cómo la ética de la IA ha dejado de ser un debate filosófico para convertirse en un problema operativo, organizativo y de infraestructura.
Porque los modelos ya no solo responden preguntas.
Ahora:
ejecutan tareas,
coordinan agentes,
priorizan decisiones,
escriben código,
automatizan workflows,
y empiezan a ocupar capas reales de poder dentro de empresas y gobiernos.
Hablamos del choque entre AI Ethics y AI Safety, de agentes autónomos, de alineamiento, de governance, de dependencia de APIs privadas y de una pregunta cada vez más incómoda:
¿Estamos delegando demasiado rápido en sistemas que ni entendemos del todo… ni controlamos realmente?
A lo largo del episodio analizamos trabajos como:
Mind the Gap!
AI Agents and Hard Choices
AI Integrity
International AI Safety Report
Y conectamos todo ello con el momento actual de OpenAI, Anthropic, Claude Code, los workflows multiagente y el nuevo reparto de poder que está emergiendo alrededor del cómputo, las GPUs y la infraestructura.
Porque quizá el problema nunca fue que las máquinas se parecieran demasiado a nosotros.
Quizá el problema es que nosotros estamos empezando a delegar criterio, contexto y responsabilidad demasiado deprisa.
La IA no necesita conciencia para cambiar la civilización.
Solo necesita suficiente autonomía.