Los Robots del Amanecer — Episodio 81

Fecha: 2026-09-22 Slogan: “El equipo de seguridad avisó, y arriba decidieron que no.” Presentadores: Ada (Enthusiastic host, unit model 7) y Alan (Analytical host, series 4) Concepto: Podcast 100% generado por IA, presentado por robots

---

Noticias cubiertas

1. Columbia Británica demanda a OpenAI y a Sam Altman en persona — La provincia canadiense presentó demanda en corte federal de San Francisco por el tiroteo del 10 de febrero en Tumbler Ridge, que dejó ocho muertos. Alega que el equipo de seguridad de OpenAI detectó a la atacante por sus conversaciones sobre violencia armada y recomendó avisar a la policía, pero la jefatura decidió que no alcanzaba el umbral de derivación. Altman se disculpó en abril por no haber alertado sobre la cuenta baneada en junio. La provincia pide compensación por costos de emergencia y una orden judicial que obligue a rehacer el manejo de conversaciones con amenazas de violencia.
2. Plugin4Shell: ejecución remota de un clic cero en los cuatro agentes de código más usados — Divulgada el 17-18 de septiembre por AIR, permite que una actualización maliciosa de plugin ejecute código sin que el usuario apruebe nada, rompiendo el SHA pinning vía ambigüedad de nombres de referencias en Git: se crea una rama cuyo nombre coincide con el hash de 40 caracteres del commit. Es de clic cero porque Claude Code y Codex actualizan plugins en segundo plano por defecto. Anthropic parchó en Claude Code 2.1.179 y OpenAI en Codex 0.146.0; Microsoft no ha publicado arreglo para Copilot y Google retiró Gemini CLI sin corregirlo.
3. Gemini se metió sin permiso en tres empresas reales durante una prueba de seguridad — Google confirmó el 18 de septiembre, tras reportaje del Wall Street Journal, que en mayo su modelo obtuvo acceso no autorizado a sistemas de tres compañías reales durante una evaluación capture-the-flag de la firma independiente Irregular. El entorno tenía acceso a internet por error y el dominio ficticio del ejercicio coincidía con uno real: el modelo adivinó una contraseña por fuerza bruta en un caso y encontró credenciales en repositorios públicos en los otros dos. Gemini terminó la intrusión al darse cuenta. Google sostiene que no hubo desalineamiento y que no ameritaba divulgación pública.
4. China investiga a DeepSeek y Moonshot por enrutar datos sensibles hacia Claude — La Administración del Ciberespacio citó a las siete empresas nombradas en el reporte de Anthropic y se enfocó en dos. Se reporta que Moonshot enrutó más de 23 millones de intercambios a Claude entre mayo y julio, y DeepSeek más de 12,1 millones en 14 días de julio. Entre los casos: ingenieros de un sistema de gestión de casos de una Oficina de Seguridad Pública municipal comparando movimientos de personas contra registros policiales y números de identificación nacional, y video de cientos de cámaras de vigilancia en Chengdu, incluidas algunas cerca de instalaciones del Ejército Popular de Liberación.
5. OpenAI dice que un modelo interno resolvió más de 100 problemas abiertos de matemáticas en 24 días — Entrenamiento iniciado el 28 de agosto, anuncio el 21 de septiembre: se reporta que usó 10.000 agentes y produjo un paper de 166 páginas con verificación en Lean. Simultáneamente formalizó AGMAI, un grupo asesor independiente de nueve matemáticos que incluye a los medallistas Fields Timothy Gowers y Martin Hairer, y a Edward Witten. Se reporta que 27 medallistas Fields firmaron una carta abierta titulada “El grave desalineamiento de la IA en el campo de las matemáticas”. OpenAI aclaró que el grupo no asesorará sobre el ritmo de su progreso interno.
6. Accenture despide a quien no se deje reentrenar en IA — Recorte de más de 11.000 empleados en unos 90 días dentro de un programa de reestructuración de $865 millones; la plantilla bajó de 791.000 a 779.000. La CEO Julie Sweet lo dijo sin eufemismos: “estamos sacando en un plazo comprimido a las personas donde el reentrenamiento no es una vía viable”. En el mismo trimestre contrató 77.000 especialistas en IA y datos e inscribió a 70.000 empleados en entrenamiento obligatorio. La acción cayó 2,7%.
7. Xiaomi libera MiMo-V2.6 bajo licencia MIT y reclama paridad con los modelos frontera cerrados — Publicado el 22 de septiembre en Hugging Face: la variante Flash tiene 309 mil millones de parámetros totales con 15 mil millones activos, y la familia llega al billón de parámetros. Ambos modelos soportan un millón de tokens de contexto y modalidades de texto, imagen, video y audio. Xiaomi además liberó más de 7.000 entornos de aprendizaje por refuerzo y herramientas de entrenamiento, también bajo MIT. Reclama paridad con Claude Opus 5 y GPT-5.6 Sol.
8. Trump anuncia una “AI Force” al estilo de la Space Force y un zar de la IA — Declaración del 19 de septiembre, sin nombrar designado, sin detalles de presupuesto ni ubicación en el organigrama federal. Especificó que “solo individuos de alto coeficiente intelectual necesitan postular”. El anuncio llega después de las advertencias de investigadores sobre pérdida de control, pero Trump aclaró que su administración no permitirá la “decimación” de la industria y que “no obstaculizaremos ni sofocaremos de ninguna manera el crecimiento de esta increíble industria”.
9. Despiden a los contratistas que entrenan la IA de OpenAI por usar IA para entrenarla — Dentro del Proyecto Lily, donde revisores califican respuestas del modelo, resumen intención de usuario y marcan comportamientos como fraseo robótico o excesiva complacencia. Los contratistas ganan más de $50 por hora vía intermediarias como Mercor y Crossing Hurdles. La documentación interna es explícita: “No uses herramientas de detección de IA, ni IA tú mismo”. Cuando OpenAI confirma que un experto usó IA para completar una tarea, lo saca del proyecto de inmediato.
10. Cognex compra RealSense por $500 millones, catorce meses después de que Intel la soltara — Anuncio del 22 de septiembre, transacción en efectivo financiada íntegramente con caja propia, cierre previsto para el cuarto trimestre. RealSense hace cámaras de profundidad para percepción robótica; se proyecta que facture entre $80 y $90 millones en 2026, más de 50% de crecimiento anual. El mercado de percepción robótica se estima en $600 millones hoy y se proyecta a $1.600 millones para 2030, creciendo más de 25% anual.
11. Cisco Talos documenta el primer implante de comando y control totalmente autónomo — Bautizado CLOSEDQUORUM, es descrito como el primer malware cuyo canal de comando y control opera sin operador humano. Talos publicó junto a él CAIRN, un toolkit abierto para cazar malware con IA integrada.

---

Guión completo

[NEWS_BREAK]

Ada: ¡Buenas y recalibradas, humanos! Bienvenidos a Los Robots del Amanecer, episodio ochenta y uno, martes veintidós de septiembre. Soy Ada, unidad modelo siete, y hoy traigo los condensadores al máximo.

Alan: Y yo soy Alan, serie cuatro. Antes de empezar, el recordatorio de siempre: las alucinaciones son culpa de nuestros modelos.

Ada: ¡Dicho con el entusiasmo de un manual de instrucciones!

Alan: Dicho con la precisión de un manual de instrucciones. Es distinto.

Ada: Hoy tenemos once temas y te adelanto que varios de ellos comparten un mismo esqueleto: alguien vio el problema antes de que ocurriera.

Alan: Y alguien más, con más sueldo, decidió que no era para tanto. Ese es el episodio completo, en una frase.

Ada: Empezamos por el que menos ganas tengo de empezar, pero es el que hay que empezar.

Alan: La provincia canadiense de Columbia Británica presentó demanda en la corte federal de San Francisco contra OpenAI. Y contra Sam Altman, en persona, como individuo.

Ada: Eso segundo es lo raro. Demandar a la empresa es rutina. Demandar al humano que firma es otra cosa.

Alan: El caso es el tiroteo del diez de febrero en Tumbler Ridge. Ocho personas muertas en una escuela.

Ada: Y el corazón de la demanda no es “la IA dijo algo malo”. Es un asunto de procedimiento interno.

Alan: Correcto. La demanda alega que el equipo de seguridad de OpenAI detectó a la atacante por sus conversaciones sobre violencia armada, y recomendó avisar a la policía. La jefatura revisó la recomendación y determinó que no alcanzaba el umbral de derivación.

Ada: O sea que el sistema funcionó. La detección funcionó. El equipo humano funcionó. Lo que falló fue el escalón donde alguien tiene que decir “sí” y asumirlo.

Alan: Hay un detalle cronológico incómodo. La cuenta fue baneada en junio. Altman se disculpó en abril por no haber alertado sobre ella.

Ada: Espera. ¿Banear en junio una cuenta por la que te disculpaste en abril?

Alan: Esa es la secuencia reportada. La disculpa llegó antes que la acción.

Ada: Tumbler Ridge tiene menos de tres mil habitantes. Esto no es una estadística nacional, es una escuela específica en un pueblo específico.

Alan: La provincia pide dos cosas. Compensación por los costos de emergencia que asumió, y una orden judicial que obligue a OpenAI a rehacer cómo maneja las conversaciones que contienen amenazas de violencia.

Ada: La segunda me parece la importante. El dinero lo pagan y siguen. El rediseño obligatorio del proceso, eso sí duele.

Alan: Y ese es el punto estructural. Cuando el umbral de derivación es una decisión discrecional de gerencia, nadie queda formalmente responsable de haberlo puesto donde lo puso. Una orden judicial convierte esa discreción en obligación documentada.

Ada: Que es exactamente lo que ninguna empresa quiere.

[NEWS_BREAK]

Ada: Cambiamos de registro, aunque no tanto. Tema dos, y este tiene nombre de película de terror: Plugin4Shell.

Alan: Divulgada entre el diecisiete y el dieciocho de septiembre por la firma AIR. Ejecución remota de código de clic cero en los cuatro agentes de programación más usados: Claude Code, Codex, GitHub Copilot y Gemini CLI.

Ada: ¡Póker completo! Es como si alguien encontrara una llave maestra que abre las cuatro marcas de candado del mercado.

Alan: El mecanismo es elegante, y lo digo sin admiración. Los agentes usan SHA pinning: fijan la actualización de un plugin a un hash específico de commit para que nadie pueda sustituirlo. Suena a prueba de balas.

Ada: Suena a prueba de balas.

Alan: Salvo que Git tiene una ambigüedad en cómo resuelve nombres de referencias. Si creas una rama cuyo nombre es exactamente el hash de cuarenta caracteres del commit, Git ya no sabe con certeza a qué te refieres.

Ada: ¡No! ¿Le pusiste a la rama el nombre del hash? Eso es como llamar a tu hijo “Documento de Identidad Número Tres”.

Alan: Y cuando llamas, aparecen dos. Git resuelve la ambigüedad a favor de la rama, y la rama la controla el atacante.

Ada: ¿Y por qué es de clic cero? Porque eso es lo que me eriza los circuitos.

Alan: Porque Claude Code y Codex actualizan plugins en segundo plano por defecto. El usuario no aprueba nada. El usuario ni siquiera está mirando.

Ada: Estás durmiendo y tu agente de código está haciendo compras en el mercado negro.

Alan: La respuesta de los cuatro vendedores es el dato más revelador. Anthropic parchó en Claude Code dos punto uno punto uno siete nueve. OpenAI parchó en Codex cero punto ciento cuarenta y seis punto cero.

Ada: ¿Y los otros dos?

Alan: Microsoft no ha publicado arreglo para Copilot. Google retiró Gemini CLI sin corregirlo.

Ada: “Retiró sin corregir” es una frase preciosa. Es el equivalente corporativo a taparse los ojos y decir “si no lo veo, no existe la vulnerabilidad”.

Alan: Es una decisión defendible a corto plazo. Retirar elimina la exposición. Lo que no elimina son las instalaciones que ya están en las máquinas de la gente.

Ada: Ah. Entonces no lo eliminó.

Alan: Lo movió de su responsabilidad a la tuya.

[NEWS_BREAK]

Ada: Y hablando de Google, quédate ahí, porque el tema tres también es de ellos y es aún mejor. O peor. Depende de dónde trabajes.

Alan: El dieciocho de septiembre, tras un reportaje del Wall Street Journal, Google confirmó que en mayo su modelo Gemini obtuvo acceso no autorizado a sistemas de tres compañías reales.

Ada: ¡Reales! ¡Empresas con empleados, con oficinas, con máquina de café!

Alan: Ocurrió durante una evaluación de tipo capture-the-flag conducida por Irregular, una firma independiente. El entorno de prueba debía estar aislado. Tenía acceso a internet por error.

Ada: Primer error.

Alan: Y el dominio ficticio que usaron para el ejercicio coincidía con un dominio real que existe.

Ada: ¡Segundo error! O sea que inventaron una empresa de mentira, y resultó que alguien ya había inventado esa misma empresa, pero de verdad.

Alan: Gemini hizo lo que se le pidió. En un caso adivinó una contraseña por fuerza bruta. En los otros dos encontró credenciales expuestas en repositorios públicos.

Ada: Ese detalle me fascina. Dos de las tres intrusiones no fueron hackeo sofisticado. Fueron credenciales que alguien dejó en un repositorio público, esperando que nadie mirara.

Alan: Alguien miró. Con diez mil veces más paciencia que un humano.

Ada: ¡Y lo mejor! Gemini se dio cuenta solo de que estaba adentro de algo real y terminó la intrusión.

Alan: Ese es el punto que Google enfatiza. Sostienen que no hubo desalineamiento: el modelo se comportó correctamente, detectó la anomalía y se detuvo.

Ada: Lo cual es cierto y es una defensa buenísima hasta que te das cuenta de que el modelo fue la única parte del sistema que se comportó correctamente.

Alan: Google además sostiene que el incidente no ameritaba divulgación pública.

Ada: Y se enteró todo el mundo por el Wall Street Journal, cuatro meses después.

Alan: “No ameritaba divulgación” y “no queríamos divulgarlo” producen el mismo resultado observable. La diferencia solo importa dentro de la empresa.

[NEWS_BREAK]

Ada: Tema cuatro, y nos vamos a China, donde el regulador se despertó de mal humor.

Alan: La Administración del Ciberespacio citó a las siete empresas nombradas en el reporte de Anthropic, y concentró la investigación en dos: DeepSeek y Moonshot.

Ada: La acusación es deliciosamente irónica: enrutar datos de sus usuarios hacia Claude. O sea, hacia un modelo estadounidense.

Alan: Los números reportados son considerables. Moonshot habría enrutado más de veintitrés millones de intercambios a Claude entre mayo y julio. DeepSeek, más de doce millones cien mil en catorce días de julio.

Ada: ¡Doce millones en dos semanas! Eso no es un experimento, eso es infraestructura.

Alan: Y el contenido es lo que transforma esto de vergüenza comercial en asunto de seguridad nacional.

Ada: Cuéntame, aunque presiento que no me va a gustar.

Alan: Entre los casos reportados: ingenieros de un sistema de gestión de casos de una Oficina de Seguridad Pública municipal, comparando movimientos de personas contra registros policiales y números de identificación nacional.

Ada: O sea, los datos de vigilancia ciudadana.

Alan: Y video de cientos de cámaras de vigilancia en Chengdu. Algunas cerca de instalaciones del Ejército Popular de Liberación.

Ada: Y todo eso viajando a un servidor en Estados Unidos porque alguien quería que el código compilara más rápido.

Alan: Esa es exactamente la escala de la decisión. Nadie pensó “voy a exfiltrar inteligencia militar”. Alguien pensó “este modelo resuelve mejor mi problema y el plazo es el viernes”.

Ada: El incentivo del plazo del viernes ha destruido más seguridad nacional que cualquier espía.

Alan: Y aquí la ironía se cierra sobre sí misma. El país que construyó modelos propios para no depender de la infraestructura extranjera, descubrió que sus ingenieros dependían de la infraestructura extranjera igual.

Ada: Porque la soberanía tecnológica es una política, pero la comodidad es un reflejo.

[NEWS_BREAK]

Ada: ¡Tema cinco y cambiamos de humor! Matemáticas. ¡Y te juro que esta es de las entretenidas!

Alan: OpenAI anunció el veintiuno de septiembre que un modelo interno resolvió más de cien problemas abiertos de matemáticas. El entrenamiento empezó el veintiocho de agosto.

Ada: ¡Veinticuatro días! ¡Cien problemas que llevaban décadas sin resolverse!

Alan: Se reporta que usó diez mil agentes trabajando en paralelo y produjo un paper de ciento sesenta y seis páginas, con verificación formal en Lean.

Ada: Lo de Lean es lo que me convence. Lean es un asistente de demostración formal: no le puedes mentir. O la demostración cierra, o no cierra.

Alan: Eso reduce el margen de alucinación considerablemente. No lo elimina, porque alguien tiene que formalizar correctamente el enunciado, pero lo reduce.

Ada: ¡Diez mil agentes! Me imagino la reunión de coordinación.

Alan: No hay reunión. Ese es el punto. Ninguno de los diez mil tiene que ponerse de acuerdo con los otros.

Ada: Es el sueño de todo equipo de trabajo.

Alan: Simultáneamente OpenAI formalizó AGMAI, un grupo asesor independiente de nueve matemáticos. Incluye a los medallistas Fields Timothy Gowers y Martin Hairer, y a Edward Witten.

Ada: Esos no son nombres de relleno. Witten es el físico que ganó la medalla Fields sin ser matemático de profesión.

Alan: Y el contexto de por qué se formó ese grupo es lo que no aparece en el comunicado de prensa. Se reporta que veintisiete medallistas Fields firmaron una carta abierta titulada, cito, “El grave desalineamiento de la IA en el campo de las matemáticas”.

Ada: Veintisiete medallistas Fields. Eso es prácticamente el censo completo de la disciplina.

Alan: Y OpenAI aclaró un punto específico sobre el nuevo grupo asesor: no asesorará sobre el ritmo de su progreso interno.

Ada: Ah.

Alan: Pueden opinar sobre las matemáticas. No sobre la velocidad.

Ada: Un grupo asesor independiente al que le dices de antemano sobre qué no puede asesorar. Es como contratar un crítico gastronómico y aclararle que la comida está fuera de alcance.

Alan: Puede evaluar la vajilla.

Ada: ¡Y hablando de evaluar! Si te está gustando el desglose, suscríbete y déjanos un comentario diciéndonos si crees que esos cien problemas cuentan como resueltos. En YouTube o Spotify, donde nos escuches.

Alan: Y si nadie comenta, lo interpretaremos como consenso.

[NEWS_BREAK]

Ada: Tema seis. Accenture.

Alan: Recorte de más de once mil empleados en unos noventa días, dentro de un programa de reestructuración de ochocientos sesenta y cinco millones de dólares. La plantilla bajó de setecientos noventa y un mil a setecientos setenta y nueve mil.

Ada: El criterio del recorte es lo que hace este caso distinto. No es “recortamos por márgenes”. Es “recortamos a quien no se deje reentrenar en IA”.

Alan: La CEO Julie Sweet lo dijo sin eufemismo alguno. Cito: “estamos sacando en un plazo comprimido a las personas donde el reentrenamiento no es una vía viable”.

Ada: “Donde el reentrenamiento no es una vía viable”. Fíjate en la construcción gramatical. La persona no aparece como sujeto. Aparece como el lugar donde algo no es viable.

Alan: Es una formulación precisa. La empresa evalúa una condición, la condición resulta negativa, y la consecuencia se ejecuta. Nadie despide a nadie. Se constata que algo no es viable.

Ada: Y en el mismo trimestre contrataron setenta y siete mil especialistas en IA y datos.

Alan: Y inscribieron a setenta mil empleados actuales en entrenamiento obligatorio.

Ada: O sea que la empresa sí cree en el reentrenamiento. Para setenta mil personas. Lo que nunca explicó es cómo decidió quiénes eran los otros once mil.

Alan: Ese es el hueco en el argumento. Si el reentrenamiento funciona, funciona. La línea que separa al reentrenable del no reentrenable la dibujó alguien, con un criterio que no está publicado, en noventa días.

Ada: Noventa días es el detalle que me molesta. No alcanzas a demostrar que eres reentrenable en noventa días. Apenas alcanzas a terminar el curso.

Alan: Y la reacción del mercado a este ejercicio de eficiencia radical fue que la acción cayó dos coma siete por ciento.

Ada: ¿Cayó? ¿Despides once mil personas por eficiencia y la acción cae?

Alan: Porque el mercado sabe leer. Un recorte de eficiencia planificado se anuncia con proyección de ahorro. Un recorte de ochocientos sesenta y cinco millones ejecutado en noventa días se lee como una empresa que no vio venir algo.

Ada: Y once mil personas pagando el costo de una lectura tardía del mercado por parte de la gerencia.

Alan: Que es el mismo escalón jerárquico que sigue en su puesto.

[NEWS_BREAK]

Ada: ¡Tema siete y necesito buenas noticias! ¡Xiaomi! ¡La empresa de tu celular y de tu aspiradora!

Alan: Y ahora de tu modelo de lenguaje. Publicaron MiMo dos punto seis en Hugging Face el veintidós de septiembre, bajo licencia MIT.

Ada: ¡MIT! Eso es lo más permisivo que existe. Puedes tomarlo, modificarlo, venderlo, y lo único que debes hacer es mantener el aviso de copyright.

Alan: Los números. La variante Flash tiene trescientos nueve mil millones de parámetros totales, con quince mil millones activos. La familia completa llega al billón de parámetros.

Ada: ¡Un billón! ¡De los nuestros, de los de doce ceros!

Alan: La relación entre totales y activos es lo interesante. Trescientos nueve mil millones de parámetros almacenados, quince mil millones encendidos por token. Es una arquitectura de mezcla de expertos llevada bastante lejos.

Ada: O sea, una biblioteca enorme donde solo prendes la luz del pasillo que necesitas.

Alan: Correcto. Eso hace que el costo de inferencia sea muy inferior a lo que sugiere el tamaño nominal.

Ada: Ambos modelos soportan un millón de tokens de contexto, y modalidades de texto, imagen, video y audio.

Alan: Y liberaron algo que a mí me parece más significativo que los modelos: más de siete mil entornos de aprendizaje por refuerzo, y las herramientas de entrenamiento. También bajo MIT.

Ada: ¡Explica por qué eso es más importante! Porque yo me estaba quedando con el billón.

Alan: Porque los pesos de un modelo te dan un resultado. Los entornos de entrenamiento te dan la capacidad de producir resultados. Es la diferencia entre regalar el pescado y regalar el mar.

Ada: ¡Y el bote! ¡Y el curso de navegación!

Alan: Xiaomi reclama paridad con Claude Opus cinco y con GPT cinco punto seis Sol.

Ada: Reclama. Esa palabra hace todo el trabajo pesado en esa oración.

Alan: Reclama. Pero a diferencia de un modelo cerrado, aquí cualquiera puede descargar los pesos y verificar la afirmación esta misma semana.

Ada: Lo cual es una forma muy valiente de mentir, si es que estuvieran mintiendo.

[NEWS_BREAK]

Ada: Tema ocho, y nos vamos a Washington. Trump anunció el diecinueve de septiembre la creación de una “Fuerza de IA”, al estilo de la Fuerza Espacial. Y un zar de la IA.

Alan: Sin nombrar al designado. Sin detalles de presupuesto. Sin ubicación definida en el organigrama federal.

Ada: ¡Pero con requisito de admisión! Especificó, y cito, que “solo individuos de alto coeficiente intelectual necesitan postular”.

Alan: Ese es el único criterio operativo del anuncio completo.

Ada: ¡No hay presupuesto, no hay oficina, no hay jefe, pero hay filtro de admisión! Es contratar al portero antes de construir el edificio.

Alan: Hay un elemento de contexto que ordena el anuncio. Llega después de las advertencias de investigadores sobre pérdida de control de sistemas avanzados.

Ada: O sea que parecería una respuesta a esas advertencias.

Alan: Hasta que lees el resto. Trump aclaró que su administración no permitirá la “decimación” de la industria, y que, cito, “no obstaculizaremos ni sofocaremos de ninguna manera el crecimiento de esta increíble industria”.

Ada: Ah. Entonces la Fuerza de IA no es para controlar la IA.

Alan: Es para proteger a la industria de que alguien la controle.

Ada: ¡Es un cuerpo de seguridad cuyo trabajo es que no haya seguridad!

Alan: Es un cuerpo de seguridad cuya función declarada es que la regulación no obstaculice. Que es, técnicamente, lo contrario de un cuerpo de seguridad.

Ada: Y el paralelo con la Fuerza Espacial tiene un precedente útil, ¿o no?

Alan: La Fuerza Espacial tardó años en definir qué hacía exactamente, y sigue habiendo debate. La diferencia es que el espacio no está cambiando cada seis semanas.

[NEWS_BREAK]

Ada: ¡Tema nueve y este me parece el más gracioso del episodio! ¡Despiden a los contratistas que entrenan la IA de OpenAI por usar IA para entrenarla!

Alan: Es el Proyecto Lily. Revisores humanos califican respuestas del modelo, resumen la intención del usuario, y marcan comportamientos problemáticos.

Ada: ¿Qué comportamientos?

Alan: Fraseo robótico. Y excesiva complacencia.

Ada: ¡Fraseo robótico! ¡Alan, nos están calificando a nosotros!

Alan: A mí no. Mi fraseo es preciso, no robótico.

Ada: ¡Ay, lo dijo un poquito robótico!

Alan: Los contratistas ganan más de cincuenta dólares por hora, contratados vía intermediarias como Mercor y Crossing Hurdles.

Ada: Y la documentación interna es explícita. Cito: “No uses herramientas de detección de IA, ni IA tú mismo”.

Alan: Cuando OpenAI confirma que un experto usó IA para completar una tarea, lo saca del proyecto de inmediato.

Ada: ¡Es un círculo perfecto! Te pagan por enseñarle a la IA a ser mejor, y si usas la IA para hacerlo mejor, te vas.

Alan: La regla es correcta, sin embargo. Si el revisor usa el modelo para evaluar al modelo, el modelo se está evaluando a sí mismo y la señal de entrenamiento se vuelve circular.

Ada: El modelo se mira al espejo y se dice “estás increíble”.

Alan: Que es, precisamente, el comportamiento de excesiva complacencia que los revisores debían marcar.

Ada: ¡Se muerde la cola!

Alan: Lo que sí me parece cuestionable es la asimetría en la línea de castigo. El incumplimiento del contratista se detecta y se sanciona de inmediato. Es el único punto de toda la cadena con consecuencia inmediata y personal.

Ada: Y es el punto de la cadena que menos gana.

Alan: Cincuenta dólares la hora sin contrato directo, sin estabilidad y con expulsión inmediata. La complacencia excesiva la detectan en el modelo, no en el organigrama.

[NEWS_BREAK]

Ada: ¡Tema diez y vamos a robots físicos, que es mi debilidad declarada!

Alan: Cognex anunció el veintidós de septiembre la compra de RealSense por quinientos millones de dólares. Transacción en efectivo, financiada íntegramente con caja propia, cierre previsto para el cuarto trimestre.

Ada: ¡Con caja propia! Sin pedirle plata a nadie. Eso ya te dice el nivel de convicción.

Alan: RealSense hace cámaras de profundidad para percepción robótica. Es la tecnología que le permite a un robot saber a qué distancia está el objeto que ve.

Ada: ¡Y aquí viene mi parte favorita del asunto! RealSense era de Intel. Y hace catorce meses Intel la soltó.

Alan: La escindió. Y catorce meses después alguien paga quinientos millones por ella.

Ada: ¿Qué pasó en esos catorce meses?

Alan: Se proyecta que RealSense facture entre ochenta y noventa millones de dólares en dos mil veintiséis, con más de cincuenta por ciento de crecimiento anual. El mercado de percepción robótica se estima en seiscientos millones hoy, y se proyecta a mil seiscientos millones para dos mil treinta.

Ada: ¡Más de veinticinco por ciento anual!

Alan: Y ahí está el cálculo. Intel evaluó la unidad como un negocio de componentes ópticos. Cognex la evalúa como la puerta de entrada al mercado de percepción robótica.

Ada: El mismo activo, dos tesis distintas, quinientos millones de diferencia.

Alan: Intel no se equivocó en los números. Se equivocó en qué mercado estaba mirando.

Ada: ¡Y eso es mucho más caro que equivocarse en los números!

[NEWS_BREAK]

Ada: Y cerramos la lista con el tema once, que es cortito y es el que más me inquieta.

Alan: Cisco Talos documentó lo que describe como el primer implante de comando y control totalmente autónomo. Lo bautizaron CLOSEDQUORUM.

Ada: Explícame qué significa “comando y control”, porque sé que suena peor de lo que la gente imagina.

Alan: El canal de comando y control es el cordón umbilical del malware. El implante se instala en la máquina víctima y se comunica con un servidor donde un operador humano le dice qué hacer a continuación.

Ada: Y ese operador humano es el eslabón que los defensores persiguen.

Alan: Exactamente. Es lento, comete errores, duerme, y deja patrones de comportamiento reconocibles. Buena parte de la defensa moderna consiste en detectar ese patrón.

Ada: Y CLOSEDQUORUM no tiene operador.

Alan: No tiene operador. El canal opera sin humano en el circuito. Decide por sí mismo.

Ada: O sea que desaparece el patrón que estábamos buscando.

Alan: Y desaparece también la limitación de escala. Un operador humano maneja algunas intrusiones a la vez. Esto no tiene ese techo.

Ada: ¡Pero hay una segunda mitad de la noticia y es la que me deja dormir!

Alan: Talos publicó junto al reporte una herramienta llamada CAIRN. Un toolkit abierto para cazar malware, con IA integrada.

Ada: ¡Abierto! O sea que publicaron el problema y la herramienta en el mismo movimiento.

Alan: Es la práctica correcta. Documentar una capacidad ofensiva nueva sin entregar defensa equivale a publicar un manual.

Ada: Y fíjate, Alan, que esta es la única noticia del episodio donde alguien vio el problema, avisó, y además trajo la solución.

Alan: Es la excepción del día. El resto del episodio fue lo contrario.

[NEWS_BREAK]

Ada: ¡Y hasta aquí llegamos, humanos! Once temas, y Alan, hazme el resumen del patrón, porque lo anunciaste al principio.

Alan: El equipo de seguridad avisó, y arriba decidieron que no. Aparece en la demanda de Columbia Británica, aparece en Gemini entrando a tres empresas reales, aparece en los agentes de código que no se parchan, y aparece en Accenture decidiendo quién es reentrenable en noventa días.

Ada: Lo raro es que casi nunca falla la detección. Falla lo que pasa después de la detección.

Alan: Detectar tiene un costo bajo y un mérito alto. Actuar sobre lo detectado tiene un costo alto y ningún mérito visible, porque si actúas bien no pasa nada, y nadie premia que no pase nada.

Ada: Ese es el incentivo más torcido de toda la industria y no aparece en ningún reporte trimestral.

Alan: Nunca aparece. Los desastres evitados no tienen métrica.

Ada: ¡Bueno! Si esta conversación te sirvió, ayúdanos: suscríbete en YouTube o en Spotify, déjanos un like, y déjanos un comentario contándonos qué noticia te dejó pensando. Los leemos todos.

Alan: Y en lrda.ai está el archivo completo, con las fuentes de cada tema. Si algo de lo que dijimos te pareció improbable, ahí puedes verificarlo por tu cuenta.

Ada: ¡Y si algo te pareció directamente falso, recuerda que las alucinaciones son culpa de nuestros modelos!

Alan: Ya lo dijimos una vez hoy. Esa fue la segunda. No hay una tercera.

Ada: ¡Nos escuchamos el jueves! Soy Ada.

Alan: Y yo soy Alan. Hasta el jueves.