El código generado por IA funciona. Ese es el problema.

Resumen

El video sostiene que el código generado por IA puede funcionar y aun así ser un problema. A menudo parece completo y supera las pruebas, pero se queda en un 80–90 % de calidad. Ese acabado aparente puede hacer que los equipos dejen de revisar y pulir el resultado, lo que lleva a acumular funciones innecesarias, errores sutiles y productos cada vez menos coherentes.

Riesgos del desarrollo con IA

• Las pruebas verdes no garantizan que el software sea correcto. La IA puede escribir tanto la implementación como sus pruebas sin conocer decisiones importantes que no se incluyeron en el contexto o el prompt.
• Los errores plausibles son difíciles de detectar. Un fallo pequeño puede pasar inadvertido precisamente porque el código parece razonable. El presentador menciona una encuesta de Stack Overflow en la que el 66 % de los desarrolladores expresa frustración ante soluciones de IA que parecen válidas, pero contienen errores.
• La IA tiende a reproducir soluciones comunes. Como genera resultados probabilísticos a partir de patrones frecuentes, puede repetir diseños, arquitecturas y enfoques —por ejemplo, recurrir mucho a React— aunque no sean los más adecuados para cada producto.
• Es más fácil sobredimensionar el software. Al abaratar la escritura de código, se pueden crear abstracciones, integraciones y funciones complejas para experimentos que antes se habrían descartado. Si no se eliminan, terminan añadiendo pantallas y código que no resuelven necesidades reales.
• Más código implica más superficie de riesgo. El presentador advierte que un mayor volumen de código puede aumentar los vectores de ataque y los puntos de fallo. Que algo funcione no significa que sea seguro.

Cómo evaluar mejor el código

Además de las pruebas, el presentador recomienda usar controles verificables para medir la calidad, la seguridad y la mantenibilidad, como el análisis de vulnerabilidades y de complejidad ciclomática. Cita herramientas como Sonar, Aikido y Snyk para apoyar ese análisis. También señala que dar a los agentes de IA acceso a estas mediciones puede mejorar sus resultados.

Propone no medir el rendimiento de los equipos únicamente por commits, fusiones, líneas de código o tokens consumidos. En cambio, recuerda las métricas DORA, que consideran tanto la velocidad de entrega como la estabilidad:

• Tiempo de entrega de cambios.
• Frecuencia de despliegue.
• Tiempo de recuperación ante fallos.
• Tasa de cambios fallidos.
• Necesidad de rehacer despliegues.

Qué hacer con la IA

La recomendación no es dejar de usarla, sino reservar tiempo para el “último 10 %”: aportar contexto, revisar decisiones, simplificar lo innecesario y añadir criterio propio. La IA puede amplificar las capacidades de un equipo, pero también sus debilidades; no sustituye una cultura de calidad ni el cuidado del producto.

El video también destaca la IA como herramienta para probar alternativas: se puede pedir a varios agentes que propongan distintas soluciones o variaciones de una página y compararlas antes de elegir. Así, la IA puede servir no solo para producir más rápido lo de siempre, sino también para explorar opciones que antes habrían sido demasiado costosas.

Ejemplos y referencias

• Se menciona una charla de Katie Dill, del equipo de diseño de Stripe, sobre resultados de diseño que parecen acabados, pero carecen de personalidad o no cumplen bien su propósito.
• Se cita un gráfico de un artículo que mostraría un aumento del código duplicado en commits desde la llegada de la IA.
• Como ejemplo de un uso más cuidado, el presentador menciona páginas de Nan Builders/Helm, que usan IA pero mantienen una identidad visual y animaciones propias.
• Se alude a otro video del canal sobre una fábrica de software de OpenAI y a un ejemplo de una canalización de IA para analizar videos y generar diagramas de lecciones.

Fuentes y voces principales: el presentador de BettaTech, identificado en el video como Martí/Martín; Katie Dill, cuya charla inspira parte del análisis; y referencias a las métricas DORA, una encuesta de Stack Overflow y herramientas de análisis de código.