En el Espacio, tan importante como la potencia es la fiabilidad, que tiene que ver con la IA esta afirmación.?

 

Hola gente. La disputa de la carrera espacial de los años 60 entre los dos grandes bloques de la Guerra Fría: Estados Unidos y la Unión Soviética, nos dejó una gran cantidad de enseñanzas. Aunque existían objetivos científicos y tecnológicos, el verdadero trasfondo era demostrar la superioridad tecnológica, militar, económica e ideológica de cada sistema político. La extinta URSS ganó las primeras carreras de esta disputa; el primer satélite artificial, el primer humano en el espacio y la primera caminata espacial. Pero la historia nos cuenta que el primer humano en la Luna, fue un Estadounidense y de alguna manera,una buena cantidad de la humanidad, ha desmeritado todo los logros que la URSS alcanzó inicialmente. Hoy en un mundo globalizado, en tiempos de la IA, es difícil establecer geográficamente en donde un hecho o un hito se da, pero siento que hemos descuidado, por intentar llegar de primero, un principio básico que hizo todo un éxito las misiones de la carrera espacial: "Tan importante como la potencia es la fiabilidad". Hoy celebramos cada vez que un modelo de LLM, logra un objetivo en menos tiempo que el tiempo empleado por un ser humano. Pero en muchos casos, sentimos un bajón horrible, cuando conocemos poco después, que el resultado no era correcto, que no era posible repetir un número "n" de veces el ejercicio y obtener el mismo resultado -enseñas básicas aprendidas durante la primaria, a través del método científico-. Esto nos pasa hoy en día con los modelos de inteligencia artificial desarrollados. Si tienes la paciencia adecuada para repetir una y otra vez un ejercicio, te darás cuenta que el resultado cambia constamente, según las condiciones, limitaciones o el sesgo que vayas introduciendo o que el LLM vaya agregando. En algunos momentos, parece como si los LLM tuvieran un política o mandato de compensación. De lo imaginario e incansable, a lo normalizado y confiable. Sin lugar alguno, el daño que más afecta a los modelos de IA, sigue siendo la falta de fiabilidad y lo fácil que puedes "inyectar" sesgo, a las respuestas que deseas que te devuelva el propio modelo.