Este es el primero de una serie de cinco artículos en los que exploro diferentes facetas del aprendizaje y la optimización en inteligencia artificial auto-mejorada. Comenzamos con el aprendizaje autónomo, y en los siguientes artículos trataremos temas como la optimización automática de modelos, la exploración de nuevas arquitecturas, el auto-entrenamiento con nuevos datos y cómo los sistemas auto-mejorados pueden evolucionar.
A lo largo de esta serie, intentaré responder una pregunta clave: ¿podemos realmente crear algo sin nuestros propios prejuicios, o inevitablemente veremos el reflejo de nuestras imperfecciones en la IA que desarrollamos? Aunque la IA parece avanzar por sí sola, sigue llevando nuestra huella en su origen. La reflexión queda abierta, y tal vez la respuesta no esté tan lejos de lo que imaginamos.
Aprendizaje autónomo: ¿Puede una IA aprender sin nuestros prejuicios?
Y llegó el día en que por fin soltamos esta frase: ¡la inteligencia artificial (IA) que aprende solita!
¿Cómo? Pues es como si tuvieras una bicicleta sin rueditas, te lanzaras a la aventura y al día siguiente ya estuvieras haciendo piruetas. Y, ojo, sin nadie detrás diciéndote: “No te caigas”. Steve Jobs decía: “El diseño no es solo cómo se ve, sino cómo funciona”. Bueno, en este caso, la IA funciona como un genio autodidacta, desarrollando sus propias habilidades sin tener a alguien con un megáfono dirigiendo dirigiéndolo.
¿Has oído hablar de AlphaZero? Es como el nerd de la clase que no necesita leer el libro de texto para sacar 10 en todo. Lo dejaron solo con las reglas de ajedrez, Go y shogi, y este prodigio se dedicó a probar, jugar y ganar, hasta convertirse en una leyenda en todos esos juegos. ¡No necesitó a Bobby Fischer ni a ningún otro gurú para enseñarle! Este algoritmo dijo: “Tranquilos, yo me las arreglo”, y al cabo de un tiempo, dominaba todo lo que se le pusiera enfrente. Es como el Messi de los juegos de mesa, pero en versión IA.
Ahora, aquí es donde la cosa se pone interesante: aunque la IA parece ser la reina del patio de recreo, nosotros le estamos poniendo los columpios, el tobogán y las reglas del juego. Básicamente, la IA puede estar aprendiendo por su cuenta, pero lo hace en el espacio que nosotros le diseñamos. Y si ese espacio está lleno de nuestros propios sesgos y limitaciones, es como si le hubiéramos dejado trampas o pistas falsas en su camino. ¿Qué pasa entonces? Aunque la IA sea súper autónoma, aún estamos ahí, en la sombra, dictando algunas de las reglas del juego.
Así que la pregunta es: ¿puede una IA realmente aprender sin que nuestros prejuicios se cuelen en el proceso? Puede que AlphaZero se convirtiera en el Messi del ajedrez, pero nosotros seguimos siendo los árbitros, diseñando el campo donde juega. Así que… ¿quién está realmente en control? ¡A veces, no está tan claro como parece!
Tú ¿qué opinas?
El principio de incertidumbre de Heisenberg, que proviene de la mecánica cuántica, establece que no es posible conocer con precisión absoluta y simultáneamente ciertas parejas de propiedades de una partícula (como su posición y su momento). En otras palabras, cuanto más precisa sea la medición de una de esas propiedades, más incierta será la otra.
Aunque este principio se aplica estrictamente al comportamiento de las partículas subatómicas, puede haber una metáfora interesante en la interacción entre los seres humanos y las inteligencias artificiales.
Al igual que en la física cuántica, donde el acto de medir afecta el sistema observado, en el contexto de IA, el acto de interactuar con ella cambia la naturaleza de la respuesta. A medida que los usuarios interactúan más con una IA, ésta puede aprender y adaptarse a sus preferencias, lo que puede modificar la “calidad” de las respuestas en el futuro. Sin embargo, el conocimiento exacto del impacto de nuestras interacciones puede no ser predecible con certeza.
Qué interesante metáfora, siempre me ha llamado la atención que el comportamiento se modifique cuando las partículas son observadas. Algo fascinante y sí puede ser que aplique también en este caso. Gracias por tu comentario Jesús.
“Toda respuesta es función de los mecanismos que la definen y de la intención del medidor.” Sartre (Crítica de la razón dialéctica, 1960).
Sartre argumenta que la realidad observada no es independiente del sujeto que la investiga y que los resultados de cualquier estudio están condicionados tanto por los mecanismos de medición como por las motivaciones e intenciones del observador. Esta noción se relaciona con su crítica a la objetividad absoluta en el análisis de los fenómenos humanos, subrayando el papel activo que juegan las condiciones materiales y las relaciones sociales en la interpretación de la realidad.
La cita anterior la utilice hace 30 años en mi segunda tesis de maestría, donde advierto el riesgo de que la naturaleza fractal de las fronteras de grano observada a nivel nanométrico puede caer en el riesgo de la subjetividad del investigador.