El problema de antropomorfizar los algoritmos

El problema de antropomorfizar los algoritmos

0

By Enrique Dans

Cada vez son más las personas que utilizan algoritmos generativos para cada vez más tareas de todo tipo, sea para la generación de texto o de imágenes. La decisión de OpenAI de aplicar la clásica filosofía Silicon Valley de «move fast and break things« al machine learning y sacar al mercado un producto no terminado, con importantes inexactitudes en sus respuestas y que, simplemente, aspira a ir completándose a medida que más personas lo utilizan parece estar funcionando: nunca se había producido una adopción tecnológica tan rápida, y nunca se había hablado tanto del tema.

Sin embargo, como ocurre con toda popularización rápida, los procesos de asimilación distan mucho de ser perfectos. Muchas de las personas que han comenzado a utilizar algoritmos generativos como ChatGPT de manera habitual tienden a una antropomorfización de la tecnología, a tratarla como si fuera una persona a la que se hacen peticiones. Dado que esa interacción se lleva a cabo a través del llamado prompt, es muy normal encontrarnos con personas que solicitan una tarea de manera sumamente ambigua, dejando en el aire muchos de los factores que podrían influir en la calidad de la respuesta obtenida, o incluso llegando a pedir cosas por favor o a dar las gracias.

En los exámenes que realizo a algunos de los grupos a los que he dado clase tras la aparición de ChatGPT y algoritmos similares, es dramáticamente evidente qué alumnos saben utilizarlos bien preguntando de la manera adecuada, frente a los que simplemente hacen una pregunta sin elaborarla demasiado, o los que incluso copian y pegan la propia pregunta del examen. Lógicamente, el refinamiento y la sofisticación en el uso de la herramienta tiende a surgir a medida que ese uso se hace más habitual, y en esta fase de la adopción tecnológica, pocas personas han llevado a cabo e internalizado ese proceso de forma completa.

¿Cómo debemos formular nuestras preguntas a un algoritmo? En primer lugar, entendiendo que bajo ningún concepto estamos hablando con una persona, sino con un algoritmo. Parece muy básico, pero no lo es tanto: si entendemos que nuestro interlocutor es un algoritmo, debemos tender a plantear nuestra pregunta como un proceso por pasos, en los que establezcamos los términos de la respuesta que deseamos obtener en forma de restricciones.

Lógicamente, este tipo de técnica, que supone el principio más básico del denominado prompt engineering, tiende a generar prompts sensiblemente más largos y elaborados, pero en los que se pueden obtener respuestas comparativamente de mucha mayor calidad. En el caso de los algoritmos generativos de imágenes, como Dall·E, Midjourney, Stable Difussion y similares, la aproximación por pasos y planteando las restricciones adecuadas realmente marca la diferencia.

La idea de aplicar restricciones y definir en el prompt desde el primer momento muchos de los elementos que van a caracterizar la respuesta idea que deseamos nos lleva a plantear nuestras interacciones con los algoritmos de manera un tanto más elaborada y menos espontánea, pero que tiende a generar resultados más satisfactorios. Una posible alternativa puede ser ir refinando el prompt en pasos sucesivos, aunque este método tiende a generar insatisfacción al ir ofreciendo elementos diferentes en cada respuesta que el usuario, en muchos casos, desearía que apareciesen combinados.

En cualquier caso, el elemento fundamental es claro: es un algoritmo que recombina estadísticamente textos y extrae información de ellos, no una persona. Los protocolos y normas de educación no aplican, el tratarlo como si fuera un asistente humano o un compañero de trabajo no tiene sentido, y en su lugar, lo que debemos hacer es tratar de definir lo mejor posible lo que deseamos, de forma precisa, clara e inequívoca. Refinar nuestros prompts nos ayudará a destacar nuestro uso frente al que hace el común de los mortales, y es algo que va entrenándose y perfeccionándose a medida que lo utilizamos. Buen momento para ir empezando a aprender.

Puedes leer el artículo completo en: : El problema de antropomorfizar los algoritmos

COMENTARIOS

Leave a Reply