Portada » blablablá » Qué es la temperatura de la IA

Qué es la temperatura de la IA

Qué es la temperatura de la IA

Si nos sigues y sobre todo si nos lees probablemente habrás puesto en práctica algunos sistemas de inteligencia artificial con tu PC o MAC, vamos a entrar brevemente en el concepto de la temperatura de la IA.

La probabilidad de la IA

Las diferentes inteligencias artificiales son modelos de lenguaje que muchas veces utilizan parámetros de probabilidad, es decir, que a la hora de construir su respuesta evalúan la probabilidad de existencia de cada palabra de su respuesta en relación a la anterior y siempre dentro del contexto solicitado por el usuario.

Así que si le pides a una IA que te explique algo sobre lo que está haciendo un perro…

La IA analizará tu frase, hallará como sujeto de la acción el sustantivo «perro» y después buscará en sus bases de datos los posibles verbos y por ende acciones, como ladrar, saltar, mover la cola, correr, que más probabilidaes tienen de estar tras la palabra perro tras haber sido entrenada con textos que hablan sobre perros y las cosas que hacen.

Así que mientras para «perro» ha determinado que la probabilidad máxima es el verbo «ladrar» construirá su respuesta como «el perro está ladrando….» mientra que para otro ejemplo, esta vez con el sustantivo «torguga» tendrá que utilizar otros verbos bien diferentes, nunca tendrá asociado el verbo ladrar o la acción ladrando con el sustantivo tortuga, la probabilidad será 0.

Sin ser todo blanco y negro porque con el siguiente verbo… «saltar» podríamos afirmar que tendrá «tortuga» asociado el verbo «saltar» con una posibilidad o probabilidad muy baja, pues aunque no es lo normal, la IA puede haber sido entrenada con un fragmento de texto donde se diga algo así como «la tortuga ha saltado al estanque» o «la tortuga andaba por la terraza y al no tener ha saltado al vacío».

Una IA está entrenada con grandes cantidades de datos, lee muchos libros, documentos y los despedaza etiquetando cada verbo, sustantivo y determinando la probabilidad que un sustantivo venga seguido de determinados verbos y viceversa.

Esa probabilidad la podemos variar en nuestras peticiones, mediante el parámetro de la temperatura.

El parámetro de la temperatura de la IA

Es en esa evaluación de cómo construir una respuesta, componer un lenguaje compuesto por frases, sujetos, verbos y adjetivos, donde entra en juego el parámetro de la temperatura de la IA, a mayor temperatura mayor es la dispersión del modelo, saltándose lass probabilidades más cercanas, abriendo su abanico y por tanto también será menor la precisión conforme a una supuesta realidad viable.

Deberíamos entender esa dispersión como algo no negativo, la exactitud no nos hace humanos, si no la capacidad creativa, y ahí es donde podemo darle un valor a la inteligencia artificial para que no sea puramente estricta y exacta, ya que a mayor temperatura la IA elegirá opciones de respuesta con una probabilidad menor y por ende, más ricas.

Valores de la temperatura de la IA

La temperatura de una IA casi siempre viene dada por un número entre un rango posible.

Pr norma general esta suele estar entre el 0.1 y el 0.9 siendo 0.9 la más alta y 0.1 la más baja.

Si bien estos rangos son unos valores de algunos modelos de IA concretos con los que he experimentado en lo personal, como con Llama 2, en otros el concepto y no hay nada que dicte que los valores de temperatura o incluso el propio nombre del parámetro puedan diferir para conseguir una mayor escala y precisión.

Ejemplos de respuestas con diferentes temperaturas

A modo de ejemplo de estos valores imagina que le pedimos a una IA que complete las siguientes frases con una palabra:

El gato está _____

En el primer caso, con una temperatura de 0.1 probablemente nos devolvería un:

El gato está maullando, o el gato está jugando, o el gato está durmiendo

Todas ellas acciones típicas que se repiten en el comportamiento natural del sujeto gato.

Al aumentarle la temperatura hasta 0.5 la IA será más creativa y nos puede devolver valores como:

El gato está saltando, el gato está mirándonos

Si le aumentamos la temperatura hasta el máximo, en este caso 0.9 probablemente nos devolvería cosas imposibles para un gato, al menos para un gato normal.

El gato está volando, el gato está cantando

Si la frase fuese:

El avión ha_____

Con 0.1 probablemente la IA nos completaría la frase con un «El avión ha aterrizado» o «El avión ha despegado»

Con un 0.5 nos podría decir, «El avión ha tenido un retraso, el avión ha sufrido un percance»

Con 1.0 podría decir el «El avión ha llegado a la luna»

Scroll al inicio