La empresa gigante de Google se encuentra en estos momentos acomodando todo para darle superpoderes a su géminis, lo cual le dará mucha velocidad y con mejores respuestas óptimas y precisas, mejorando así su calidad de inteligencia artificial y reduciendo el coste computacional.
Google ha desarrollado una buena técnica que podría ayudar muchísimo a convertir a Gemini en una verdadera maquina poderosa en el mundo de la IA. El gigante tecnológico realizó una publicación donde había algunos detalles de su investigación con los que buscar mejorar y optimizar la eficiencia y el coste computacional de los modelos de lenguaje a una gran escalap por medio de la escascadas especulativas, para así tener un mejor enfoque sin sacrificar la calidad de las mismas respuestas.
Fuente
De acuerdo con el documento, las cascadas especulativas es una técnica híbrida que tiene como combinacion dos enfoques que hace poco eran rivales: las cascadas tradicionales y decodificación especulativa. Se deben esta carambas, la primera se basa en modelo algo más pequeños y escalan cuando de verdad lo amerita la situación y es necesario, por otro lado la segunda permite que un modelo pequeño genera un borrador para que a su vez un modelo más grande lo valide.
En términos prácticos y más fácil de comprender, la técnica de cascadas especulativas de Google ayudara de una forma especial para potenciar a que la IA pueda gestionar de una forma más óptima y mejor los recursos de cómputo al usar un modelo pequeño, el cual propone un borrador de tokens, el mismo será verificado por un modelo grande en conjunto o en forma paralelo. El sistema usa en si una regla de aplazamiento flexible, la misma puede decidir si el modelo pequeño puede manejar la consulta o si pasa la tarea a un modelo grande para mejorar la calidad.
Esta regla de aplazamiento es muy buena y toda una clave de todo, ya que la misma puede eliminar los cuellos de botella que se generan o son secuenciales de la cascada estándar, El método ayuda admite y procesa respuestas útiles del modelo pequeño, aunque las mismas no coincidan exactamente con el modelo grande, algo que no se logra gracias a algo llamado decodificación especulativa.
Gemini podría volverse más rápido y efectivo con esta nueva técnica que se está desarrollando de Gran forma por Google y se está probando a grandes escalas comunes en el mundo de la guía para realizar resúmenes, traducir texto o escribir código de fuente o simplemente resolver algunos problemas matemáticos y todo se encuentra en una fase de prueba y espera cansarse muy pronto y poder competir por El dominio de la guía a una gran escala otro gigante más del mundo tecnológico que se suma con contundencia a este mundo.