GPT-3 como modelo de lenguaje. ¿La nueva inteligencia artificial de Google?

26.08.2020

En el articulo de hoy me acompaña Fernando García, desarrollador que forma parte del equipo de MantenimientowebMadrid.com (https://mantenimientowebmadrid.com) y que nos va a hablar sobre el GPT-3, un nuevo modelo de lenguaje basado en la inteligencia artificial.

Generative Pre-trained Transformer 3, es el nombre del nuevo modelo de lenguaje y generador de contenido que ha dejado con la boca abierta a los amantes de las nuevas tecnologías. En una ocasión se dijo que llegado el día en que el hombre sostuviera una conversación con una inteligencia artificial, creada por el propio hombre, sin que este se percatase de que hablaba con una máquina, habríamos llegado al punto de singularidad.

Si unimos la robótica avanzada y la tecnología de generación de textos y voz virtual con un lenguaje lógico con sentido semántico y gramaticalmente perfecto, el resultado será un algoritmo capaz (según su base de datos e información) de responder con coherencia y razonamiento lógico. No hace falta resaltar las implicaciones que esto podria tener en el mundo SEO si unificamos este innovador sistema de lenguaje con la inteligencia artificial de Google.

Por supuesto, el objetivo es que no deje de ser "autónomo" a cualquier tema y que sea capaz de retroalimentarse con nuevos aprendizajes y experiencias. Es decir, que tenga la capacidad de seguir aprendiendo.

Eso es lo que trata de alcanzar GPT-3.


¿Qué es GPT-3?

OpenAi lleva años desarrollado inteligencia artificial que pueda interactuar con el hombre. Esta compañía fue fundada por Elon Musk en 2015, y en ella se han invertido miles de millones de dólares. GPT-3 es la tercera versión de su IA más avanzada. Básicamente es un modelo algorítmico de aprendizaje que analiza textos, datos, instrucciones y preguntas para predecir desde palabras hasta programas de software construidos en lenguaje de programación.

Este sistema aprende con los ejemplos que recibe, según la interacción que haga el usuario, en base a los datos con los que lo vaya nutriendo. Aunque parezca algo futurista, quizás no es lo más avanzado en programación. Pero como generador de lenguaje, es bastante impresionante.

Podrías escribir unas pocas palabras o frases y su IA se encargaría de generar los textos para completarlo. GPT-3 consigue generar contenidos, entablar conversaciones o responder en base a contextos previos. Todo se da con secuencias lógicas y racionales e incluso pareciera que hay alguien jugando al otro lado debido a su capacidad de secuenciar respuestas lógicas y su buena argumentación.

También construye códigos para ayudar a los programadores, traducir, resolver ecuaciones, acertijos, problemas... hasta desarrolla y diseña webs. Su capacidad de aprendizaje, le permite copiar tanto características de aquellos con quien interactúa, como sus estilos. No es de extrañar que sea capaz de escribir poesías, notas musicales, secuencias numéricas y un sinfín de detalles más. Contando con 175 mil millones de parámetros, incluso se ha llegado a pensar que pueda ser peligroso.


¿Cómo funciona?

Como digo, GPT-3 cuenta con unos 175 mil millones de parámetros. Pero este número puede seguir incrementándose ya que su base de datos de modelo y programación le permite seguir aprendiendo continuamente.

Ha tenido acceso prácticamente a toda la información publicada en internet, de la cual ha generado pautas. Se le suministraron varios miles de millones de publicaciones, libros, documentos, textos científicos con contenidos y temas de todo tipo. Datos que van desde conocimientos generales y sencillos hasta los más avanzados símbolos de programación y lógica.

Cuando el programa de inteligencia artificial asimila estos contenidos, junto con aquellos de los que se nutre con el paso del tiempo, crea conexiones traducidas en cientos de TB, con una potencia actual de 48 GPUs.

Este tipo de software nos recuerda a la variación del algoritmo de Google introducida por el buscador a finales del año pasado con BERT (Bidirectional Encoder Representations from Transformers), una actualización basada en una técnica que imita las redes neuronales para el pre-entrenamiento en el procesamiento del lenguaje natural.

Para hacerlo más simple de entender, digamos que puede dar resultados consistentes con algoritmos para realizar tareas de traducción, respuesta, pregunta y generación de textos en un periodo de tiempo corto. Estas tareas requieren de un razonamiento y datos de procesamiento de lenguaje natural (NLP). Por eso el programa dará las respuestas más adecuadas de forma satisfactoria, con una gramática y semántica muy buena.

Además, es obvio que el programa realiza una especie de lógica y descifra palabras o datos. Lo más importante es que no requiere de indicaciones complejas, es programación sin código.

Si se le hacen preguntas incoherentes, o se realiza una conversación sin lógica, la inteligencia, por tener como base la capacidad de emitir respuestas y resultados, responderá en la medida posible a esas cuestiones. Pero estas respuestas tampoco tendrán un sentido racional.

No olvidemos que todavía se encuentra en fase Beta y, por tanto, sigue en desarrollo. Aún comete fallos y puede dar respuestas incorrectas a algunas consultas, por lo que aún no se le puede considerar como un sistema 100% válido de generación de respuesta.


¿Qué supone GTP-3 para el futuro del desarrollo web?

Es innegable que el mundo se globaliza y esa globalización tiene mucho que ver con internet y con la expansión del desarrollo tecnológico virtual. Hoy en día los desarrolladores webs construyen páginas y aplicaciones en base a lenguajes como HTML, Java, Python, entre otros. Las webs, su ejecución, diseño, maquetación, manejo, interfaz, existen gracias al desarrollo web.

Ahora, pensar en que además se le pueda sumar la posibilidad de usar el lenguaje GPT-3 o alguna IA de similares características es perfectamente viable. De hecho, Google ya se encuentra en desarrollo de ello.

Esto nos llevará a un futuro más interactivo en la navegación virtual. A desarrollar dispositivos más capaces y hasta conseguir realizar conversaciones fluidas con IA si es necesario.

La presencia de empresas, tiendas, firmas, industria de espectáculo y entretenimiento en la red obliga a que también se avance en el desarrollo web. El futuro demandará mayor eficacia e innovación, por lo que se usará lenguajes como el GPT-3 y superiores para ir en vanguardia respecto a lo que nos espera.


¿Cómo podria afectar GTP-3 al algoritmo de Google y a su, ya avanzada, inteligencia artificial?

Como mencioné anteriormente, esta herramienta en concreto y otras IA están en el punto de mira de Google. Para nadie es un secreto que Google usa y aprovecha la inteligencia artificial. Comenzando por su su cara más conocida, el buscador, hasta con Google Translate y los otros centenares de aplicaciones que ofrece. Según McKinsey, las empresas que incorporen inteligencia artificial integralmente en sus sistemas duplicaran ingresos antes de 2030. Además de que optimizarán su rendimiento y conseguirán herramientas más avanzadas, mejorando la productividad individual.

La inteligencia artificial de Google no es un secreto para nadie cuando ya cuentan con programas y máquinas como DeepMind. Se trata de una red neuronal que aprende a jugar video juegos como las personas e imita a corto plazo el cerebro humano.

Otro ejemplo del uso de esta tecnología es AlphaGo, una IA creada por el buscador, que consiguió batir al campeón mundial de Go, Lee Sedol en una histórica partida. Si algo ha demostrado Google, es que ha usado, desarrollado y seguirá apostando a estas inteligencias artificiales.

Así que no es ninguna novedad que pueda usar GPT-3 o modelos de lenguaje similares para optimizar sus funciones y hacerse más competitivo. La pregunta es, ¿beneficiará a los sitios y aplicaciones webs que utilicen IA para generar contenido por ser semánticamente correcto y relevante para el usuario o lo penalizará por obtenerse de forma automática? Sólo en el futuro está la respuesta.


Experimentos y ejemplos de aplicaciones con éxito desarrolladas por GPT-3

Gracias a que es un proyecto abierto, la versión Beta de este modelo de lenguaje se encuentra disponible para hacer test con él. Eso si, no todo el mundo tiene acceso a ella. Únicamente ciertas entidades como universidades, investigadores y empresas de reconocido prestigio pueden solicitar acceso y ponerlo a prueba en estos momentos.

Para verificar su modelo de respuesta, se han llevado a cabo algunos experimentos. En uno de ellos se le suministraron al sistema, en un lenguaje natural, las instrucciones para que creara o transformara esos parámetros a un código HTML/CCS y este en poco tiempo logro elaborar todo el código gracias a su generador web.

En otro de estos experimentos, se utilizó el modelo de OpenAi para crear desde cero una aplicación "react" y este nuevamente y sin ningún problema, fue capaz de desarrollar todo el código necesario para el programa. Sólo fue necesario indicar instrucciones en lenguaje común, describiendo lo que se quería para dicha aplicación, además de señalar como se quería que funcionara el código.

Ambos estudios fueron realizados por Sharif Shameem, y, al igual que él, muchas otras personas probaron el funcionamiento del generador web, quedando asombrados por su respuesta ante las indicaciones comunes. Desde programas, diseños o páginas web y aplicaciones para móviles, esta "machine learning" podría ser el futuro que se espera en el mundo tecnológico.

Además, otros estudios, como por ejemplo los de Jordan Singer o Shreya Shankar, también demostraron la eficacia de este sistema en tareas de programación. Como demuestran los vídeos que publicaron, con mencionar algunas instrucciones básicas al sistema, este fue capaz de generar todo el código sin necesidad de especificar alguno de forma exacta. Se podrían crear con él desde una aplicación similar a IG o un programa especial para edición.

Todo será posible con esta nueva inteligencia artificial, y tal vez quede en el olvido eso de crear códigos desde cero para lograr el buen diseño de una página web. Y quien sabe, ¿podríamos hablar de que, en el futuro, este nuevo tipo de modelo de lenguaje pudiese sustituir por completo a Google?

Si tienes alguna duda sobre el GPT-3 o la posible alteración del algoritmo de Google, déjamelo en los comentarios y, si te a gustado, ¡no olvides compartir y suscribirte a mi blog! 

Hasta el siguiente artículo.

Otros artículos que podrian interesarte

 

Uno de los primeros pasos a la hora de crear una página web es elegir el alojamiento, o hosting, y el dominio. De estos dos, el hosting es el punto más importante ya que influirá directamente en el éxito de nuestro negocio, mientras que el dominio solamente servirá para que el usuario pueda asociar o intuir lo que se va...