Cómo instalar una IA de estilo ChatGPT en tu ordenador, que funcione en local y gratis

Hoy día cualquiera puede usar ChatGPT de OpenAI en un navegador web en cualquier dispositivo conectado a Internet. De hecho incluso hay muchas aplicaciones móviles que están integrando el soporte del mismo.

Ahora bien, ¿y si quieres tener la posibilidad de usar este tipo de tecnología sin pasar por el uso de esa plataforma o necesitar conexión a Internet?

Si piensas en por qué iba yo a necesitar eso si desde el navegador web funciona, te dejamos varios motivos como son que corre en local, haya o no conexión a Internet. 

Y segundo, y no por ello menos importante, no necesitas una cuenta OpenAI ni tampoco pasar por el aro de compartir datos con la compañía, su política de privacidad, vaya.

Existe una alternativa llamada GPT4All que funciona de manera muy similar a ChatGPT, ha sido entrenado con el grupo de modelos LLaMA 7B. Ha sido desarrollado por la compañía Nomic.ai que puede ser instalado en local, solo necesita 8 GB de RAM y 4 GB de almacenamiento interno.

Cómo instalar Chat4All en tu ordenador

Como bien sucede con todo el tema IA y los avances de último momento existe una guía por parte de la compañía para hacer todo desde la Terminal de tu ordenador, bien sea Windows, Linux o Mac. En esa guía se utiliza el modelo entrenado LLaMA 7B y tiene un modo secreto sin filtro para la IA.

Sin embargo, nos han facilitado la labor de instalar una versión con un modelo más grande con licencia GPT-J de Apache. Para ello solo tendremos que instalarlo usando una de estas aplicaciones según tu sistema operativo.

• Windows: https://gpt4all.io/installers/gpt4all-0.1.0-win64.exe
• Mac: https://gpt4all.io/installers/gpt4all-0.1.0-Darwin.dmg
• Linux (Ubuntu): https://gpt4all.io/installers/gpt4all-0.1.0-Linux.run

Una vez descargado el paquete ejecutamos el mismo, en el archivo de Mac, viene sin firmar, por lo que tendremos que hacer clic con el botón derecho y abrir para que nos deje ejecutarlo.

Aparece un pequeño asistente de instalación en el que pasamos por la ruta de instalación, nos informa que ocupará 3,95 GB y empieza a descargar el modelo de Internet y a instalar la aplicación en cuestión.

El método de instalación es muy sencillo, como la instalación de cualquier aplicación, con el proceso habitual de Siguiente, Siguiente ... Instalar.

Este proceso de instalación nos llevó aproximadamente 10 minutos entre la descarga, descompresión e instalación. Es momento de comenzar a usarlo. 

Para ello dentro del directorio donde instalaste GPT4All, está el directorio bin y ahí tendrás el ejecutable (.exe para Windows), en mi caso .app para Mac. Los prompts los puedes realizar en español o inglés, pero, eso sí, la respuesta la generará en inglés, al menos de momento.

Como vemos, una alternativa funcional para poder trabajar en local con un sistema de generación de texto que nos puede servir como asistente o ayudante.

En mis pruebas iniciales queda claro que no es tan potente como ChatGPT, pero, siempre podremos usarlo sin pasar por el aro de OpenAI y sin conexión a Internet.