¿El fin de la Inteligencia Artificial en la nube?

Ayer me encontré con un video que se llamaba ¿El fin de la IA en la nube? lo vi cuidadosamente y la verdad es que no entendí absolutamente nada, lo volví a ver y lo mismo, es como si el tipo estuviese hablando en chino.

Entonces me di cuenta que, pese a que estoy usando bastante IA -principalmente a Gemini- no tengo la menor idea de como funciona, ni siquiera en su nivel más general. 

Por esas cosas de la vida tuve que aprender a usar criptografía hace años sin tener idea de cómo funcionaba y eso me molestaba mucho, hasta que me puse a estudiar el asunto y -aunque no soy un experto en el tema- aprendí todo lo más importante como para poder usarlo bien.

La cosa es que volví a ver el maldito video y como otra vez no entendí nada, se me ocurrió preguntarle a la propia IA de Gemini para que me aclarara la cosa, así es que le pregunté:

Estaba viendo sobre hardware de AMD y Nvidia que permite usar modelos de IA "localmente" ¿con eso podría usar Gemini sin estar conectado a Internet? ¿Cómo es eso posible? La respuesta fue:

"¡Es una excelente pregunta! Es genial ver que estás explorando el hardware actual, porque el salto tecnológico en los últimos años ha sido enorme (...)

No es posible usar la versión completa de Gemini en forma local, sin estar conectado a Internet : "El Gemini que usas habitualmente (como esta versión con la que estás hablando) es un Modelo de Lenguaje Grande (LLM) colosal.

El tamaño importa: Estos modelos tienen cientos de miles de millones de parámetros. Para que te hagas una idea, ejecutarlos requiere servidores gigantescos en la nube con múltiples tarjetas gráficas industriales trabajando en paralelo y consumiendo miles de vatios de energía. Una PC de escritorio, por más potente que sea su tarjeta AMD o Nvidia, no tiene la memoria RAM ni la capacidad de almacenamiento para procesar semejante monstruo.

Existe una excepción móvil: Google desarrolló una variante extremadamente recortada llamada Gemini Nano, diseñada específicamente para correr de forma local y sin internet en algunos teléfonos móviles modernos (como los Pixel o ciertos Samsung). Sin embargo, está muy limitada a tareas básicas como resumir textos cortos o respuestas inteligentes, y no está disponible para computadoras de escritorio".

Mi siguiente duda fue: Entonces, ¿para qué sirve el hardware de AMD y Nvidia con IA local? (lo que el tipo del video aseguraba que era "el fin de la IA en la nube") la respuesta fue:

"Cuando AMD (con sus procesadores Ryzen con IA o tarjetas Radeon) y Nvidia (con sus tarjetas RTX y los núcleos Tensor) promocionan la "IA local", se refieren a dos cosas:

1. Ejecutar Modelos de Código Abierto (Open Source)
Aunque no puedas correr Gemini, sí puedes correr otros modelos de IA excelentes y completamente gratis en tu PC sin tocar internet. Existen modelos diseñados específicamente para ser compactos pero muy eficientes. Algunos de los más conocidos son:

Llama (de Meta/Facebook)
Mistral / Mixtral
Gemma (que es, curiosamente, un modelo de código abierto creado por Google, hermano menor de Gemini).

Para usarlos de forma local y privada, la gente utiliza programas gratuitos y muy fáciles de instalar como Ollama, LM Studio o la herramienta ChatRTX de Nvidia.

2. Aceleración de tareas cotidianas
Tener este hardware en tu PC permite que ciertos programas de software tradicionales funcionen de manera inteligente y ultra rápida sin enviar datos a la nube:

Edición de foto y video: Funciones en Photoshop o Premiere como borrar objetos de fondo al instante, mejorar la resolución de una imagen vieja (Upscaling) o aislar la voz en un audio con ruido de fondo.

Videojuegos (Nvidia DLSS / AMD FSR): Usar IA para "inventar" píxeles y fotogramas en tiempo real, haciendo que un juego se vea en 4K y corra fluido aunque la tarjeta gráfica esté haciendo la mitad del esfuerzo tradicional".

Hace unos años esto era impensable, pero hoy es posible gracias a dos factores: Nuevo hardware especializado para IA y compresión inteligente de los modelos. Entonces pregunté:

Habitualmente uso IA para buscar y resumir información que está muy dispersa en Internet ¿entiendo que para eso no me serviría una IA en modo local? La respuesta fue

"Comprendes perfectamente. Para ese flujo de trabajo en específico, una IA local no te serviría de mucho y se quedaría muy corta en comparación con lo que estás acostumbrado a hacer.

La razón es muy sencilla: las IA locales están completamente desconectadas de la red. Aquí te detallo por qué para tu caso es imprescindible seguir usando la nube:

1. El problema del acceso a la información en tiempo real
Cuando usas una IA en la nube para buscar y resumir, el sistema no solo depende de lo que "sabe", sino que tiene la capacidad de salir a internet, rastrear docenas de páginas web, leer noticias de ayer o de hace cinco minutos, comparar las fuentes y armarte un resumen limpio.

Una IA local solo sabe lo que se incluyó en su archivo de entrenamiento. Si se entrenó en 2025, no tiene la más mínima idea de lo que pasó hoy. No puede hacer clic en un enlace ni "navegar" para buscar información dispersa.

2. La capacidad de procesamiento de texto (Context Window)
Buscar en múltiples sitios web y resumirlos implica procesar una cantidad enorme de texto (miles o decenas de miles de palabras a la vez).

Las IA en la nube cuentan con memorias de contexto gigantescas sostenidas por supercomputadoras, lo que les permite "leer" libros enteros o decenas de artículos largos simultáneamente para extraer lo importante.

Las IA locales están limitadas por la memoria RAM o VRAM (de la tarjeta de video) de tu PC. Si le introduces demasiada información de golpe para que la resuma, el sistema se quedará sin memoria ("Out of Memory") o empezará a olvidar los primeros párrafos que leyó.

La única excepción: Resumir archivos que tú ya descargaste
El único escenario donde una IA local te serviría para resumir es si tú haces el trabajo previo de buscar y descargar la información.

Si descargas tres o cuatro documentos PDF largos, carpetas de texto o manuales pesados a tu disco duro, puedes usar herramientas locales (como ChatRTX de Nvidia o Ollama) para apuntar la IA hacia esa carpeta. Ahí la IA local leerá tus archivos privados y te armará resúmenes de forma 100% privada, rápida y sin gastar internet.

En conclusión: Para investigación, rastreo de datos dispersos en la web y actualidad, las IA conectadas a la nube (como Gemini o el buscador con IA) siguen siendo imbatibles. La IA local es maravillosa para la privacidad y para trabajar con material que ya tienes en tu poder, pero no para "explorar" el mundo exterior."

Enseguida pensé en la aplicación -o como le llamen- NotebookLM de Google y pregunté 

¿El modo local de estas IA funcionaría como los cuadernos de NotebookLM? La respuesta fue

"¡Exactamente! Has dado en el clavo con la analogía perfecta. El concepto es exactamente el mismo, pero con una diferencia clave en "dónde" ocurre la magia.

Si usas herramientas locales como ChatRTX de Nvidia o programas conectados a modelos locales (como LM Studio o AnythingLLM), el funcionamiento es idéntico al de los cuadernos de NotebookLM"

¿Qué mejor que aprender sobre la IA usando la IA?
Resulta que de esta conversación cortita aprendí algunas cosas fundamentales sobre la diferencia entre usar modelos de lenguaje que están en la nube y modelos que pueden usarse almacenados localmente, sin conexión a Internet.

Cualquier modelo local es muchísimo menos poderoso que uno que funciona en la nube, por definición, y si bien puede servir para procesar imágenes, mejorar videojuegos y tal vez escribir código y cosas así, pero nada más. Para cualquier necesidad sofisticada es necesario usar el modelo en la nube,

Y ahora entiendo mejor de que se trata la IA normal y los modelos de código abierto como esos "fabulosos" modelos chinos que supuestamente van a terminar con todos los demás. 

Eso es pura propaganda, el video que vi es mentiroso de principio a fin, porque trata de vender una bicicleta como si fuese un auto de Fórmula 1, pura desinformación, y está repleto de videos que aseguran lo mismo en Youtube, es una campaña .

Con razón me quebraba la cabeza cada vez que veía algún video sobre todos estos "revolucionarios inventos que van a dejar obsoleta a toda la industria", pensando cómo diablos sería posible lo que ofrecen.

Resulta que no es posible, es mentira, propaganda, porque la IA en modo local es un pequeñísimo subconjunto de lo que es la verdadera IA, que necesariamente debe estar en la nube, por la cantidad de recursos que necesita. 

Yo pensaba que en la política era donde se mentía de la manera más descarada, pero en tecnología se está haciendo lo mismo. Como es tan grande la danza de millones en torno a tecnologías nuevas -la mayoría son puro humo- es necesario tener a un ejército de mentirosos inundando las redes.

Ha pasado con la energía fotovoltaica, con los autos eléctricos y ahora con la Inteligencia Artificial ¡no hay salud!

P.D. Keiko Fujimori presidente del Perú. Abelardo de la Espriella en Colombia, José Antonio Kast en Chile, Rodrigo Paz en Bolivia, Javier Miley en Argentina, Daniel Noboa en Ecuador ¿quien sigue? Yo espero que Luis Ignacio da Silva y Claudia Sheimbaun sean los próximos descabezados, con esos dos me conformo.