Esperando a Eskainet - Programa con IA
Esperando a Eskainet - Programa con IA Podcast
Atrévete con la IA en local
5
0:00
-27:03

Atrévete con la IA en local

Privacidad y tecnología disruptiva en tu ordenador echando humo
5

Soy Dani y tu publicación favorita de inteligencia artificial, Esperando a Eskainet, te trae hoy:

  1. Un audio donde te cuento mi experiencia con la IA en local a tope de privacidad (también en Spotify y otros)

  2. Una herramienta polivalente para jugar con garantías con modelos de IA en local

  3. U. juego para exprimir las posibilidades de las imágenes en ChatGPT

  4. Un generador de nombres de dominio memorable

  5. Poder elegir el próximo tema de Eskainet


¿Has visto alguna vez a los gemelos Scott de “Hermanos a la obra”?

Son esos los que salen en programas de reformas canadienses donde te enseñan una casa maravillosa, perfecta, espaciosa... y luego te dicen que el precio es el triple de lo que puedes pagar.

Con la IA en local nos pasa algo parecido.

‎ㅤ

Este es el tema que elegisteis por votación la semana pasada, con un 60% de los votos (¡mucho más de lo que yo esperaba!).

ㅤ‎

La IA en local de ensueño

El movimiento open source también ha invadido el mundo de los modelos grandes de inteligencia artificial.

Ejemplos liberados como DeepSeek (la ballena azul), Gemma (de Google), Llama (de Meta/Facebook) o Whisper (de OpenAI para transcripciones).

Esta libertad ha generado todo un ecosistema de aplicaciones para aprovechar estos modelos en tu propio ordenador, sin necesidad de enviar datos a la nube.

LM Studio: La puerta a la IA local

LM Studio, disponible para Windows, Mac y Linux, tiene algunas características interesantes:

✅ La ventaja principal es su facilidad de uso comparada con otras opciones más técnicas, manteniendo a la vez la flexibilidad para usuarios avanzados.

🔘 Interfaz adaptable — Ofrece tres modos de empleo: User (básico), Power User y Developer (muestra tokens, rendimiento y más datos técnicos)

🔎 Buscador de modelos — En la configuración (rueda de abajo a la derecha), puedes acceder a "Model Search" y ver qué modelos son compatibles con tu ordenador

🎧 En el podcast adjunto te cuento otras 2 maneras para saber cuáles son los modelos que mejor se ajustan a tu computadora.

Ahí puedes ver un ejemplo de un modelo muy grande y LM Studio avisándote de que quizás es demasiado grande para tu equipo

⚙️ Servidor integrado — Incluye un servidor local al que puedes conectar con otros programas como Continue (asistente de programación en Visual Studio Code)

📊 Diagnóstico — Muestra información sobre tu sistema (en configuración), incluyendo los diferentes tipos de memoria.

3 herramientas más que pueden servirte

Ollama — Muy polivalente, ligera y rápida. Funciona solo en terminal, pero abre un servidor local al que pueden conectarse otras aplicaciones.

Anything LLM — Una suite similar a LM Studio pero basada en web.

Pinokio — Para instalar todo tipo de aplicaciones IA (voz, imagen, etc.).

👇 Más abajo tienes todos os enlaces.

‎ㅤ

La realidad con la IA en local: Un problema de expectativas

Si has usado ChatGPT estás acostumbrado a:

  • Respuestas rápidas

  • Capacidad para entender contexto complejo

  • Una experiencia sencilla sin configuración técnica

Con la IA en local es todo más rico, pero también:

1️⃣ Tienes que elegir el modelo adecuado para tu hardware y necesidades.

2️⃣ Los modelos pueden ser muy grandes (4GB, 8GB... ¡o hasta más de 300GB!).

3️⃣ Con DeepSeek R1 apenas conseguí 10 tokens por segundo, cuando en la nube llega a 24. Con Gemma logré 20, pero sigue siendo mucho más lento.

🔥 Además freí mi Mac Mini M1 cuando configuré LM Studio para tener mucha más memoria.
Pantalla a negro.
Soy un manazas. 🤯‎

Algunos casos de uso

(Quizás tú tengas otros ;)

  • 💬 Chatear. Para conversaciones básicas funciona bien

  • 🔒 Privacidad. Si tus datos no deben salir de tu ordenador

  • 📝 Generar resúmenes e ideas. Similar a ChatGPT 3.5 cuando apareció

  • 📚 Consultar documentación interna. Perfecta si no quieres que tus documentos salgan de tu infraestructura

‎ㅤ

Si quieres usar IA local de manera efectiva:

  1. Conoce tu hardware. Pregunta a ChatGPT qué modelos pueden funcionar en tu ordenador (con tus especificaciones) o usa Geekbench para hacer pruebas Probar y probar, como siempre.

  2. Crea scripts específicos. En lugar de usar herramientas generalistas, programa pequeñas soluciones para tareas concretas

  3. Prioriza tareas asíncronas. Como transcripciones de audio que pueden trabajar en segundo plano

¿Has utilizado la IA en local?

¿Qué experiencia has tenido?

Te leo en comentarios :)

Deja un comentario


Recursos del episodio

Cargando...

✨ Prompts prácticos

Jugando (mucho) con el modelo de imágenes de ChatGPT

Estamos todos sin parar con esto y pronto estará disponible para los usuarios free.

Para variar y no hacerme cansino te lo presento como un juego.

🎱 Arriba tienes 6 imágenes generadas con esa iA y abajo 6 prompts.

👉 Encaja unas con otras o, simplemente, vete a la solución justo al final de esta sección.

1️⃣

1. Entra en webreactiva.com y captura el contenido.
2. Ahora crea un mockup visual de la web que acabas de describir.

2️⃣

Crea un manga multipanel complejo con un developer al que le hablan Don Castaña y Doña Castaña diciéndole que es un vendehumos hasta que le hace callar con sus logros. Hazlo en formato landscape

3️⃣

Crea una tarjeta de cita minimalista que pueda usar en redes sociales. La tarjeta debe incluir el siguiente texto:
“El mejor antídoto contra el síndrome del impostor: hacer y contar”
— Web Reactiva

De fondo color deep orange y el texto en blanco.
En la esquina inferior derecha coloca el robot de la imagen adjunta.

4️⃣

Crea una imagen de Ibai Llanos mostrando la pantalla del móvil porque está escuchando Esperando a Eskainet. Te paso la captura del móvil de Eskainet

5️⃣

1. Haz una versión de mi foto adjunta como si fuera un  muñeco Funko Pop en una representación tridimensional.
2. Partiendo de esta imagen haz un sticker.

6️⃣

Haz una versión de la imagen si fuera un  muñeco Funko Pop dentro de su caja.

Solución:

A 5️⃣ — B 4️⃣ — C 6️⃣ — D 1️⃣ — E 3️⃣ — F 2️⃣

¿Te ha parecido realmente práctico este prompt práctico? (prueba a decirlo con un polvorón en la boca ;)

Pulsa en el “me gusta” ❤️ o comparte este envío y ayúdame a que más gente conozca a Eskainet

Compartir


🧨 Te perdiste esta dinamita en Web Reactiva

Web Reactiva
Aprende a venderte como developer (sin humo)
Don y Doña Castaña siempre estarán ahí…
Listen now

💊 Recursos en píldoras

10 prompts para el nuevo modelo de imágenes de OpenAI

En indiehackers no dan puntada sin hilo y es la recopilación más provechosa de todas las que he visitado.

‎ㅤ

HeroUI, genera webapps sin programar

Con un enfoque similar a los de la competencia se une una herramienta más a la movida del Vibe Coding.

‎ㅤ

AI Name Genius, genera tu nombre de dominio memorable

🧡 Dani de la Comunidad Malandriner nos recomienda este creador de ideas de dominio potenciado por IA.

ㅤ‎

Un estándar más allá de robots.txt: llms.txt

Una propuesta para informar a los robots rastradores de ChatGPT o Perplexity de lo que se van a encontrar en tu web y ayudarles a dar mejores respuestas.


PD: Cerramos a lo grande con una recomendación con quilates de valor. Si quieres estar al loro de la IA y echarte unas risas te recomiendo

de y .

La publicación que reciben los Tecnobros y Elon Musk está traduciendo con Grok ahora mismo. No vas a quedar sin leer o escuchar el próximo envío.

·

Discusión sobre este episodio

Avatar de User