Ollama for Mac - Download

Estaba cansado de alcanzar límites de velocidad en la API de OpenAI mientras codificaba a altas horas de la noche, y cada vez que intentaba resumir un documento largo, mi navegador se congelaba. Fue entonces cuando encontré Ollama para Mac - Descargar para Mac. Resulta que puedes ejecutar LLM decentes directamente en tu computadora portátil sin enviar nada a la nube. Al principio era escéptico: ¿cómo podría algo gratuito hacer lo que hacen las herramientas pagas? Pero después de instalar un modelo como llama3, escribí un mensaje y obtuve una respuesta en menos de un segundo. Sin esperas. Sin fugas de datos.

las cosas buenas

La ejecución de modelos localmente cambia las reglas del juego para la privacidad. No tengo que preocuparme de que mi código o mis notas privadas floten en el servidor de otra persona. Y la línea de comando es sorprendentemente simple: una vez que la dominas, cambiar entre modelos es solo una línea. Ejecuté mistral-small y luego cambié a phi3 sin fricción. La aplicación GUI (que agregaron recientemente) sigue siendo básica, pero mucho mejor que la CLI pura si no te gusta el trabajo con terminal. Ya lo conecté a un script de Python que genera automáticamente casos de prueba y simplemente funciona. Sin claves API, sin facturas. También es de código abierto, por lo que puedes echar un vistazo debajo del capó si tienes curiosidad. Para una herramienta gratuita, este nivel de control parece poco común.

Lo no tan bueno

No es perfecto. En macOS Big Sur, tuve una falla extraña al cargar un modelo grande; nada demasiado grave, pero lo suficiente como para obligarme a reiniciar la aplicación. Además, la documentación no es muy apta para principiantes. Si nunca antes ha utilizado una CLI, es posible que se encuentre contra una pared al intentar instalar un modelo. Y sí, la GUI todavía es bastante básica. Sin historial de chat sofisticado, sin temas, nada llamativo. Básicamente estás usando una terminal con algunos botones adicionales. Además, no está diseñado para realizar múltiples tareas a la vez: ¿ejecutar varios modelos a la vez? Realmente no es compatible. Entonces, si estás realizando una automatización compleja o necesitas funciones avanzadas, probablemente querrás agregar algo más.

En pocas palabras

Si eres un desarrollador o un aficionado que quiere IA local sin pagar un centavo, vale la pena probar Ollama para Mac - Descargar para Mac. No es para todos, especialmente si desea una interfaz pulida y en la que se pueda hacer clic, pero para aquellos que se preocupan por la privacidad y no les importa un poco de trabajo en la terminal, es una opción sólida y gratuita. Pruébalo. No ganará ningún premio de diseño, pero hace el trabajo.