|
Título: Alguien usando LLM gratuitos como ollama + mistral? Publicado por: Parado_larga_duracion_ESP en 19 Febrero 2024, 16:39 pm Hola. He estado investigando, todo huele muy mal. Pero ahora el salto cualitativo del software potencial en el mundo, desde ChatGPT y amigos, pues es decisivo, ¿no? En casi cualquier cosa que hagas, si no lleva IA, ahhh, es caca ya. ¿No? Bueno.
Yo quería saber qué herramientas hay a disposición del desarrollador pobre, para integrar IA tipo chat como ChatGPT. He intentado usar Ollama con varios modelos de su web, pero van muy lento, del estilo más de varios minutos por respuesta. Supongo que no he conseguido configurarlo bien. En cualquier caso, ¿alguien de aquí usa estas IAs? ¿Hasta qué punto pueden configurarse para acoplarse a otro software? Uno normal, como lo de siempre. Y qué usan, si usan algo de esto. Ollama tiene una API REST para que puedas interactuar con sus modelos, y puedes crear tu propio modelo, pero bueno. La cosa sería si alguien lo ha usado para integrarlo en sus programas, más que para sacar códigos. Yo no he podido. |