Gratuliere zu den 1000 STEEM! War ja ein langer Weg.

Bin übrigens gerade mit verschiedenen LLM's am Experimentieren. Hab mir dazu bei openrouter.ai einen Account angelegt und bissl was über 10 USDC eingezahlt. So bekommt man in den free Modellen 1000 Anfragen am Tag. Ohne die 10$ wären es nur 50.

Uff, die ganzen Modelle, über 400 die man wählen könnte. Aber ich nutze nur die free, dann wird's überschaubar.

Evtl. wär Openrouter auch was für dich, weil du ja schon einiges mit deinen Versuchen verbraten hast.

Als UI hab ich open WebUI, das ist auch nicht so kompliziert. Bin aber nur im Versuchsstadium. Ach ja, Ollama installieren und einbinden ist ja echt einfach, hätte ich nicht gedacht.

Oh da fällt mir ein, du bist ja auf lokale Modelle umgestiegen oder? Dann vergiss das mit Openrouter, war grad etwas zu euphorisch ;-)