Als je chatGPT of Gemini of DeepSeek gebruikt, zijn je chats in te zien door de bedrijven waarvan die zijn. Ook wordt die data weer gebruik om de AI verder mee te trainen. Met Ollama kan je zelf op je eigen computer een taal model draaien. Ollama is opensource. Ook is er lmstudio, een gebruiksvriendelijker manier om te chatten met AI. Die is helaas niet opensource.
LM studio bied een gebruikersinterface zoals je die gewend bent van chatGPT en Gemini. Dit soort apps verzamelen vaak wel iets van data.
Ollama is echt alleen het taal model, niet een mooi ontworpen app. Ollama is vooral bedoeld om te gebruiken voor andere dingen, zoals je eigen versie van Alexa of Google Home. Je kan het nog steeds redelijk makkelijk zelf gebruiken, maar dan moet dat via de opdrachtenprompt.
AI chatbots zijn redelijk intensief voor je computer. Het hebben van een grafische kaart verbeterd de prestaties aanzienlijk, hoewel niet alle grafische kaarten voor elk model ondersteund worden.
Er zijn verschillende taalmodellen die je kan downloaden en gebruiken. Hoe meer parameters, hoe beter. Een taalmodel dat mijn computer (zonder relevante grafische kaart) kan ik prima een gedicht laten schrijven.
(to be continued…)
Geef een reactie