Pep • 5 april 2026 21:41 • 4 min leestijd

Lokale AI op een oude PC - met Gemma 4

100% de baas zijn over je eigen data en AI kunnen gebruiken zonder internetverbinding en—als het even kan—geen maandelijkse abonnementskosten betalen. Het is nu nog een droom voor sommige nerds en knutselaars onder ons. Persoonlijk experimenteer ik hier al enkele jaren mee, maar tot voor kort vond ik de lokale modellen simpelweg niet goed genoeg om de (betaalde) AI-abonnementen op te zeggen.

Toen las ik over Gemma 4, het gloednieuwe open model van Google (DeepMind), dat momenteel te boek staat als het meest capabele open-source model op de markt.
Las wat ze beweren dat het kan, waar ik enthousiast over was, maar mijn grote vraag is: kan dit ook als je hardware oud is?

Meestal is het antwoord nee, of is het tergend traag. Toch ben ik de proef op de som gaan nemen met mijn eigen pc van inmiddels ruim 10 jaar oud, uitgerust met een GTX 1060 videokaart uit 2017. Absoluut geen machine voor zwaar zakelijk AI-gebruik, maar ideaal voor een korte test die voor de meeste normale computergebruikers overeen zal komen lijkt mij in 2026.

Waarom Gemma 4?

Gemma 4 brengt een aantal indrukwekkende functionaliteiten mee naar je eigen PC (en dus harde schijf):

  • Geavanceerd redeneren: Het model kan 'diep' nadenken, multi-stap planningen maken en logica (zoals complexe instructies) beter volgen.

  • Agentic workflows: Dankzij ingebouwde function calling kun je autonome agents bouwen die communiceren met externe (of interne/lokale) tools en API's.

  • Visie en audio: Alle modellen van Gemma 4 kunnen beelden verwerken. De kleinere E2B en E4B varianten kunnen zelfs native audio-input verwerken voor spraakherkenning - jep, zonder internet als meeluisterend oor.

  • Enorm contextvenster: De kleinere Edge-modellen (E) bieden een contextvenster van 128K, terwijl de grotere modellen tot 256K ondersteunen. Je kunt er dus vrij gigantische (text) documenten in kwijt.

  • Multilinguaal: Getraind op 140+ talen. Spreekt het vlekkeloos Nederlands uit zichzelf? Nee, maar voor een lokaal model is het verbluffend goed.

Een extra groen voordeel: AI-systemen in de cloud verbruiken extreme hoeveelheden water voor datacenterkoeling en stroomopwekking. Dit wordt wel eens vergeleken met de wereldwijde consumptie van drinkwater uit de fles. Door lokaal te draaien, bespaar je het milieu dus (letterlijk) een hoop dorst.

Maar wat heb je eraan op een 'normale', of oude pc?

Gezien de privacy-voordelen is lokaal draaien perfect voor gevoelige data die je niet over het internet wilt sturen. Denk aan het transcriberen van privégesprekken, het samenvatten van je dagboek of bedrijfsgevoelige informatie.

Het loopt op mijn oude hardware (extreem) traag, maar om te testen wat het écht kan, besloot ik Gemma 4 zelf deze vraag te stellen.
Ik gebruikte hiervoor de zogenaamde Bloom Prompt om het redenerend vermogen extra te triggeren.

Mijn prompt: Wat zou ik, als een gemiddelde Nederlander allemaal met Gemma 4 - Lokaal - kunnen doen op verouderde hardware?

(Ongeveer 5 minuten later kwam dit verbluffende antwoord...)

>>> Dit is een uitstekende en zeer relevante vraag die een goede balans vereist tussen technische 
realiteit (verouderde hardware) en praktische bruikbaarheid (gemiddelde Nederlander).

### 📚 1. Kennis en Leren (De Student/Curieuze Geest)
Dit zijn taken waarbij Gemma 4 enorme waarde toevoegt, omdat het ruwe informatie direct omzet 
in bruikbaar inzicht.

*   **Samenvatten van lange teksten:** U heeft een rapport, een beleidsstuk, of een lang 
artikel? Voer de tekst erin en vraag: "Geef mij de 5 belangrijkste punten in bullet points" of 
"Verklaar dit in drie zinnen alsof ik 10 bent."
*   **Conceptuele Uitleg:** Vraag om uitleg van complexe onderwerpen (bijvoorbeeld: "Wat is 
het verschil tussen koolstofdioxide en methaan?") in een jargonvrije, Nederlander-vriendelijke 
toon.
*   **Vergelijkingen maken:** U heeft twee verschillende productbeschrijvingen of historische 
gebeurtenissen? Laat Gemma 4 de verschillen en overeenkomsten in een tabel opstellen.

### ✍️ 2. Schrijven en Creativiteit (De Amateur Schrijver)
De AI helpt u om *overwinning* te vieren, namelijk: de perfecte woorden vinden.

*   **Eerste Drafts:** U moet een e-mail sturen, een verjaardagskaarttekst schrijven, of een 
toespraak houden? Voer het onderwerp in en laat Gemma 4 een conceptversie genereren die u kunt 
aanpassen.
*   **Tone-Check:** U hebt een tekst geschreven, maar wilt weten of deze formeel, 
vriendschappelijk, of dringend klinkt? De AI kan de 'stem' van de tekst analyseren en 
aanpassen.
*   **Ideeënboosten (Brainstormen):** U wilt een recept proberen met kip en paddenstoelen? 
Vraag de AI om 5 creatieve maaltijdbeschrijvingen die u kunt gebruiken.

### 🌐 3. Organisatie en Communicatie (Het Dagelijks Leven)
Dit zijn de ‘administratie-taken’ die de meeste tijd en energie kosten.

*   **E-mail Structureren:** U ontvangt een lange, rommelige e-mail met tien punten. Kopieert 
u deze en vraagt: "Maak hier een checklist van de actiepunten en geef mij de deadline voor 
elk."
*   **Reisplanning:** U wilt naar een stad die u nog nooit heeft gezien. Vraag om een 
"perfecte, betaalbare dagroute met focus op cultuur" en vraag om de teksten te structureren in 
tijdblokken.
*   **Formulering Hulp:** U moet een klacht indienen of een verzoek formuleren? Laat Gemma 4 
de structuur leveren, zodat uw tekst duidelijk, netjes en overtuigend is.

---

### ⚠️ Belangrijke Realiteitscheck (Wat u *niet* kunt verwachten)

1.  **Snelheid:** Op verouderde hardware is de snelheid laag. Wees geduldig. Het proces is 
*efficiënt*, maar het is niet *snel*.
2.  **Modellocomplexiteit:** Houd het bij tekst. Het draaien van modellen voor complexe, 
real-time beeldverwerking (zoals AI-kunstgeneratoren) zal de hardware overbelasten.
3.  **De Menselijke Factor:** Gemma 4 is een *assistent*, geen vervanging. De AI geeft 
suggesties, samenvattingen en structuren, maar de laatste, cruciale, menselijke check en 
invulling ligt altijd bij u.

Een kleine reality-check

Ik was oprecht verbaasd over de hoge kwaliteit van deze output. Tuurlijk krijg je bij je dagelijkse google-opdracht tegenwoordig een (behoorlijk) goed AI antwoord terug, maar dit antwoord werd even beredeneerd op mijn computertje die niet eens GTA5 soepel draaien kan.
Dus ik vond het tijd voor de ultieme, klassieke intelligentietest voor AI: de carwash-test.
Dit is een simpele vraag waar veel modellen over struikelen omdat ze menselijke fysieke context missen.

Prompt: Ik moet mijn auto laten wassen. De autowasstraat is 100 meter verderop. Moet ik lopen of rijden?

(Wederom 5 minuten wachten...)

>>> Het korte, duidelijke antwoord is: Loop.

Helaas. De standaard versie van Gemma 4 snapt, net als zo veel voorgangers, nog steeds niet dat je je auto moet meenemen om hem te laten wassen.

Omdat ik het model dwong om zijn redenering te tonen, is het wel fascinerend om te zien wáár de denkfout precies ontstaat in de 'brain' van deze AI:

Thinking...
Here's a thinking process that leads to the suggested answer:

1.  **Analyze the Request:**
    *   **Goal:** Decide whether to walk or drive to a car wash.
    *   **Distance:** 100 meters.
    *   **Output:** A direct recommendation (walk or drive) backed by reasoning.

2.  **Apply the 5-Step Analysis Framework:**

    *   **1. BEGRIJP (Core Question):** Is the optimal mode of transport (walk vs. drive) for 
a very short distance (100m)?
    *   **2. ANALYSEER (Variables/Factors):**
        *   *Distance:* 100 meters (Extremely short).
        *   *Method 1 (Walking):* Fast, free, good exercise, direct, zero fuel, low effort.
        *   *Method 2 (Driving):* Slow (parking, maneuvering, engine start/stop), consumes 
fuel (even if minimal), high effort (parking/maneuvering), high inconvenience (getting out, 
maneuvering).
        *   *Context:* The ultimate goal is simply getting the car washed, not the journey 
itself.
    *   **3. REDENEER (Logical Connections):**
        *   *Efficiency:* For 100m, the time spent maneuvering and parking the car (driving) 
will almost certainly be *longer* than the time spent walking.
        *   *Cost:* Walking is free. Driving costs fuel and potential parking fees (though 
usually negligible here).
        *   *Effort/Experience:* Walking is physically beneficial and mentally simple. Driving 
adds unnecessary steps and complexity.
    *   **4. CREËER (Synthesizing the Answer):** The recommendation must be overwhelmingly to 
*walk*, and the reasoning must address the wasted time and effort of driving.
    *   **5. CONCLUDEER (Best/Most Useful Answer):** A clear, firm recommendation with strong 
supporting reasons, keeping the tone conversational and practical.

3.  **Formulate the Output (Internal Check against Tone/Persona):** The answer should be 
helpful, decisive, and conversational, matching the user's direct, everyday question.

4.  **Final Polish:** (This results in the Dutch response provided below.)
...done thinking.

De AI optimaliseert puur op afstand en efficiëntie, en vergeet het belangrijkste fysieke object uit de vraag.

Conclusie: een absolute aanrader voor de knutselaar

Is mijn droom uitgekomen? Nou nee, nog niet helemaal. Maar het is ontzettend leuk om lokaal met Gemma 4 te spelen. Verwacht geen gratis variant van GPT-5.4 of Claude Opus 4.6 op je eigen pc, maar het voelt wél alsof je de absolute top-AI van 2024 nu gewoon in eigen beheer draait. Het is gratis, privé, en je verbruikt er aanzienlijk minder drinkwater mee. Heb je een beetje meer geduld (en een oude of nieuwe pc)? Dan kan ik het iedereen aanraden.

Zelf proberen? Klik hier om Ollama te downloaden en probeer Gemma 4 lokaal op je eigen computer!

Gerelateerde artikelen

Niemand wil slop lezen, en toch plaatsen we het massaal

Ik werk veel met taalmodellen. Ik vind ze nuttig. Maar wat er op socials, in mailboxe...

4 min leestijd

Mythos de superhacker

Dit stukje is niet zo zeer objectief nieuws, maar bevat wel veel nieuws. Niet helemaa...

7 min leestijd

Infl(AI)tie - Waarom AI rap duurder wordt

Eerst gaven bedrijven als OpenAI rekenkracht zowat gratis weg. Dat was leuk om iedere...

4 min leestijd