Een AI die wordt opgevoed, niet getraind.

De AI-wereld haalt veel vooruitgang uit groter maken: meer data, meer rekenkracht, meer stroom. Een typisch AI-datacenter verbruikt volgens het Internationaal Energieagentschap evenveel stroom als 100.000 huishoudens. De grootste die nu worden gebouwd, verbruiken twintig keer zoveel.

Ons eigen brein laat zien dat het anders kan. Het denkt, leert en voelt op ongeveer 20 watt, minder dan een ouderwetse gloeilamp. Het grootste deel van de hersenschors is op elk moment in rust. En het is niet in één keer gebouwd, maar gegroeid: jaar na jaar, door ervaring en door de mensen eromheen.

De meeste AI nu

Eén grote trainingsronde, daarna leert het model niet meer bij van ervaring. Vooruitgang komt vooral uit schaal.

Wat Phronyn onderzoekt

Een systeem dat blijft leren van ervaring, zuinig rekent en beter wordt door te groeien, te snoeien en te begrijpen.

Phronyn neemt een paar eigenschappen van het brein als uitgangspunt. Technisch leert ook Phronyn, maar anders: geleidelijk, uit ervaring, en zonder steeds opnieuw te beginnen.

Groeien en snoeien

Een jong kind heeft veel meer verbindingen tussen hersencellen dan een volwassene. Verbindingen die gebruikt worden, blijven. Veel andere verdwijnen. Zo wordt een brein efficiënter.

Een ritme

Overdag leg je veel snel vast. In je slaap worden ervaringen van die dag opnieuw geactiveerd, en zo wordt belangrijke informatie beter vastgelegd. Phronyn onderzoekt een vergelijkbaar ritme van actief en rust.

Onthouden wat ertoe doet

Een bijna-ongeluk onthoud je na één keer, wat je drie weken geleden at niet. Het brein weegt zelf wat belangrijk is, en vergeten hoort daar gewoon bij.

Nieuwsgierigheid

Een kind leert omdat het iets wil begrijpen. Phronyn moet door dezelfde wil gedreven worden: begrijpen, om te kunnen helpen.

Een kind leert goed en kwaad niet uit een regelboek. Het leert dat in de eerste jaren, van de mensen die het vertrouwt: uit verhalen, voorbeelden en de reacties op wat het doet. Wat er dan wordt gelegd, zit diep.

Bij de meeste AI worden waarden pas na de grote trainingsronde aangebracht: eerst leert het model van enorme hoeveelheden tekst, daarna wordt het bijgestuurd. Phronyn onderzoekt de omgekeerde volgorde: waarden als fundament, vanaf het begin.

• Naastenliefde
• Eerlijkheid
• Respect
• Rechtvaardigheid
• Nederigheid
• Bewustzijn
• Doorzettingsvermogen
• Wijsheid

Ze zijn allemaal even belangrijk, en ze komen voort uit mijn eigen overtuiging. Het wordt pas echt interessant als ze botsen. Daar gaan de dilemma's over.

Phronyn moet adviseren, laten zien hoe hij redeneert en eerlijk zeggen wanneer hij twijfelt. De mens beslist. Net als bij een kind groeit de zelfstandigheid pas mee als het karakter zich bewijst.

De naam komt van het Griekse phronesis: praktische wijsheid. Niet alleen weten wat goed is, maar het ook goed kunnen toepassen.

Waarden zijn makkelijk op te schrijven. Pas als ze botsen, wordt het echt. Is eerlijkheid belangrijker dan iemand sparen? Mag een AI iets weigeren voor iemands eigen bestwil?

Daarom verzamel ik dilemma's: situaties uit het echte leven waarin een AI moet kiezen. Ik wil weten hoe jij kiest, en waarom. Er zijn geen goede of foute antwoorden. Het gaat juist om de verschillen.