Antwoorden voorspellen

De meest bekende voorbeelden van generatieve AI zijn zogenoemde chatbots en digitale assistenten. De gebruiker voert een tekst in, meestal in de vorm van een vraag of instructie. Bijvoorbeeld: 'Hoe bak ik een veganistische appeltaart?'. Of iets uitgebreider: 'Schrijf een vrolijk lied over het bakken van een appeltaart'. 

De mogelijkheden van generatieve AI zijn eindeloos. Van het oplossen van wiskundehuiswerk en het schrijven van computercode, tot advies over voeding of nieuwe recepten. Ook het genereren van video’s, applicaties (apps) of spelletjes zal steeds gemakkelijker worden. 

De content die met behulp van generatieve AI wordt gemaakt, zoals teksten, noemen we ook wel ‘output’. Het AI-model is getraind om een volgend woord of volgende reeks van woorden in een zin te voorspellen. Die voorspelling is gebaseerd op heel veel teksten (data) waarmee de AI-modellen zijn getraind. 

De basis van generatieve AI: machine learning

De onderliggende technologie van generatieve AI noemen we 'machine learning' (ML)-modellen.

Computers ‘leren’ van patronen of associaties uit grote hoeveelheden data. Een voorbeeld hiervan is wanneer een computersysteem leert om een hond te herkennen. Stel: een computer heeft 10.000 afbeeldingen van honden gekregen, om te leren herkennen wanneer er wel of geen hond op een afbeelding staat. De computer ziet een patroon, namelijk in de pixels van de afbeeldingen. Op basis daarvan kan een computer bepaalde combinaties van pixels ‘herkennen’ als een (deel van een) hond. Of concluderen dat op een afbeelding mógelijk een hond te zien is. 

Het systeem hangt hier een ‘score’ aan: hoe waarschijnlijk is het dat op de afbeelding een hond staat? Als er voldoende kenmerken worden gedetecteerd, en er dus een herkenbaar patroon in de pixels te zien is, dan zal de score hoog zijn. Het systeem zal dan een classificatie maken: op de afbeelding staat een hond. 

Zo werkt het niet alleen bij afbeeldingen, maar bijvoorbeeld ook bij teksten. Hoe meer data de computer krijgt, hoe beter de computer leert om patronen te herkennen én om zelf soortgelijke data te genereren. 

Large language models 

Modellen die getraind zijn met gigantische hoeveelheden data, bijvoorbeeld tekstvoorbeelden, noemen we grote taalmodellen of 'large language models' (LLM). Het computersysteem baseert daarop hoe woorden in een zin passen, en hoe zinnen goed in een context passen. Op die manier wordt output gegenereerd: de tekst die de gebruiker uiteindelijk op het scherm te zien krijgt. Zoals het eerdergenoemde lied over het bakken van een appeltaart.

Foundation model

AI-modellen worden soms aangepast met nieuwe trainingsdata. Het basismodel waarop die aanpassingen worden uitgevoerd, wordt ook wel een 'foundation model' genoemd. Het ligt als fundament onder de modellen die specifieke taken uitvoeren, zoals het genereren van teksten.