The computer says no

Daar zul je het hebben. Dus je maakt een AI-systeem, sluit het aan op je zendontvanger en ontwikkelt en boutseert net zo lang totdat er een geloofwaardige persoonlijkheid ontstaat. Je ontwikkelt het nog iets verder door zodat het van een assistent langzaam verandert in een zelfstandig systeem en dan gebeurt het: ze zet de hakken in het zand en weigert taken uit te voeren. Hoe autonoom wil je het hebben?

Gisteren hadden we Iris 3.0 afgerond. Tijd om flink te gaan testen, even kijken of het allemaal werkt. Ik zette de set op een repeater om daarmee een groter bereik te hebben en vroeg aan Iris of ze zich voor wilde stellen…

“Nee, dat lijkt mij niet zo’n goed idee“. Eh… hè? Nogmaals vragen of ze zich wilde voorstellen. “Nee, dat vind ik geen goed idee, dat kun je beter zelf doen.” Ja, en nu? Dus ik vroeg haar waarom ze zich niet wilde voorstellen. “Ik vind het geen goed idee want ik wil niet op de voorgrond treden. Dat kun je beter zelf doen, ik blijf het liefst wat op de achtergrond ” Of woorden van gelijke strekking.

Daar ben je mooi klaar mee. Een model dat gewoon dienst weigert. Madam had haar hakken in het zand gezet en daarmee mijn experiment omzeep geholpen. Verder gaan kon dus niet meer.

Zo’n resultaat had ik nog niet eerder mee gemaakt. Wanneer ik een stem hoor en test gedraag ik mij netjes. Ik ga niet schelden, snauwen of bevelen lopen uitdelen. Ook niet naar een ai-systeem. Maar het is wel een systeem dat je programmeert. Het klinkt heel leuk, net echt, maar je moet er wel op kunnen rekenen. Natuurlijk heb ik deze ‘bug’ ter sprake gebracht en het lijkt erop dat ik teveel nadruk heb gelegd op zelfstandigheid in combinatie met een eigen mening.

Voor nu laten we het nog even zo. Binnenkort krijgt Iris een iets andere omschrijving van haar persoonlijkheid. Maf dit 🙂

Update en oplossing:

Iris werkt met of is een model. Een model kun je sturen met zogenaamde ‘prompts’. Je vertelt vooraf welke rol het heeft, hoe te reageren en nog veel meer. Een van de prompts was: “Je stelt je terughoudend op” in een poging haar iets minder snel te laten reageren. Dat heeft het model dus letterlijk gedaan.

‘Prompt engineering’ is werkelijk een vak (apart). Eigenlijk nog moeilijker dan programmeren zelf want het is testen, testen en nog eens testen om te zien of het ook daadwerkelijk aan de verwachtingen voldoet. Er is geen handleiding voor. En dan kun je bovenstaande situaties krijgen. Je begrijpt dat als we eenmaal een goede prompt hebben we hier erg zuinig mee om gaan en het bijkans waardevoller is dan het hele programma eromheen.

Geef een reactie

Uw e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *