Blog #8 Joël de Bruijn: ‘Voortdurende kritische blik op technologie is gepast’

Joël de Bruijn was op 29 oktober bij de Universiteit van Utrecht voor het symposium over digitale autonomie, georganiseerd door Practoraat Mediawijsheid & Burgerschap en MBO Digitaal. Joëls conclusie na de openingskeynote over AI-narratieven en de workshop over speculatieve toekomstscenario’s : ’n voortdurende kritische blik op technologie is gepast’.

‘Waarom kan infrastructurele autonomie niet door een school alleen bereikt worden?’

José splitst deze op in individuele autonomie van leerlingen, professionele autonomie van leraren, institutionele autonomie voor scholen en infrastructurele autonomie van de sector. Het onderscheid tussen de laatste twee zette mijzelf aan het denken. Want waarom kan infrastructurele autonomie niet door een school alleen bereikt worden? Blijkt dat als je weerbaar wilt zijn als school, je eigenlijk een te kleine schakel in het geheel bent en je direct de hele sector nodig hebt. ‘Autonomie kun je niet alleen!’ stelt ze. Collectief optrekken dus want op dit moment leidt het anders gelijk tot eenzame autonomie.
Ze moedigt aan tot kritische reflectie op de rol van AI voor het mbo: 1) Zet ontwikkelingen waardegedreven in in plaats van technologie-gedreven. 2) Pak het mensgericht aan in plaats van gericht op efficiëntie en outsourcing.
Daarnaast heeft het mbo wel te maken met een specifieke vicieuze cirkel: Bigtech schetst een ontwikkeling (waar ze allicht zelf mooie tools voor bieden). Arbeidsmarkt analisten nemen dit over als noodzakelijk voor het voorbestaan van bedrijven. Bedrijven gaan om skills vragen, beroepsopleidingen ‘moeten’ het dan aanbieden en er rekening mee houden in het onderwijsontwerp.

‘Lethargisch achter bigtech aansukkelen alsof je geen zeggenschap hebt, hoeft niet vanzelfsprekend te zijn’

José besluit praktisch met de vraag: ‘Hoe houd je onderwijs en studenten onafhankelijk?’ Haar adviezen: focus op kritische digitale geletterdheid in het curriculum, wees kritisch op de invloed van Bigtech bij het SBB (bij het ontwikkelen van de kwalificatiedossiers) en kies voor coöperatie in plaats van competitie binnen / tussen sectoren.
Al met al bevinden we ons als beroepsopleiders in een uitdagende positie, maar wat ik zelf sterk vind aan het verhaal van José is de houding die we kunnen aannemen. Namelijk dat ‘lethargisch achter bigtech aansukkelen alsof je geen zeggenschap hebt’ niet vanzelfsprekend hoeft te zijn en voortdurende kritische blik op technologie gepast is.

‘Zijn utopische en dystopische toekomstbeelden tegenstrijdig?’

In het middagdeel van het symposium verzorgen Niels Kerssens en practor Wouter van der Horst de workshop ‘Speculatieve toekomstbeelden in het mbo’ Niels start met een kijk-tip: Ruha Benjamin en haar Ted talk ‘Is Technology Our Savior – or Our Slayer?’ met de vraag of utopische en dystopische toekomstbeelden tegenstrijdig zijn. Qua uitkomst zeker, maar de overeenkomst is dat bij beide beelden de mens vaak geen zeggenschap heeft en technologie in-the-lead is. Zij pleit daarom voor US-topia (Onstopia).
We kijken naar 3 toekomstscenario’s aan de hand van usecases die potentieel ‘dichtbij’ liggen en hieronder een greep uit de reacties van het publiek. Ook gaan we er van uit dat in 2030 de kinderschoenen-problemen voorbij zijn …

Toekomstscenario #1 In 2030 monitort een AI-systeem van elke klas het studentenwelzijn, de prestaties en welbevinden en signaleert risicofactoren

• Is het een wenselijk scenario? Naast dat dit ronduit niet mag vanuit productveiligheid en AI Act (afaik) lijkt me dit ‘onbehaaglijk’ omdat je juist datgene technoliseert waar we zelf toegevoegde waarde horen te hebben (als docent betekenisvolle relaties hebben met studenten).
• Lost het een bestaand probleem op? Het biedt een schijnveiligheid en het voorkomen van bijvoorbeeld voortijdig schoolverlaten los je vooral op door betekenisvolle relaties aan te gaan. Niet door deze te automatiseren.
• Welke risico’s zie je bij dit scenario? Je leert en went studenten dat ze continu in de gaten gehouden worden.
• Wat is er voor nodig om deze ontwikkeling waardegedreven te sturen vanuit het onderwijs? Theoretisch als het systemen zijn die studenten zelf aan/uit kunnen zetten en de resultaten alleen ter beschikking staan van de student zelf en deze regie voert wie dat kan inzien. Alleen vanuit een sterke informatiepositie dus.

Toekomstscenario #2 In 2030 volgt het zorgonderwijs de beroepspraktijk en 60% van de basiscontacten en intakegesprekken verloopt via AI. Studenten besteden daarom meer lestijd aan samenwerking met AI bots dan aan direct patiëntencontact.

• Is het een wenselijk scenario? Niet als automatisering juist ruimte moet bieden voor persoonlijk contact.
• Lost het een bestaand probleem op? Het tekort in de zorg wellicht voor de korte termijn. Een andere toepassing zou training en simulatie zijn. Dus juist om beroepsvaardigheden te leren maar niet om het daarna structureel te gebruiken.
• Welke risico’s zie je bij dit scenario? Dat je een beroep onaantrekkelijk maakt, aangezien studenten juist klantcontact belangrijk vinden en je dat weghaalt.

Toekomstscenario #3 In 2030 heeft de Coöperatie Examens MBO een AI systeem dat op basis van de nieuwe kwalificatie-eisen de burgerschapscompetenties van studenten meet op basis van het digitale portfolio.

• Welke risico’s zie je bij dit scenario? Dat de kwaliteit van het onderwijs omlaag gaat als we de complete onderwijscyclus met AI uitvoeren. We maken lesmateriaal met AI, de student maakt zijn opdrachten met AI en we kijken het na met AI. Wat blijft er dan over van ons als mens?
• Wat is er voor nodig om deze ontwikkeling waardegedreven te sturen vanuit het onderwijs? Het meten en het oordelen zou van elkaar losgetrokken moeten blijven. Als AI een meting toont in de vorm van een dashboard zou een mens uiteindelijk alsnog het oordeel moeten volgen.

Al met al voorbeelden die helpen om nieuwe technologie met kritische blik te bekijken!

Lees zijn blogs over de keynote van José van Dijck de workshop over de speculatieve toekomstbeelden en op LinkedIn.