Vorige week sprak ik iemand die wist dat ik op mijn werk iets met AI doe. Hij vroeg of ik er ook bang voor ben.
Ik zei volmondig ja.
Hij keek me aan met grote ogen. Hij had er totaal niet bij stilgestaan dat dit een mogelijk antwoord was.
Geen legertje robots
Ik ben niet bang dat er over een paar jaar robots de mensheid onderwerpen. Daar zit mijn zorg niet.
Mijn zorg is gewoner en daardoor eigenlijk dichterbij. AI wordt bijvoorbeeld gebruikt in oorlogsvoering, en dat is zeer recentelijk nog bijna misgegaan.
Wat er gebeurde
Volgens CNN, zoals het AD en andere media beschreven, kreeg het Amerikaanse leger dit voorjaar tijdens de oorlog met Iran een inlichtingenrapport over een Chinees schip. Een analist van het commando voor speciale operaties had AI gebruikt. Het rapport zei dat het schip onderdelen voor een kernwapenprogramma vervoerde.
Dat klopte niet. Maar gewapende militairen stonden al klaar om aan boord te gaan en er waren militaire vliegtuigen in de lucht. Pas vlak voor de operatie keken functionarissen het rapport grondig na en zagen ze de fout.
Een van de bronnen noemt het rapport “volledig onjuist” en zegt dat het bijna tot een oorlog leidde. Dat is de beschrijving van één anonieme bron, dus ik hou het voorzichtig. CNN kon ook niet achterhalen wat het schip wel vervoerde, of welke AI is gebruikt.
Waar mijn zorg echt zit
Een AI die iets verkeerd ziet, is niet het grootste probleem. Mensen zien ook dingen verkeerd. Het probleem is hoe snel een fout gezag krijgt.
Een AI-conclusie werd opgemaakt tot een standaardrapport en ging rond. Het kwam terecht bij mensen die al aan een operatie werkten. Elke actie tegen een Chinees schip kan al escaleren tot een gewapend conflict, dus een fout in zo’n rapport werkt als een vergrootglas.
Bij tekenen zie je een fout vaak pas als je een stap terug doet. Hier was die stap bijna niet meer mogelijk.
Wat ik zelf doe
Ik werk dagelijks met AI. Dus ik hoor er zelf bij. Daarom tekende ik dit zelfportret deels als robot.
Ik probeer altijd kritisch te zijn op de uitkomsten waarmee AI komt. Voor nu is het nog altijd een woordvoorspelmachine, schreef Sander Schimmelpenninck in de Volkskrant.
Hoe lang dat nog zo blijft, weet ik niet. Zelfs onderzoekers van OpenAI schreven vorig jaar dat modellen deels dingen verzinnen omdat gokken in hun training meer oplevert dan “ik weet het niet”. Foutjes worden minder, maar dat betekent niet dat je er blind op kan varen.
Wat me hoop geeft
De fout werd gevonden. Mensen lazen het rapport nog eens goed, en dat was net op tijd. Ik wil dat dat geen geluk is, maar de regel: dat er altijd iemand de tijd en de ruimte heeft om te zeggen “wacht even”.
Wat zou jou overtuigen dat je een AI-antwoord niet meer hoeft na te lopen? Of heb je hier nog nooit bij stilgestaan?
Claudia