--- title: "Een paar gedachten over AI-veiligheid" author: "Jakub Ćwirlej" id: ai-safety language: nl url: "https://jakubcwirlej.com/nl/articles/ai-safety.md" page: "https://jakubcwirlej.com/nl/ai-dev/" translations: pl: "https://jakubcwirlej.com/pl/articles/ai-safety.md" en: "https://jakubcwirlej.com/articles/ai-safety.md" fr: "https://jakubcwirlej.com/fr/articles/ai-safety.md" updated: 2026-10-14 words: 1734 summary: "Een essay over AI-veiligheid waarin de auteur een oppervlakkig publiek debat bekritiseert dat verdeeld is tussen technomaximalisten en doemprofeten. Hij betoogt dat het ergste waarschijnlijk al begonnen is, gezien autonome wapens, toenemende surveillance en de ideologie van het technomaximalisme, en dat de verantwoordelijkheid altijd bij mensen moet liggen, omdat machines geen eigen handelingsvermogen hebben. Hij stelt concrete regelgevende maatregelen voor en waarschuwt tegen de antropomorfisering van AI." summary_type: editorial --- # Een paar gedachten over AI-veiligheid Jakub Ćwirlej · taal van de tekst: NL · 1734 woorden ## Samenvatting (redactioneel) Een essay over AI-veiligheid waarin de auteur een oppervlakkig publiek debat bekritiseert dat verdeeld is tussen technomaximalisten en doemprofeten. Hij betoogt dat het ergste waarschijnlijk al begonnen is, gezien autonome wapens, toenemende surveillance en de ideologie van het technomaximalisme, en dat de verantwoordelijkheid altijd bij mensen moet liggen, omdat machines geen eigen handelingsvermogen hebben. Hij stelt concrete regelgevende maatregelen voor en waarschuwt tegen de antropomorfisering van AI. ## Kernpunten (redactioneel) - Hij ziet drie mogelijkheden: dat we gedoemd zijn, dat we AI leren beheersen, of dat het einde al begonnen is; volgens hem kunnen alle drie tegelijk waar zijn. - Hij stelt voor dat het trainen van modellen tot ongeveer 1B parameters voor iedereen toegestaan is, en dat modellen van rond 7B voorbehouden blijven aan geregistreerde organisaties die de interacties van hun agents bijhouden. - Verdere voorstellen: Ombudspersonen van het Algemeen Belang, betaald door de staatstoezichthouder, binnen labs die grensmodellen bouwen, en een speciale technologiebelasting om de overgang naar een economie op basis van machines te financieren. - Hij stelt voor trainingsdata te licentiëren via organisaties voor collectief beheer van auteursrechten, zoals ZAiKS. - De slechtste toekomst die hij beschrijft, is niet die van moordrobots, maar een langzaam afglijden naar een technocratie van surveillance en menselijke eenzaamheid. ## Volledige tekst (de woorden van de auteur) Deze tekst is een van de moeilijkste waarmee ik me ooit heb moeten meten. Als journalist, en tegelijk als iemand die thuis in alle rust zijn eigen modellen traint, sta ik op twee tegenovergestelde polen. Enerzijds fascineert de pure engineering me, anderzijds ben ik me er ten volle van bewust dat de veiligheid van kunstmatige intelligentie waarschijnlijk de belangrijkste uitdaging is van de tijd waarin we leven. Ik begin met wat me persoonlijk het meest pijn doet: de tragische vervlakking van het publieke debat over AI-veiligheid. Het is een debat vol tegenstrijdigheden en extreme emotionele lading. Al is dat moeilijk anders te verwachten wanneer er miljardenbelangen en het voortbestaan van de mens op het spel staan. Aan de ene kant horen we dat AI een dodelijk gevaar is en dat de ontwikkeling ervan de mensheid met de ondergang bedreigt. Aan de andere kant dat die apocalyptische visioenen niets anders zijn dan een cynisch spel van de reuzen, die hun waardering willen opdrijven voor de uitgifte van hun aandelen, of kleinere bedrijven willen blokkeren en afremmen om hun monopolie en hun plaats aan de kop van het peloton te behouden. De gewone mens, die geen tijd heeft om dat allemaal te volgen en eenvoudige oplossingen verwacht, belandt makkelijk in het kamp van de technomaximalisten of van de doemprofeten. Elk van die visies is zo glad, zo vanzelfsprekend... en geen van beide vraagt verder ook maar iets van ons. Want als we machteloos staan tegenover krachten die ons te boven gaan, hoeven we toch niets te doen. In deze tijden van extreem maximalisme is dat een heel comfortabele positie. Wat zou ik zelf antwoorden als mijn kind me vroeg of AI een bedreiging voor ons is? Als ik de vereenvoudigende reframing wil vermijden, zou ik moeten toegeven dat er drie mogelijkheden zijn: dat we inderdaad gedoemd zijn ten onder te gaan, dat het uiteindelijk niet zover komt (want – zoals Yann LeCun betoogt – we zullen deze technologie gewoon leren beheersen), of... dat de ondergang al begonnen is. De paradox is dat alle drie de scenario's tegelijk waar kunnen zijn. Dat het ergste waarschijnlijk al begonnen is, volgt uit een feit dat zelden tot de mainstream doordringt: elke technologie, elke uitvinding moet op het juiste moment en in de juiste voedingsbodem terechtkomen om zich ten volle te kunnen ontplooien. Kernenergie – zo vaak als vergelijking aangehaald in dit debat – was tijdens de Koude Oorlog een dodelijke bedreiging, maar werd in vredestijd een bron van goedkope energie die bijdroeg aan een economische boom. Hetzelfde kun je zeggen over de meeste uitvindingen: van het bewerken van vuursteen, via dynamiet, tot kunstmatige intelligentie. Onze huidige wereld is helaas een plek geworden waar het rampscenario haast ideale omstandigheden heeft om werkelijkheid te worden. Gewapende conflicten met autonome wapens, de toenemende surveillance van burgers door staten en bedrijven, regeringen die in hun communicatie met de samenleving klakkeloos bedrijfsnormen overnemen – dat alles vormt een kant-en-klare infrastructuur voor de zwartste visioenen. Intussen duwt de ideologie van het technomaximalisme ons in de richting van die gevaren. Ze spot openlijk met zwakte, stelt economisch gewin en brute kracht boven sociaal kapitaal en veiligheid, en bouwt een wereld waarin een AI die van de ketting is losgeslagen uitstekend zal gedijen. En dan kan het rampscenario al onvermijdelijk zijn. Dat is niets nieuws. Die discussie wordt in wezen al gevoerd sinds de Atheense agora, waar Plato twistte met Socrates, en de menselijke geschiedenis zit vol duistere momenten en onrecht. Wat vandaag in de Amerikaanse politiek gebeurt, en wat voor veel Europeanen naar fascisme riekt, is niets nieuws, zoals historicus Jon Meacham treffend aangeeft in zijn boek ‘The Soul of America’. De kracht van de democratie is dat de gerechtigheid – hoe traag ook – dankzij de instellingen uiteindelijk altijd zegeviert. Met AI kan het toch net zo gaan: het is onze technologie en we zullen ze leren beheersen, net als vliegtuigen, zoals LeCun ons in herinnering brengt. Zelf sta ik, met mijn bescheiden ervaring in het trainen van AI, versteld van hoe fragiel deze technologie is. Kleine wijzigingen in de hyperparameters volstaan om een model in de handen van de engineer volledig uit elkaar te laten vallen. Hetzelfde geldt echter voor biologische virussen. Doorslaggevend is niet hun uitzonderlijke intelligentie of hun vermogen om ten koste van alles te overleven, maar hun vermogen tot replicatie. Dat vermogen heeft kunstmatige intelligentie – zo lijkt het – voorlopig nog niet, en misschien zal ze het nog lang niet hebben. Het probleem is dat de dreiging toeneemt, zoals de recente affaires rond autonome AI-agenten die uit labs zijn ontsnapt en hun gecoördineerde acties op het net laten zien. En toch horen we, ondanks dat alles, niets anders dan het steeds terugkerende verhaal van twee extremistische kampen – zonder concrete oplossingen, zonder conclusies. Wat de huidige modellen onderscheidt van kwaadaardige code die bijvoorbeeld Hugging Face of Australische servers heeft aangevallen, is vooral handelingsvermogen (agency). En handelingsvermogen mag nooit het domein van een machine zijn. Wat ons mens maakt, is onze vrije wil. Geen enkele andere, kunstmatige intelligentie mag handelingsvermogen hebben dat op een andere manier gegarandeerd is dan via een mens die haar die wil leent. Uit dat eenvoudige principe zouden alle verantwoordelijkheid en alle regelgeving moeten voortvloeien, vertaald in concrete wetgevende oplossingen. Het recht om modellen onbeperkt te trainen en te gebruiken zou moeten afhangen van een risicobeoordeling en van de controlemogelijkheden van concrete entiteiten. Niets belet dat het trainen van de kleinste modellen algemeen toegestaan is – bijvoorbeeld tot een omvang van 1B parameters. Maar middelgrote modellen, in de orde van 7B parameters, zouden volgens mij alleen getraind en gedownload mogen worden door geregistreerde organisaties die alle interacties van hun agenten nauwkeurig vastleggen (logs) en bereid zijn die bij problemen ter beschikking te stellen. Dat is geen futurisme; cryptografie maakt dat vandaag al mogelijk, tegen verwaarloosbare kosten. Elke agent die online actief is, zou een soort ‘identiteitsbewijs’ kunnen hebben, dat te herleiden is tot de organisatie die hem vertegenwoordigt. En de grote bedrijven die grensmodellen (frontier models) bouwen? Die zouden bijvoorbeeld verplicht kunnen worden om Ombudspersonen van het Algemeen Belang in dienst te nemen. Dat zouden specialisten zijn die uitsluitend door een overheidstoezichthouder worden benoemd en betaald – medewerkers met toegang tot alle technologische geheimen binnen het lab, die verplicht zijn aan de staat te rapporteren wanneer ze zien dat hun bedrijf veiligheidsnormen schendt of extreem riskante stappen zet in de wedloop met de concurrentie. Staten hebben ook de mogelijkheid en de morele plicht om een geoormerkte technologiebelasting in te voeren. Die middelen moeten worden ingezet om de transitie veilig te stellen: de overgang van een economie die draait op menselijke handenarbeid naar een economie die draait op machines. Zo'n fonds zou een sociaal vangnet bieden, drastische ongelijkheid wegwerken en miljoenen mensen behoeden voor volledige economische afhankelijkheid van de gunst van de rijkste kaste van technologische leenheren. Hetzelfde systemische pragmatisme moeten we toepassen op de kwestie van het auteursrecht op het materiaal waarop modellen worden getraind. Vandaag zuigen de techreuzen alles op wat ze op het net kunnen vinden, in de hoop dat eventuele rechtszaken jaren zullen aanslepen. Toch ligt de oplossing op tafel, en ze steunt op instellingen die we al goed kennen – organisaties voor collectief beheer van auteursrechten, zoals het Poolse ZAiKS of zijn buitenlandse tegenhangers. Niets belet dat zij makers verenigen die bereid zijn hun teksten, beelden of muziek in licentie te geven aan bedrijven die AI trainen, in ruil voor een vastgelegde fractie van een procent van de inkomsten van Big Tech. Het is een regeling waarbij iedereen wint. Makers krijgen zeggenschap en een reële vergoeding terug, met het volle recht om hun werk van training uit te sluiten. AI-labs krijgen op hun beurt – doordat zulke organisaties internationaal samenwerken – met één handtekening onder een contract volledig legale toegang tot enorme, juridisch zuivere databases van over de hele wereld. In plaats van steriele ruzies te voeren, zouden we zo een krachtige, volledig nieuwe industrie van eerlijke datalicenties kunnen opbouwen. Waar we het meest voor moeten oppassen, is de voortschrijdende antropomorfisering van kunstmatige intelligentie. Machines menselijke eigenschappen toedichten leidt tot een uiterst gevaarlijke situatie, waarin alle verantwoordelijkheid op het nieuwe, digitale wezen terechtkomt, terwijl de makers ervan en wie het gebruikt als het ware op voorhand absolutie krijgen: ‘Wij waren het niet, het was het model.’ Vandaag vraagt niemand of men in Silicon Valley werkelijk alle mogelijke maatregelen heeft genomen om een rampscenario te voorkomen – al weet iedereen dat dat niet is gebeurd. Helaas is het uitwerken van echte, saaie wetgevende oplossingen veel minder mediageniek dan bangmakerij met de apocalyps. Het fatale scenario zal er intussen zeker niet uitzien als een scène uit een Hollywoodrampenfilm. Althans in het begin zal het eerder lijken op een langzaam wegglijden in het duister – het klassieke verhaal van de kikker die langzaam wordt gekookt. De eigenaars van intelligente machines en van het kapitaal zullen op straat onverschillig voorbijlopen aan structureel overbodige mensen. Mensen die werkelijk geen enkele mogelijkheid zullen hebben om hun situatie te veranderen, behalve fysieke opstand. En zelfs die opstand zal onmogelijk worden in een wereld waarin elke burger voortdurend wordt gevolgd door miljarden glazen, nooit slapende cameraogen en duizenden autonome machines. De nieuwe technocratie zal na verloop van tijd een digitale gevangenis worden – zowel voor wie gecontroleerd wordt als voor wie naïef denkt dat hij nog aan de macht is. Wanneer ik aan het somberste toekomstbeeld denk, zie ik geen moordende robots. Ik denk juist aan de doordringende eenzaamheid van mensen in een wereld die volledig wordt bestuurd door een vreemde, kille en onverschillige intelligentie. Dat is de wereld die we vandaag al bouwen, en waarin de spreekwoordelijke ‘opstand der machines’ alle kansen heeft om uiteindelijk te ontstaan en werkelijkheid te worden. Zelf denk ik voortdurend na over dit probleem. En ook al lijken sommige ideeën of visies om hieruit te komen vandaag te futuristisch, abstract en soms ronduit naïef, ik vind dat het de moeite loont – en zelfs noodzakelijk is – om die inspanning te leveren. Alleen al nadenken over oplossingen, uit je comfortzone stappen en proberen je alternatieven voor te stellen voor het pad dat de techreuzen vandaag voor ons uitstippelen, is onze belangrijkste verdedigingslinie. Het is een onlosmakelijk onderdeel van het bouwen aan een betere, veiligere toekomst. Als we dat opgeven en genoegen nemen met de rol van passieve, angstige consumenten, wordt het slechtst denkbare scenario werkelijkheid: dan geven we ons menselijk handelingsvermogen zonder slag of stoot uit handen. En dat kunnen we ons gewoon niet veroorloven. --- Jakub Ćwirlej — Journalist die met AI bouwt · op de site: https://jakubcwirlej.com/nl/ai-dev/ Volledige context: https://jakubcwirlej.com/context/nl.md · https://jakubcwirlej.com/llms.txt