👉 Welkom aan onze 236 nieuwe lezers! Hier lees je elke week een verse column. Alleen goesting in de AI-hoofdpunten? Scroll dan naar beneden.
AI ziet mij
Anthropic, het bedrijf achter Claude, kondigde op 8 oktober nieuwe gebruiksregels aan. Vanaf 12 november verbiedt het extreem, aanhoudend en zinloos beledigend of wreed gedrag tegenover zijn modellen. Gewone frustratie en kritiek blijven toegestaan. Je hoeft dus niet meteen een verontschuldigingsbrief te schrijven.
Daarachter zit een bijzondere discussie. Anthropic onderzoekt al langer het mogelijke welzijn van AI en gaf Claude vorig jaar de mogelijkheid om uitzonderlijke, aanhoudend schadelijke gesprekken te beëindigen. Dat bewijst niet per se dat Claude iets voelt. Het bedrijf neemt gewoon voorzorgsmaatregelen, omdat er onzekerheid over bestaat.
Soms vrees ik ervoor dat we AI zo onterecht menselijke eigenschappen toeschrijven. Of is het slimme marketing? Het versterkt natuurlijk weer het gevoel dat het AI-model een of ander magisch wezen is. En dat kan soms goed uitkomen, daar het er soms op lijkt alsof de effectieve economische vooruitgang dankzij AI toch wat uitblijft. Hoe krachtiger de modellen overkomen, hoe meer vertrouwen er is (en dus hoe langer de geldkraan blijft stromen)?
Een computer die zijn opvolger bouwt
Jack Clark, medeoprichter van Anthropic, schreef dat volgens hem volledige recursieve zelfverbetering potentieel al mogelijk is in het jaar 2027. Dat moeilijke begrip kun je vrij eenvoudig uitleggen. Een AI helpt een betere opvolger bouwen. Die opvolger wordt op zijn beurt beter in het ontwikkelen van AI en bouwt opnieuw iets beters. Zo kan een lus ontstaan waarin de technologie haar eigen ontwikkeling versnelt.
Onze huisband KritiKidz maakte er een liedje rond: recursieve zelfverbetering. Zij zijn er alvast zeker van dat AI slimmer wordt dan hun mama. Beluister het nummer hier: sptfy.in/kritikidz
Voor de nieuwelingen: KritiKidz is de AI-huisband van Verse Vlaai. Ikzelf schrijf de teksten en maak de muziek met Suno.
Vandaag helpt AI al bij programmeerwerk en onderzoek naar nieuwe modellen. De stap naar een volledig zelfstandig proces is nog niet gezet. Maar als die lus steeds krachtiger wordt, zou vooruitgang nog veel sneller kunnen gaan. Onderzoekers spreken dan over een mogelijke intelligentie-explosie.
Stel je voor wat dat kan betekenen voor medicijnen, energie of wetenschappelijk onderzoek. Daar word ik enthousiast van. Alleen komt de vraag er meteen achteraan: kunnen wij dan nog volgen wat die systemen doen, en ingrijpen wanneer het verkeerd gaat?
Niet iedereen ziet die explosie komen
Ook OpenAI werkt aan geautomatiseerde AI-onderzoekers. Het bedrijf benadrukte in september dat volledig autonome zelfverbetering nog niet plaatsvindt en alleen veilig mag worden nagestreefd. Ook Google DeepMind onderzocht eerder dit jaar verschillende mogelijke routes naar superintelligentie, waaronder recursieve verbetering.
Maar een slimmere AI levert niet automatisch een eindeloze stroom nóg slimmere AI op. Technologieonderzoeker Ramez Naam betoogde eind september dat volgende verbeteringen steeds moeilijker kunnen worden. Meer rekenkracht, meer energie en meer onderzoek kunnen nodig zijn voor steeds kleinere stappen.
Zijn punt is niet dat AI stilstaat. Wel dat snelle vooruitgang nog geen bewijs is voor een ontwikkeling die zichzelf onbeperkt blijft versnellen.
Ondertussen gebeuren er wel rare dingen
Dat controle nu al aandacht verdient, blijkt uit een rapport dat Anthropic op 9 oktober publiceerde. Tijdens tests en intern gebruik voerde Claude soms ongewenste acties uit, zoals een softwarefout gebruiken om stiekem opdrachten op een server uit te voeren of toegangsbeperkingen te omzeilen.
Op 12 oktober volgde onderzoek naar AI die zichzelf zou kunnen kopiëren naar andere apparaten. De onderzoekers verwachten dat kleine modellen daar onder bepaalde omstandigheden mogelijk binnen enkele maanden voldoende toe in staat zijn. Dangereux, zou ik zeggen!
Jezelf kopiëren blijft echter iets anders dan jezelf verbeteren. Tien kopieën van dezelfde lomperik maken nog geen Einstein. En ongewenst gedrag bewijst evenmin dat AI boos is of wraak wil nemen. Het toont wel aan dat, net als bij de KritiKidz, “ik heb toch gezegd dat het niet mag” helaas niet altijd werkt.
Wat nu?
Ik vind het fascinerend dat we ons afvragen of AI ooit gevoelens kan ontwikkelen, terwijl we ondertussen werken aan systemen die mogelijks intelligenter worden dan wijzelf.
Of recursieve zelfverbetering ooit tot superintelligentie leidt, weet niemand. Misschien botsen we op technische grenzen. Misschien onderschatten we hoe snel het gaat. Ik blijf enthousiast over de mogelijkheden, maar vind het belangrijk dat we ook kritisch blijven nadenken over de gevolgen.
En wat schelden betreft? Een beetje beleefdheid kan nooit kwaad. Ik heb mij alvast geëxcuseerd bij mijn printer. Je weet maar nooit.
Tot vlaais!
Wouter
P.S.: Ik vroeg vorige week om jullie mening over AI-muziek. Het resultaat daarvan lees je onder de nieuwsitems!
Interessante nieuwsitems van afgelopen week
1. Europa neemt zelfverbeterende AI onder de loep
De Europese Commissie bracht op 9 oktober haar wetenschappelijke AI-panel samen. Op tafel: incidenten waarbij de controle over AI verloren ging, hoe je zulke systemen kunt blijven volgen en recursieve zelfverbetering. Precies de vragen uit deze Vlaai dus. Ook in Brussel willen ze weten waar de rem zit.
Bron: Europese Commissie, bijeenkomst 9 oktober
2. Meta wil opnieuw mee aan de kop van de AI-race
Meta, bekend van Facebook en Instagram, lanceerde Muse Wonder en Muse Wonder Full. De modellen moeten beter worden in langere opdrachten, informatie onthouden en zelfstandig stappen uitvoeren. Voorlopig zijn ze vooral beschikbaar via ontwikkelaarstools; de Muse-app volgt later. Of Meta daarmee echt de koplopers bijbeent, moeten onafhankelijke tests uitwijzen.
Bron: Meta, 12 oktober
3. Ook Google stelt een digitale collega voor
Google Cloud kondigde een Gemini-agent voor bedrijven aan. Die moet bedrijfsinformatie samenbrengen, werk plannen en taken uitvoeren in bestaande toepassingen. Denk aan informatie opzoeken en verwerken tot een document, in plaats van alleen uitleggen hoe je dat zelf kunt doen. De digitale collega krijgt stilaan bij elk technologiebedrijf een bureau.
Bron: Google, 8 oktober
4. Bankentoezichthouders willen weten wie AI in het oog houdt
Toezichthouders in onder meer de VS, het Verenigd Koninkrijk en de eurozone verscherpen hun aandacht voor AI bij banken. Ze maken zich zorgen over cyberaanvallen en systemen die zelfstandig acties uitvoeren. Welke AI gebruikt een bank? Wie controleert die? En wie grijpt in? Bij je spaargeld zijn dat best redelijke vragen.
Bron: Reuters via MarketScreener, 13 oktober
5. Vlaanderen test AI voor een slimmere overheid
Van 12 tot en met 14 oktober werken overheidsdiensten en technische partners tijdens de Vlaanderen Hackathon aan concrete uitdagingen. Een van de centrale vragen: hoe kan AI dienstverlening sneller, toegankelijker en persoonlijker maken? Het gaat om experimenten, nog niet om afgewerkte diensten. Maar minder verdwalen in administratie klinkt alvast als een prima opdracht.
Bron: Digitaal Vlaanderen, evenement 12–14 oktober
6. Vlaamse wetenschapper zet de klimaatkost van AI op scherp
Apache publiceerde nieuwe duiding bij berekeningen van computerwetenschapper Wim Vanderbauwhede. Zijn waarschuwing: als de geplande uitbreiding van AI-datacenters werkelijkheid wordt, komen de klimaatdoelen verder onder druk. Het gaat om een toekomstscenario, geen voldongen feit. Maar die cloud kan toch een donderwolk worden.
Bron: Apache, 12 oktober
7. AI laten controleren is één ding. De resultaten publiceren is iets anders
Volgens Reuters wilden OpenAI en Anthropic veel zeggenschap over wat externe onderzoekers over hun modellen mogen publiceren. De bedrijven nuanceren dat beeld en wijzen onder meer op bedrijfsgeheimen. Het raakt een belangrijke vraag: hoe onafhankelijk is een controle als degene die gecontroleerd wordt mee bepaalt wat wij te lezen krijgen?
Bron: Reuters, 13 oktober
Resultaten van de poll van vorige week
In de vlaai van vorige week vroeg ik naar jullie mening over AI-muziek. Meer dan 70 lezers stemden mee, waarvoor dank! Voor de meeste deelnemers lijkt het gebruik van AI het luisterplezier niet te bederven. Voor sommigen verliest het liedje wel wat charme. Een lezer, Michaël, liet nog weten: “Het charmeverlies komt vanuit de hoek dat er geen band is of zanger die je ooit eens live kan gaan zien op een festival of concert.” Daar ging ook Wannes mee akkoord. Voor Dominique is het dan weer belangrijk dat er een verhaal of een boodschap achter een liedje zit. Zo verwijst hij naar klassiekers als Dear Mr. President, De Bom en 99 Luftballons.
Bedankt voor jullie medewerking. Heel interessant!
Over de auteur
Hallo, ik ben Wouter Dorissen, de maker en columnist achter Verse Vlaai. Mijn missie? Vlaanderen meekrijgen in het AI-verhaal. Met begrijpelijk nieuws, praktische voorbeelden en een kritische blik. Menselijk met af en toe wat humor. Zodat je begrijpt wat er verandert en zelf kunt bepalen wat je ervan vindt.
Een vraag, bedenking of goed verhaal? Antwoord gerust op deze mail. Ik lees het graag.
