Als bankzitter zoek ik naar de relevante publicaties over SXSW. Nieuwsbrieven zijn de blogs van deze tijd, persoonlijke observaties. Een van de belangrijkste nieuwsbrief-platforms is Substack. Hierbij een aantal nieuwsbrieven die over SXSW berichten! Geen ervan kwam in één van mijn AI-zoektochten terug.

Carey Lening: voor veel mensen speelt privacy geen rol

Carey Lening ('data protection & tech advisory') van de nieuwsbrief Privacat Insights bezoekt SXSW voor het eerst. Privacy is haar specialisme. Ze doet verslag van haar ervaringen

"My fellow line-con friend admitted that he rarely considers privacy impacts in his past or current roles, because it never feels particularly relevant for him. Like so many people I’ve met, his experience with privacy, data protection, the impacts of ever-present surveillance networks, and the ceaseless development of torment nexii — rarely surface at all, and when they do, they manifest in ways that are merely annoying, but not quite worrying enough to warrant outrage."

>>> Dispatches on privacy from SXSW

Sim City: Tales From The Algorithm: kan Austin even stoppen met bouwen

Olivia Wedderburn doet in haar nieuwsbrief een heel persoonlijk verslag. Ook focussend op de sessies, maar met een bredere blik.

"This is why I love this place. You can spend an entire day in back to back lectures that will expand what you thought was possible at the edge of human innovation, and then less than 3 hours later be trying to keep a crowd surfer afloat without crushing your neck in a repackaged parking lot (that’s how assimilated I am, I’ve forgotten the English word for lot)."

Verder signaleert ze dat Austin al jaren aan het uitbreiden is, ieder jaar verrijzen er weer nieuwe torenflats.

“This convergence between high tech and progress and nature and stability has always been something that’s magnetised me toward Austin, but it does also unsettle me. Do we need to always be moving forward? What happened if we just sat in what was good for a while, and gave the pneumatic drills a rest?”

>>> Welcome to Tech-sas: first day madness

Brand Baby: sterke merken op SXSW

De nieuwsbrief Brand Baby richt zich op merken waarvan de nieuwsbrief vindt dat ze coole dingen op SXSW doen. Zoals Whataburger dat zijn 75-jarig bestaan met een kunst tentoonstelling viert onder de naam ‘Whataburger Museum of Art’ or WMOA, met o.a. meer dan 200 stuks kunst door fans gemaakt.

"Whataburger brought their strong brand culture and story to life with WMOA, capturing audience attention in a really crowded arena. If you’re a brand that’s lucky enough to have that history and audience loyalty, then experiences and campaigns that embrace it can be super powerful. I also love that Whataburger is acknowledging that fans are co-creators of the brand story by showcasing fan art. They’re celebrating their community with WMOA, and I’m here for it."

>>> Brands who are crushing it at SXSW

Social Signals: SXSW is relevanter dan ooit

Greg Swan van Social Signals beweert dat SXSW meer relevant dan ooit is. Het is zijn 17e bezoek aan het evenement.

"Post-pandemic, it’s important we rethink why gathering IRL matters. And when. And where to invest. In my first-hand experience, SXSW is still one of the most accessible, important events of its kind."

>>> SXSW is more relevant than ever

‘Struggle without pain is like a picnic’

Door GERARD DIELESSEN

Aan het einde van de bijzondere SXSW-sessie met als titel ‘The Next Generation: Youth Leaders Fighting Authoritarianism’ kregen de sprekers een staande ovatie van hun gehoor. En terecht, want de verhalen van Sunny Cheung (Hongkong), Andrea Villagran (Guatemala) en Takudzwa Ngadziore (Zimbabwe) vormen tezamen een krachtige getuigenis van moed, doorzettingsvermogen en innovatief leiderschap in de strijd tegen autoritarisme en corruptie. Ngadziore vatte hun strijd tegen autoritair en corrupt leiderschap misschien wel het meest kernachtig en beeldend samen: ‘Struggle without pain is like a picnic.’

Hun ervaringen boden niet alleen inzicht in de uitdagingen van democratische bewegingen wereldwijd, maar bevatten ook waardevolle lessen voor westerse landen over jeugdparticipatie, het gebruik van sociale media, en de rol van internationale solidariteit. Met dank aan gespreksleider Evelyn Farkas, Executive Director van het McCain Institute, vernoemd naar de republikein John McCain. (Senator van Arizona tussen 1987 en 2028). En in 2008 presidentskandidaat voor de republikeinen. Hij verloor toen van Barack Obama. Een prachtig initiatief in de strijd tegen de opkomst van autoritaire en autocratische regimes. Zij stelde terecht de vraag wat Amerika en der andere Westerse landen kunnen leren van deze jonge leiders. Ook deze jonge leiders zijn trouwens opgeleid in het Global Leaders Program van het McCain Institute.

Sunny Chung, Andrea Villagran en Takudzwa Ngadziore illustreerden hoe jeugdig leiderschap autoritarisme en corruptie kan worden bestreden via internationale solidariteit, sociale media en moreel lef. Chung benadrukte het belang van ‘cosmopolitisme’: "Amerika is sterker met bondgenoten", Villagran mobiliseerde jongeren tegen corruptie via grassroots-activisme, terwijl Ngadziore academische vrijheid koppelt aan sociaaleconomische rechtvaardigheid. Het McCain Institute heeft ook hen ondersteunt, met focus op karakter gedreven leiderschap en netwerkvorming. Hun kern les: democratie vereist blijvende strijd, jeugdparticipatie en internationale samenwerking tegen isolatie. Senator John McCain vattehet samen als: "vechten voor een zaak groter dan jezelf". 

De activiteiten van deze inspirerende drie jonge leiders op een rij:

Sunny Chung is oprichter van Flow HK Media en adviseur van de Hong Kong Democracy Council en belichaamt het verzet tegen de geleidelijke erosie van autonomie in Hongkong sinds de overdracht aan China in 1997. Zijn activisme begon tijdens de protesten tegen de zogenoemde "patriottische opvoeding" in 2012. Een door Beijing gesteund programma dat kritische historische gebeurtenissen zoals het Tiananmen-protest van 1989 wegliet. Chung benadrukte tijdens zijn betoog het belang van internationale bewustwording: "Zonder Amerikaanse steun tijdens de Koude Oorlog zouden de Vier Aziatische Tijgers, waaronder Hongkong, hun economische vrijheid nooit hebben bereikt". Zijn ballingschap na de invoering van de Nationale Veiligheidswet in 2020 benadrukt de risico’s van verzet, maar ook de noodzaak om "verhalen vanuit de diaspora te blijven vertellen". 

Andrea Villagran voert strijd en tegen systemische corruptie in haar land. Als jongste parlementslid in Guatemala ooit (sinds 2017) leidde Andrea Villagran de beweging tegen een corrupte politieke elite, culminerend in de verkiezing van president Bernardo Arévalo in 2023. Haar partij, Movimiento Semilla, mobiliseerde jongeren via sociale media, ondanks aanvallen van de oude machthebbers. Villagran’s focus op transparantie en jeugdparticipatie bleek cruciaal: "We normaliseerden corruptie niet langer. We eisten verantwoording.”. Haar benadering van "privileges omzetten in rechten" onderstreept ook vandaag de dag de belangrijke rol van onderwijs voor gelijke kansen in haar land.

 Takudzwa Ngadziore, vicevoorzitter van het parlementaire Jeugdforum in Zimbabwe, verenigt academische vrijheid met sociaaleconomische rechtvaardigheid. Als voormalig studentenleider overleefde hij 13 arrestaties en vijf rechtszaken. Zijn focus op "leiderschap als verantwoordelijkheid, niet machtsaccumulatie" resoneert met jongeren in een land waar 70,4% van de jeugd werkloos is. Hij benadrukte ook het verband tussen onderwijs en democratie: "Een onderwijssysteem zonder vaardigheden creëert een generatie zonder toekomst.”

Evelyn Farkas stelde de logische vraag welke instrumenten zij hebben en inzetten in de strijd tegen corruptie en autoritarisme.

Social media

Alle drie de leiders benutten sociale media om buiten traditionele machtsstructuren te opereren. Cheung’s internationale advocacy via Twitter en Villagran’s campagnes op Instagram illustreren hoe digitale platforms ‘decentralisatie van macht’ mogelijk maken. Ngadziore voegde hieraan toe: "Een hashtag kan al snel een slagveld worden." Tegelijkertijd waarschuwden ze voor desinformatie: "Sociale media vereisen kritisch engagement.” Daar weten we inmiddels alles van inderdaad 

Internationale solidariteit

Ngadziore verwierp het narratief dat Afrika "zelfredzaam" moet zijn: "Hulp is geen liefdadigheid, maar investering in menselijk kapitaal.” Cheung benadrukte dat Amerika’s invloed het grootst is "wanneer het samenwerkt met bondgenoten.” Terwijl Villagran pleit voor gerichte steun aan anticorruptie-instituten. 

Persoonlijk offer en moreel leiderschap 

De verhalen van ballingschap, gevangenschap en bedreigingen benadrukken de prijs van verzet. Cheung’s besluit om in Hong Kong te blijven toen de Nationale Veiligheidswet werd ingevoerd "om geen signaal van angst te geven", moest hij met een gevangenistraf bekopen. Villagran had altijd een "plan B”: gevangenis of ballingschap. Een vorm van toewijding en moed en dapperheid die westerse leiders kunnen inspireren. 

Terug naar de vraag van Evelyn Farkas van het McCain Institute over wat Westerse democratieën kunnen leren van deze leiders nu steeds meer landen ‘afglijden’ naar populistische en ook autoritaire regimes. Hier komen de conclusies op een rij:

·      Versterk Jeugdparticipatie via Onderwijs en Kunst. Integreer maatschappijleer in opleidingen en ondersteun creatieve industrieën als instrumenten voor politieke expressie. 

·      Investeer in Anticorruptie-Instituten. Richt hulp niet alleen op humanitaire crises, maar ook op transparantie-initiatieven, zoals Villagrans pleidooi voor "veilige kanalen voor klokkenluiders.” 

·      Omarm Cosmopolitisme in Buitenlands Beleid. Vermijd isolationisme. Ondersteun mensenrechtenverdedigers via platforms zoals het The National Endowment for Democracy. 

·      Innovatie in politieke communicatie.  Benut sociale media niet alleen voor campagnes, maar ook voor dialoog, zoals Cheung’s interactieve townhall meetings met studenten. 

De verhalen van Chung, Villadran en Kutsua tonen wat mij betreft aan dat democratie geen echt vanzelfsprekendheid meer is. Het is op veel plekken op deze aardbol, en het worden er steeds meer, zo blijkt uit de cijfers, een continue strijd die moed, innovatie en internationale samenwerking vereist. Hun boodschap aan het Westen is duidelijk: "Jongeren zijn geen leiders van morgen, maar van vandaag.”. Door hun strategieën te omarmen, van digitale mobilisatie tot moreel leiderschap, kunnen westerse landen niet alleen hun eigen democratieën versterken, maar ook een vuurtoren blijven voor wereldwijde vrijheid.

O ja, uiteraard heb ik ook mijn handen stuk geklapt voor deze inspirerende, moedige en dappere jonge leiders.

Door: Gerson Veenstra (met hulp van ChatGPT)

Als het gaat om creativiteit en AI, gaat het vaak al heel snel over de bedreiging van menselijke creativiteit. Ontzettend verfrissend om Holly Herndon daar een totaal ander beeld van te geven. "Wees er niet bang voor, profiteer er vooral van", is haar boodschap.

Holly Herndon (1980) is een Amerikaanse muzikante en AI-pionier in muziek. Ze promoveerde aan Stanford en staat bekend om haar experimentele werk met AI, zoals het album PROTO (2019) en Holly+, een AI-versie van haar stem. Samen met Mathew Dryhurst host ze de podcast Interdependence over technologie en kunst. In 2023 erkende TIME Magazine haar als een van de 100 meest invloedrijke personen op het gebied van AI.

AI als creatieve kans

Tijdens haar sessie ging Herndon dieper in op de wisselwerking tussen AI en muziek. "Generatieve AI is een hot topic en heeft zich ontwikkeld tot een soort cultuurstrijd", zei ze. Maar in plaats van het als een bedreiging te zien, pleit ze voor een onderzoekende en creatieve benadering. Haar werk draait al jaren om de invloed van technologie op artistieke keuzes. "Platformen bepalen onbewust hoe je muziek maakt en presenteert", vertelde ze, verwijzend naar haar album Platform (2015), waarin ze de impact van social media en streamingdiensten onderzocht.

Met PROTO (2019) zette ze een grote stap in de richting van AI-gebruik in muziek. "Toen ik in 2016 begon met machine learning, moesten we onze modellen van de grond af opbouwen", vertelde ze. Cruciaal daarbij was de keuze van trainingsdata. "Het voelde verkeerd om het werk van anderen te gebruiken, dus ik besloot mijn eigen stem te trainen." Dat leidde tot Holly+, een AI-gegenereerde versie van haar stem waarmee anderen muziek kunnen maken, maar dan op een ethische en gecontroleerde manier. "Ik wil geen Ursula uit De Kleine Zeemeermin zijn en iemands stem stelen", grapte ze.

Identiteit en intellectueel eigendom

Wat haar experimenten uniek maakt, is haar ruime benadering van intellectueel eigendom. "Wat als we identiteit en intellectueel eigendom niet zien als iets dat beschermd moet worden, maar als iets waarmee gespeeld kan worden?" vroeg ze zich af. Het leidde tot nieuwe artistieke toepassingen, zoals haar AI-gedreven uitvoering van Dolly Partons 'Jolene', waarin haar digitale tweeling de zang op zich nam. "Ik had nooit het zelfvertrouwen om dat nummer zelf op te nemen, maar via mijn AI-versie voelde het ineens logisch."

Herndon sprak ook over de bredere ethische kwesties rondom AI en eigendom. Haar project 'Do Not Scrape' biedt kunstenaars de mogelijkheid om zich te beschermen tegen ongewenst gebruik van hun werk in AI-trainingen. "Veel artiesten ontdekken dat hun werk ongevraagd in trainingsdatasets zit, en dat is niet oké." Daarom ontwikkelde ze een opt-out-tool en een browserextensie die AI-scrapers blokkeert.

Toch wil ze niet dat AI leidt tot een internet vol restricties. "Ik hou van een open internet. Maar als makers geen eerlijke plek krijgen, wordt het een strijd om controle, en dat wil ik voorkomen." Haar oplossing? Samenwerken en experimenteren met nieuwe modellen voor eigenaarschap, zoals de DAO (Decentralized Autonomous Organization) die ze opzette om inkomsten eerlijk te verdelen.

Een nieuw artistiek tijdperk?

Een ander speels, maar serieus experiment is haar project 'X, Hairy Mutant X', waarbij ze AI gebruikte om haar digitale identiteit te herdefiniëren. "AI-systemen maken van mij een oranje haarbol", lachte ze. "Dus ik heb die esthetiek omarmd en een alternatieve, door AI gecreëerde versie van mezelf gemaakt." Dit project, onderdeel van de Whitney Biennial, stelt het publiek in staat om actief mee te bouwen aan haar digitale zelf. "Het internet liet ons ooit denken dat we konden zijn wie we wilden. Kunnen we dat idee terugclaimen in het AI-tijdperk?"

Haar boodschap is duidelijk: AI is geen vijand, maar een nieuw medium waarmee kunstenaars hun creativiteit kunnen uitbreiden. "In plaats van je af te vragen wat AI met jou doet, kun je ook bedenken wat jij met AI kunt doen", sloot ze af. Een oproep om niet bang te zijn voor technologie, maar te omarmen - op een manier die zowel ethisch als inspirerend is.

Verantwoording: een deel van dit verslag heb ik zelf geschreven en met ChatGPT heb ik het verder uitgebreid op basis van het transcript. En dat vindt Holly vast prima 😌 

Featured Session: Design in Tech Report 2025: Autodesigners on Autopilot

Door: Gerson Veenstra (met hulp van ChatGPT)

Hij is altijd een beetje onnavolgbaar, maar tegelijkertijd een fascinerende deskundige: John Maeda, Vice President Design en Artificial Intelligence bij Microsoft. Alleen de manier waarop hij presenteert is al bijzonder. Geen statische slides, maar we kijken mee terwijl hij op zijn laptop door een soort website scrolt die eigenlijk zijn presentatie is met allerlei interactieve uitstapjes. Dit is duidelijk een genie op zoek naar het antwoord op de vraag: wat is de impact van AI op ontwerpers? 

Inzichten Design in Tech Report

Maeda staat voor de elfde keer op het podium van SXSW en de basis voor zijn presentatie is het Design in Tech Report. Dit zijn de belangrijkste inzichten uit het rapport: 

• AI vervangt ontwerpers niet, maar verandert de manier waarop ontwerpen worden gemaakt.
• AI-experimenten worden aanzienlijk goedkoper en sneller.
• We gaan een 'agents-tijdperk' in, waarin AI verschuift van modellen naar taakuitvoerende agents.
• AI wordt steeds meer geïntegreerd in UX, waardoor de rol van traditionele UI afneemt ten gunste van directe AI-interactie.
• Best practices voor AI-gedreven UX ontwikkelen zich om vertrouwen en gebruiksvriendelijkheid te verbeteren.
• AI-automatisering brengt risico’s met zich mee die vragen om verantwoord bestuur.
• Menselijke aanpassingsvermogen is cruciaal om te kunnen floreren in een door AI ondersteunde toekomst.

Maar de presentatie is niet een opsomming van de inzichten, het is meer een soort interactieve demonstratie van wat er allemaal aan het veranderen is.

AI verandert de UX-wereld fundamenteel

Een van de meest in het oog springende stellingen van Maeda is dat AI de manier waarop we ontwerpen fundamenteel verandert. Niet omdat AI ontwerpers vervangt, maar omdat de interactie tussen mens en machine een nieuwe vorm aanneemt. In plaats van interfaces met knoppen en menu’s bewegen we richting directe interactie via AI. 

Dit noemt hij het tijdperk van Agent Experience (AX), waarbij AI zelfstandig taken uitvoert zonder dat een gebruiker actief hoeft te navigeren. "Elke UI is in feite een hindernisbaan", zegt Maeda. "Wat als AI je direct naar de finish brengt?" Dat roept vragen op over de rol van UX-designers: als AI de hindernissen wegneemt, wat blijft er dan over van de UX als vakgebied?

De opkomst van agents en loops

Maeda benadrukt dat de grote verschuiving niet meer ligt bij AI-modellen, maar bij agents. Waar we het eerder hadden over AI-modellen, moeten we nu denken in termen van autonome taakuitvoerende entiteiten. Een agent is een combinatie van een model, prompts, kennis en tools. 

Maar de echte kracht zit volgens hem in loops: AI die continu leert en zichzelf verbetert zonder menselijke tussenkomst. "Agents zijn als for-loops in de programmeerwereld. Zet ze aan en ze blijven draaien." Dat maakt AI niet alleen krachtiger, maar ook potentieel onvoorspelbaarder.

Nieuwe UX-principes voor AI

Omdat AI een steeds grotere rol speelt in interfaces, zijn er nieuwe best practices nodig voor AI-gedreven UX. Maeda noemt vijf basisregels:

1. Transparantie - de gebruiker moet altijd weten dat AI de output genereert.
2. Voorstelkracht - AI moet suggesties doen als de gebruiker vastloopt.
3. Citaties - de herkomst van AI-beslissingen moet inzichtelijk zijn.
4. Denken tonen - laat AI zijn 'gedachten' delen, zoals OpenAI dat doet met 'I'm thinking...'.
5. Feedback vragen - zoals de smiley-systemen op vliegveldtoiletten: "Hoe deed ik het?"

Naast deze principes laat hij voorbeelden zien van innovatieve UX-concepten zoals semantische zoom, waarbij je met een pinch-beweging extra context krijgt bij een tekst, en versiebeheer voor AI-output, zodat gebruikers beter grip krijgen op de creatieve processen van AI.

Het gevaar van automatisering zonder controle

Maeda waarschuwt ook voor de risico’s van AI-automatisering. Hij wijst op de vijf niveaus van zelfrijdende auto's en stelt dat we iets vergelijkbaars nodig hebben voor AI-tools: hoe autonoom mogen ze zijn? 

Een AI die zelfstandig bestanden verwijdert of mails verstuurt, brengt risico’s met zich mee. "Een agent met tools is krachtig, maar ook gevaarlijk", zegt Maeda. "Zonder tools is AI gewoon slaperig. Met tools is het een wapen."

Een nieuw tijdperk voor ontwerpers

Het verhaal van Maeda is geen dystopische toekomstvoorspelling, maar een uitnodiging aan ontwerpers om zich aan te passen aan een AI-gestuurde wereld. Tools zoals GitHub Copilot en AI-gedreven programmeeromgevingen maken softwareontwikkeling toegankelijker dan ooit. 

Dit leidt tot een nieuwe vorm van 'vibe coding' - intuïtief en iteratief programmeren zonder diepgaande codeerkennis. "Gemiddelde code is nu al goed genoeg", zegt Maeda. "Dus ontwerpers hoeven niet bang te zijn om AI te omarmen."

Blijven ontwerpers nodig?

Maeda eindigt met een reflectie op de toekomst van design. Hij gelooft dat AI de UX-wereld op zijn kop zet, maar niet per se ten koste van ontwerpers. "Programmeren verandert, design verandert, maar creativiteit blijft essentieel", zegt hij. Zijn boodschap is duidelijk: ontwerpers moeten AI niet als bedreiging zien, maar als gereedschap om nieuwe, innovatieve ervaringen te creëren.

Zelf ben ik geen ontwerper en kan ik me ook nog niet helemaal voorstellen dat ik daar ooit goed in zou worden met hulp van AI. Aan de andere kant: tot een halfjaar geleden was ik ook niet in staat een Python-script te schrijven en werkend te krijgen. Nu kan ik dat wel met de hulp van AI. Dus wat moet je straks nog echt zelf kunnen en wat moet je vooral begrijpen om het met de hulp van AI te kunnen? Dat is voor mij een hele boeiende vraag. 

Verantwoording: een deel van dit verslag heb ik met de hand geschreven en dat heb ik laten aanvullen door ChatGPT op basis van het transcript. 

Door: Gerson Veenstra (met hulp van ChatGPT)

Zelfs als je al jaren naar SXSW gaat, kun je af en toe toch nog bij een sessie terechtkomen die je vooraf anders had ingeschat. Bij de titel 'Impact of Simulated Data on AI and the Future', schoot ik meteen in de negatieve stand: want het grote gevaar is natuurlijk dat AI-modellen in elkaar storten (model collapse) als ze getraind worden op data die ze zelf hebben gesimuleerd. Maar de panelleden zien het vooral als een kans, al werd het woord vertrouwen wel vaak genoemd. 

Wat is gesimuleerde data en waarom is het belangrijk? 

Gesimuleerde data, of synthetische data, is kunstmatig gegenereerde informatie die echte wereldscenario's nabootst. Dat is vooral waardevol in situaties waarin echte data moeilijk te verkrijgen is, bijvoorbeeld omdat het te duur, te gevaarlijk of te zeldzaam is.

Neem zelfrijdende auto's: je kunt niet wachten tot er een echt ongeluk gebeurt om een AI-model te trainen. In plaats daarvan simuleer je scenario’s, zoals een hert dat ’s nachts plotseling de weg oprent of een zwerm vleermuizen die onverwachts opduikt. Dit stelt ontwikkelaars in staat om hun modellen veiliger en robuuster te maken voordat ze de weg op gaan. In fraudeopsporing is dit niet anders. Fraudeurs passen continu hun werkwijze aan, waardoor gesimuleerde data nodig is om AI-systemen te trainen op patronen die nog niet eerder zijn waargenomen.

Een onzichtbare kracht in productontwikkeling en wetenschap 

Synthetische data is niet alleen nuttig voor veiligheid en detectie, maar ook voor innovatie. Kleine bedrijven die geen budget hebben voor grootschalige consumententesten kunnen met gesimuleerde data honderden varianten van een productidee testen voordat het op de markt komt. Dit verlaagt de kosten en maakt innovatie toegankelijker.

Een van de meest baanbrekende toepassingen is te vinden in de wetenschap, met name in de zoektocht naar fusie-energie. Wetenschappers proberen al decennialang energie op te wekken zoals de zon dat doet. Maar het proces is complex en nog steeds niet volledig verklaard. Dankzij AI en gesimuleerde data kunnen nu miljoenen experimenten worden gesimuleerd om te voorspellen welke configuraties het meeste kans van slagen hebben. Dat heeft ertoe geleid dat er vorig jaar een fusieproces werd ontdekt dat in de praktijk werkt, hoewel wetenschappers nog niet exact begrijpen waarom.

Ook in de maakindustrie is synthetische data revolutionair. Bedrijven gebruiken digitale simulaties om hun productieprocessen te testen en te optimaliseren voordat er ook maar één machine gebouwd is. "Een digitaal model van een fabriek laat je fouten vinden voordat er één schroef is aangedraaid", merkte een van de panelleden op.

Vertrouwen en transparantie

Met al deze toepassingen rijst een belangrijke vraag: hoe weet je of je een AI-model kunt vertrouwen? Een van de panelleden stelde het scherp: "80 procent van AI is het model, slechts 20 procent is de code." Dat betekent dat de betrouwbaarheid grotendeels afhangt van de data waarmee het model is getraind.

Om dat vertrouwen te vergroten, werd er een interessante vergelijking gemaakt met de voedingsindustrie. "Vroeger bestonden er geen etiketten op eten en drinken, maar nu helpen ze consumenten om betere keuzes te maken." Waarom zou AI geen vergelijkbaar label kunnen krijgen? Een transparante beschrijving van waarop een model is getraind, welke datasets zijn gebruikt en wat de foutmarge is, kan gebruikers helpen om beter geïnformeerde beslissingen te nemen.

Risico’s: model collapse en ethische dilemma’s 

Hoewel gesimuleerde data enorme voordelen biedt, zijn er ook risico's. Een groot gevaar is model collapse: als AI steeds wordt getraind op door AI gegenereerde data, kan het steeds verder afdrijven van de werkelijkheid. Dit werd vergeleken met een kopie van een kopie maken: na verloop van tijd vervagen de details en wordt de output minder betrouwbaar.

Een ander risico is misbruik. Hoe voorkomen we dat gesimuleerde data wordt ingezet om mensen te manipuleren of verkeerde conclusies te trekken? Dit vraagt om duidelijke ethische richtlijnen en controlemechanismen. Transparantie is daarbij cruciaal.

Dus: is gesimuleerde data een zegen of vloek? 

De sessie maakte duidelijk dat gesimuleerde data een essentieel hulpmiddel is voor de ontwikkeling van AI, met toepassingen die variëren van zelfrijdende auto's tot grensverleggende wetenschap. Maar met grote kracht komt grote verantwoordelijkheid: zonder transparantie en foutcorrectie kan AI de connectie met de echte wereld verliezen.

De technologie ontwikkelt zich razendsnel, maar het is aan ons om ervoor te zorgen dat ze op de juiste manier wordt ingezet. Zoals een van de sprekers het verwoordde: "AI heeft de potentie om de wereld te veranderen, maar alleen als we het goed doen." Zelf heb ik niet het vertrouwen van de panelleden. Zeker met het voorbeeld in mijn achterhoofd van socialmediabedrijven en hoe het tot nu toe met OpenAI gaat. Maar het begint met bewustwording. En daar helpen sessies zoals deze aan mee. 

Verantwoording: dit verslag heb ik gemaakt met ChatGPT die ik als input het transcript en mijn aantekeningen heb gegeven.