CouranD #107 - collectieve verwarring
Over Mountainhead, de toekomst van de webpagina, het stroomverbruik van AI, en meer...
Hallo,
CouranD stond de afgelopen weken op een laag pitje in verband met vakantie(s) en een lastig te verklaren gebrek aan motivatie. Maar ik ben weer terug!
Er lagen nog wat onderwerpen op de plank waar ik een tijdje geleden al aan begonnen was, en eindelijk heb weten af te maken. Dat maakt dat deze analyses of beschouwingen wellicht ietwat achterhaald of in elk geval minder actueel zijn, maar ze zijn wat mij betreft toch het delen waard.
Hetzelfde geldt overigens voor de Bits & Bytes: oud nieuws voor sommigen, maar genoeg interessants om met jullie te delen.
Vanaf nu probeer ik weer minstens elke twee weken in jullie inbox te verschijnen!
Enjoy!
🍄 AI en de maatschappelijke psychose
Ik keek Mountainhead, een film over vier (bijna-)techmiljardairs die in een luxe buitenhuis een mannenweekend beleven terwijl de rest van de wereld in chaos ontaardt als gevolg van de enorme hoeveelheid AI-gegenereerde nepnieuws die dankzij het platform van een van de hoofdrolspelers de wereld in geslingerd wordt. De focus ligt op hoe deze mannen omgaan met deze crisis en hun rol daarin. Ik vond het eigenlijk een matige film, maar het was wel absurdistisch en grappig, en toch ook realistisch. Geld en macht doen gekke dingen met het brein van een techbro. Maar veel interessanter is de achtergrond die in de film grotendeels buiten beeld blijft: een samenleving die in een collectieve psychose is beland als gevolg van generatieve AI.
Want ja, het mentale welzijn van de samenleving als geheel is aan het afbrokkelen. Nepnieuws is natuurlijk niet nieuw. Sinds de opkomst van sociale media (en in het bijzonder de algoritmische feeds) - nog voor de opkomst van generatieve AI - heeft nepnieuws een enorme impact gehad op de samenleving. Talloze mensen zijn afgegleden in rabbit holes, laten zich verlijden door stemmingmakende, feitenvrije filmpjes en tweets, en dat heeft verregaande gevolgen voor bijvoorbeeld het politieke landschap (en andersom). Wat dat betreft is de samenleving als geheel al langer onderweg naar een psychose.
Maar we staan aan de vooravond van iets veel groters. Good old nepnieuws (of propaganda) zorgt ervoor dat sommige mensen dingen geloven die niet waar zijn. Maar met generatieve AI belanden we straks in een situatie waarin niemand meer weet wat wel echt is en wat niet. Of zoals Ryan Broderick het verwoordt: “Misinformation and disinformation don’t actually need to convince anyone of anything to have an impact. They just need to make you question what you’re seeing”. Of deze uitspraak in een artikel van 404Media over de rol van AI-slop in het conflict tussen Israël en Iran:
“The casualty in this AI war [is] the truth,” Farid told 404 Media. “By muddying the waters with AI slop, any side can now claim that any other videos showing, for example, a successful strike or human rights violations are fake. Finding the truth at times of conflict has always been difficult, and now in the age of AI and social media, it is even more difficult.”
Het lijkt me doodeng om niet meer te kunnen vertrouwen op je eigen zintuigen en je alles in twijfel moet (of gaat) trekken. Zelfs dingen die wel echt zijn worden in twijfel getrokken. Mensen dachten bijvoorbeeld dat deze selfie van Wilders met Trump nep was. Of dit ietwat satirische voorbeeld:
En dan de AI-chatbots zelf: vleierij en ‘meepraten’ zijn bekende problemen bij chatbots. De chatbots zijn geprogrammeerd (getraind) om behulpzaam te zijn en het gesprek gaande te houden, en daarin ligt het risico dat ze te ver meegaan in de waanbeelden van de gebruiker. The New York Times publiceerde een interessant artikel over mensen die als gevolg van hun gesprekken met ChatGPT in waanbeelden gaan geloven of zelfs psychotisch worden. Onderstaande quote uit dat artikel spreekt boekdelen:
“What does a human slowly going insane look like to a corporation?” Mr. Yudkowsky asked in an interview. “It looks like an additional monthly user.”
Tegelijkertijd wil ik niet voorbij gaan aan het feit dat (generatieve) AI ontzettend nuttig en waardevol kan zijn. Van het versnellen van wetenschappelijk onderzoek tot het democratiseren van creatieve tools - de mogelijkheden zijn enorm. Ik maak er regelmatig gebruik van. Maar we moeten als individuele gebruikers en als samenleving als geheel wel op onze hoede zijn.
De techbro's in Mountainhead kalken de omvang van hun vermogen op hun blote borst terwijl de wereld in brand staat. Dat voelt misschien absurdistisch, maar de werkelijkheid begint deze fictie in te halen. De grens tussen waarheid en leugen, tussen echt en nep, wordt steeds dunner. De vraag is niet óf dit gaat gebeuren, maar hoe we ons ertegen wapenen.
Misschien moeten we leren leven met meer onzekerheid. Misschien moeten we ons kritisch denkvermogen aanscherpen en niet meer zo snel geloven wat we zien. Of misschien hebben we nieuwe instituties en verificatiesystemen nodig. Wat we in ieder geval niet kunnen doen is wegkijken terwijl de waarheid langzaam verdampt in een zee van algoritmisch gegenereerde chaos. Want wat doe je in een wereld waarin niemand meer weet wat echt is? Misschien zijn de gevestigde journalistieke instituties - wiens merken een proxy zijn voor menselijkheid en kwaliteit - wel het antwoord, en staan we aan een vooravond van een renaissance en herwaardering van professionele journalistiek.
👩🏽💻 De onzekere toekomst van de webpagina
Heel simpel gezegd is het wereldwijde web een verzameling pagina’s die worden bekeken en bediend door mensen met ogen en handen. Deze pagina’s linken naar elkaar en vormen zo een ‘web’. Google indexeert dit gigantische web en biedt zo de mogelijkheid voor mensen om het gemakkelijk te doorzoeken.
In de loop der jaren is het web geëvolueerd (steeds meer webpagina’s zijn afgesloten en niet voor iedereen toegankelijk), en heeft het internet in het algemeen toepassingen en applicaties mogelijk gemaakt die buiten het ‘traditionele’ web opereren, zoals smartphone apps, online games, auto’s die verbonden zijn met het internet, etcetera.
Met de opkomst van generatieve AI is het internet drastisch aan het veranderen (duh!). Webpagina’s worden niet meer alleen bezocht door mensen (of zoekmachines), maar door ‘AI agents’ die voor mensen opereren. Een webpagina is gemaakt voor mensen met ogen en handen die een muis bedienen. AI-agents zijn niet gebonden aan de traditionele structuur van webpagina’s. Ze zijn in staat om informatie te verzamelen, te interpreteren en acties uit te voeren zonder tussenkomst van de gebruiker. En dat werpt de vraag op: wat is de toekomst van de webpagina?
Laten we deze vraag aan de hand van drie perspectieven: hoe we toegang krijgen tot het web (de browser), hoe informatie wordt gepresenteerd (de webpagina), en hoe het web geld verdient (advertenties).
De browser
De manier waarop mensen het web gebruiken verandert. En dat betekent dat de browsers - de toegangspoorten tot het web - gaan veranderen. Dia is een nieuwe AI-browser die je in staat stelt te chatten met je tabbladen. OpenAI schijnt ook aan een browser te werken. Perplexity werkt aan een AI-browser genaamd Comet. En Neon van Opera is een ‘browser for the agentic web’. Het is nog de vraag wat er met de bekende browsers als Chrome, Safari en Edge gaat gebeuren, maar dat ook zij gaan inspelen op AI staat buiten kijf. Of zoals Benedict Evans het zegt: “incumbents will try to make it a feature”.
De webpagina
AI agents kunnen informatie direct consumeren en hebben geen (visueel opgemaakte) pagina’s nodig. De rauwe informatie is voldoende. Webpagina’s worden nu zo ontworpen om menselijke gebruikers met zo weinig mogelijk frictie informatie tot zich te laten nemen of aankopen te laten doen. Maar hoe ziet ‘conversieoptimalisatie’ er uit voor een AI agent? Wat betekent het voor UX/UI-design? Is het nog nodig dat een vergelijkingswebsite de informatie in overzichtelijke tabellen weergeeft? Microsoft probeert hier op in te spelen met ‘NLWeb’, een open project dat helpt websites te transformeren tot ‘natuurlijke taalinterfaces’, waardoor gebruikers en AI-agents makkerlijker direct kunnen communiceren met de inhoud van een site.
Online advertenties
Hoe meer tijd er op het web gespendeerd wordt door AI-agents ten opzichte van mensen van vlees en bloed, hoe minder effectief online advertenties zijn. AI agents hebben geen boodschap aan advertentiebanners. Ben Thompson spreekt zelfs over “the death of ad-supported web” (en voegt daar nog terloops aan toe dat Google wellicht de enige reden is dat het open web nog bestaat, maar dat terzijde). Adverteren gaat natuurlijk niet verdwijnen. Mensen komen niet vanzelf in aanraking met merken. Maar adverteerders zullen op zoek moeten gaan naar andere manieren om hun producten en diensten onder de aandacht te brengen (met tussenkomst van AI-agents). ‘Native advertising’ is een term die verwijst naar een vorm van adverteren die zo natuurlijk mogelijk aansluit op de gebruikerservaring. In een wereld van AI krijgt deze term een nieuwe lading. Gaat een chatbot bijvoorbeeld opeens gesponsorde teksten uitkramen tijdens een gesprek met een gebruiker? Deze aflevering van Black Mirror lijkt opeens een stuk realistischer.
Het wordt allemaal goed samengevat in deze aflevering van People vs Algorithms:
The rise of AI agents and new protocols is replacing browsing with prompting, and pages with machine-readable interfaces.
Deze verandering vindt niet van de een op de andere dag plaats, maar de richting is duidelijk: we bewegen naar een web waar informatie directer wordt uitgewisseld tussen systemen, zonder de omweg van visuele interfaces die bedoeld zijn voor mensen van vlees en bloed. Dat betekent niet per se het einde van de webpagina, maar wel een drastische herdefiniëring van haar rol. Tot het moment dat de web-pagina vooral nog een kunstobject is en het bezoeken ervan een nostalgische hobby is geworden.
💡Bits & Bytes
Een paper van Apple waarin de redeneer capaciteiten van Large Reasoning Models in twijfel wordt getrokken
Het nieuwe videomodel van Midjourney. Heel knap, maar ook heel lelijk en kitscherig
Netflix gaat live (lineaire) TV uitzenden in Frankrijk, en daarmee is de cirkel weer rond
Meta heeft het lastig op AI-gebied. De grote AI-talenten willen niet bij het bedrijf werken, want ja, werk je als superslimme AI-wetenschapper liever aan AGI of aan het verslavender maken van Meta-producten? Het antwoord laat zich raden, en daarom probeert Meta kennelijk mensen bij OpenAI te 'poachen' met aanbiedingen van 100 miljoen dollar.
Telegram-oprichter Pavel Durov heeft ruim 100 kinderen en gaat erfenis over hen verdelen
Lekker grasduinen in uitgebreid en kritisch onderzoek en documentatie over de structuur, werkwijze en cultuur van OpenAI
Een 'haptische' trailer van F1, een film van Apple TV over formule 1, waarbij je iPhone meetrilt met wat er gebeurt in de trailer.
Meta investeert 14 miljard dollar in Scale AI, een bedrijf dat data levert voor grote AI-bedrijven (zoals OpenAI en Google), in een poging zich uit hun AI-achterstand in te halen door te smijten met geld.
OpenAI en Mattel, de maker van Barbiepoppen, gaan samenwerken
Een beetje laat, maar toch: de dertien grootste aankondigingen van Apple's WWDC volgens The Verge
De Nintendo Switch 2 is de snelst verkopende nieuwe console ooit.
Vier Nederlanders hebben de 24.000 regels tekst van Pokémon Crystal naar het Nederlands vertaald, inclusief moeilijk te vertalen woordgrapjes.
Brandsnap is een app waarmee je kunt checken of een product Europees is, en zo nee, een lijst met Europese alternatieven kunt krijgen.
Een elegant appje die je helpt je vrienden en/of geliefde beter te leren kennen
Een kijkje achter de schermen bij de nieuwste chipmaakmachine van ASML
OpenAI werkt samen met oud-Apple designer Jony Ive aan een hardware apparaat voor AI
Artificial General Intelligence (AGI) is nog ver weg volgens Cade Metz van The New York Times. Maar dat hangt wel af van hoe je AGI definieert.
Mistral - het Europese alternatief voor ChatGPT en Claude - komt met een model voor sotwareontwikkeling genaamd Devstral
Over waarom Europa zogenaamd achter loopt in de tech-industrie
Robot.com is een Colombiaans bedrijf dat internationaal groeit op de markt van robotica
De cultuur en geschiedenis van Apple zijn niet goed voor de AI-ambities van het bedrijf
Cirrux is een initiatief van Rick Pastoor om minder afhankelijk te worden van Amerikaanse software
Pocket, samen met Instapaper een OG reader app, stopt er mee
Ook een beetje laat, maar: de vijftien grootste aankondigingen van Google's I/O, volgens The Verge
Developers bij Microsoft worden gedwongen Copilot te gebruiken en hier kun je zien hoe frustrerend dat is.
De top 10 opkomende techologieën volgens World Economic Forum
Gaat OpenAI de concurrentie aan met Google Workspace en Microsoft Office?
YouTube Shorts worden gemiddeld 200 miljard keer per dag bekeken
🕓 Een jaar geleden…
…stuurde ik editie #84, over Apple vs de EU, Perplexity, de afscheidsspeech van Rutte, en meer…
Ben je hier via-via? Schrijf je in voor de nieuwbrief om elke twee weken een nieuwe editie van CouranD te ontvangen!
En, vond je dit leuk? Kan het beter? Heb je tips voor interessante onderwerpen? Laat me weten! Je kan gewoon mailen naar courand@substack.com, of op Substack direct onder deze editie te reageren. En vergeet ‘m niet te delen!
Ocky