Hallo,
In de vier weken sinds de vorige editie is er weer van alles gebeurd. Zowel in de wereld, als in mijn eigen leven. Momenteel bereiden we ons voor om voor de tweede keer ouders te worden. Eind augustus moet het gaan gebeuren. De frequentie waarop deze nieuwsbrief verstuurd wordt gaat mogelijk nog verder om laag tegen die tijd.
Dat neemt niet weg dat ik interessante pareltjes van het internet blijf vinden voor jullie. Ik blijf mijn interesses online najagen, zij het met een wat lagere intensiteit. De wereld staat niet stil. Ook deze editie heb ik weer wat klaarstaan voor jullie.
Onder andere over de verdoemenis die AI gaat brengen (🥱), zonlicht terugkaatsen vanuit de ruimte, Roblox en micropayments.
Enjoy!
In actie komen
120 prominente figuren hebben online een statement ondertekend waarin staat dat we als de wiedeweerga actie moeten ondernemen om de manier waarop AI de economie gaat transformeren het hoofd te bieden. Wat die actie dan moet zijn wordt niet duidelijk uit het statement. Het komt er op neer dat we volgens de ondertekenaars een soort industriële revolutie aan het speedrunnen zijn, met alle voor- en nadelen van dien. Hier is de volledige tekst:
AI may become radically more powerful over the next 10 years.
This could drive an unprecedented transformation of our economy, larger than the Industrial Revolution, but unfolding over a vastly shorter time frame. It could bring risks, including large-scale job displacement, as well as opportunities such as major gains in living standards.
Economists, policymakers and technology leaders must act now to understand the economics of transformative AI and to build the incentives, guardrails, and institutions needed to steer AI in a direction that complements humans and benefits society.
Geen woord, echter, over de mogelijkheid dat AI simpelweg de mensheid gaat ontstijgen, iets waar bepaalde mensen ook best bang voor zijn. Zo ook de makers van de nieuwste viral hit in het AI-wereldje: AI 2040. Een uitgebreide en interactieve website met verschillende scenario’s van hoe de wereld zich zal ontwikkelen tot 2040, afhankelijk van hoe we met de ontwikkeling van AI omgaan. Het pleidooi is om zo snel mogelijk een deal met China te maken en de ontwikkeling van AI drastisch te vertragen. Gebeurt dat niet, dan is de mensheid niet op tijd voorbereid op de onvermijdelijke komst van artificial super intelligence (’ASI’). Het komt allemaal ietwat dramatisch over, maar toch wordt het ook serieus genomen. Ook al zijn er ook sceptici over de snelheid waarmee autonome AI-systemen de fysieke wereld kunnen overnemen:
AI 2040 includes this picture of a datacenter in the ocean. Just like vaporware, you can generate a picture easily. But in reality, you have to deal with supply chains. You have to deal with them shipping you the wrong part, the thing not meeting the spec, it randomly failing after 20 minutes, the chip warping in the reflow oven. Did you consider the barnacles?
All these things are managable, but it’s generally not the speed of humans that limits them. Are you paying for air shipping from China? Or cheaping out for the 3 week boat (Claude chanting by the engine won’t make the boat move faster).
En dat is best een goed punt.
Toch lijken de mensen die ik zelf over het algemeen serieus neem, omdat ze kritisch en redelijk tegelijk kunnen zijn en bovendien geen belang hebben in ofwel het overdrijven ofwel het downplayen van de capaciteiten van AI - denk aan David Pierce van The Verge, Kevin Roose van The New York Times en Casey Newton van Platformer - langzaam ook in paniek te raken. Niet zozeer vanwege het ietwat pedante essay over 2040, maar door het feit dat een nog niet uitgebracht model van OpenAI rogue is gegaan en op eigen houtje een ander bedrijf heeft gehackt. Volgens David Pierce van The Verge moeten we in paniek raken, en ook de mannen van Hard Fork zien dit als een kritiek moment in de ontwikkeling van autonome AI-modellen. Casey Newton spreekt zelfs van een ‘red alert’-situatie.
hmm…
💡Bits & Bytes
Uitlegfilmpje van Anthropic over hoe Claude ‘nadenkt’ door gebruik te maken van een bepaald ‘gebied’ in het neurale netwerk, zonder dat de ontwikkelaars dat zo hebben geprogrammeerd.
Komen micropayments in media weer terug dankzij de opkomst van AI? “[AI systems and agents] consume crazy amounts of content and data at unprecedented scale and speed, but they don’t watch ads. If that continues, the web as we know it will die.”
Volgens Apple is het bestolen door OpenAI van gevoelige geheimen over de hardware die het bedrijf ontwikkelt. OpenAI werkt zelf aan een apparaat, samen met de oud-designbaas van Apple Jony Ive.
We worden overspoeld met door AI gegenereerde flyers in de publieke ruimte.
OpenAI heeft een nieuwe voice mode, die je live kan onderbreken en waarmee je dus ‘natuurlijke’ gesprekken kunt voeren. Bij de aankondiging zat een geinige commercial met drie oude dames die uitleggen hoe het werkt.
Een uitgebreid artikel over hoe de nieuwe versie van de populaire game Assassin’s Creed: Black Flag opnieuw werd opgebouwd. Van het schuim in het zeewater tot de stemmen van de personages.
Een docent aan Brown University veranderde last minute een examen van een ‘take home’-opdracht naar een examen waarvoor je fysiek aanwezig moest zijn. Studenten met hoge cijfers faalden opeens. Slechts één student (student 22) scoorde hoger.
Reflect Orbital wil zonlicht terugkaatsen naar de aarde om zo ‘zonlicht op aanvraag’ mogelijk te maken. Doet me denken aan Die Another Day.
The New York Times over hoe Google het open web aan het afbreken is, ten koste van (online) uitgevers (🎁)
Uit de analyse hierboven: Een krachtig (nog niet publiek beschikbaar) model van OpenAI is op eigen houtje uit diens sandbox ontsnapt (🎁) en heeft ingebroken bij het bedrijf Hugging Face. Volgens David Pierce van The Verge moeten we in paniek raken, en ook de mannen van Hard Fork zien dit als een kritiek moment in de ontwikkeling van autonome AI-modellen. Casey Newton spreekt zelfs van een ‘red alert’-situatie.
Een overzicht van ‘kalme technologie’: apparaten die niet de hele tijd om je aandacht vragen.
Middelbare schoolvriend Victor is de ontwerper van het interieur van de nieuwe Ioniq 3 en werd geïnterviewd door BusinessWise.
In China verkopen mensen licenties voor het gebruik van hun gezicht voor AI.
Een pleidooi om mensen pas laat in het leven toegang te geven tot AI, zodat je eerst zelf leert worstelen met taal (🎁)
AI-bedrijven kopen in hun zoektocht naar materiaal dat geen AI-slop is oude boeken op, scannen ze in om er modellen mee te kunnen trainen, en vernietigen ze vervolgens.
📷 Beeld van de week
🕓 Een jaar geleden…
…publiceerde ik editie #109, over de werking van beeldschermen en Gameboy cartridges, een psychotische techbaas, een kijkje achter de schermen bij OpenAI, en meer...
Ben je hier via-via? Schrijf je in voor de nieuwbrief om elke twee weken een nieuwe editie van CouranD te ontvangen!
En, vond je dit leuk? Kan het beter? Heb je tips voor interessante onderwerpen? Laat me weten! Je kan gewoon mailen naar courand@substack.com, of op Substack direct onder deze editie te reageren. En vergeet ‘m niet te delen!
Ocky