CouranD #72 - Input en output
Over rechtszaken tegen taalmodellen en de soap bij OpenAI
Goedezondag,
Ik ben, zoals velen van jullie, vermoed ik, nog aan het bijkomen van de historische verkiezingsuitslag. Ik zat woensdagavond aan de buis gekluisterd, als mens en burger van Nederland, en als nieuwsgierige toeschouwer van de Nederlandse politiek. Voor beiden was het nogal een bijzondere avond, waar we voorlopig nog niet over uitgepraat raken.
Maar daar gaat deze nieuwsbrief niet over. Buiten de politiek in Nederland gebeurt er ook van alles. Op de agenda deze editie:
OpenAI, waar de (bizarre) ontwikkelingen elkaar in rap tempo opvolgen. Het is bijna niet bij te houden. Alsof iemand de custom GPT op basis waarvan de spelers in dit hele drama beslissingen nemen heeft gevoed met de scripts van Succession en Silicon Valley, waarna deze flink is gaan hallucineren.
De rechtszaken tegen Meta, Google en OpenAI over het gebruik van auteursrechtelijk materiaal in de taalmodellen waarmee de bedrijven elkaar lopen af te troeven.
En natuurlijk Bits & Bytes. Onder andere over hoe Apple hun eigen iPhones probeert te hacken, en de rol die Microsoft Word de afgelopen veertig jaar heeft gespeeld in hoe wij omgaan met taal. En nog meer, natuurlijk.
Enjoy!
📑 Wat betekent de ‘copy’ in copyright?
OpenAI, Meta en anderen worden aangeklaagd voor het gebruik van auteursrechtelijk beschermd materiaal in hun taalmodellen.
Generatieve AI brengt allerlei complexe vraagstukken met zich mee. Van het risico dat kunstmatige intelligentie het einde van de mensheid betekent, tot de angst van uitgevers dat het verkeer vanuit zoekmachines gaat opdrogen omdat taalmodellen de antwoorden meteen aan de gebruiker kunnen geven (zonder door te verwijzen naar de website waar het antwoord op te vinden is).
Copyright is een onderwerp waar momenteel in de Verenigde Staten al rechtszaken over lopen. Zo klaagt de komiek Sarah Silverman (samen met enkele anderen) Meta aan voor het gebruik in taalmodellen van materiaal dat auteursrechtelijk beschermd is. Dat werpt interessante vraagstukken en discussies op. Dit stuk van Nieman Lab gaat daar dieper op in.
Een van de argumenten van de aanklagers in de eerder benoemde rechtszaak is dat - omdat er auteursrechtelijk beschermd werk gebruikt is als input voor het taalmodel - per definitie alle output van dat model een inbreuk is op auteursrecht omdat dat gezien kan worden als afgeleid werk.
Een ander argument is dat het gebruik van beschermd werk als input op zichzelf al ‘schadelijk’ is omdat er nooit voor is betaald.
Het lijkt er op dat rechtbanken mee gaan in het tweede argument, maar dat het eerste argument bijzonder lastig wordt om te bewijzen. De aanklacht van Silverman werd afgelopen zomer gedaan, en afgelopen week wees een rechter het grootste deel af, met een hoge bewijslast voor de zaken die nog overblijven. De bewijslast is een stuk strenger dan simpelweg zeggen dat alle output een inbreuk is. De output moet identiek zijn of zeer grote gelijkenissen vertonen, en dat is lastig aan te tonen.
Ondertussen zijn uitgevers in de Verenigde Staten druk bezig met het aanklagen van bedrijven die gebruik hebben gemaakt van hun materiaal in het trainen van taalmodellen. Daarbij gaat het over miljarden dollars die ze willen terugzien. En daarbij komt ook nog de angst dat uitgevers bang zijn niet te worden beloond voor de output van deze modellen wanneer gebruikers op zoek zijn naar antwoorden. De uitkomst van de rechtszaak van Silverman biedt weinig hoop voor uitgevers. Wellicht dat het in de Europese Unie anders zal gaan…
🍿 Nog even over de soap bij OpenAI
The saga continues…
Ik ga hier niet al te veel woorden over vuilmaken, omdat er al meer dan genoeg over is geschreven in het wereldje, en de ontwikkelingen zo snel gaan dat mijn woorden waarschijnlijk alweer achterhaald zijn. Om de mensen die het gemist hebben, of gewoon even willen bijlezen tegemoet te komen: er was/is een kortstondige crisis bij misschien wel het belangrijkste techbedrijf van dit moment: OpenAI, bekend van ChatGPT. Het draait daarbij om de oprichter (en baas) Sam Altman, de missie van de organisatie (kunstmatige intelligentie ontwikkelen die ten goede komt aan de mensheid), de governance structuur, en de rol van Microsoft in het geheel. Om je op weg te helpen:
The interested normie's guide to OpenAI drama door Max Read. Een met humor en relativerende toon geschreven overzicht van wat er allemaal is gebeurd en waarom.
Een van de theorieën is dat een baanbrekende (en volgens sommigen gevaarlijke) ontdekking/ontwikkeling bij OpenAI een rol heeft gespeeld
Een zeer uitgebreid stuk van New Yorker over de relatie tussen OpenAI en Microsoft
Een interview met Sam Altman zelf bij The Verge na afloop van het hele drama
Wordt ongetwijfeld vervolgd!
💡Bits & Bytes
Interessant stuk over hoe Apple op hardware niveau aan de veiligheid van iPhones werkt door zelf te proberen op allerlei manieren ‘in te breken’
Tip van lezer Willemijn: over een app die met behulp van AI dromen analyseert
Threads van Meta is in sneltreinvaart ontwikkeld en uitgebracht (behalve in de EU, hoewel dat in december schijnt te veranderen). Het engineering team dat aan Threads werkt legt uit hoe ze dat hebben aangepakt.
Microsoft Word bestaat zo’n veertig jaar, en heeft een grote impact gehad op hoe wij omgaan met taal
Sport Illustrated blijkt volledig door AI gegenereerde artikelen onder de namen van nep-auteurs te hebben gepubliceerd. Nogal een afgang voor een titel die voorheen nog prijzen won voor sportjournalistiek
Vorige editie noemde ik tldraw, een app die een nieuwe functionaliteit introduceerde waarmee je op basis van schetsen in real time een web app kunt (laten) maken. Het leidde tot een stortvloed aan indrukwekkende voorbeelden die massaal gedeeld werden op X. De ontwikkelaar van de app beschrijft in dit stuk hoe ze de ontwikkeling hiervan hebben aangepakt.
Er is een opmerkelijke manier ontdekt om gevoelige trainingsdata van ChatGPT te onthullen, namelijk door de chatbot hetzelfde woord eindeloos te laten herhalen.
📷 Beeld van de week
Een jaar geleden publiceerden we editie #48. Over innovatie in de Nederlandse landbouw en kritiek op een Europese chip-wet.
Ben je hier via-via? Schrijf je in voor de nieuwbrief om elke twee weken een nieuwe editie van CouranD te ontvangen!
En, vond je dit leuk? Kan het beter? Heb je tips voor interessante onderwerpen? Laat me weten! Je kan gewoon mailen naar courand@substack.com, of op Substack direct onder deze editie te reageren. En vergeet ‘m niet door te sturen!
Ocky