Terwijl ik aan het manuscript werkte voor Meer dan woorden: hoe te denken over schrijven in het tijdperk van AIIk heb veel geëxperimenteerd met grote taalmodellen, waarbij ik de meeste tijd doorbracht met ChatGPT (en de verschillende opvolgers ervan) en Claude (in zijn verschillende smaken).
Ik verwachtte dat dit experimenteren na verloop van tijd een werkelijk nuttige toepassing van deze technologie op mijn werk als schrijver zou onthullen.
In werkelijkheid is het tegenovergestelde gebeurd, en ik denk dat het interessant is om te onderzoeken waarom.
Eén factor is dat ik me meer zorgen maak over wat ik zie als een grotendeels onkritische omarming van generatieve AI in onderwijscontexten. Ik heb het niet alleen over flagrante verkeerde acties, zoals de introductie van een door AI aangedreven Anne Frank-emulator die alleen maar vriendelijke gedachten heeft jegens de nazi’s, maar ook over andere voorbeelden van instructeurs en instellingen die ervan uitgaan dat, omdat de technologie een wonder is, het moeten een positief effect hebben op het lesgeven en leren.
Dit heeft mij dichter bij een weerstandsmentaliteit gebracht, alleen al om een tegenwicht te bieden aan degenen die AI als iets onvermijdelijks zien, zonder na te denken over wat er aan de andere kant staat. In werkelijkheid sta ik echter meer op één lijn met Marc Watkins, die gelooft dat we AI als ‘onvermijdelijk’ maar niet ‘onvermijdelijk’ moeten zien, in plaats van een volslagen tegenstander te zijn. Hoewel ik denk dat het meer dan dwaas is om generatieve AI een berenknuffel te geven, ontken ik ook niet het potentiële nut van de technologie om studenten te helpen leren.
(Een grote open vraag is echter wat en hoe we willen dat ze deze dingen leren.)
Een andere factor was dat hoe meer ik met de LLM’s werkte, hoe minder ik ze vertrouwde. Een deel hiervan kwam doordat ik hun capaciteiten probeerde in te zetten om mij te ondersteunen bij het schrijven op gebieden waar ik over aanzienlijke achtergrondkennis beschikt, en ik merkte dat ze mij op subtiele maar betekenisvolle manieren consequent de verkeerde kant op stuurden. Dit maakte mij op zijn beurt bang om ze te gebruiken in gebieden waar ik niet over de nodige kennis beschik om hun hallucinaties te controleren.
Maar meestal besefte ik dat ik door het nemen van de kortere weg een belangrijke ervaring onderweg had gemist.
Als voorbeeld: in een gedeelte waarin ik pleit voor het belang van het cultiveren van de eigen smaak en het gevoel voor esthetische kwaliteit, was ik van plan wat materiaal te gebruiken uit het boek van de New Yorker-stafschrijver Kyle Chayka Filterworld: hoe algoritmen de cultuur plat maakten. Ik had het boek enkele maanden eerder gelezen en zelfs beoordeeld, dus ik dacht dat ik het goed onder de knie had, maar toch had ik een opfriscursus nodig over wat Chayka ‘algoritmische angst’ noemt en vroeg ChatGPT mij eraan te herinneren wat Chayka hiermee bedoelde. .
De samenvatting van ChatGPT was prima, accuraat en niet-hallucinerend, maar het lukte me niet om van het idee dat ik in mijn hoofd had over Chayka’s idee naar iets nuttigs op de pagina te gaan via die samenvatting van Chayka’s idee. Uiteindelijk moest ik teruggaan en de stof in het boek rond het concept herlezen om mijn hersenen op een zodanige manier in de versnelling te krijgen dat ik een eigen gedachte kon verwoorden.
Iets soortgelijks gebeurde verschillende keren, en ik begon me af te vragen wat er precies aan de hand was. Het is mogelijk dat mijn schrijfproces eigenzinnig is, maar ik ontdekte dat om door te gaan met werken het probleem van het zeggen van (hopelijk) interessante en inzichtelijke dingen in het boek geen samenvatting was van de ideeën van anderen, maar de oorspronkelijke uitdrukking van anderen als brandstof voor Mijn gedachten.
Dit fenomeen kan verband houden met de aard van hoe ik naar schrijven kijk, namelijk dat schrijven een voortdurend ontdekkingsproces is waarbij ik initiële gedachten heb die mij naar de pagina brengen, maar de handeling van het naar de pagina brengen van het idee verandert die initiële gedachten. .
Ik ben geneigd te denken dat al het schrijven, of in ieder geval al het goede schrijven, op deze manier werkt, omdat je daardoor weet dat je de output van een unieke intelligentie op de pagina krijgt. Het doel is om iets te ontdekken dat ik zelf nog niet wist, vanuit de theorie dat dit ook iets nieuws voor het publiek zal opleveren. Als de schrijver tijdens het proces niets voor zichzelf heeft ontdekt, wat is dan het nut van de hele oefening?
Toen ik me tot een LLM wendde voor een samenvatting en er geen nut voor kon vinden, begon ik te beseffen dat ik niet met een intelligentie te maken had, maar met een waarschijnlijkheid. Zonder een interessant menselijk kenmerk om aan vast te houden, kon ik geen manier vinden om mijn eigen menselijkheid te engageren.
Ik accepteer dat anderen andere ervaringen hebben met het werken met grote taalmodellen, dat ze deze echt generatief vinden (excuseer de woordspeling). Toch vraag ik me af wat het betekent om een vonk te vinden in algemene waarschijnlijkheden, in plaats van in de enkelvoudige intelligentie.
Ik geloof dat ik veel interessante en inzichtelijke dingen zeg Meer dan woorden. Ik ben er ook van overtuigd dat ik misschien een aantal dingen verkeerd heb en dat mijn overtuigingen na verloop van tijd zullen veranderen als ik mezelf blootstel aan de reacties van anderen. Dit is het proces van communicatie en conversatie, processen die niet tot de capaciteit van grote taalmodellen behoren, aangezien het niet de bedoeling is dat ze onder de motorkap van hun algoritme werken.
Als je anders gelooft, geef je je over aan een waanvoorstelling. Misschien is het een nuttige waanvoorstelling, maar toch een waanvoorstelling.
De capaciteiten van deze technologie zijn verbazingwekkend en nemen voortdurend toe, maar voor mijvoor mijn werk bieden ze niet zoveel betekenis.