Doom & gloom

Ik kon niet slapen vannacht. Dat kwam deels door de intensieve gesprekken die ik gister had. Ik heb steeds meer afspraken en die gaan veel over de afgelopen tijd op mijn werk maar ook veel over hoe we de wereld willen veranderen. Allebei intensief. Soms betekent dat een onrustige nacht.

Een app als drukpers

Maar dit keer werd ik wakker met een blog in mijn hoofd over het drama dat Sora2 heet.

Ik ben niet de enige, gelukkig (dank Jarno voor de helere uitleg).

Het is alsof je de wereld kapot ziet gaan waar je bij staat en een desastreuze ontwikkeling in real-time omarmd ziet worden door de mensen die er het grootste slachtoffer van zijn.

Informatie is belangrijk. Niet voor niets waren de adel en de kerk de machtigste groepen in de wereld tot de drukpers en tot mensen buiten die groepen leerden lezen en schrijven. Wie het narratief bepaalt, bepaalt alles.

Dat weten we ook in de moderne tijd: er is niet voor niets zoiets als propaganda. Of marketing.

Dat het internet begon als een vrije plek waar iedereen min of meer gratis aan kon deelnemen, is een van de redenen dat ik zo van blogs houd. Iedereen kan informatie delen. Dat is natuurlijk ongelofelijk naïef gebleken. Maar toch.

Vertrouwen in informatie

Het is ook de reden dat ik me zorgen maak over het massaal omarmen van taalmodellen zonder echt begrip van hoe het werkt, wat het is en wat het doet. Ik denk dat het meer impact heeft op de kwaliteit van informatie in de wreld dan we door hebben.

En nu dit – een app die je niet alleen fake video laat maken, maar je ook nog eens stimuleert om anderen fake video’s over jou te laten maken. Allemaal in het kader van vermaak.

Het is ironisch, omdat uit een onderzoek dat we vanuit de (inmiddels verdwenen) Nederlandse AI Coalitie hebben laten doen door De Waag, bleek dat dát is waar mensen zich het meest zorgen over maakten: of ze nog echt van nep konden onderscheiden. Nep nieuws, nepvideo’s: het is wat mensen het zorgelijkst vinden.

En het is dubbel ironisch dat mijn oude vakgenoten razend enthousiast zijn. Soms weet ik niet hoe ik met al deze ontwikkelingen zou zijn omgegaan, als ik niet op het pad van ethische AI was beland.

En toch omarmen we massaal een systeem dat niet-betrouwbare tekst uitspuugt. En een app die niets anders maakt dan nepvideo’s. Mensen zijn rare wezens.

Nep of echt?

Als wij – maar vooral ook jongeren – leren dat niets te vertrouwen is, is het gedaan met de democratie. Wie zich druk maakt over polarisatie kan daarmee stoppen: polarisatie is onvermijdelijk als we de informatie om ons heen niet meer kunnen vertrouwen.

Wie het narratief bepaalt, beheerst de wereld. En het wordt nog erger als mensen die niet betrouwbaar zijn, het medium zelf beheersen.

Het voelt alsof we de boekdrukkunst in handen hebben gegeven van een handjevol hele rijke mensen met hele rare ideeën. Gedreven door winst, over de ruggen van de armste mensen van deze wereld, denken ze (zoals inmiddels is gebleken) niet eens goed na over wat ze de wereld in slingeren.

Of misschien is het nog erger.

Misschien weten ze heel goed wat ze doen.

Elja Daae - Over Elja & meer