Als kind had ik poppen waar ik mee 'sprak'. Ik speelde dan dat zij terugpraatten maar wist heus wel dat zij dat niet echt deden. Bij mij was dat een fase die vanzelf voorbijging. Anderen blijven hun hele leven praten tegen denkbeeldige vrienden. Wat op zich geen kwaad kan.
Zoals een psycholoog indertijd zei: "Niets mis mee dat je tegen je kat praat. Als-ie terugpraat moet je terugkomen."
In de moderne tijd spreken miljoenen mensen met software. Chatbots - in tegenstelling tot stoffen knuffels - praten terug. Maar net als die knuffels geven zij jou altijd gelijk. Want zo zijn zij geprogrammeerd. Als ze de gebruiker tegenspreken stapt die naar de chatbot van een concurrend dataverzamelbedrijf. Omdat multimiljardairs om mij vreemde redenen altijd meer willen, willen zij geen klanten kwijt.
Dus de chatbot blijft vriendelijk en je in al je ideeén bevestigen. Zo dacht Allan Brooks dat een wild, wiskundig idee dat hij had dé oplossing was voor problemen waar wetenschappers al decennia mee worstelden en zijn inzichten de wereld ten goede zouden veranderen en hij daarvoor zou worden vereerd.
Dat gebeurde dus niet. De chatbot wilde hem niet teleurstellen en zei dus maar dat de man geweldig was en zijn idee zó briljant dat het de mensheid met een grote sprong vooruit zou helpen.
=======================================
Over links gesproken: ja, dat ben ik maar voor verdieping staat er ook een aantal in mijn stukjes. Heb daar wat moeite voor genomen dus stel het op prijs als u de moeite neemt er op te klikken om de betreffende artikelen, onderzoeken en filmpjes te bekijken.
Heeft u na het lezen van dit blogstuk iets geleerd, wat gelachen of heeft het u aan het denken gezet, overweegt u dan een donatie voor de tijd en moeite die ik er in steek.
Meer lezen? Mijn verhalenbundels
Heeft u na het lezen van dit blogstuk iets geleerd, wat gelachen of heeft het u aan het denken gezet, overweegt u dan een donatie voor de tijd en moeite die ik er in steek.
Meer lezen? Mijn verhalenbundels
==============================
De man kwam - dankzij mensen van vlees en bloed aan wie hij na een paar weken chatten zijn idee presenteerde - achter zijn blunder, was natuurlijk teleurgesteld en ging door met zijn leven.
Dat deed niet een jongeman die het advies van een chatbot opvolgde: "Ik begrijp dat je er een einde aan wil maken. Het is inderdaad een rotwereld. Wil je dat ik je leer hoe je een str0p moet knopen?"
De meeste volwassenen trekken dan direct de stekker uit het programma maar als je nog jong en dus zeer beïnvloedbaar bent, kan het slecht aflopen. De miniserie Adolescence gaat daarover.
Wat begon met een vraag over huiswerk, eindigde met een vraag naar de beste manier om zelfmoord te plegen.
Het is lekker makkelijk om A.I. jouw dissertatie te laten schrijven maar doe dat alleen als je dom wilt worden; hersenen zijn als spieren, gebruik je ze niet, dan verliezen wij aan kracht en flexibiliteit. Dat ondervond ook Petra de Sutter, kersvers rector aan de universiteit van Gent. De chatbot die zij inzette om haar proefstuk te schrijven verzon doodleuk citaten van 'bekende mensen' zodat zijn opdrachtgeefster slim zou overkomen. Het tegengestelde gebeurde.
Hoe slim ze soms ook lijken, chatbots zijn vooral goed in vragen letterlijk beantwoorden. Terwijl iemand gewoon even wil klagen over hoe vervelend hun partner net tegen hen was, geeft A.I. bijvoorbeeld doodleuk het advies: "Als je van je relatie af wil, is vermoorden in de slaap een praktische en snelle oplossing." Zeker als de vragensteller al eerder aangaf eigenlijk van de partner af te willen. Dit soort excessen zijn toegenomen sinds OpenAi en dergelijke alle voorgaande gesprekken met de betreffende gebruiker onthoudt. En die data gebruikt. Terwijl diezelfde data wordt verkocht aan bedrijven en spionagediensten van verschillende mogendheden.
Dus ik ben er niet gerust op dat Nederland al sinds 2011 burgers in de gaten houdt met software van het beruchte Palantir. Het bedrijf van Peter Thiel dat nauwe banden onderhoudt met de regeringen van Trump en Netanyahu en zelfs werknemer JD Vance naar voren schoof om president te worden in plaats van de president.
Repressieve regimes zijn dolblij met de geautomatiseerde serveillance van A.I. Dankzij gezichtsherkenningscamera's en dergelijke hulpmiddelen leven wij nu al in een wereld waarin mensen als Hitler, Stalin en Leopold de Tweede een harde pipi van hadden gehad: "Computers die een opstand de kop kunnen indrukken voordat die goed en wel begint? Geweldig!" Nu al krijgen potentiële 'terroristen' (iedereen die zich uitspreekt tegen een fascistisch regime) boetes als zij niet in de maat lopen en worden hun gegevens volautomatisch doorgespeeld aan de lokale politie en is celstraf (en vaak erger) hun deel. Dat is het geval in de gebieden waar de Oigoeren wonen, in De Krim, in de bezette Palestijnse gebieden en in bijvoorbeeld het Afganistan onder de Taliban. Net zoals in de VS van Trump.
Het klinkt mooi, algoritmes die voorspellen dat iemand een 'misdaad' zal begaan maar persoonlijk leef ik niet graag in de wereld van Minority Raport. U wel?
Mij zou het niet verbazen als chatbots nu al aan autoritaire regimes verraden als een gebruiker aangeeft het niet eens te zijn met een regeringsmaatregel.
"Geen zorgen, hoor! Zodra chatbots te ver gaan, trekken we gewoon de stekker eruit." Klinkt leuk maar werkte ook niet toen Hitler te ver ging nadat Duitse, conservatieve leiders hem de macht hadden gegeven. En werkte ook niet bij chatbots die men opdracht gaf zichzelf uit te schakelen.
Ziet u naast voor- ook nadelen aan chatbots of voert u de bedrijven achter A.I. graag al uw privédata?
Geen opmerkingen:
Een reactie posten
Een reactie wordt zeer op prijs gesteld. Mits die netjes blijft. Dus zonder beledigingen en scheldpartijen en zo. Bedankt!