Ons online gedrag is een ontwerpprobleem

Het internet is gemener en minder betrouwbaar geworden, maar er is hoop.

afbeelding: Reuters / Brendan McDermid

Of we het nu hebben over trollen, seriemoordenaars, racisten of propaganda-leveranciers, het lijkt erop dat het online gedrag van de slechtsten onder ons het burgerlijk discours van de besten van ons heeft uitgelokt. Vooral het vitriool bij de Amerikaanse verkiezingen van 2016 heeft pijnlijke vragen opgeworpen. Betekent het nepnieuwsprobleem van Facebook dat we niet meer om de waarheid geven? Betekent de huidige mode voor digitale dogpiling dat we zijn vergeten hoe we het niet eens kunnen zijn zonder onaangenaam te zijn? Misschien zijn we allemaal vreselijke mensen diep van binnen, en onze tweets, berichten en opmerkingen zijn gewoon een duidelijker venster naar onze duistere zielen.

Of misschien maakt het een grotere kans dat we een anonieme megafoon in de handen van iedereen leggen en ons in op maat gemaakte echokamers wikkelen. Naast de echte neonazi's en vrouwenhaters die het recht uitoefenen om hun stem te versterken, zijn vele anderen gewoon dronken van de macht om te provoceren.

Misschien maakt het ons waarschijnlijker om een ​​anonieme megafoon in ieders handen te nemen en ons in op maat gemaakte echokamers te wikkelen.

Het antwoord van digitale mediaplatforms, geïllustreerd door het wassen van handen na de verkiezingen door Mark Zuckerberg, is al lang: "Geef ons niet de schuld, wij zijn slechts het medium." Maar dat excuus is vrij dun. Geen enkel platform is echt agnostisch: ze hebben allemaal hun voorkeuren, machtigingen en verboden, waarvan elk aspect door mensen is ontworpen.

Het huidige debat over de impact van sociale media op de recente verkiezingen is slechts het topje van de ijsberg. Naarmate ons leven online verder gaat, zal de manier waarop we digitale interacties ontwerpen nog grotere sociale gevolgen hebben. Het is niet hyperbolisch om te zeggen dat zorgvuldig ontworpen gebruikersinterfaces ons een vrijere, menselijkere en rechtvaardiger samenleving kunnen maken, net zoals slecht ontworpen degenen velen van ons minder compassievol, minder geïnformeerd en antagonistisch lijken te hebben gemaakt.

Doordachte ontworpen gebruikersinterfaces maken ons een vrijere, menselijkere, meer rechtvaardige samenleving.

Twitter werd geen beerput van trollen en pesten omdat het met geweld werd bezet door een team van hatemongers - het bleek op die manier vanwege een unieke combinatie van bereik, anonimiteit en gebrek aan consequenties. Ik ben dol op Twitter, maar ik heb ook uit de eerste hand gezien hoe het boze, ontevreden individuen kan veranderen in superschurken, die in staat zijn om levens over de hele wereld te intimideren en te verstoren met een paar toetsaanslagen.

Facebook werd ook niet zozeer gekaapt door nepnieuwsleveranciers, omdat het een systeem creëerde dat hen onvermijdelijk maakte. Klikken zijn gelijk aan advertentie-inkomsten, mensen delen wat hun overtuigingen versterkt en het volgende voorgestelde nieuwsitem is wat populair of trending is, niet wat geverifieerd of nieuwswaardig is. Het was slechts een kwestie van tijd voordat fictieve mensen dit bedachten, en tot nu toe is er weinig om hen te overtuigen om te stoppen.

Maar mensen hebben deze systemen gemaakt en mensen kunnen ze corrigeren. De ontwerpers die de details van hoe u met apps en websites communiceert, spelen een even grote rol bij het bepalen van onze communicatie als onze eigen keuzes. Interactieontwerpers zijn over het algemeen slimme en empathische mensen die van de technologische wereld een vriendelijkere, nuttiger plek hebben gemaakt door goed te letten op hoe mensen dingen gebruiken en vervolgens eindeloze ronden van vallen en opstaan ​​doorlopen totdat die dingen beter werken.

Het probleem is niet het mechanisme, maar de wil.

In de afgelopen jaren heeft een product of dienst die "beter werkt" een product bedoeld dat gemakkelijk te gebruiken, algemeen aanvaard en winstgevend is. Dit zijn allemaal bewonderenswaardige doelen, en ze zijn een groot deel van de reden waarom we momenteel in staat zijn om op eindeloze manieren op wereldwijde schaal te communiceren, leren, winkelen, werken en spelen. Onze apps, websites en apparaten maken om dit mogelijk te maken, was een enorme inspanning van duizenden geschoolde mensen - en het was niet gemakkelijk.

Het terugbrengen van beleefdheid en geloofwaardigheid naar online discussie moet net zo mogelijk zijn - maar ook net zo moeilijk.

Maak het verkeerde moeilijker om te doen.

Het online forum Nextdoor.com was oorspronkelijk bedoeld door oprichter en CEO Nirav Tolia als een manier om de gemeenschap te bevorderen via buurtspecifieke discussieborden. Tot zijn ontzetting werd het ook een onbedoeld toevluchtsoord voor raciale profilering, met bezorgde bewoners die posten over verdachte activiteiten door vreemden die ze alleen identificeerden door etniciteit. Na een oproep van de in Oakland gevestigde groep Neighbours for Racial Justice, nam Tolia de ongekende stap om de interface opnieuw te laten ontwerpen om te proberen profilering te verminderen.

Het werkte ongelooflijk goed. Een vroege analyse van het proefontwerp van Nextdoor suggereert dat het racistische berichten bijna onmiddellijk na implementatie met 75% verminderde. Het mechanisme is verbazingwekkend eenvoudig: als je de race van een verdachte opgeeft wanneer je een misdaad of verdachte activiteit meldt, vraagt ​​Nextdoor nu om twee andere identificerende kenmerken, zoals lengte of een kledingstuk, anders wordt de post niet gepubliceerd. Het blijkt dat het een heel klein beetje moeilijker maken om na racistische opmerkingen hun prevalentie drastisch te verminderen.

Waarschijnlijk kostte het veel moeite om tot deze oplossing te komen, maar om dit soort dingen goed te doen - en om te beslissen hoeveel stappen het kost om in te loggen, of wat er gebeurt als je naar beneden veegt op je smartphonescherm - is wat interactieontwerpers de hele dag doen. Dus hoewel de interface-aanpassing van Nextdoor ongebruikelijk was in termen van intentie, was de uitvoering alledaags. Dat is wat het herhaalbaar maakt.

Als Facebook tegen nepnieuws wil vechten, kan het zo eenvoudig zijn als lezers een item als vals laten markeren of het automatisch koppelen aan een gerelateerde Snopes-plaatsing. Het trollenprobleem van Twitter is nog eenvoudiger: slachtoffers van intimidatie hebben al een aantal zeer specifieke verzoeken (gedeelde blokkeerlijsten, automatisch blokkeren van nieuwe accounts, enz.), En sommige gebruikers hebben zelfs prototypen van mogelijke oplossingen, zoals de reeks anti-racistische Twitter-bots die recent is ontwikkeld door een NYU-student als onderdeel van een onderzoek naar politiek gedrag. Het probleem is niet noodzakelijk een mechanisme, maar een wilskracht.

Er bestaat niet zoiets als een onbevooroordeeld platform.

De primaire kritiek op dit soort "activistische" interfaceontwerp is dat het social engineering vormt en de vrijheid van meningsuiting belemmert. Maar onthoud: er bestaat niet zoiets als een onbevooroordeeld platform. Elke digitale interactie stimuleert bepaald gedrag en elk mediakanaal heeft beperkingen. Het actief vormgeven van die parameters om burgerlijke, feitelijke discussie aan te moedigen, is niet alleen gerechtvaardigd - het is een ethische noodzaak.

Gelukkig lijkt al onze recente zoektocht naar zielen ons in deze richting te bewegen. Zowel Facebook als Twitter zijn de afgelopen maand bekend geworden om deze problemen serieuzer te nemen. Of zij en andere internetbedrijven uiteindelijk genoeg doen, zal afhangen van de constante druk van de betrokken gebruikers. En het zal vrijwel zeker op enig moment het onderwerp van wetgeving zijn.

Interactieontwerp is een krachtige en grotendeels niet-erkende kracht geweest in het vormgeven van onze digitale wereld. Het heeft de huizen van vreemden net zo toegankelijk gemaakt als hotelkamers, het laat je praktisch alles op aarde kopen terwijl je in de rij staat voor koffie, en het geeft Afrikaanse boeren op het platteland betere banktoegang dan onze ouders. Gezien deze kracht en gezien de urgentie van het probleem, hebben we geen excuses meer. Het is tijd om het internet opnieuw te ontwerpen om het veilig te houden voor de beschaving - en het is een taak waar we als gebruikers en ontwerpers klaar voor zijn.

Een eerdere versie van dit artikel verscheen in december 2016 op Quartz, onder de titel "Design is het beste wapen dat we hebben in de strijd tegen nepnieuws"