The future is female: waarom zijn de robots die ons helpen vrouwen?

Programma’s zoals Siri en Alexa helpen ons nu al een aantal jaar met onze dagelijkse struggles. Praktische informatie zoals het weer, openingstijden,willekeurige feitjes om discussies mee te winnen: we kunnen gewoon onze vraag in onze telefoon blaffen en een warme stem probeert ons zo goed mogelijk te helpen. Het is alleen opvallend dat deze stem altijd vrouwelijk is. Nu kunstmatige intelligentie een grotere rol krijgt in ons dagelijkse leven wordt het tijd om opnieuw kritisch te kijken naar dit fenomeen. Het debat over Siri en Alexa heeft een interessante plek gekregen in een groter discours rond objectificatie en het gebruik van vrouwelijke stemmen in de openbare ruimte. 

Tekst & beeld // Jolijn Sterk

Vrouwelijke stemmen in behulpzame functies is geen nieuw verschijnsel: denk maar aan de beschaafde geprogrammeerde vrouwen die door de speakers van vliegvelden en intercity’s klinken, en aan de eerste TomToms. Nieuwer is de ontwikkeling dat deze stemmen interactief zijn. Ik ga het in dit stuk dan ook hebben over interactieve AI, en in het bijzonder virtuele assistenten. De populairste virtuele assistenten waren vanaf 2017 Apple’s Siri, Google Assistant, Amazon Alexa en Microsoft Cortana. In dat jaar waren al deze machines standaard ingesteld op het hebben van een vrouwenstem, en drie van hen hadden vrouwelijke namen. Het is interessant dat ontwikkelaars er hard aan werken om deze assistenten zowel steeds effectiever als menselijker te maken; Siri en Alexa kunnen grappen maken en gedichten schrijven, je kunt ze vragen hoe hun dag was en wat hun favoriete kleur is. Zo proberen hun makers ze een persoonlijkheid te geven, en hun gebruikers persoonlijk aan ze te verbinden. De systemen blijven echter altijd niet-confronterend in hun antwoorden en ze blijven weg van controversiële onderwerpen.

Gevraagd naar het gender van hun apps wijzen de ontwikkelaars van Alexa van Amazon naar hun focusgroepen: ‘We hebben de stem van Alexa met grote interne bètagroepen getest voordat we begonnen, en dit is de stem die ze hebben gekozen.’. Stanford University Professor Clifford Nass verklaart dit fenomeen als logisch; “Het is welbekend dat het menselijk brein is ontwikkeld om vrouwelijke stemmen leuk te vinden.”. Nass beweert dat, omdat we gewend waren aan de stem van onze moeder in de baarmoeder, we nou eenmaal de stemmen van vrouwen de rest van ons leven prettiger vinden. Zo simpel lijkt het helaas niet te liggen.

Het brein en vrouwelijke stemmen

Ontwikkelaars die vrouwenstemmen gebruiken in hun systemen hebben verwijzen meestal naar soortgelijke redenen:

• Mensen kunnen hoge tonen (en dus hogere stemmen) beter horen
• Stereoluidsprekers kunnen hoge tonen beter verwerken
• Vrouwelijke stemmen zijn gemakkelijker te begrijpen
• Vrouwelijke stemmen zijn gemakkelijker te begrijpen tegen achtergrondgeluiden.

Deze argumenten zijn ondertussen allemaal weerlegd. Over het algemeen hebben oudere mensen zelfs de neiging om meer moeite te vinden om vrouwelijke stemmen te begrijpen, omdat bij het ervaren van gehoorverlies de hogere tonen het vaakst gaan. Omdat iedereen een soort gehoorverlies heeft ervaren tegen de tijd dat ze 30 worden, zou dit betekenen dat een mannelijke stem begrijpelijker zou zijn. Stereoluidsprekers hebben een limiet op de ingebouwde lagere frequenties, wat deze mythe is begonnen, maar deze limiet op lage frequenties is normaal ingesteld op 500 Hz – een frequentie die ver onder alles ligt dat mannen of vrouwen met hun stem kunnen produceren.

Het enige stukje waarheid ligt in de bewering dat vrouwen gemakkelijker te begrijpen zijn tegen achtergrondgeluiden. Vrouwen hebben meestal grotere ‘klinkerruimtes’, wat betekent dat ze in het algemeen klinkers duidelijker uitspreken. Dit heeft echter meer te maken met spreekstijl dan met een biologisch verschil in stemmen, en aangezien er genoeg mannen zijn die ook hun klinkers ruimte geven, kan dit eenvoudig geïmplementeerd worden bij het programmeren van een stem in een machine.

Een tastbare falsificatie van de claim dat mensen vrouwenstemmen fijner vinden, is de enorme genderkloof in radio- en podcasthosts. Op dit moment heeft Radio 538 bijvoorbeeld maar één vrouw in dienst naast 26 mannen en bij Q-music zijn drie van de vijftien DJ’s vrouwelijk. Vrouwelijke podcast-hosts ervaren bovendien meer intimidatie op basis van de toon of eigenaardigheden van hun stem. Het team achter de podcast 99% Invisible heeft op een gegeven moment zelfs een auto-reply moeten instellen voor mailtjes waarin werd geklaagd over de praatstijl van hun vrouwelijke hosts. Daarbij heeft onderzoek aangetoond dat mensen de voorkeur geven aan diepere stemmen in gezaghebbende rollen. Dit zou kunnen suggereren dat we de stem van een vrouwelijke virtuele assistent ook minder serieus zouden nemen. Dus waarom willen dan we ondanks dit alles dat de stemmen van onze assistenten vrouwelijk zijn?

Objectivering, buiten de seksuele soort

Wanneer we het hebben over objectivering, is dit meestal in de context van seks. Zoek naar ‘vrouwelijke objectivering’ in Google en je zult vooral afbeeldingen vinden waarin vrouwelijke modellen suggestief poseren. Toen de term echter werd geconceptualiseerd, verwees deze naar veel meer dan dat. Een van de meest bekende teksten over objectificatie met betrekking tot vrouwelijke rechten is ‘Sex and Social Justice‘ van Martha C. Nussbaum. Hierin drukt ze zich sceptisch uit over het exclusieve gebruik van het concept in seksuele situaties. Ze identificeert zeven kenmerken van het zien van een persoon als een object.

• instrumentaliteit: de behandeling van een persoon als hulpmiddel voor de doeleinden van de objectgever;
• ontkenning van autonomie: de behandeling van een persoon als een gebrek aan autonomie en zelfbeschikking;
• inertie: de behandeling van een persoon als gebrek aan keuzevrijheid, en misschien ook aan activiteit;
• fungibiliteit: de behandeling van een persoon als uitwisselbaar met andere objecten;
• ontastbaarheid: de behandeling van een persoon als tekortschietend in de integriteit van haar grenzen;
• eigendom: de behandeling van een persoon als iets dat eigendom is van een ander (kan worden gekocht of verkocht);
• ontkenning van subjectiviteit: de behandeling van een persoon als iets met wiens ervaringen en gevoelens (indien aanwezig) hoeft te worden gehouden. (Nussbaum 1999, 218)

Nussbaum betoogt dat objectivering een complex en gelaagd concept is, omdat er vele gradaties zijn om iemand te objectiveren, omdat er veel soorten objecten zijn en mensen verschillende soorten waarden, grenzen en concepten van eigendom aan hen toeschrijven. Een balpen en een Monet-schilderij zijn bijvoorbeeld allebei objecten, maar ze worden heel anders behandeld. Een balpen is inwisselbaar met elke andere functionele balpen, maar weinigen zouden beweren dat de Monet vervangbaar is. Zelfs als je de penseelstreek van Monet precies zou reproduceren met je eigen penseel, zou iemand die ontdekt dat het niet het echte werk is, in shock verkeren. Is de Monet ook nog jouw bezit, dan gaat de emotionele band die je met het object hebt nog een stuk dieper. Zo krijgen bepaalde objecten dus een soort agency toegeschreven, en een soort autonomie en infungibiliteit. Zoals er tussen de balpen en de Monet honderd gradaties zitten, zo is dit ook bij hoe de wereld mensen ziet. Het verschil tussen de moeder en de pornoster, en in een kantoorsetting de manager en de secretaresse.

Dus hoewel objectivering meestal alleen wordt gebruikt in de context van het gebruik van vrouwenlichamen als hulpmiddelen voor je eigen seksuele begeerte, zijn er eigenlijk veel genuanceerde lagen van objectivering die elke persoon dagelijks beïnvloeden. Velen van hen in de werksfeer. Zoals Joan Acker in haar artikel ‘Hierarchies, Jobs, Bodies: A theory of Gendered Relations‘ betoogt, hebben vrouwen vaak lagere en slechter betaalde banen in de functiehiërarchie gehad sinds ze de postindustriële werkplek zijn binnengegaan. Volgens haar komt dit omdat vrouwen niet de positie vervullen van de fulltime, levenslange toegewijde werknemer wiens persoonlijke dagelijkse behoeften en die van zijn kinderen worden vervuld door zijn partner. Typisch vrouwelijke banen omvatten het meeste faciliterende, administratieve en sociale werk, zoals verpleegkundigen, secretaresses, maatschappelijk werkers en assistenten. Deze banen worden meestal door organisaties geëvalueerd als minder hoog in de hiërarchie dan meer door mannen gedomineerde functies zoals artsen, managers, leidinggevenden en managers. Ze worden gezien als minder bekwaam en dus meer instrumenteel voor het daadwerkelijke werk dat wordt uitgevoerd door meer hoog aangeschreven medewerkers. De lager geplaatste werknemers die deze taken vervullen worden gewaardeerd als meer inwisselbaar, dus fungibel. Hun meningen of aspiraties doen er minder toe, hun agency is een bijbedoeling, hun werk is eigendom van hun baas. De ballpoints naar de Monets.

We voelen ons in het verlengde hiervan wellicht gemakkelijker wanneer een vrouwelijke stem ons vertelt wanneer onze afspraak van 2 uur is, hoe het weer morgen zal zijn, hoe laat het in Beijing is, omdat we meer gewend zijn van vrouwen dat hun functie inwisselbaar is. We vinden het  minder ongemakkelijk om commando’s te geven aan Siri want we hebben, anders dan bij een mannelijke stem, nog minder het gevoel dat we tegen een individu praten.

Oke, dus?
Het probleem is reproductie. Als we gewend raken aan vrouwelijke assistenten die dagelijks de makkelijkste klusjes voor ons oplossen, vriendelijk en geduldig- hoe ze ook worden aangesproken, hoe vormt dit dan ons idee van vrouwen?  Natuurlijk, op dit moment praten we nog veel vaker en diepgaander met vrouwen van vlees en bloed dan met vrouwelijke AI stemmen, maar AI wordt steeds losser en persoonlijker toegepast. In de Verenigde Staten wordt je klantenservice-belletje nu dikwijls beantwoord door een zalvende vrouwelijke robot die nauwelijks van echt te onderscheiden is, Alexa- en Cortana-apparaten staan bij miljoenen gezinnen op het aanrecht.

Het concept van de AI vrouw wordt de afgelopen 7 jaar opvallend veel aangehaald in Hollywood. Alita Battle Angel, Ex-Machina, Blade Runner 2049, Her, West World, de gemaakte vrouw heeft haar plek weer gevonden in onze verbeelding. Wat de gemaakte vrouw is, en wat volgens mij haar rol is in de ontwikkelingen rond kunstmatige intelligentie, zet ik graag in een volgend stuk uiteen. Tot dan!