Gerald Schut
Arbeidsmarkt, klimaat, en emotie-detectie. Dat waren volgens AI Now de belangrijkste AI-kwesties die dit jaar speelden. Het interdisciplinaire instituut van de New York University, dat de sociale gevolgen van AI onderzoekt, vindt de mate waarin AI de machtsverschillen tussen groepen in de samenleving vergroot zorgwekkend.
Een belangrijk voorbeeld daarvan is het toenemende gebruik van kunstmatige intelligentie om werknemers te volgen, sturen, belonen en zelfs ontslaan. Zo vergroot kunstmatige intelligentie niet alleen de loonkloof tussen hoger- en lageropgeleiden, maar maakt ze werknemers ook tot willoze parameters die geoptimaliseerd kunnen worden. Amazon geeft werknemers bijvoorbeeld in zijn warenhuizen (met de Orwelliaans naam Fulfilment Centers) productiedoelen. Als een werknemer driemaal op een dag zijn doel niet haalt volgt automatisch ontslag, ongeacht de arbeidshistorie of persoonlijke omstandigheden. Dichterbij huis zorgde het plan van het Rotterdamse overslagbedrijf Vopak om werknemers met chips in hun badges te gaan volgen voor opschudding. Het centrale achterliggende probleem is dat werkgevers de klanten zijn van de producenten van kunstmatige intelligentie en niet werknemers. Het is dan ook niet raar dat de belangen van werknemers niet in specificaties van de oplossing terugkomen.
Dan klimaat. Datacenters zijn al goed voor 3 tot 3,5 % van de wereldwijde CO2-uitstoot (vergelijkbaar met de luchtvaart). En dat neemt snel toe. De onderzoekers Amodie en Hernandez stellen dat de benodigde rekenkracht voor grote trainingstrajecten voor AI sinds 2012 iedere drieënhalve maand verdubbelt: 5 à 6 maal sneller dan de wet van Moore. Het trainen van slechts één AI zorgt voor wel 300 kton CO2: evenveel als 125 retourtjes tussen New York en Peking. Met de komst van 5G zal het datagebruik exploderen. Er komen meer zendmasten die per mast ook nog eens veel meer energie gebruiken dan 4G. Amazon heeft het programma ‘Predicting the Next Oil Field in Seconds With Machine Learning’. Volgens ‘Oil is the new data’ in Logic vormt de olie- en gassector 30 % van de potentiële markt voor AI-toepassingen. AI Now pleit daarom voor meer transparantie over de klimaatimpact van tech-bedrijven.
Tenslotte roept AI Now op tot een moratorium op AI-toepassingen die emoties detecteren. Het wereldwijde marktvolume voor dit soort diensten is nu al $ 12 miljard en kan volgens een prognose over 5 jaar 7 keer zo groot zijn. Zo claimt Rekognition van Amazon 8 emoties te kunnen vaststellen en claimen Cogito en Empath uit de toonhoogte van bellers naar call centers te kunnen opmaken of ze onvrede voelen. Volgens AI Now zijn dergelijke claims gebaseerd op wetenschappelijk drijfzand. Het wijst op het ‘Kuleshov effect’ genoemd naar de gelijknamige filmmaker die een neutraal gezicht van een man combineerde met filmpjes over respectievelijk een dode man, een kom soep en een vrouw. Het publiek bleek in de identieke foto afhankelijk van de context achtereenvolgens verdriet, honger en lust te zien. Een metastudie op basis van 1.000 onderzoeken, concludeert dat uit gezichtsbeweging vrijwel geen valide conclusie te trekken valt over wat iemand voelt. Cultuur en context zijn te belangrijk. Onderwerp mensen niet aan de grillen van onbewezen modellen, adviseert AI Now.
