Wie is een bot en wie niet?

‘Who’s a bot and who’s not?’ Onder dat catchy motto kaart het internationale Frontiers in Physics-platform de resultaten aan van een nieuwe studie naar machinegestuurde berichtenlawines op het internet. Hoe kan je ze onderscheiden van input en reacties van menselijke gebruikers? Van échte berichten, dus?

Een onderzoek van de computerafdeling van het University of Southern California Information Sciences Institute draaide de vertrouwde onderzoekpremisse om. Teamleider Emilio Ferrara en zijn collega’s gingen niet uit van wat typisch is voor artificiële intelligentie, maar van wat eigen is aan menselijk gedrag. De resultaten kunnen, volgens hem, een opstap zijn naar de ontwikkeling van een totaal nieuw algoritme als basis voor software die bots detecteert.

Met een beetje verbeelding kunnen we de belangrijkste onderzoeksresultaten eigenlijk zelf al in het achterhoofd houden, wanneer we ons afvragen of pakweg een reactie op een tweet echt is of software-gestuurd. De kernvaststelling van de studie is de wetenschappelijke bevestiging van iets wat we spontaan aanvoelen: mensen reageren anders dan bots. En dus:

1. Bij mensen neemt de intrinsieke sociale interactie toe, naarmate de social mediasessie langer duurt. Concreet, op Twitter: retweets, replies e.a. worden opgebroken in plaats van blind gereproduceerd.

2. Daarbij daalt bij mensen op langere ‘sessietermijn’ het contentvolume. Concreet, opnieuw: de gemiddelde lengte van de retweets, replies e.a. neemt af.

Ook de verklaring hiervoor bevestigt wetenschappelijk wat het gezond verstand influistert. ‘Naarmate een sessie vordert, worden mensen blootgesteld aan andere posts en externe impulsen,’ stelt Ferrara, hoofdonderzoeker van de MINDS-afdeling (Machine Intelligence and Data Science). ‘Bots hebben dat niet. Zij vertonen daarom geen enkele gedragsverandering en gaan onverstoorbaar door alsof er naast de lopende sessie niets gebeurt.’ Maar hij voegt er wel een waarschuwing aan toe: ‘Bots evolueren voortdurend, en de vooruitgang op het vlak van AI maakt het mogelijk hen almaar realistischer de mens online te imiteren.’