Home Innovatie & Strategie Misbruik van bots is blinde vlek in wetgeving

Misbruik van bots is blinde vlek in wetgeving

Bright Data -
46
dainamics

Bots komen we steeds vaker tegen in het dagelijks leven. En soms zijn we ons er helemaal niet bewust van dat we met een bot communiceren. De verwachting is dat het professioneel gebruik van bots alleen maar zal toenemen, zowel online als op fysieke locaties. Om misbruik van bots te voorkomen, moet er wel goede regelgeving komen. Bots zijn computerprogramma’s die met behulp van kunstmatige intelligentie zelfstandig bepaalde taken kunnen uitvoeren. Ze zitten bijvoorbeeld achter de online chatservice van veel bedrijven, maar ook in bestelmachines bij hamburgerrestaurants. Ze zijn intussen en een cruciale component geworden in de groei van onze economie. Met de hulp van bots kunnen bedrijven sneller inspelen op nieuwe ontwikkelingen, betere beslissingen nemen, een betere klantervaring bieden bij digitale klantenservice en vooral ook de efficiëntie verhogen.

Misbruik van bots

Naarmate bots op brede schaal worden gebruikt, moeten organisaties extra investeren om ervoor te zorgen dat deze technologie niet verkeerd wordt gebruikt. Er zijn al een aantal voorbeelden van bots waarbij misbruik of fouten zijn geconstateerd. In 2016 experimenteerde Microsoft met chatbot Tay die vragen van Twitteraars kon beantwoorden en aan haar verstrekte foto’s van een bijschrift kon voorzien. Sommige gebruikers op Twitter stuurden politiek incorrecte zinnen naar Tay. Als reactie daarop begon de robot racistische en seksueel getinte berichten te verspreiden. Tay kopieerde als het ware het opzettelijk beledigende gedrag van andere Twitter-gebruikers. Microsoft moest ingrijpen door Tay  uit te schakelen.

Wokebot en Realistbot

Maar er zijn ook Twitter-bots die met een groot aantal berichten de politieke mening van individuen proberen te beïnvloeden. Een interessant experiment op dat gebied zijn de bots Realistbot en Wokebot die gemaakt zijn door de Nederlander Jim Stolk. De tweets die de bots creëren en versturen staan bol van termen die extreem-linkse (Realistbot) en extreem-rechtse (Wokebot) aanhangers veel gebruiken.

De experimenten laten zien dat misbruik van bots op de loer ligt. Laten we daarom kijken naar hoe bedrijven bots gebruiken (zowel functioneel als operationeel). Daarvoor baseer ik me op recent onderzoek van Bright Data en Vanson Bourne, waarbij honderden Amerikaanse en Britse leidinggevenden (C-level, directeuren en senior managers) zijn ondervraagd van IT-, tech- en financiële dienstverlenende organisaties die bots gebruiken.

Hoe maken bedrijven gebruik van bots?

Op dit moment gebruiken bedrijven bots in veel verschillende functies. Uit het onderzoek blijkt dat de meest voorkomende toepassingen te maken hebben met klantenservice (76%) en data (57%). Andere veelvoorkomende toepassingen zijn cybersecurity (51%), de automatisering van administratieve taken (35%), geautomatiseerde handel (23%) en voor sociale media (22%).

Gezien de snelheid waarmee artificial intelligence (AI) zich ontwikkelt, kunnen we binnenkort verwachten dat bedrijven bots gaan gebruiken in veel andere functies, waaronder HR, juridische zaken, verkoop enzovoorts. Bijna alle ondervraagde organisaties (95%) zijn zelfs van plan om het gebruik van bots in de komende twee jaar uit te breiden.

Gebruiken bedrijven bots op verantwoorde wijze?

De overgrote meerderheid van de bedrijven is vastbesloten om ervoor te zorgen dat bots op verantwoorde wijze worden gebruikt, zo blijkt uit het onderzoek. In totaal geeft 48% van de respondenten in het Amerikaanse onderzoek aan richtlijnen te hebben voor het matigen van alle gebruik van bots. Nog eens 48% had richtlijnen voor het reguleren van sommige vormen van gebruik. In het Verenigd Koninkrijk waren deze cijfers respectievelijk 57% en 40%. Dit wijst erop dat de meeste bedrijven verantwoord botgebruik serieus nemen.

Maar is zelfregulering of in-house compliance voldoende?

Net als bij elke andere nieuwe technologie (bv. sociale media, blockchain, enz.) loopt de regelgeving rondom AI flink achter op de marktontwikkelingen. Op dit moment heeft geen enkel land een heldere strategische aanpak voor het besturen en reguleren van AI. De EU heeft vorig jaar wel een ontwerpvoorstel voor een wet voor kunstmatige intelligentie gepubliceerd.

Weinig discussie

Uit ons onderzoek blijkt dat er een grote behoefte is aan meer regelgeving. Bright Data ontdekte dat gemiddeld 40% van de respondenten actief meer externe regelgeving voor bots wil zien (45% in de VS en 33% in het VK). Tegelijkertijd wil slechts 7% geen externe regulering van bots zien.

Als toonaangevend leverancier van platforms voor het verzamelen van webdata zet Bright Data zich in voor het bevorderen van verantwoord botgebruik. Om de explosieve groei van het botgebruik door bedrijven in goede banen te leiden, vinden wij het van cruciaal belang dat overheden samenwerken met bedrijven om uitgebreide wet-en regelgeving op te zetten voor organisaties die bots gebruiken. Gezien de snelheid waarmee AI zich ontwikkelt, zal dit zeker niet gemakkelijk zijn omdat de richtlijnen regelmatig moeten worden bijgewerkt. Wij geloven echter dat een dergelijke regelgeving noodzakelijk is om het succes van deze technologie op lange termijn te verzekeren.

Bottechnologie uitbesteden of intern houden?

Uit het onderzoek van Bright Data blijkt dat bijna driekwart (74%) van de Britse respondenten en ongeveer de helft (53%) van die in de VS, ten minste een deel van hun botactiviteiten heeft uitbesteed. Wat zijn de effecten voor ethisch botgebruik bij het inhuren van een externe partner om uw botactiviteiten uit te voeren?

Enerzijds beschikt een externe specialist waarschijnlijk over een degelijk ethisch beleid, gebaseerd op jarenlange ervaring met wat wel (en wat niet!) moet worden gedaan. Bovendien is het voor bedrijven moeilijk om een intern team op te bouwen dat kan concurreren met de middelen en expertise van een externe partner. Gezien de snelheid waarmee deze sector evolueert, kan het overweldigend zijn om op de hoogte te blijven van de laatste ethische best practices en alle reglementaire of compliance-eisen.

Aan de andere kant moeten bedrijven er zeker van zijn dat ze voor het beheer van hun botactiviteiten een beroep doen op een ervaren externe leverancier. Interessant is dat slechts de helft (54%) van de respondenten van de Bright Data-survey aangeeft dat ze ‘volledig op de hoogte’ waren van de externe bot-provider van hun organisatie. Dat is een verontrustend cijfer. Het is van het grootste belang dat bedrijven transparantie eisen van de provider van hun botactiviteiten en grondig onderzoek doen voordat ze zich aan een botleverancier verbinden.

Uiteindelijk weegt de positieve waarde van bots voor bedrijven zwaarder dan de negatieve, maar we moeten waken voor misbruik van bots. Het verplichten van duidelijke normen en regelgeving is de beste manier om ervoor te zorgen dat bots op verantwoorde wijze worden gebruikt

Ron Kol, CTO van Bright Data

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here