Microsoft heeft een reeks richtlijnen uitgebracht om ontwikkelaars te helpen bij het bouwen van “verantwoordelijke” digitale assistenten. De acceptatie van conversatie-interfaces groeit te midden van snelle verbeteringen in de onderliggende technologieën. De overweging van de ethische bezwaren gaat echter langzamer.
Microsoft zei dat de richtlijnen bedoeld zijn om ontwikkelaars eraan te herinneren dat hun producten kunnen worden gebruikt op manieren die ze niet altijd kunnen voorzien. Hoewel ethisch ontwerp altijd relevant is geweest voor de technologische industrie, is het vooral belangrijk in het geval van conversatie-interfaces.
Microsoft gebruikte het voorbeeld van een pizzabestelbot. De service moet worden ontworpen om het bestellen van pizza’s te vergemakkelijken, met minimale gevoeligheid voor afleiding door de gebruiker. Als de gebruiker probeert ‘gevoelige onderwerpen’ te bespreken, zoals ras, geslacht, religie of politiek, moet de service zich onthouden van ongeveer dezelfde manier als een menselijke pizzaserver zou doen. Anders kunnen eventuele vooroordelen in de algoritmen van de bot ertoe leiden dat deze ongewenst gedrag van de klant leert.
De rest van de richtlijnen gaat verder langs vergelijkbare thema’s. Over het algemeen benadrukt Microsoft dat bots goed kunnen zijn voor de samenleving, als ontwikkelaars zich bewust blijven van de mogelijke problemen. Organisaties moeten openhartig zijn over hun gebruik van bots. Alle door AI aangedreven diensten moeten vrij blijven van vooroordelen en culturele normen respecteren.
“Over het algemeen benadrukken de richtlijnen de ontwikkeling van conversatie-AI die vanaf het allereerste begin van het ontwerpproces verantwoordelijk en betrouwbaar is”, zegt Lili Cheng, Microsoft Corporate Vice President van Conversational AI. “Ze moedigen bedrijven en organisaties aan om te stoppen en na te denken over hoe hun bot zal worden gebruikt en de nodige stappen te nemen om misbruik te voorkomen. Uiteindelijk gaan de richtlijnen allemaal over vertrouwen, want als mensen de technologie niet vertrouwen, ze gaan het niet gebruiken.”
U kunt de volledige lijst met richtlijnen vinden op De website van Microsoft Research. Hoewel het geen harde regels zijn, bevatten ze wel de fundamentele ethische normen waarmee rekening moet worden gehouden bij het ontwikkelen van bots. Microsoft heeft deze week de richtlijnen gepubliceerd naast een nieuwe reeks AI-technologieën, waaronder een snelstarttoolkit voor ontwikkelaars die digitale assistenten creëren.
