Microsoft har udgivet et sæt retningslinjer at hjælpe udviklere med at bygge “ansvarlige” digitale assistenter. Indførelsen af samtalegrænseflader vokser midt i hurtige forbedringer i de underliggende teknologier. Men overvejelserne om de etiske bekymringer går i et langsommere tempo.
Microsoft sagde, at retningslinjerne er beregnet til at minde udviklere om, at deres produkter kan bruges på måder, de ikke altid kan forudse. Selvom etisk design altid har været relevant for teknologiindustrien, er det særligt vigtigt i forbindelse med samtalegrænseflader.
Microsoft brugte eksemplet med en pizzabestillingsbot. Tjenesten skal være designet til at lette bestilling af pizza med minimal modtagelighed for brugernes distraktioner. Hvis brugeren forsøger at diskutere “følsomme emner,” såsom race, køn, religion eller politik, bør tjenesten afstå fra at engagere sig på nogenlunde samme måde, som en menneskelig pizzaserver ville. Ellers kan enhver skævhed i botens algoritmer resultere i, at den lærer uønsket adfærd fra kunden.
Resten af retningslinjerne fortsætter langs lignende temaer. Generelt understreger Microsoft, at bots kan være godt for samfundet, hvis udviklere forbliver opmærksomme på de potentielle problemer. Organisationer skal være på forhånd om deres brug af bots. Alle AI-drevne tjenester skal forblive fri for skævheder og respektere kulturelle standarder.
“Generelt understreger retningslinjerne udviklingen af samtale-AI, der er ansvarlig og troværdig lige fra begyndelsen af designprocessen,” sagde Lili Cheng, Microsoft Corporate Vice President for Conversational AI. “De opfordrer virksomheder og organisationer til at stoppe op og tænke over, hvordan deres bot vil blive brugt og tage de nødvendige skridt for at forhindre misbrug. I sidste ende handler retningslinjerne om tillid, for hvis folk ikke har tillid til teknologien, de vil ikke bruge det.”
Du kan finde den fulde liste over retningslinjer her Microsoft Researchs hjemmeside. Selvom det ikke er hårde regler, indkapsler de de grundlæggende etiske standarder, der skal tages i betragtning, når man udvikler bots. Microsoft offentliggjorde retningslinjerne i denne uge sammen med et nyt sæt AI-teknologier, herunder et quick-start værktøjssæt til udviklere, der laver digitale assistenter.
