Microsoft publicerar riktlinjer för utvecklare som bygger digitala assistenter

Hur

Microsoft har släppt en uppsättning riktlinjer att hjälpa utvecklare att bygga ”ansvariga” digitala assistenter. Användningen av konversationsgränssnitt växer i takt med snabba förbättringar av de underliggande teknologierna. Beaktandet av de etiska farhågorna går dock i en långsammare takt.

Microsoft sa att riktlinjerna är avsedda att påminna utvecklare om att deras produkter kan användas på sätt som de inte alltid kan förutse. Även om etisk design alltid har varit relevant för teknikindustrin, är det särskilt viktigt när det gäller konversationsgränssnitt.

Microsoft använde exemplet med en pizzabeställningsbot. Tjänsten bör utformas för att underlätta beställning av pizza, med minimal mottaglighet för användarens distraktioner. Om användaren försöker diskutera ”känsliga ämnen”, såsom ras, kön, religion eller politik, bör tjänsten avstå från att engagera sig på ungefär samma sätt som en mänsklig pizzaserver skulle göra. Annars kan eventuella fördomar i botens algoritmer resultera i att den lär sig oönskade beteenden från kunden.

Resten av riktlinjerna fortsätter med liknande teman. Sammantaget betonar Microsoft att bots kan vara bra för samhället, om utvecklare förblir medvetna om de potentiella problemen. Organisationer måste vara uppmärksamma på sin användning av botar. Alla AI-drivna tjänster måste förbli fria från fördomar och respektera kulturella standarder.

”I allmänhet betonar riktlinjerna utvecklingen av konversations-AI som är ansvarsfull och pålitlig från början av designprocessen,” sa Lili Cheng, Microsoft Corporate Vice President för Conversational AI. ”De uppmuntrar företag och organisationer att stanna upp och tänka på hur deras bot kommer att användas och vidta de åtgärder som krävs för att förhindra missbruk. I slutändan handlar riktlinjerna om förtroende, för om människor inte litar på tekniken, de kommer inte att använda det.”

Du kan hitta hela listan med riktlinjer över Microsoft Researchs webbplats. Även om de inte är hårda regler, kapslar de in de grundläggande etiska standarderna att tänka på när man utvecklar bots. Microsoft publicerade riktlinjerna denna vecka tillsammans med en ny uppsättning AI-tekniker, inklusive en snabbstartsverktygslåda för utvecklare som skapar digitala assistenter.

WindoQ