Microsoft má vydala soubor pokynů pomoci vývojářům vybudovat „zodpovědné“ digitální asistenty. Přijímání konverzačních rozhraní roste s rychlým zlepšováním základních technologií. Zvažování etických problémů však postupuje pomaleji.
Microsoft uvedl, že tyto pokyny mají připomenout vývojářům, že jejich produkty mohou být používány způsoby, které nemohou vždy předvídat. Ačkoli etický design byl vždy relevantní pro technologický průmysl, je zvláště důležitý v případě konverzačních rozhraní.
Microsoft použil příklad robota pro objednávání pizzy. Služba by měla být navržena tak, aby usnadnila objednávání pizzy s minimální náchylností k rozptylování uživatelů. Pokud se uživatel pokouší diskutovat o „citlivých tématech“, jako je rasa, pohlaví, náboženství nebo politika, služba by se měla zdržet zapojení v podstatě stejným způsobem, jako by to dělal lidský server na pizzu. V opačném případě by jakékoli předsudky v algoritmech robota mohly vést k tomu, že se od zákazníka naučí nežádoucí chování.
Zbytek pokynů pokračuje na podobná témata. Celkově Microsoft zdůrazňuje, že roboti mohou být pro společnost prospěšní, pokud vývojáři zůstanou na paměti potenciálních problémů. Organizace musí být o používání robotů předem informovány. Jakékoli služby založené na umělé inteligenci musí zůstat bez předsudků a respektovat kulturní standardy.
„Obecně pokyny zdůrazňují vývoj konverzační umělé inteligence, která je odpovědná a důvěryhodná od samého začátku procesu návrhu,“ řekl Lili Cheng, viceprezident společnosti Microsoft pro konverzační umělou inteligenci. „Povzbuzují společnosti a organizace, aby se zastavily a přemýšlely o tom, jak bude jejich robot používán, a podnikly kroky nezbytné k tomu, aby zabránily zneužití. Na konci dne jsou všechny pokyny o důvěře, protože pokud lidé nevěří technologii, nebudou to používat.“
Úplný seznam pokynů naleznete níže Web společnosti Microsoft Research. Ačkoli to nejsou tvrdá pravidla, obsahují základní etické standardy, které je třeba vzít v úvahu při vývoji botů. Microsoft tento týden zveřejnil pokyny spolu s novou sadou technologií AI, včetně sady nástrojů pro rychlý start pro vývojáře vytvářející digitální asistenty.
