Microsoft publikuje wytyczne dla programistów budujących asystentów cyfrowych

Jak

Microsoft ma wydała zestaw wytycznych aby pomóc programistom w tworzeniu „odpowiedzialnych” asystentów cyfrowych. Przyjęcie interfejsów konwersacyjnych rośnie wraz z szybkimi ulepszeniami podstawowych technologii. Jednak rozważanie kwestii etycznych postępuje wolniej.

Microsoft powiedział, że wytyczne mają na celu przypomnienie programistom, że ich produkty mogą być używane w sposób, którego nie zawsze mogą przewidzieć. Chociaż etyczne projektowanie zawsze było istotne w branży technologicznej, jest szczególnie ważne w przypadku interfejsów konwersacyjnych.

Microsoft posłużył się przykładem bota zamawiającego pizzę. Usługa powinna być zaprojektowana tak, aby ułatwić zamawianie pizzy, przy minimalnej podatności na rozpraszanie uwagi użytkownika. Jeśli użytkownik próbuje dyskutować o „drażliwych tematach”, takich jak rasa, płeć, religia lub polityka, usługa powinna powstrzymać się od angażowania się w taki sam sposób, jak robiłby to człowiek obsługujący pizzę. W przeciwnym razie wszelkie uprzedzenia w algorytmach bota mogą spowodować, że będzie on uczył się od klienta niepożądanych zachowań.

Pozostałe wytyczne są kontynuowane według podobnych tematów. Ogólnie rzecz biorąc, Microsoft podkreśla, że ​​boty mogą być dobre dla społeczeństwa, jeśli programiści będą pamiętać o potencjalnych problemach. Organizacje muszą otwarcie informować o korzystaniu z botów. Wszelkie usługi oparte na sztucznej inteligencji muszą pozostać wolne od uprzedzeń i szanować standardy kulturowe.

„Ogólnie rzecz biorąc, wytyczne kładą nacisk na rozwój konwersacyjnej sztucznej inteligencji, która jest odpowiedzialna i godna zaufania od samego początku procesu projektowania” – powiedział. Lili Cheng, wiceprezes firmy Microsoft ds. konwersacyjnej sztucznej inteligencji. „Zachęcają firmy i organizacje, aby zatrzymały się i zastanowiły, w jaki sposób ich bot będzie używany i podjęły niezbędne kroki, aby zapobiec nadużyciom. W ostatecznym rozrachunku wszystkie wytyczne dotyczą zaufania, ponieważ jeśli ludzie nie ufają technologii, nie będą go używać”.

Pełną listę wskazówek znajdziesz tutaj Witryna Microsoft Research. Chociaż nie są to twarde zasady, zawierają podstawowe standardy etyczne, które należy wziąć pod uwagę przy opracowywaniu botów. Microsoft opublikował w tym tygodniu wytyczne wraz z nowym zestawem technologii sztucznej inteligencji, w tym zestawem narzędzi szybkiego startu dla programistów tworzących asystentów cyfrowych.

WindoQ