Microsoft publica diretrizes para desenvolvedores que criam assistentes digitais

Como

A Microsoft tem lançou um conjunto de orientações para ajudar os desenvolvedores a construir assistentes digitais “responsáveis”. A adoção de interfaces de conversação está crescendo em meio a rápidas melhorias nas tecnologias subjacentes. No entanto, a consideração das preocupações éticas está se movendo em um ritmo mais lento.

A Microsoft disse que as diretrizes visam lembrar os desenvolvedores de que seus produtos podem ser usados ​​de maneiras que nem sempre podem prever. Embora o design ético sempre tenha sido relevante para a indústria de tecnologia, é particularmente importante no caso de interfaces conversacionais.

A Microsoft usou o exemplo de um bot de pedidos de pizza. O serviço deve ser projetado para facilitar o pedido de pizza, com suscetibilidade mínima às distrações do usuário. Se o usuário tentar discutir “tópicos sensíveis”, como raça, gênero, religião ou política, o serviço deve se abster de se envolver da mesma maneira que um servidor de pizza humano faria. Caso contrário, quaisquer desvios nos algoritmos do bot podem resultar no aprendizado de comportamentos indesejados do cliente.

O restante das diretrizes continua com temas semelhantes. No geral, a Microsoft enfatiza que os bots podem ser bons para a sociedade, se os desenvolvedores permanecerem atentos aos possíveis problemas. As organizações devem ser diretas sobre o uso de bots. Quaisquer serviços baseados em IA devem permanecer livres de preconceitos e respeitar os padrões culturais.

“Em geral, as diretrizes enfatizam o desenvolvimento de IA conversacional que seja responsável e confiável desde o início do processo de design”, disse Lili Cheng, vice-presidente corporativo de IA de conversação da Microsoft. “Eles incentivam empresas e organizações a parar e pensar em como seu bot será usado e tomar as medidas necessárias para evitar abusos. eles não vão usá-lo.”

Você pode encontrar a lista completa de diretrizes em Site da Microsoft Research. Embora não sejam regras rígidas, elas encapsulam os padrões éticos básicos a serem considerados ao desenvolver bots. A Microsoft publicou as diretrizes esta semana juntamente com um novo conjunto de tecnologias de IA, incluindo um kit de ferramentas de início rápido para desenvolvedores que criam assistentes digitais.

WindoQ