microsoft tiene publicó un conjunto de directrices para ayudar a los desarrolladores a crear asistentes digitales «responsables». La adopción de interfaces conversacionales está creciendo en medio de rápidas mejoras en las tecnologías subyacentes. Sin embargo, la consideración de las preocupaciones éticas avanza a un ritmo más lento.
Microsoft dijo que las pautas tienen como objetivo recordar a los desarrolladores que sus productos pueden usarse de formas que no siempre pueden prever. Aunque el diseño ético siempre ha sido relevante para la industria de la tecnología, es particularmente importante en el caso de las interfaces conversacionales.
Microsoft usó el ejemplo de un bot que pide pizza. El servicio debe diseñarse para facilitar el pedido de pizza, con una susceptibilidad mínima a las distracciones del usuario. Si el usuario trata de discutir «temas delicados», como la raza, el género, la religión o la política, el servicio debe abstenerse de participar de la misma manera que lo haría un servidor de pizza humano. De lo contrario, cualquier sesgo en los algoritmos del bot podría hacer que aprenda comportamientos no deseados del cliente.
El resto de las pautas continúan con temas similares. En general, Microsoft enfatiza que los bots pueden ser buenos para la sociedad, si los desarrolladores son conscientes de los posibles problemas. Las organizaciones deben ser sinceras sobre el uso de bots. Cualquier servicio impulsado por IA debe permanecer libre de sesgos y respetuoso de los estándares culturales.
«En general, las pautas enfatizan el desarrollo de una IA conversacional que sea responsable y confiable desde el comienzo del proceso de diseño», dijo Lili Cheng, vicepresidente corporativo de IA conversacional de Microsoft. «Animan a las empresas y organizaciones a detenerse y pensar en cómo se usará su bot y a tomar las medidas necesarias para evitar el abuso. Al final del día, las pautas tienen que ver con la confianza, porque si las personas no confían en la tecnología, no lo van a usar».
Puede encontrar la lista completa de pautas en Sitio web de investigación de Microsoft. Aunque no son reglas estrictas, resumen los estándares éticos básicos que se deben tener en cuenta al desarrollar bots. Microsoft publicó las pautas esta semana junto con un nuevo conjunto de tecnologías de inteligencia artificial, incluido un conjunto de herramientas de inicio rápido para desarrolladores que crean asistentes digitales.
