Microsoft ha ha pubblicato una serie di linee guida per aiutare gli sviluppatori a creare assistenti digitali “responsabili”. L’adozione di interfacce conversazionali sta crescendo in mezzo a rapidi miglioramenti nelle tecnologie sottostanti. Tuttavia, la considerazione delle preoccupazioni etiche procede a un ritmo più lento.
Microsoft ha affermato che le linee guida hanno lo scopo di ricordare agli sviluppatori che i loro prodotti possono essere utilizzati in modi che non possono sempre prevedere. Sebbene il design etico sia sempre stato rilevante per l’industria tecnologica, è particolarmente importante nel caso delle interfacce conversazionali.
Microsoft ha utilizzato l’esempio di un robot per ordinare la pizza. Il servizio dovrebbe essere concepito in modo da facilitare l’ordinazione della pizza, con una minima suscettibilità alle distrazioni dell’utente. Se l’utente cerca di discutere di “argomenti sensibili”, come razza, genere, religione o politica, il servizio dovrebbe astenersi dall’impegnarsi più o meno allo stesso modo di un pizzaiolo umano. In caso contrario, eventuali pregiudizi negli algoritmi del bot potrebbero comportare l’apprendimento di comportamenti indesiderati dal cliente.
Il resto delle linee guida prosegue su temi simili. Nel complesso, Microsoft sottolinea che i bot possono essere utili per la società, se gli sviluppatori rimangono consapevoli dei potenziali problemi. Le organizzazioni devono essere in anticipo sull’uso dei bot. Qualsiasi servizio basato sull’intelligenza artificiale deve rimanere privo di pregiudizi e rispettoso degli standard culturali.
“In generale, le linee guida enfatizzano lo sviluppo di un’IA conversazionale che sia responsabile e affidabile fin dall’inizio del processo di progettazione”, ha affermato Lili Cheng, Microsoft Corporate Vice President dell’IA conversazionale. “Incoraggiano le aziende e le organizzazioni a fermarsi e pensare a come verrà utilizzato il loro bot e ad adottare le misure necessarie per prevenire gli abusi. Alla fine, le linee guida riguardano la fiducia, perché se le persone non si fidano della tecnologia, non lo useranno”.
Puoi trovare l’elenco completo delle linee guida su Il sito web di Microsoft Research. Sebbene non siano regole rigide, incapsulano gli standard etici di base da considerare quando si sviluppano i bot. Microsoft ha pubblicato le linee guida questa settimana insieme a una nuova serie di tecnologie di intelligenza artificiale, incluso un toolkit di avvio rapido per gli sviluppatori che creano assistenti digitali.
