Jak inteligentní reproduktorové AI, jako je Alexa a Siri, posilují genderovou zaujatost
UNESCO vyzývá technologické firmy, aby nabízely genderově neutrální verze svých hlasových asistentů
Apple HomePod je poháněn hlasovým asistentem Siri
Justin Sullivan/Getty Images
Inteligentní reproduktory poháněné hlasovými asistenty umělé inteligence (AI), které znějí jako ženy, podle nové zprávy OSN posilují genderovou zaujatost.
Výzkum Unesco (Organizace OSN pro výchovu, vědu a kulturu) zjistil, že asistenti umělé inteligence, jako je Alexa od Amazonu a Siri od Applu, udržují myšlenku, že ženy by měly být podřízené a tolerantní ke špatnému zacházení, protože systémy jsou ochotné a dychtivé potěšit, The Daily Telegraph zprávy.
Zpráva nazvaná Zčervenal bych, kdybych mohl, v odkazu na frázi pronesenou Siri po sexuálním komentáři – uvádí, že technologické společnosti, které standardně dělají své hlasové asistentky ženami, naznačují, že ženy jsou poslušné pomocnice, které mohou být dostupné na dotek. tlačítka, dodávají noviny.
Agentura také obviňuje technologické společnosti, že nedokázaly zabudovat řádná ochranná opatření proti nepřátelskému, urážlivému a genderovému jazyku. The Verge .
Namísto toho většina AI reaguje na agresivní komentáře lstivým vtipem, poznamenává web technických zpráv. Když vás Siri požádá, aby udělal například sendvič, řekne: Nemůžu. nemám žádné koření.
Společnosti jako Apple a Amazon, ve kterých pracují převážně mužské inženýrské týmy, vytvořily systémy umělé inteligence, díky nimž jejich feminizované digitální asistentky vítají slovní napadání flirtováním typu „chyť mě, když to dokážeš“, uvádí zpráva UNESCO.
Co zjistil další výzkum?
Zpráva UNESCO cituje řadu studií, včetně výzkumu americké technologické firmy Robin Labs, který naznačuje, že nejméně 5 % interakcí s hlasovými asistenty je jednoznačně sexuálně explicitních.
A společnost, která vyvíjí digitální asistenty, se domnívá, že toto číslo bude pravděpodobně mnohem vyšší kvůli potížím s detekcí sexuálně sugestivní řeči. Opatrovník zprávy.
Agentura OSN také poukazuje na studii výzkumné firmy Gartner, která předpovídá, že lidé budou mít do roku 2020 více konverzací s hlasovým asistentem ve svém chytrém reproduktoru než jejich manželé.
Hlasoví asistenti již zvládají odhadem jednu miliardu úkolů měsíčně, od přehrávání písniček až po kontaktování tísňových služeb.
Ačkoli některé systémy umožňují uživatelům změnit pohlaví jejich hlasového asistenta, většina z nich ve výchozím nastavení aktivuje zjevně ženské hlasy BBC zprávy.
Zpráva UNESCO dochází k závěru, že tato zjevná genderová zaujatost vyžaduje naléhavou pozornost.
Jak by mohly technologické společnosti tento problém řešit?
UNESCO tvrdí, že firmy by měly mít povinnost přimět své hlasové asistenty, aby při interakci s lidmi oznamovali, že nejsou lidé. The Sunday Times .
Agentura také navrhuje, aby uživatelé měli možnost vybrat si pohlaví svého hlasového asistenta, když dostanou nové zařízení, a že by měla být k dispozici genderově neutrální možnost, dodávají noviny.
Kromě toho by technické firmy měly naprogramovat hlasové asistenty, aby odsuzovali verbální napadání nebo sexuální obtěžování odpověďmi typu ne nebo to není vhodné, říká Unesco.
Technické společnosti zatím na studii nereagovaly.
