A discourse analysis of interactions with Alexa virtual assistant showing reproductions of gender bias

Christiane Burle de Oliveira; Marilia Abrahão Amaral

doi:10.25145/j.clepsydra.2022.23.03

Christiane Burle de Oliveira
Marilia Abrahão Amaral

DOI: https://doi.org/10.25145/j.clepsydra.2022.23.03

Palabras clave: CTS, IHC, género, inteligencia artificial, análisis del discurso

Resumen

Los asistentes virtuales están en todas partes y la mayoría de estos artefactos vienen por patrón con nombre y voz femeninos. Este artículo hace referencia a estudios de Ciencia, Tecnología y Sociedad (CTS) para analizar la reproducción del sesgo de género en el discurso del asistente Alexa, haciendo uso del método de Análisis del Discurso francés. Con la interacción con Alexa y la comparación de sus respuestas con las encontradas en encuestas anteriores, se identifican las formaciones discursivas e ideológicas en dicho discurso, para encontrar patrones estereotipados. Al trabajar la identificación de sesgos de género abordando la Interacción Humano-Computadora, este estudio presenta cómo la cultura patriarcal cargada de prejuicios se presenta en mediación con la tecnología. Al analizar las respuestas del asistente a las interacciones, se puede desarrollar una conciencia para una estrategia de soluciones tecnológicas que ajusten esta experiencia y creen un diseño menos dañino y más inclusivo.

Citas

Appel, Ana. “Por que mais mulheres precisam trabalhar com inteligência artificial?” Computer World, December 24th, 2019. (https://computerworld.com.br/inovacao/por-que-mais-mul-heres-precisam-trabalhar-com-inteligencia-artificial/).

Baber, Chris and Noves, J. “Developing interactive speech technology.” Taylor & Francis, Inc. 2013. (https://doi.org/10.1201/9781482272512).

Bardzell, Shaowen. “Utopias of Participation: Feminism, Design, and the Futures.” ACM Transac-tions on Computer-Human Interaction. February 2018. (https://doi.org /10.1145/3127359).

Bardzell, Shaowen. “Panel: Extending Conversations about Gender and HCI.” CHI 2018 Panel & Roundtable Discussion. April 2018. (https://doi.org /10.1145/3170427.3186325).

Bellini, Rosanna, Strohmayer, Angelika, Alabdulqader, Ebtisam, Ahmed, Alex A., Spiel, Katta, Bardzell, Shaowen and Balaam, Madeline. “Feminist HCI: Taking Stock, Moving Forward, and Engaging Community.” Extended Abstracts of the 2018 CHI Conference on Human Factors in Computing Systems. April 2018. (https://doi.org /10.1145/3170427.3185370).

Butler, Judith. “Performative Acts and Gender Constitution: An Essay in Phenomenology and Feminist Theory.” Theatre Journal.40 (4), 1988.

Cárdenas, Micha. “The Android Goddess Declaration: After Man(ifestos).” In: Losh, Elizabeth; Wernimont, Jacqueline. Bodies of Information: Intersectional Feminism and the Digital Humanities. Series: Debates in the Digital Humanities. University of Minnesota Press, 2018. (https://doi.org/10.5749/j.ctv9hj9r9).

Chin, Caitlin; Robison, Mishaela. “How AI Bots and Voice Assistants Reinforce Gender Bias.” Brookings, 2020. (https://www.brookings.edu/research/how-ai-bots-and-voice-assistants-reinforce-gender-bias).

Costa, Claudia de Lima. “O leito de procusto: gênero, linguagem e as teorias feministas.” Cader-nos Pagu, Campinas-SP, 1994. (https://periodicos.sbu.unicamp.br/ojs/index.php/cadpagu/article/view/1715).

Costa, Pedro Carvalho Ferreira da. “Conversations with ELIZA: sobre género e inteligência artificial.” Dissertação de Mestrado em Design de Comunicação e Novos Media-Universidade de Lisboa, Portugal, 2018. (https://repositorio.ul.pt/handle/10451/37542).

Dionísio, Renan. “Robô ensina como outras ’máquinas’ espalham machismo e outros preconceitos.” UOL, June 9th, 2019. (https://www.uol.com.br/tilt/noticias/redacao/2019/06/09/esse-ro-bo-ensina-como-outros-robos-viram-maquinas-de-propagar-preconceito.htm).

Feenberg, Andrew. “What Is Philosophy of Technology?” In: Dakers J.R. (eds) Defining Technological Literacy. Palgrave Macmillan, New York, 2006. (https://doi.org/10.1057/9781403983053_ 2).

Feenberg, Andrew. “Ten Paradoxes of Technology.” Technē, v. 14, n. 1, pp. 3-15, 2010. (https://www.sfu.ca/~andrewf/paradoxes.pdf).

Fessler, Leah. “Siri, Define Patriarchy: We tested bots like Siri and Alexa to see who would stand up to sexual harassment.” The Atlantic. February 22nd, 2017. (https://qz.com/911681/we-tes-ted-apples-siri-amazon-echos-alexa-microsofts-cortana-andgoogles-google-home-to-see-which-personal-assistant-bots-stand-up-for-themselves-in-theface-of-sexual-harassment/).

Fessler, Leah. “Amazon’s Alexa is now a feminist, and she’s sorry if that upsets you.” Quartz at Work. January 17th, 2018. (https://qz.com/work/1180607/amazons-alexa-is-now-a-femi-nist-and-shes-sorry-if-that-upsets-you/). Fioretti, Livia. “Por que a tecnologia tem voz de mulher (e por que isso importa)?” O Futuro das Coisas. August 29th, 2018. (https://ofuturodascoisas.com/porque-a-tecnologia-tem-voz-de-mulher-e-porque-isso-importa/).

Freire, Sérgio. “Análise do Discurso: Procedimentos Metodológicos.” Instituto Census, 1ª edição. October 22nd, 2014.

Gabriel, Martha. “Você, Eu e os Robôs: pequeno manual do mundo digital.” 3ª Reimpressão. São Paulo: Editora Atlas, 2019.

Hall, Stuart. “Quem precisa da identidade?” In. Silva, Tomaz Tadeu da (org.). Identidade e diferença: a perspectiva dos estudos culturais. Petrópolis: Vozes, 2000.

Knote, Robin, Söllner, Matthias and Leimester, Jan Marco. “Towards a Pattern Language for Smart Personal Assistants.” 25th Conference on Pattern Languages of Programs (PLoP). Portland, OR, USA, October 2018.

Lima, Nana. “Siri, por que as IAs são machistas?” LinkedIn Pulse. August 21st, 2019. (https://pt.linke-din.com/pulse/siri-por-que-ias-s%C3%A3o-machistas-nana-lima).

Linsingen, Irlan von, Bazzo, Walter A. and Pereira, Luiz T.V. (editors). “Introdução aos estudos CTS: ciência, tecnologia e sociedade.” Cadernos de Ibero-América. Espanha: OEI, 2003.

Loideain, Nora Ni and Adams, Rachel. “From Alexa to Siri and the GDPR: The gendering of Virtual Personal Assistants and the role of Data Protection Impact Assessments.” Computer Law & Security Review - Volume 36, April 2020. (http://d x.doi.org/10.1016/j.clsr.2019.105366).

Lupton, Ellen. “Mechanical Brides: Women and Machines from Home to Office.” Princeton Archi-tectural Press and Cooper Hewitt, Smithsonian Design Museum, 1993.

Meneghetti, Ana Paula. “GAP de gênero na tecnologia.” Istoé Dinheiro. July 5th, 2019. (https://www.istoedinheiro.com.br/gap-de-genero).

Menotti, Gabriel. “Inteligência artificial, racismo e misoginia na automatização da visão.” Zum: Revista de Fotografia. July 12th, 2019. (https://revistazum.com.br/radar/inteligencia-ar-tificial-racismo).

Montgomery, Martin and Allan, Stuart. “Ideology, Discourse, and Cultural Studies: The Contribution of Michel Pêcheux.” Canadian Journal of Communication, University of Strathclyde. Vol. 17 No. 2, 1992. (https://doi.org/10.22230/cjc.1992v17n2a661).

New Voice Agency. “Google Assistente é o melhor para responder perguntas, diz estudo.” Sep-tember 2nd, 2020. (https://newvoice.ai/2020/09/02/google-assistente-e-o-melhor-para-re-sponder-perguntas-diz-estudo).

Orlandi, Eni P. “Michel Pêcheux e a Análise de Discurso (Michel Pêcheux et l’Analyse de Dis-cours).” Estudos da Língua(gem), [S. l.], v. 1, n. 1, pp. 9-13, 2005. (https://periodicos2.uesb.br/index.php/estudosdalinguagem/article/view/973).

Parramore, Lynn Stuart. “Female digital assistants like Siri hurt women. But Silicon Valley doesn’t care.” EuroNews. February 20, 2019. (https://www.euronews.com/2019/02/20/female-dig-ital-assistants-alexa-siri-remain-popular-silicon-valley-it-ncna973296).

Pedreira, Patrick. “Quando as tecnologias herdam a pior face dos humanos: o preconceito.” Linke-dIn Pulse. October 10th, 2018. (https://www.linkedin.com/pulse/quando-tecnologias-her-dam-pior-face-dos-humanos-o-patrick-pedreira/).

Prentice, Deborah A. and Carranza, Erica. “What Women and Men Should Be, Shouldn’t Be, Are Allowed to Be, and Don’t Have to Be: The Contents of Prescriptive Gender Stereo y pes.” Psychology of Women Quarterly:269-281, 2002. (ht t ps://doi.or g /10.1111/1471- 6 4 02 .t01-1-00066).

Renesse, Ronan De. “Ovum: Virtual digital assistants approaching ’exponential uptake’.” August 2nd, 2017. (https://www.iotworldtoday.com/2017/08/02/ovum-virtual-digital-assistants-ap-proaching-exponential-uptake/).

Rode, Jennifer A. e Poole, Erika Shehan. “Putting the gender back in digital housekeeping.” Proceedings of the 4th Conference on Gender & IT. May, 2018. (https://doi.org/10.1145/ 3196839.31968 45).

Santos, Luiza. “Máquinas que falam (e escutam): as formas de agência e de interação das/com as assistentes pessoais digitais.” Tese de doutorado em Comunicação da Universidade Fed-eral do Rio Grande do Sul, 2020.

Santos, Marinês Ribeiro dos. “Gênero e cultura material: a dimensão política dos artefatos cotidianos.” Revista Estudos Feministas. Florianópolis, 26(1): e37361, Jan-Apr/2018. (https://peri-odicos.ufsc.br/index.php/ref/article/view/37361/36310).

Sardenberg, Cecilia Maria Bacelar. “Da Crítica Feminista à Ciência a uma Ciência Feminista?” NEIM, UFBA, 2007. (https://repositorio.uf ba.br/ri/handle/ri/6875).

Siqueira, Vinícius. “Formação discursiva em Foucault e Pêcheux: diferenças e semelhanças.” July 13th, 2020. (https://colunastortas.com.br/formacao-discursiva-em-foucault-e-pecheux-dif-erencas-e-semelhancas/#4).

Souza Filho, Marinho Celestino and Barba, Clarides Henrich. “Análise do Discurso: O que é? Como se faz? Para quê serve?” March 6th, 2014. (http://www.gestaouniversitaria.com.br/artigos/analise-do-discurso-o-que-e-como-se-faz-e-para-que-serve).

Strengers, Yolande and Kennedy, Jenny. “The Smart Wife - Why Siri, Alexa, and Other Smart Home Devices Need a Feminist Reboot.” MIT Press, 2020.

Sun, Tony, Gaut, Andrew, Tang, Shirlyn, Huang, Yuxin, Elsherief, Mai, Zhao, Jieyu, Mirza, Diba, Belding, Elizabeth, Chang, Kai-Wei and Wa ng, William Yang. “Mitigating Gender Bias in Natural Language Processing: Literature Review.” Italy: Association for Com-putational Linguistics, 2019. (https://www.aclweb.org/anthology/P19-1159/).

THOMAS, Hernán. “Tecnologias para Inclusão Social e Políticas Públicas na América Latina.” In: Aldalice Otterloo et al. Tecnologias Sociais: Caminhos para a sustentabilidade. Brasília, 2009.

UNESCO. #Hey,UpdateMyVoice. Campaign launched after the 2019 report “I’d blush if I could: closing gender divides in digital skills through education.” (https://heyupdatemyvoice.org/pt/).

Varsavsky, Oscar. “Ciencia, Política y Cientificismo.” Centro Editor de América Latina, 1969.

Winner, Langdon. “Do Artifacts Have Politics?” Daedalus, vol. 109, no. 1, 1980. JSTOR. (https://w w w.jstor.org/stable/20024652).

Woodward, Kathryn. “Identidade e diferença: uma introdução teórica e conceitual.” In. SILVA, Tomaz Tadeu da (org.). Identidade e diferença: a perspectiva dos estudos culturais. Petrópo-lis: Vozes, 2000.

Wulf, Volker. “Gender-perspectives in practice-based computing. Association for Computing Machinery.” New York, May 2018. (https://doi.org/10.1145/3196839.3196880 and https://www.youtube.com/watch?v=0YZMjWYBDSg).