DISCRIMINAÇÃO ALGORÍTMICA E A RESPONSABILIDADE EMPRESARIAL E INDIVIDUAL EM SUA MITIGAÇÃO:

O PAPEL DAS DIRETRIZES ESG, COMPLIANCE E AGENDA 2030 DA ONU

Autores/as

  • Rayza Ribeiro Oliveira Universidade Tiradentes
  • Danila Leite Almeida de Sá Fundação Universitária Iberoamericana - FUNIBER
  • Stephanny Resende de Melo Universidade Tiradentes

Palabras clave:

Agenda 2030, Algoritmos, Compliance, discriminação algorítmica, ESG

Resumen

Este artigo busca abordar a temática da discriminação algorítmica decorrente da sub-representação dos dados de referências dos algoritmos diante de vieses discriminatórios de raça, gênero, classe social e outros, no contexto das transformações digitais apresentadas nos tempos atuais. O artigo propõe-se a destacar a necessária mitigação da incidência da discriminação algorítmica a partir da compreensão do papel das diretrizes ESG, em ascensão no Brasil, da compliance e da responsabilidade empresarial e individual, conforme alinhamento com a Agenda 2030 da ONU. Desta feita, parte-se da definição de algoritmos e de discriminação algorítmica diante dos vieses discriminatórios para, em seguida, apresentar a necessária mudança de comportamento acerca das discriminações enraizadas na sociedade e introjetadas no meio digital; perpassando para o destaque das diretrizes ESG e do compliance no sentido de aprimoramento da governança corporativa, culminando na perspectiva de necessidade de envolvimento amplo dos stakeholders na responsabilidade de mitigação de discriminações, alinhada aos Objetivos de Desenvolvimento Sustentável da ONU. A metodologia apresenta uma pesquisa de abordagem qualitativa, de natureza básica, com procedimentos bibliográfico e documental, a partir de seleção de livros e textos científico-acadêmicos em bases de dados, tais como Google Acadêmico e Scielo, mediante descritores como “discriminação algorítmica”, “vieses discriminatórios em algoritmos”, “ESG e algoritmos”, “ESG e compliance” e “Agenda 2030 e responsabilidade social”.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Rayza Ribeiro Oliveira, Universidade Tiradentes

Doutoranda e Mestra, com bolsa CAPES, pelo Programa de Pós-Graduação em Direitos Humanos da Universidade Tiradentes – SE. Especialista em Direito Urbanístico e Ambiental pela Pontifícia Universidade Católica de Minas Gerais (PUC/MG). Graduada em Direito pela Universidade Tiradentes (UNIT). Docente licenciada do Curso de Direito do Centro Universitário Estácio de Sergipe. Advogada. Idealizadora do Curso Stricto Sensu. Coordenadora do Grupo de Estudos em Direitos Humanos, Ambiente e Sustentabilidade (GEDHAS) e pesquisadora da linha "Direitos Humanos, Ambiente e Sustentabilidade" do Grupo de Pesquisa "Direitos Fundamentais, Novos Direitos e Evolução Social" e do Grupo de Pesquisa "Direito, Políticas Públicas e Inovação".

Danila Leite Almeida de Sá, Fundação Universitária Iberoamericana - FUNIBER

Advogada. Especialista em Direito Civil e Processo Civil. Mestranda em Direito e Negócios Internacionais pela Universidad Europea Del Atlántico. Sócia Júnior do Escritório Lisbôa Prado, Pereira & Lima Advocacia. Associada do Instituto Brasileiro do Direito das Famílias - IBDFAM e Membro da Comissão de Família e Tecnologia – IBDFAMTEC. Professora Colaboradora Voluntária da Universidade Federal de Sergipe – UFS.

Stephanny Resende de Melo, Universidade Tiradentes

Mestra pelo Programa de Pós-Graduação em Direitos Humanos da Universidade Tiradentes – SE. Especialista em Direito Penal e Processo Penal pela EBRADI. Especialista em Direito Internacional pelo Instituto Damásio de Direito. Graduada em Direito pelo Centro Universitário Estácio de Sergipe. Integrante do Grupo de Pesquisa em Direitos Fundamentais, Novos Direitos e Evolução Social (dgp.cnpq.br/dgp/espelhogrupo/7004133565949592), com linha de pesquisa em Fraternidade e Novas Tecnologias Coordenadora Adjunta do IBCCRIM/SE Idealizadora do curso de Direito e Prática Jurídica, Stricto Sensu. Advogada.

Citas

ALMEIDA, Silvio. Racismo estrutural. Coleção Feminismos Plurais. São Paulo: Pólen, 2019.

ALMEIDA, Virgilio A. F.; DONEDA, Danilo. O que é a governança dos algoritmos? In: BRUNO, Fernanda; CARDOSO, Bruno; KANASHIRO, Marta; GUILHON, Luciana; MELGACO, Lucas (Org.). Tecnopolíticas de vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.

ALPAYDIN, Ethem. Machine Learning: The New Al. Cambridge, MA: The MIT Press, 2016.

BANDINI, Adriano. Neurociência. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.

BHARGAVA, Aditya Y. Entendendo algoritmos: um guia ilustrativo para programadores e outros curiosos. Tradução de BrodTec. São Paulo: Novatec, 2017.

BRASIL. MDS. Transformando Nosso Mundo: A Agenda 2030 para o Desenvolvimento Sustentável. 2015. Disponível em: https://www.mds.gov.br/webarquivos/publicacao/Brasil_Amigo_Pesso_Idosa/Agenda2030.pdf. Acesso em: 28 out. 2023.

BUGHIN, Jacques; HAZAN, Eric. The new spring of artificial intelligence: a few carly economies. VoxEu, 2017. Disponível em: https://cepr.org/voxeu/columns/new-spring-artificial-intelligence-few-early-economies. Acesso em: 16 out. 2023.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR, n. 81, p. 77-91. 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 20 out. 2023.

CARRERA, Fernanda. Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: LiteraRua, 2020.

CARVALHO, Larisse Santos Cabral de Oliveira; NICODEMO, Leonardo Pivotto. Manual de boas práticas em compliance ESG: estratégias para a sustentabilidade na cadeia de valor da energia eólica. 1 ed. Parnamirim: Ed. da autora, 2022.

CORREA, Bianca Kremer Nogueira. Direito e tecnologia em perspectiva amefricana: autonomia, algoritmos e vieses raciais. 2021. Tese (Doutorado em Direito) – Pontifícia Universidade Católica (PUC), Rio de Janeiro, 2021. pág.191. Disponível em: https://www.maxwell.vrac.puc-rio.br/58993/58993.PDF. Acesso em: 19 out. 2023.

CURZIO, Paulo Henrique. Caminhos para a equidade LGBTQIAP+ nas empresas. p. 187-192. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.

DA SILVA, Nilton Correia. Inteligência Artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reutters Brasil, 2019.

DATATYLSINET. Artificial intelligence and privacy report. The Norwegian Data Protection Authority, 2018. Disponível em: https://www.datatilsynet.no/globalassets/global/english/ai-and-privacy.pdf. Acesso em: 29 out. 2023.

FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e Inteligência Artificial: em defesa do humano. Belo Horizonte: Fórum, 2020.

GABRIEL, Martha. Inteligência artificial: do zero ao metaverso. 1 ed. 2 reimp. Barueri: Atlas, 2024.

KAUFMAN, Dora. Desmistificando a inteligência artificial. Belo Horizonte, Autentica, 2022.

KÖLLING, Gabrielle Jacobi; ANDRADE, Gernardes Silva; PEIXOTO, Mayra Rody. ESG: Empreendorismo Sustentável e as perspectivas da indústria 4.0 no agronegócio. Revista DNS – Direito, Negócios & Sociedade, Santo André, vol. 2, n. 3, p. 20-31, jan/jul, 2022. Disponível em: https://portalderevistas.esags.edu.br/index.php/DNS/article/view/37. Acesso em: 28 out. 2023.

LEC. Legal, Ethics, Compliance. A evolução do ESG e o papel do compliance. 10 ago. 2021. Disponível em: https://lec.com.br/a-evolucao-do-esg-e-o-papel-do-compliance-2/. Acesso em: 30 out. 2023.

LESLIE, David. Understanding bias in facial recognition technologies: an explainer. The Alan Turing Institute, 2020. Disponível em: https://arxiv.org/ftp/arxiv/papers/2010/2010.07023.pdf. Acesso em: 28 out. 2023.

MULHOLLAND, Cailtin. Responsabilidade civil e processos decisórios autônomos. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. São Paulo: Ed. Revista dos Tribunais, 2020.

O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Trad. Rafael Abraham. 1. ed. Santo André: Rua do Sabão, 2020.

OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017.

PIRES, Thula. Por um constitucionalismo ladino amefricano. In: Decolonialidade e pensamento afrodiasporico. BERNARDINO-COSTA, Joaze; MALDONADOTORRES, Nelson; GROSFOGUEL, Ramon. (Org.) Belo Horizonte: Autentica Editora, 2018.

RIBEIRO, Djamila. Pequeno manual antirracista. 1 ed. São Paulo: Companhia das Letras, 2019.

SALES, Ricardo. Diversidade nas organizações: conceitos e histórico. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, p. 11-15, 2022.

SCHMIDT, Eric; HUTTENLOCHER, Daniel; KISSINGER, Henry A. A era da IA e nosso futuro como humanos. Tradução de Vanessa Schreiner. Rio de Janeiro: Atla Books, 2023.

SILVA, Tarcízio. Linha do Tempo do Racismo Algorítmico. Blog do Tarcízio Silva, 2019. Disponível em: https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo. Acesso em: 28 out. 2023.

SILVA, Tarcízio. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: Litera Rua, 2020.

WALKER, Joshua. On legal AI: um rápido tratado sobre a inteligência artificial no direito. WALKER, Joshua; COELHO, Alexandre Zavaglia Pereira; FEFERBAUM, Marina; DA SILVA, Alexandre Pacheco (cord.). São Paulo: Thomson Reuters Brasil, 2021.

YAMASAKI, Beatriz Maximo; SCATOLIN, Carolina Lanzini. ESG e Compliance: benefícios de sua aplicação nas pequenas e médias empresas. J2 – Jornal Jurídico, vol. 6, n.2, p. 79-88, 2023. Disponível em: https://revistas.ponteditora.org/index.php/j2/article/view/776. Acesso em: 30 out. 2023.

Publicado

2024-01-22

Cómo citar

Ribeiro Oliveira, R., Leite Almeida de Sá, D., & Resende de Melo, S. (2024). DISCRIMINAÇÃO ALGORÍTMICA E A RESPONSABILIDADE EMPRESARIAL E INDIVIDUAL EM SUA MITIGAÇÃO:: O PAPEL DAS DIRETRIZES ESG, COMPLIANCE E AGENDA 2030 DA ONU. Revista Eletrônica Direito & TI, 1(17), 80–97. Recuperado a partir de https://www.direitoeti.com.br/direitoeti/article/view/180