Racismo algorítmico
vieses sociais e ética na Inteligência Artificial
DOI:
https://doi.org/10.47385/simpdir.2024.1638Palavras-chave:
Racismo Algorítmico, Inseminação Artificial, Decisões automatizadas, ética algorítmicaResumo
A ampla utilização de sistemas inteligentes para tomada de decisões públicas e privadas será demonstrada na pesquisa, com base nas questões sensíveis que se apresentam a partir destes usos. Existe uma evidente e crescente preocupação com a relação entre o comportamento dos algorítmicos e a discriminação crescente em aspetos sociais, com base nesta relação, este trabalho traz como objetivo investigar e compreender as complexidades inerentes à discriminação algorítmica, através de casos concretos, evidenciando os desafios е demonstrando perspectivas críticas para mitigar seus efeitos negativos. A discriminação algorítmica pode ser demonstrada no aspecto racial, se caracterizando como racismo algorítmico. Por vezes, essa discriminação algorítmica ocorre a partir da incorporação de vieses sociais pela máquina. Por isso, a preocupação ética se concentra no âmbito do desenvolvimento de sistemas inteligentes, principalmente, em três momentos: na elaboração/arquitetura do sistema, no tratamento e inserção dos dados e na interpretação dos resultados pelo ser humano. O método de pesquisa utilizado será o indutivo com estudos de casos apoiado em revisão bibliográfica.
Referências
FANON, Frantz. Black skin, white masks. In: Social Theory Re-wired. Abington: Routledge, 2016. P. 391-401.
FRAZÃO, ANA. Discriminação algorítmica: Compreendendo o que são os julgamentos algorítmicos e os eu alcance na atualidade. JOTA, 2021. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa- e%20mercado/discriminacao-algoritmica-16062021>. Acesso em 15 de jun. de 2022.
KREMER, Bianca; NUNES, Pablo; LIMA, Thallita G. Racismo Algorítmico. Rio de Janeiro: CESeC, 2023. Disponível em: . Acesso em 17 de jan. de 2024.
LUCCHESE, Bette. Rj e União farão ação integrada e usarão drones e câmeras de reconhecimento facial na Maré, sem ocupação: Homens da PM e da força de segurança nacional irão ocupar os principais acessos e a Marinha ficará com a Baía de Guanabara, que permeia um dos lados do complexo. Globo, 2023. Disponível em: <https://g1.globo.com/rj/rio-de- janeiro/noticia/2023/09/28/acao-integrada-de-seguranca-entre-o-rj-e-a-uniao-vai-usar- tecnologia-de-reconhecimento-facial-na-mare.ghtml>. Acesso em 5 de out. de 2023.
NOBLE, Safiya Umoja. Algoritmos da Opressão: como o Google fomenta e lucra com o racismo. Trad. Felipe Damorim. Santo André: Editora Rua do Sabão, 2021.
NUNES, Pablo; SILVA, Mariah Rafaela; OLIVEIRA, Samuel R. de. Um Rio de olhos seletivos [livro eletrônico]: uso de reconhecimento facial pela polícia fluminense. Rio de Janeiro: CESeC, 2022. Disponível em: https://opanoptico.com.br/wp- content/uploads/2022/05/PANOPT_riodecameras_mar22_0404b.pdf>. Acesso em 5 de out. de 2023;
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Rafael Abraham. 1ª edição. Santo André, SP: Editora Rua do Sabão, 2020.
PRETALAB; THOUGHTWORKS. QuemCodaBR. Pretalab, 2019. Disponível em:<https://assets-global.website- files.com/5b05e2e1bfcfaa4f92e2ac3a/5d671881e1161a6d2b8eb78b_Pesquisa%20QuemCoda BR.pdf>. Acesso em 23 de set. de 2023.
UNITED STATES. Blueprint for an AI Bill of Rights: making automated systems work for the American people. The White House, 2022. Disponível em: . Acesso em 15 de Janeiro. de 2024.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Simpósio de Pesquisa em Direito
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Os nomes e endereços informados nesta revista serão usados exclusivamente para os serviços prestados por esta publicação, não sendo disponibilizados para outras finalidades ou a terceiros.
O AUTOR cede e transfere gratuitamente, em caráter irrevogável e irretratável ao UniFOA, todos os direitos autorais relativos ao texto (Resumo) acima intitulado, tudo em conformidade com a Lei n. 9610/98.
O AUTOR desde já, declara que o texto cedido é de sua exclusiva autoria, assumindo total responsabilidade civil e penal, quanto aos argumentos, citações e referências que fazem parte de seu conteúdo, bem como, por eventuais questionamentos judiciais ou extrajudiciais em decorrência de sua divulgação, devendo concordar inequivocamente com a exclusão do UniFOA do polo passivo de qualquer demanda.
A organização do evento fica autorizada a utilizar o texto, sob qualquer forma e por quaisquer meios de reprodução, divulgação previstos em Lei, inclusive publicação ou distribuição em meio impresso ou eletrônico, sem caracterizar de forma alguma qualquer remuneração, reembolso ou compensação de qualquer natureza ao CEDENTE.
O UniFOA fica autorizado a promover a inclusão do texto na plataforma e Anais do evento, na forma prevista no artigo 19 da Lei nº 9.610/1998.
