AN ANALYSIS OF ALGORITHMS AND HIDDEN BIAS IN ARTIFICIAL INTELLIGENCE

THE INHERENT ETHICAL AND LEGAL CHALLENGES

Authors

DOI:

https://doi.org/10.46560/meritum.v19i2.10149

Abstract

The rise of Artificial Intelligence (AI) has generated important discussions about ethical and legal challenges, particularly due to algorithmic biases that can influence autonomous decisions. This research, of a bibliographical documentary nature, explores the complexity of these biases, presenting emblematic cases such as the COMPAS algorithm, which showed racial bias in predictions of criminal recidivism, and Beauty.AI, which perpetuated discriminatory beauty standards, and the Chatbot Tay, which, within a few hours of use, presented unwanted content. The lack of transparency in algorithms (deep learning) is a central problem, making it difficult to challenge unfair decisions and raising questions about accountability. To mitigate these problems, we propose the need for greater transparency and explainability of algorithms, in addition to strict regulation that ensures justice and equity. Collaboration between different areas of knowledge is essential to develop solutions that promote a more just society, where AI can be used ethically and responsibly.

Author Biographies

Renata Albuquerque Lima, Programa de Mestrado em Direito da UNICHRISTUS

Pós-doutora em Direito pela Universidade Federal de Santa Catarina – UFSC. Doutora em Direito pela Universidade de Fortaleza – UNIFOR. Mestre em Direito pela Universidade Federal do Ceará – UFC. Graduada em Direito pela UFC e em Administração de Empresas pela UECE. Professora Adjunta do Curso de Direito da Universidade Estadual Vale do Acaraú – UVA. Coordenadora da Graduação e Pós-Graduação em Direito da Faculdade Luciano Feijão. Professora do Mestrado em Direito da UNICHRISTUS. Advogada. E-mail: realbuquerque@yahoo.com 

Antônio Felipe de Souza, Universidade Estadual Vale do Acaraú - UVA

Mestrando em Filosofia (UVA). Professor Especialista em Neuropsicopedagogia (FASOUZA). Pedagogo (UVA). Acadêmico do 6º semestre do Curso de Direito da Faculdade Luciano Feijão (FLF). Presidente do Instituto Renascer de Luz. E-mail: professorantoniofelipe@hotmail.com Lattes: https://lattes.cnpq.br/2104305957238308 Orcid: https://orcid.org/0000-0002-7820-6397

Downloads

Published

03/12/2025

Issue

V. 19, Nº 2 - maio/agosto 2024

Section

Article (s)

License

Licença Creative Commons

Autores que publicam nesta revista concordam com os seguintes termos:

    1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista;
    2. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista;
    3. Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).