Portal InstitucionalUFPEL

A rápida evolução e disseminação da inteligência artificial (IA) nas últimas décadas tem transformado profundamente diversas esferas da vida cotidiana, desde a economia até a saúde, a educação e a justiça. Entretanto, a incorporação da IA em processos decisórios levanta questões éticas e morais complexas que ainda não foram adequadamente abordadas. Primeiramente, a utilização de algoritmos de IA em decisões que afetam diretamente a vida das pessoas, como seleção de candidatos para vagas de emprego, concessão de empréstimos bancários e diagnósticos médicos, traz à tona o problema dos vieses embutidos nos dados utilizados para treinar esses sistemas. Estudos demonstram que tais algoritmos podem perpetuar e até amplificar discriminações existentes, especialmente contra grupos historicamente marginalizados, como mulheres, minorias étnicas e pessoas de baixa renda (O'Neil, 2016). Isso ocorre porque os dados refletem as desigualdades sociais preexistentes, e sem uma intervenção consciente, os algoritmos tendem a replicar esses padrões de maneira automatizada. Além disso, a ausência de um entendimento contextual e de uma motivação moral nos sistemas de IA limita a sua capacidade de tomar decisões verdadeiramente éticas. A moralidade humana é complexa e profundamente enraizada em contextos sociais, culturais e históricos específicos, que não podem ser facilmente codificados em lógica algorítmica (Floridi et al., 2018). Portanto, decisões automatizadas que não consideram esses fatores contextuais podem ser tecnicamente precisas, mas eticamente insatisfatórias ou até prejudiciais. A relevância da pesquisa também se destaca pela necessidade de desenvolver diretrizes éticas claras e aplicáveis para o desenvolvimento e a implementação de sistemas de IA. A falta de regulamentações específicas e de um consenso ético sobre como a IA deve operar em contextos moralmente significativos pode levar a abusos e aplicações irresponsáveis, resultando em danos sociais consideráveis. O projeto visa preencher essa lacuna, propondo estratégias concretas para mitigar vieses e promover a justiça e a inclusão nos sistemas de IA

A metodologia de pesquisa é estruturada da seguinte forma: elaborar uma revisão sistemática da literatura; investigar a capacidade de sistemas de IA para resolver dilemas morais complexos, avaliando suas limitações e a qualidade das decisões automatizadas em comparação com decisões humanas. Criar experimentos do pensamento para simular dilemas morais em sistemas de IA, utilizando técnicas de lógica modal e lógica não monotônica para a tomada de decisão. A metodologia proposta combina rigor científico e uma abordagem interdisciplinar para abordar as limitações éticas e as implicações contextuais das decisões automatizadas por IA. Ao integrar revisão sistemática, experimentos do pensamento, análise de dilemas morais e estudo da lógica não monotônica, a pesquisa fornecerá insights sobre como mitigar vieses e promover a justiça e a inclusão nas aplicações de IA.

acreditamos que a pesquisa proposta tem o potencial de fornecer contribuições científicas substanciais ao campo da ética em IA, abordando questões urgentes e relevantes sobre discriminação, viés e tomada de decisões automatizadas. Ao fornecer uma análise crítica e empírica desses temas, o projeto não apenas contribuirá com conhecimento acadêmico, mas tambémpretende oferecer diretrizes práticas e recomendações para promover uma aplicação ética e inclusiva da inteligência artificial na sociedade. Ao
promover a sensibilização de pesquisadores, desenvolvedorese e da sociedade em geral sobre os riscos éticos das decisões automatizadas pretende-se promover um uso mais responsável e ético da IA focado no respeito a diversidade humana e na inclusão social.