Análise da relação entre a transparência da inteligência artificial e a tomada de decisões gerenciais

Abstract

A tecnologia, notadamente aquela relativa às ferramentas e modelos de inteligência artificial (IA), tem afetado e até redefinido o papel dos seres humanos no tocante ao processo decisório das organizações. Neste contexto, para um(a) gestor(a) abdicar das próprias impressões e experiências pessoais, e delegar a um modelo de IA a decisão que antes lhe cabia, é necessário que este modelo seja transparente e adequado à referida decisão. Dados os diferentes graus de transparência da IA e os distintos tipos de decisão gerencial, a presente tese doutoral propõe a seguinte questão de pesquisa: a aderência dos gestores às recomendações de um modelo de IA é afetada pela transparência do referido modelo e pelo tipo de decisão envolvida? A pesquisa adiciona argumentos à literatura sobre a chamada Human-Computer Interaction e, indiretamente, agrega nuances argumentativas que reforçam a discussão sobre a confiança na inteligência artificial. Para responder à questão de pesquisa, realizou-se um Artefactual Field Experiment com design experimental do tipo between-participants 2 x 2. As variáveis independentes foram a transparência (manipulada em dois níveis: alta versus baixa) e o tipo de decisão (também manipulada em dois níveis: operacional versus estratégica). A variável dependente foi a percepção dos gestores – manifesta no grau de aderência deles às recomendações feitas pelo modelo de IA do case. Utilizando o software Survey Monkey, aplicou-se a pesquisa a funcionários da área tática de uma instituição financeira no Brasil. Todos os participantes tinham participação e/ou poder de gestão, e foram aleatoriamente alocados entre os grupos que representaram as quatro condições experimentais. Obtiveram-se 102 respostas válidas. A análise de covariância (ANCOVA) das respostas obtidas permitiu concluir que a relação entre Transparência e Aderência é de natureza inversa – e não direta – isto é: mais Transparência implica menos Aderência. Assim, o efeito principal da Transparência sobre a Aderência, embora existente, aponta para uma direção oposta à da previsão teórica formulada. Além disso, verificou-se que Decisão não é capaz, por si só, de alterar de forma estatisticamente significativa a percepção dos gestores – e, consequentemente, não provoca uma modificação substantiva na sua Aderência. Por fim, ao examinar a interação entre as variáveis Transparência e Decisão, constatou-se que esta interação, de fato, ocorre e afeta de forma significativa a Aderência dos gestores às recomendações do sistema de inteligência artificial. Entretanto, este efeito apresentou sinal contrário ao da predição teórica realizada. Assim, não é possível afirmar que o efeito positivo da alta transparência sobre a Aderência é maior em decisões operacionais que em decisões estratégicas. Estes achados têm uma tripla implicação: primeiramente, contribuem para os estudos sobre Explainable Artificial Intelligence, aprimorando o entendimento sobre o impacto da transparência da IA no processo decisório; em segundo lugar, fornecem um subsídio teórico sobre como, no design de recommender systems, o tipo de decisão interage com a transparência da IA para orientar as decisões dos gestores; e, por fim, oferecem um insight sobre como o papel da confiança na tecnologia afeta a aderência dos gestores às recomendações feitas por modelos de inteligência artificial.