Inteligência Artificial: Segurança e Ética

A quase omnipresença da inteligência artificial nas nossas vidas tem sido acompanhada por conspirações sobre uma superinteligência artificial que acabará com a humanidade. Deveria ser esta a principal preocupação no que se refere à automatização destes sistemas?

Atualmente, não se conhecem órgãos responsáveis por assegurar a segurança dos sistemas automatizados que funcionem à parte dos criadores e dos responsáveis pelo desenvolvimento desta tecnologia. Consequentemente, isto gera uma certa desconfiança sobre a transparência do seu funcionamento.

Primeiramente, importa compreender que a Inteligência Artificial começou por ser um termo de marketing que pretendia captar financiamento para um subcampo da ciência de computadores, nos anos 50. Nesta era, pretende transmitir a ideia de que certos sistemas automatizados têm o poder de pensar sozinhos. Todavia, isto é apenas um mecanismo que serve o interesse das corporações, ao alienar o público geral. Na verdade, esta tecnologia é uma ferramenta criada e utilizada pelo ser humano e, por isso, espelha-o no seu melhor e pior.

Tal como no caso do ser humano, a consideração de que a tecnologia é inteligente parte de uma ideia de inteligência, o Quociente de Inteligência, uma teoria baseada em pressupostos racistas e que tem sido amplamente questionada. Com isto, sublinhe-se que a Inteligência Artificial tem uma faceta subjetiva. Os resultados acabam por refletir e acentuar a distribuição desigual do poder. Determina-se o que as pessoas veem e quem é ouvido.

De facto, a informação multiplica-se a um ritmo estonteante. Tal significa que a IA (inteligência artificial) dispõe de mais dados para afinar o seu processamento com o humano. A isto ainda se acrescenta a inexistência de entidades especializadas em controlar e filtrar a informação que é usada por estes sistemas de automatização, bem como a falta de uma base ética que possa ser aplicada à Inteligência Artificial. No entanto, é necessário ter em conta que a segurança e a ética têm objetivos diferentes.

Em dezembro de 2023, a cadeia farmacêutica Rite Aid ficou proibida de usar mecanismos de reconhecimento facial como ferramenta de vigilância durante 5 anos. A razão principal foi a elaboração de uma base de dados falsos que sinalizavam clientes não caucasianos como potenciais criminosos. Contudo, é do conhecimento da Federal Trade Commission que mais duas empresas estariam envolvidas, apesar de estas não serem investigadas.

Este caso específico ilustra que não há reflexão e ação direcionadas para a segurança de toda a população. Talvez por se tratar de um trabalho árduo e aparentemente impossível – o de combater a corrupção por parte de uma sociedade desigual e injusta. Esta negligência permite que informações racistas, xenófobas e sexistas continuem a ser usadas, captando cada vez mais pessoas que podem beneficiar e perpetuar um sistema nestes moldes. Permite-se a construção de mais uma arma de opressão.

Assim, a chamada Inteligência Artificial é produto do trabalho de muitos indivíduos, mas é desenvolvida de modo a esconder esse facto. Prevalece a ideia de que máquinas são capazes de agir imparcialmente. Então, penso que a ameaça de uma eventual revolta das máquinas contra a humanidade não deve desviar a atenção do verdadeiro problema: a forma como as pessoas utilizam a tecnologia de que dispõe.

Artigo da autoria de Beatriz Costa