Inteligência Artificial explicável para atenuar a falta de transparência e a legitimidade na moderação da Internet

Bibliographic Data

ID3093289
AuthorsThomas Palmeira Ferraz (0000-0002-5385-9164, Institut Polytechnique de Paris), Caio Henrique Dias Duarte (0000-0002-1720-7249, Universidade de São Paulo), Maiane Fortes Ribeiro (0000-0002-4340-9901, Universidade de São Paulo), Gabriel Goes Braga Takayanagi (0000-0002-6498-6716, Universidade de São Paulo), Alexandre Alcoforado (0000-0003-3184-1534, Universidade de São Paulo), Roseli De Deus Lopes (0000-0001-8556-6473, Universidade de São Paulo), Mart Susi (0000-0002-2624-4797, Tallinn University, Estônia)
Year2024
Volume38
Issue111
Pages381-405
Publication date2024-01-01
Open AccessYes
TypeARTICLE
VenueEstudos Avançados (JOURNAL)
Journal identifiersISSN: 0103-4014 • E-ISSN: 1806-9592
PublisherFapUNIFESP (SciELO) (PUBLISHER)
DOI10.1590/s0103-4014.202438111.020
OpenAlexW4402055103
SciELOS0103-40142024000200381
LanguagePT
Citations received1
References cited21

O uso massivo de Inteligência Artificial na moderação de conteúdo na internet é uma realidade dos tempos atuais. No entanto, isso levanta uma série de questionamentos, seja sobre a pertinência do uso de sistemas automáticos opacos, seja se as plataformas podem sozinhas tomar decisões que antes cabiam ao Estado. Nesse contexto, o uso de IA "caixa-preta" passa a ser considerado uma ameaça à liberdade de expressão. Por outro lado, manter conteúdos que promovam abuso virtual é igualmente danoso a este direito fundamental. Nesse cenário, este estudo sumariza os principais problemas apontados pela literatura quanto ao paradigma atual, avalia as respostas que as novas tecnologias trazem, e propõe um caminho para um novo paradigma de moderação que seja justo e ético, no qual Estado e plataformas de mídias sociais têm papel relevante. Esse passa pela adoção de IA explicável associada a critérios transparentes e legítimos definidos pela sociedade

Humanities · Cybercrime and Law Enforcement Studies · Hate Speech and Cyberbullying Detection · Imbalanced Data Classification Techniques · Philosophy

Tools

Open DOIOpen Access