Direitos Humanos, inteligência artificial e privacidade
DOI:
https://doi.org/10.30612/rmufgd.v8i15.11546Palavras-chave:
Direitos Humanos. Algoritmos. Privacidade.Resumo
Este texto trata dos riscos e implicações da inteligência artificial e dos algoritmos para os objetivos contidos na Declaração Universal dos Direitos Humanos. Nesse sentido, as perspectivas de James Der Derian, Frank Pasquale, David Chandler, Shoshana Zuboff, Philip N. Howard e Nick Srnicek foram mobilizadas para a compreensão da atual fase do capitalismo global, do mercado de captura e o processamento em massa de dados pessoais. Diversos casos descritos indicam que a privacidade é cada vez menos respeitada enquanto as empresas protegem seus segredos competitivos com patentes, códigos fechados e acordos de confidencialidade. Técnicas de Big Data e algoritmos em rede podem ser utilizados para melhorar e agilizar a administração pública, mas também resultam em novas práticas discriminatórias que violam o direito à privacidade, à liberdade de expressão e à justiça. Grupos étnicos e raciais, mulheres e comunidade LGBT já sofrem com decisões tomadas por sistemas computacionais autômatos que levam à segregação e ao preconceito.
Recebido em: abril/2018.
Aprovado em: março/2019.
Downloads
Referências
BELLUCKAUG, Pam. Chilly at Work? Office Formula Was Devised for Men. Site: NYTimes.com, em 3 de agosto de 2015. Disponível em: <https://www.nytimes.com/
/08/04/science/chilly-at-work-a-decades-old-formula-may-be-to-blame.html>. Acesso em 5 de abril de 2017.
CHAMAYOU, Grégoire. Teoria do Drone. SP, Cosac Naify, 2015.
CHANDLER, David. A world without causation: Big data and the coming of age of posthumanism. Millennium, v. 43, n. 3, p. 833-851, 2015.
CHICAGO DATA PORTAL. Site Oficial da Cidade de Chicago. Strategic Subject List. Disponível em: <https://data.cityofchicago.org/Public-Safety/Strategic-Subject-List/4aki-r3np>. Acesso em: 5 de abril de 2018.
Data collected by Google cars. Site: Google Europe Blog, em 27 de abril de 2010. Disponível em: <https://europe.googleblog.com/2010/04/data-collected-by-google-cars.html>. Acesso em 5 de abril de 2018.
DER DERIAN, James. Antidiplomacy: spies, terror, speed, and war. Blackwell, 1992.
DER DERIAN, James. Critical encounters in international relations. International Social Science Journal, v. 59, n. 191, p. 69-73, 2008.
DER DERIAN, James. Virtuous War: Mapping the Military-Industrial-Media-Entertainment-Network. 2nd ed. Taylor & Francis e-Library, 2009.
DOMINGOS, Pedro. O algoritmo mestre. São Paulo: Novatec. 2017.
FUNDAÇÃO DE ESTUDOS AVANÇADOS (FPI). Site Oficial do Governo da Federação Russa, em 13 de outubro de 2017. Disponível em: <http://fpi.gov.ru/press/
media/razrabotchik_robota_fedora_rasskazal_o_pyati_svoih_slozhneyshih_zadachah>. Acesso em: 2 de abril de 2018.
GARVIE, Clare; BEDOYA, Alvaro; FRANKIE, Jonathan. The Perpetual Line-up Unregulated Police Face Recognition in America. Center on Privacy & Technology at Georgetown Law, em 18 de outubro de 2016. Disponível em: . Acesso em: 5 de abril de 2018.
GUIMÓN, Pablo. Christopher Wylie: “O ‘Brexit’ não teria acontecido sem a Cambridge Analytica”. Internacional. EL PAÍS Brasil. 18/04/2018. Disponível: https://brasil.elpais.com/brasil/2018/03/26/internacional/1522058765_703094.html Acesso 05/10/2018.
HOWARD, Philip N. Pax Technica: How the Internet of things may set us free or lock us up. Yale University Press, 2015.
HUNT, Elle. LGBT community anger over YouTube restrictions which make their videos invisible. Site: TheGuardian.com, em 20 de março de 2017. Disponível em: <https://www.theguardian.com/technology/2017/mar/20/lgbt-community-anger-over-youtube-restrictions-which-make-their-videos-invisible>. Acesso em 5 de abril de 2018.
ISRANI, Ellora Thadaney. When an Algorithm Helps Send You to Prison. Site: NYTimes.com, em 26 de outubro de 2017. Disponível em: <https://www.nytimes
.com/2017/10/26/opinion/algorithm-compas-sentencing-bias.html>. Acesso em: 2 de abril de 2018.
JOHNSON, N.F.; ZHENG, M.; VOROBYEVA, Y.; GABRIEL, A.; QI, H.; VELASQUEZ, N.; MANRIQUE, P.; JOHNSON, D.; RESTREPO, E.; SONG, C.; WUCHTY, S. New online ecology of adversarial aggregates: ISIS and beyond . Science (Magazine), Vol 352, Issue 6292 , em 17 de junho de 2016. Disponível em:
sciencemag.org/content/352/6292/1459>. Acesso em: 2 de abril de 2018.
KELION, Leo. Google tech used by Pentagon 'to analyse drone videos'. Site: BBC.com, em 7 de março de 2018. Disponível em: <http://www.bbc.com/news/
technology-43316667> Acesso em: 2 de abril de 2018.
KOSINSKI, Michal et al. Mining big data to extract patterns and predict real-life outcomes. Psychological methods, v. 21, n. 4, p. 493, 2016.
KOSINSKI, Michal; WANG, Yilun. Deep Neural Networks Are More Accurate Than Humans at Detecting Sexual Orientation From Facial Images. Journal of Personality and Social Psychology. February 2018, Vol. 114, Issue 2, P. 246-257. Stanford Graduate School of Business. Disponível em: <https://www.gsb.stanford.edu/faculty-research/publications/deep-neural-networks-are-more-accurate-humans-detecting-sexual>. Acesso em: 5 de abril de 2018.
LLANERAS, Kiko. Dime cuánto mides y te diré a quién votas. Site: ElPais.com, em 23 de junho de 2017. Disponível em: <https://politica.elpais.com/politica/
/06/23/ratio/1498207330_149656.html>. Acesso em: 2 de abril de 2018.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 10/05/2018.
MATZ, S. C. et al. Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the national academy of sciences, v. 114, n. 48, p. 12714-12719, 2017.
MERRILLAUG, Jeremy B. Liberal, Moderate or Conservative? See How Facebook Labels You. Site: NYTimes.com, em 23 de agosto de 2016. Disponível em:
www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html>. Acesso em: 2 de abril de 2018.
NYE JR, Joseph S. Cyberpower. Harvard Univ Cambridge, MA, Belfer Center for Science and International Affairs, 2010.
PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
PENNY, Laurie. Robots are racist and sexist. Just like the people who created them. Site: TheGuardian.com, em 20 de abril de 2017. Disponível em: <https://www.the
guardian.com/commentisfree/2017/apr/20/robots-racist-sexist-people-machines-ai-language>. Acesso em: 5 de abril de 2018.
PEREDA, Cristina F. ¿Google es racista?: Un joven demuestra en un vídeo las diferencias al buscar “tres adolescentes negros” y “tres adolescentes blancos”. Site: ElPais.com, em 10 de junho de 2016. Disponível em <https://elpais.com/
internacional/2016/06/10/estados_unidos/1465577075_876238.html>. Acesso em 5 de abril de 2018.
SÁNCHEZ, Álvaro. Los gigantes de Internet tendrán una hora para borrar contenidos terroristas. Site: ElPais.com, em 1º de março de 2017. Disponível em: <https://elpais.com/internacional/2018/03/01/actualidad/1519898000_774757.html>. Acesso em: 2 de abril de 2018.
SANZ, Juan Carlos. Un palestino detenido por un error de traducción de Facebook. Site: ElPais.com, em 25 de outubro de 2017. Disponível em: <https://elpais.com/
internacional/2017/10/24/mundo_global/1508864861_586037.html>. Acesso em 5 de abril de 2018.
SILVEIRA, Sérgio Amadeu da. Tudo sobre tod@s: Redes digitais, privacidade e venda de dados pessoais. Ebook Kindle, 2017.
SIMONITE, Tom. When It Comes to Gorillas, Google Photos Remains Blind. Site: Wired.com, em 11 de janeiro de 2018. Disponível em: <https://www.wired.com/
story/when-it-comes-to-gorillas-google-photos-remains-blind>. Acesso em 5 de abril de 2018.
SRNICEK, Nick; DE SUTTER, Laurent. Platform Capitalism. Cambridge, UK; Malden, MA: Polity, 2017.
Tinder tem versão secreta só para pessoas bonitas e celebridades, diz site. Site: Folha de S.Paulo, em 8 de março de 2017. Disponível em: <http://www1.folha.uol.
com.br/tec/2017/03/1864670-tinder-tem-versao-secreta-so-para-pessoas-bonitas-e-celebridades.shtml>. Acesso em 5 de abril de 2018.
TOBIN, Ariana; ANGWIN, Julia; VARNER, Madeleine. Facebook Enabled Advertisers to Reach ‘Jew Haters’. Site: ProPublica.org, em 14 de setembro de 2017. Disponível em: <https://www.propublica.org/article/facebook-enabled-advertisers-to-reach-jew-haters>. Acesso em 5 de abril de 2018.
TUCKER, Ian. Interview: 'A white mask worked better': why algorithms are not colour blind. Site: TheGuardian.com, em 28 de maio de 2017. Disponível em: <https://www.theguardian.com/technology/2017/may/28/joy-buolamwini-when-algorithms-are-racist-facial-recognition-bias>. Acesso em: 5 de abril de 2018.
UNITED NATIONS GENERAL ASSEMBLY. Human Rights Council. A/HRC/32/L.20 – Draft Resolution/Decision: The Promotion, Protection And Enjoyment Of Human Rights On The Internet., 2016.
VIRILIO, Paul; PACIORNIK, Celso Mauro; DOS SANTOS, Laymert Garcia. Velocidade e política. Estação Liberdade, 1996.
WiFi data collection: An update. Site: Google Europe Blog, em 14 de maio de 2010. Disponível em: <https://europe.googleblog.com/2010/05/wifi-data-collection-update.html>. Acesso em 5 de abril de 2018.
'Whoever leads in AI will rule the world’: Putin to Russian children on Knowledge Day. Site: RT.com, em 1º de setembro de 2017. Disponível em: <https://www.rt.
com/news/401731-ai-rule-world-putin>. Acesso em: 2 de abril de 2018.
ZHAO, Jieyu; WANG, Tianlu; YATSKAR, Mark; ORDONEZ, Vicente; CHENG, Kai-Wei. Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints. University of Virginia, 2017. Disponível em: <http://www.cs.virginia.edu/~kc2wc/publications/ZWYOC.html>. Acesso em 5 de abril de 2018.
ZMOGINSKI, Felipe. Sistema de crédito social chinês revela uso autoritário da tecnologia. Site: Blog Copy From China - Blogosfera UOL, em 28 de março de 2018. Disponível em: <https://copyfromchina.blogosfera.uol.com.br/2018/03/28/na-china-pontuacao-de-comportamento-beira-o-autoritarismo/>. Acesso em 5 de abril de 2018.
ZUBOFF, Shoshana, Big Other: Surveillance Capitalism and the Prospects of an Information Civilization, em 4 de abril de 2015. Journal of Information Technology (2015) 30, 75–89.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
- Os autores e autoras mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Atribuição-NãoComercial-CompartilhaIgual 3.0 Brasil. que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores e autoras têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores e autoras têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado, porém invariavelmente com o reconhecimento de autoria e publicação inicial nesta revista.
