Human rights, artificial intelligence and privacy
DOI:
https://doi.org/10.30612/rmufgd.v8i15.11546Keywords:
Human rights, Algorithms, PrivacyAbstract
This text presents risks and implications of artificial intelligence and algorithms for the goals contained in the Universal Declaration of Human Rights. In this sense, the perspectives of James Der Derian, Frank Pasquale, David Chandler, Shoshana Zuboff, Philip N. Howard and Nick Srnicek have been mobilized to understand the current phase of global capitalism, the market of capture and of mass processing of personal data. Several cases described indicate that privacy is less and less respected as companies protect their competitive secrets with patents, closed codes and confidentiality agreements. Big Data techniques and network algorithms can be used to improve and streamline public administration, but also result in new discriminatory practices that violate the right to privacy, freedom of expression and justice. Ethnic and racial groups, women and the LGBT community already suffer from decisions made by automated computer systems that lead to segregation and prejudice.Downloads
References
BELLUCKAUG, Pam. Chilly at Work? Office Formula Was Devised for Men. Site: NYTimes.com, em 3 de agosto de 2015. Disponível em: <https://www.nytimes.com/
/08/04/science/chilly-at-work-a-decades-old-formula-may-be-to-blame.html>. Acesso em 5 de abril de 2017.
CHAMAYOU, Grégoire. Teoria do Drone. SP, Cosac Naify, 2015.
CHANDLER, David. A world without causation: Big data and the coming of age of posthumanism. Millennium, v. 43, n. 3, p. 833-851, 2015.
CHICAGO DATA PORTAL. Site Oficial da Cidade de Chicago. Strategic Subject List. Disponível em: <https://data.cityofchicago.org/Public-Safety/Strategic-Subject-List/4aki-r3np>. Acesso em: 5 de abril de 2018.
Data collected by Google cars. Site: Google Europe Blog, em 27 de abril de 2010. Disponível em: <https://europe.googleblog.com/2010/04/data-collected-by-google-cars.html>. Acesso em 5 de abril de 2018.
DER DERIAN, James. Antidiplomacy: spies, terror, speed, and war. Blackwell, 1992.
DER DERIAN, James. Critical encounters in international relations. International Social Science Journal, v. 59, n. 191, p. 69-73, 2008.
DER DERIAN, James. Virtuous War: Mapping the Military-Industrial-Media-Entertainment-Network. 2nd ed. Taylor & Francis e-Library, 2009.
DOMINGOS, Pedro. O algoritmo mestre. São Paulo: Novatec. 2017.
FUNDAÇÃO DE ESTUDOS AVANÇADOS (FPI). Site Oficial do Governo da Federação Russa, em 13 de outubro de 2017. Disponível em: <http://fpi.gov.ru/press/
media/razrabotchik_robota_fedora_rasskazal_o_pyati_svoih_slozhneyshih_zadachah>. Acesso em: 2 de abril de 2018.
GARVIE, Clare; BEDOYA, Alvaro; FRANKIE, Jonathan. The Perpetual Line-up Unregulated Police Face Recognition in America. Center on Privacy & Technology at Georgetown Law, em 18 de outubro de 2016. Disponível em: . Acesso em: 5 de abril de 2018.
GUIMÓN, Pablo. Christopher Wylie: “O ‘Brexit’ não teria acontecido sem a Cambridge Analytica”. Internacional. EL PAÍS Brasil. 18/04/2018. Disponível: https://brasil.elpais.com/brasil/2018/03/26/internacional/1522058765_703094.html Acesso 05/10/2018.
HOWARD, Philip N. Pax Technica: How the Internet of things may set us free or lock us up. Yale University Press, 2015.
HUNT, Elle. LGBT community anger over YouTube restrictions which make their videos invisible. Site: TheGuardian.com, em 20 de março de 2017. Disponível em: <https://www.theguardian.com/technology/2017/mar/20/lgbt-community-anger-over-youtube-restrictions-which-make-their-videos-invisible>. Acesso em 5 de abril de 2018.
ISRANI, Ellora Thadaney. When an Algorithm Helps Send You to Prison. Site: NYTimes.com, em 26 de outubro de 2017. Disponível em: <https://www.nytimes
.com/2017/10/26/opinion/algorithm-compas-sentencing-bias.html>. Acesso em: 2 de abril de 2018.
JOHNSON, N.F.; ZHENG, M.; VOROBYEVA, Y.; GABRIEL, A.; QI, H.; VELASQUEZ, N.; MANRIQUE, P.; JOHNSON, D.; RESTREPO, E.; SONG, C.; WUCHTY, S. New online ecology of adversarial aggregates: ISIS and beyond . Science (Magazine), Vol 352, Issue 6292 , em 17 de junho de 2016. Disponível em:
sciencemag.org/content/352/6292/1459>. Acesso em: 2 de abril de 2018.
KELION, Leo. Google tech used by Pentagon 'to analyse drone videos'. Site: BBC.com, em 7 de março de 2018. Disponível em: <http://www.bbc.com/news/
technology-43316667> Acesso em: 2 de abril de 2018.
KOSINSKI, Michal et al. Mining big data to extract patterns and predict real-life outcomes. Psychological methods, v. 21, n. 4, p. 493, 2016.
KOSINSKI, Michal; WANG, Yilun. Deep Neural Networks Are More Accurate Than Humans at Detecting Sexual Orientation From Facial Images. Journal of Personality and Social Psychology. February 2018, Vol. 114, Issue 2, P. 246-257. Stanford Graduate School of Business. Disponível em: <https://www.gsb.stanford.edu/faculty-research/publications/deep-neural-networks-are-more-accurate-humans-detecting-sexual>. Acesso em: 5 de abril de 2018.
LLANERAS, Kiko. Dime cuánto mides y te diré a quién votas. Site: ElPais.com, em 23 de junho de 2017. Disponível em: <https://politica.elpais.com/politica/
/06/23/ratio/1498207330_149656.html>. Acesso em: 2 de abril de 2018.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 10/05/2018.
MATZ, S. C. et al. Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the national academy of sciences, v. 114, n. 48, p. 12714-12719, 2017.
MERRILLAUG, Jeremy B. Liberal, Moderate or Conservative? See How Facebook Labels You. Site: NYTimes.com, em 23 de agosto de 2016. Disponível em:
www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html>. Acesso em: 2 de abril de 2018.
NYE JR, Joseph S. Cyberpower. Harvard Univ Cambridge, MA, Belfer Center for Science and International Affairs, 2010.
PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
PENNY, Laurie. Robots are racist and sexist. Just like the people who created them. Site: TheGuardian.com, em 20 de abril de 2017. Disponível em: <https://www.the
guardian.com/commentisfree/2017/apr/20/robots-racist-sexist-people-machines-ai-language>. Acesso em: 5 de abril de 2018.
PEREDA, Cristina F. ¿Google es racista?: Un joven demuestra en un vídeo las diferencias al buscar “tres adolescentes negros” y “tres adolescentes blancos”. Site: ElPais.com, em 10 de junho de 2016. Disponível em <https://elpais.com/
internacional/2016/06/10/estados_unidos/1465577075_876238.html>. Acesso em 5 de abril de 2018.
SÁNCHEZ, Álvaro. Los gigantes de Internet tendrán una hora para borrar contenidos terroristas. Site: ElPais.com, em 1º de março de 2017. Disponível em: <https://elpais.com/internacional/2018/03/01/actualidad/1519898000_774757.html>. Acesso em: 2 de abril de 2018.
SANZ, Juan Carlos. Un palestino detenido por un error de traducción de Facebook. Site: ElPais.com, em 25 de outubro de 2017. Disponível em: <https://elpais.com/
internacional/2017/10/24/mundo_global/1508864861_586037.html>. Acesso em 5 de abril de 2018.
SILVEIRA, Sérgio Amadeu da. Tudo sobre tod@s: Redes digitais, privacidade e venda de dados pessoais. Ebook Kindle, 2017.
SIMONITE, Tom. When It Comes to Gorillas, Google Photos Remains Blind. Site: Wired.com, em 11 de janeiro de 2018. Disponível em: <https://www.wired.com/
story/when-it-comes-to-gorillas-google-photos-remains-blind>. Acesso em 5 de abril de 2018.
SRNICEK, Nick; DE SUTTER, Laurent. Platform Capitalism. Cambridge, UK; Malden, MA: Polity, 2017.
Tinder tem versão secreta só para pessoas bonitas e celebridades, diz site. Site: Folha de S.Paulo, em 8 de março de 2017. Disponível em: <http://www1.folha.uol.
com.br/tec/2017/03/1864670-tinder-tem-versao-secreta-so-para-pessoas-bonitas-e-celebridades.shtml>. Acesso em 5 de abril de 2018.
TOBIN, Ariana; ANGWIN, Julia; VARNER, Madeleine. Facebook Enabled Advertisers to Reach ‘Jew Haters’. Site: ProPublica.org, em 14 de setembro de 2017. Disponível em: <https://www.propublica.org/article/facebook-enabled-advertisers-to-reach-jew-haters>. Acesso em 5 de abril de 2018.
TUCKER, Ian. Interview: 'A white mask worked better': why algorithms are not colour blind. Site: TheGuardian.com, em 28 de maio de 2017. Disponível em: <https://www.theguardian.com/technology/2017/may/28/joy-buolamwini-when-algorithms-are-racist-facial-recognition-bias>. Acesso em: 5 de abril de 2018.
UNITED NATIONS GENERAL ASSEMBLY. Human Rights Council. A/HRC/32/L.20 – Draft Resolution/Decision: The Promotion, Protection And Enjoyment Of Human Rights On The Internet., 2016.
VIRILIO, Paul; PACIORNIK, Celso Mauro; DOS SANTOS, Laymert Garcia. Velocidade e política. Estação Liberdade, 1996.
WiFi data collection: An update. Site: Google Europe Blog, em 14 de maio de 2010. Disponível em: <https://europe.googleblog.com/2010/05/wifi-data-collection-update.html>. Acesso em 5 de abril de 2018.
'Whoever leads in AI will rule the world’: Putin to Russian children on Knowledge Day. Site: RT.com, em 1º de setembro de 2017. Disponível em: <https://www.rt.
com/news/401731-ai-rule-world-putin>. Acesso em: 2 de abril de 2018.
ZHAO, Jieyu; WANG, Tianlu; YATSKAR, Mark; ORDONEZ, Vicente; CHENG, Kai-Wei. Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints. University of Virginia, 2017. Disponível em: <http://www.cs.virginia.edu/~kc2wc/publications/ZWYOC.html>. Acesso em 5 de abril de 2018.
ZMOGINSKI, Felipe. Sistema de crédito social chinês revela uso autoritário da tecnologia. Site: Blog Copy From China - Blogosfera UOL, em 28 de março de 2018. Disponível em: <https://copyfromchina.blogosfera.uol.com.br/2018/03/28/na-china-pontuacao-de-comportamento-beira-o-autoritarismo/>. Acesso em 5 de abril de 2018.
ZUBOFF, Shoshana, Big Other: Surveillance Capitalism and the Prospects of an Information Civilization, em 4 de abril de 2015. Journal of Information Technology (2015) 30, 75–89.
Downloads
Published
How to Cite
Issue
Section
License
- Os autores e autoras mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Atribuição-NãoComercial-CompartilhaIgual 3.0 Brasil. que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores e autoras têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores e autoras têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado, porém invariavelmente com o reconhecimento de autoria e publicação inicial nesta revista.