ARTIFICIAL INTELLIGENCE, CONSUMPTION AND LEGAL RESPONSIBILITY: ANALYSIS OF THE CASE OF VIA QUATRO METRO OF SÃO PAULO
DOI:
https://doi.org/10.55839/2318-8650RevParRPv33n1pa173-199Keywords:
Human rights, Consumer society, Artificial intelligence, Consumer, VulnerabilityAbstract
This study aims to analyze the legal responsibility of the concessionaire Via Quatro of the São Paulo metro, which started to collect personal data from consumers without proper consent. The problem with this article is the following question: are the combined use of artificial intelligence and interactive boards, combined with the collection of personal data, capable of interfering in the consumer's power of choice? For the development of research, the first chapter sought to understand the need for consumer protection in the information society; in the second chapter, the influence of artificial intelligence on the power of choice was verified. In the third development chapter, legal accountability for the absence of consent in the collection of personal data was analyzed in the case of track four of the São Paulo metro. It was possible to verify how these unwanted and excessive business practices can constitute consumer harassment, indicating the need for constitutional and infra-legal rules capable of regulating this relationship. In general, it was concluded that the duty of care and ethical standards are shown to be indispensable for limiting business agents, as well as being relevant standards for the configuration of agents' civil liability. As for the methodology used, the analysis of the results is composed on the deductive logical basis, while the research techniques were bibliographic and documentary.
References
AUTORITEIT PERSOONSGEGEVENS, AP informeert branche over norm camera’s in reclamezuilen, 26 de junho de 2018. Disponível em: <https://autoriteitpersoonsgegevens.nl/nl/nieuws/ap-informeert-branche-over-norm-camera%E2%80%99s-reclamezuilen>. Acesso emç 16 fev. 2021.
BAUDRILLARD, Jean. A sociedade de consumo. Tradução de Artur Morão. Rio de Janeiro: Elfos, 1995.
BENJAMIN, Antônio Herman; MARQUES, Claudia Lima. A teoria do diálogo das fontes e seu impacto no Brasil: uma homenagem a Erik Jayme. Revista de Direito do Consumidor, São Paulo, v. 27, n. 115, p. 21-40, jan./fev. 2018.
BOBBIO, Norberto. A era dos direitos; tradução Carlos Nelson Coutinho. Rio de Janeiro: Elsevier, 2004.
BOBBIO, Norberto. A era dos direitos. Rio de Janeiro: Campus, 1992.
BORGES, Gustavo Silveira; LUNARDI, Henrique Lapa. A Relação de consumo e a inteligência artificial: reflexões acerca da vulnerabilidade do consumidor. In: PINTO; D. J. A.; BASTOS, E. A. V.; ROVER, A. J. (coords.). Direito, governança e novas tecnologias. Florianópolis: CONPEDI, 2019. p. 125-144. Disponível em: <http://conpedi.danilolr.info/publicacoes/048p2018/z54tvw1x/761n252zHAi4A7CR.pdf>. Acesso em: 15 fev. 2021
BRASIL. Constituição Da República Federativa Do Brasil De 1988. Emendas Constitucionais de Revisão. Disponível em: <http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 15 fev. 2021.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Brasília, 11 de setembro de 1990. Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm>. Acesso em: 15 fev. 2021.
BRASIL. Lei nº 12.527, de 18 de novembro de 2011. Regula o acesso a informações previsto no inciso XXXIII do art. 5º , no inciso II do § 3º do art. 37 e no § 2º do art. 216 da Constituição Federal; altera a Lei nº 8.112, de 11 de dezembro de 1990; revoga a Lei nº 11.111, de 5 de maio de 2005, e dispositivos da Lei nº 8.159, de 8 de janeiro de 1991; e dá outras providências. Brasília, 18 de novembro de 2011. Disponível em: < http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12527.htm>. Acesso em: 15 fev. 2021.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Brasília, 23 de abril de 2014. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm>. Acesso em: 15 fev. 2021.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, 14 de agosto de 2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 15 fev. 2021.
COSERASU, R. Facial recognition systems and their data protection risks under the General Data Protection Regulation, University of Tilburg, Master's Thesis. September, 2017, p. 45-46. Disponível em:<https://arno.uvt.nl/show.cgi?fid=143731>. Acesso em: 01 out. 2020.
ČERKA, Paulius; GRIGIENĖ, Jurgita; SIRBIKYTĖ, Gintarė. Liability for damages caused by Artificial Intelligence. Computer Law & Security Review, Elsevier, v.31, n. 3, p. 376-389, 2015.
DONEDA, Danilo. Considerações iniciais sobre os bancos de dados informatizados e o direito à privacidade. 2000. Disponível em: <https://egov.ufsc.br/portal/sites/default/files/anexos/8196-8195-1-PB.htm>. Acesso em 15 fev. 2021.
DONEDA, Danilo. Da Privacidade à Proteção dos Dados Pessoais. Rio de Janeiro: Renovar, 2006.
DONEDA, Danilo. et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, 2018.
FRAZÃO, Ana. Algoritmos e inteligência artificial. Jota, publicado em 15 de maio de 2018. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/algoritmos-e-inteligencia-artificial-15052018> Acesso em: 01 out. 2020.
GDPR EU. Art. 6 GDRP: Lawfulness of processing. [s.d.]b. Disponível em: <https://gdpr.eu/article-6-how-to-process-personal-data-legally/>. Acesso em: 15 fev. 2021.
GDPR EU. Art. 1 GDRP: Subject-matter and objectives. [s.d.]a. Disponível em: <https://gdpr-info.eu/art-1-gdpr/>. Acesso em: 15 fev. 2021.
GDPR EU. GDPR checklist for data controllers. [s.d.]d. Disponível em: <https://gdpr.eu/checklist/>. Acesso em: 15 fev. 2021.
GDPR EU. General Data Protection Regulation (GDPR). [s.d.]c. Disponível em: <https://gdpr.eu/tag/gdpr/>. Acesso em: 15 fev. 2021.
GHISI, Silvano; PEZZELLA, Maria Cristina Cereser. Privacidade na sociedade da informação e o direito à “invisibilidade” nos espaços públicos. Unoesc International Legal Seminar, Chapecó, v. 2, n. 1, p. 243-262, 2013. Disponível em: <https://portalperiodicos.unoesc.edu.br/uils/article/view/4042/2173>. Acesso em: 15 fev. 2021.
GPAN IA. Orientações éticas para uma ia de confiança. Bruxelas: Comissão Europeia, 2019. Disponível em: <http://escola.mpu.mp.br/atividades-academicas/plano-de-atividades/inovaescola/curadoria/3-ciclo-de-debates/inteligencia-artificial-e-internet-das-coisas-oportunidades-e-desafios/ethicsguidelinesfortrustworthyai-ptpdf.pdf>. Acesso em: 15 fev. 2021.
IDEC – INSTITUTO BRASILEIRO DE DEFESA DO CONSUMIDOR. Ação civil pública com pedido de tutela de urgência. São Paulo, ago. 2018. Disponível em: <https://idec.org.br/sites/default/files/acp_viaquatro.pdf>. Acesso em: 15 fev. 2021.
HARADA, Eduardo. Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas. Tecmundo, publicado em 01 de julho de 2015. Disponível em:
<https://www.tecmundo.com.br/google-fotos/82458-polemica-sistema-google-fotos-identifica-pessoas-negras-gorilas.htm> Acesso em: 01 out. 2020.
HARARI, Yuval Noah. 21 lições para o século 21. Tradução Paulo Geiger. 1ª. ed. — São Paulo: Companhia das Letras, 2018.
LÉVY, Pierre. Cibercultura. Tradução Carlos Irineu da Costa. São Paulo: Ed. 34, 1999.
LOSANO, Mario G. Sistema e estrutura no direito. Do século XX à pós-modernidade. v. 3. Tradução de Carlos Alberto Dastoli. São Paulo: WMF Martins Fontes, 2011.
MAGRANI, Eduardo José Guedes. A Internet das Coisas: Privacidade e Ética na Era da Hiperconectividade. Rio de Janeiro: PUC-Rio, Departamento de Direito, 2018. Disponível em: <https://www.maxwell.vrac.puc-rio.br/36942/36942.PDFXXvmi=dCmNeTeR7IinPxFZefSFtWfTISglh1juEGiTBxLIg5673M6i2ZxwWerF7J2oLlUp3ekEM7n4cubgihzkhxSeMkUU5WkQifhltC1hJplWUwddPNz7lrm8Nh4SeoKxF2U9EVrolNlhlAubn5iJxGSlxxfdm0L23HcHDE70sthO4N0sSjdr07Ox54cr5Zu8GHQkmxkPsCExqF1kZeMZlBxrFbTLaoUQ7LctKwkeaZMBEOVE3JEpkDS1OMM0cIRkt4Of)>. Acesso em: 15 fev. 2021.
MARQUES, Claudia Lima. Inteligência artificial e “opacidade” no consumo: a necessária revalorização da transparência para a proteção do consumidor. In: SILVA, Rodrigo da Guia; TEPEDINO, Gustavo (coords). O Direito Civil na era da inteligência artificial. 1. ed. São Paulo: Thomson Reuters Brasil, 2020.
MENDES, Laura Schertel. O diálogo entre o marco civil da internet e o código de defesa do consumidor. Revista de Direito do Consumidor, n. 106, p. 37-69, jul./ago., 2016. Disponível em: <http://www.mpsp.mp.br/portal/page/portal/documentacao_e_divulgacao/doc_biblioteca/bibli_servicos_produtos/bibli_boletim/bibli_bol_2006/RDCons_n.106.02.PDF>. Acesso em: 15 fev. 2021.
MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor: linhas gerais de um novo direito fundamental. São Paulo: Saraiva, 2014
MENDES, Laura Schertel; BIONI, Bruno. O Regulamento Europeu de Proteção de Dados Pessoais e a Lei Geral de Proteção de Dados brasileira: mapeando convergências na direção de um nível de equivalência. Revista de Direito do Consumidor, ano 28, v. 124, p. 157-180, jul./ago. 2019.
MAGRANI, Eduardo; SILVA, Priscilla; VIOLA, Rafael. Novas perspectivas sobre ética e responsabilidade de Inteligência Artificial. In: FRAZÃO, Ana;
MULHOLLAND, Caitlin (coords.). Inteligência Artificial e Direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.
MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.
PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Rev. Bras. Polít. Públicas, v. 7, n. 3, 2017.
PEZZELLA, Maria Cristina Cereser; GHISI, Silvano. Sociedade da informação e o ciberespaço. Joaçaba: Editora Unoesc, 2015.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. Porto Alegre: Iivraria do Advogado, 1998.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. 10. ed. rev. atual. e ampl. 2. Reimp. Porto Alegre: Livraria do Advogado, 2010.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais: uma teoria geral dos direitos fundamentais na perspectiva constitucional. 11. ed. rev. atual. Porto Alegre: Livraria do Advogado Editora, 2012.
SARLET, Ingo Wolfgang. O princípio da dignidade da pessoa humana e os direitos fundamentais. 2. ed. Porto Alegre: Livraria do Advogado, 2015. p. 70.
TARGET. Disponível em: <https://www.target.com/>. Acesso em: 15 fev. 2021.
TEFFÉ, Chiara Spadaccini de; MEDON, Filipe. Responsabilidade civil e regulação de novas tecnologias: questões acerca da utilização de inteligência artificial na tomada de decisões empresariais. Revista Estudos Institucionais, v. 6, n. 1, p. 301-333, jan./abr. 2020.
TEFFÉ, Chiara Spadaccini. Quem responde pelos danos causados pela IA? Jota, publicado em 24 de outubro de 2017. Disponível em:<https://www.jota.info/opiniao-e-analise/artigos/quem-responde-pelos-danoscausados-pela-ia-24102017> Acesso em: 01 out. 2020
TEFFÉ, Chiara Spadaccini; MEDON, Filipe. A utilização de inteligência artificial em decisões empresariais: notas introdutórias acerca da responsabilidade civil dos administradores. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.
TEPEDINO, Gustavo. SILVA, Rodrigo da Guia. O Direito Civil na era da inteligência artificial [livro eletrônico] 1. ed. - São Paulo: Thomson Reuters Brasil, 2020.
VLADECK, David; C. Machines. without principals: liability rules and artificial intelligence. Washington Law Review, v. 89, n. 117, 2014.
UNITED STATES. Unified face representation for individual recognition in survellance videos and vehicle logo super-resolution system. jul., 2016. Disponível em: <https://patentimages.storage.googleapis.com/c2/ac/3d/edb04fb5d90aa1/US20160217319A1.pdf>. Acesso em: 15 fev. 2021.
WOLKMER, Antônio Carlos. Introdução aos fundamentos de uma teoria geral dos “novos” direitos. Revista Jurídica UNICURITIBA, v. 2, n. 31, p. 121-148, 2013. Disponível em: <http://revista.unicuritiba.edu.br/index.php/RevJur/article/view/593>. Acesso em: 15 fev. 2021.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Gustavo Silveira Borges, Mauricio da Cunha Savino Filó, Henrique Lapa Lunardi
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
By submitting articles to Revista Paradigma, the author already authorizes their publication in case of approval after due evaluation process, aware of the journal's free access policy.
The author declares that he is aware that all information included in the submission will be published, including name, affiliation, title and email address.
