CHALLENGES AND OPPORTUNITIES FOR THE ETHICAL, CRITICAL, AND RESPONSIBLE USE OF GENERATIVE ARTIFICIAL INTELLIGENCE: A CASE STUDY OF THE FEDERAL INSTITUTE OF PARÁ (IFPA) – MARABÁ INDUSTRIAL CAMPUS
DOI:
https://doi.org/10.18623/rvd.v23.8157Keywords:
Inteligência Artificial Generativa, Ética, Direitos AutoraisAbstract
A Inteligência Artificial (IA) tem promovido transformações na educação por meio de estratégias de aprendizagem personalizadas e mediadas por tecnologias digitais. Entretanto, sua incorporação ao contexto educacional impõe desafios éticos, pedagógicos e jurídicos relacionados à autoria, aos direitos autorais, à integridade acadêmica e ao uso responsável da informação, evidenciando a necessidade de diretrizes institucionais. No Instituto Federal do Pará (IFPA) – Campus Marabá Industrial, verificou-se que 97,9% dos estudantes utilizam o ChatGPT, associado à inexistência de orientações institucionais para o uso ético, crítico e responsável da Inteligência Artificial Generativa (IAG). Diante desse cenário, esta pesquisa teve como objetivo analisar o nível de conhecimento dos estudantes sobre a IAG e propor um guia educativo com orientações práticas para seu uso ético, visando à proteção dos direitos autorais e ao fortalecimento da integridade acadêmica. Trata-se de um estudo de caso, de abordagem quantitativa descritiva, fundamentado em pesquisa bibliográfica e documental e na aplicação de questionário estruturado a 140 estudantes do ensino médio integrado. Os resultados evidenciaram elevado uso do ChatGPT, associado ao reduzido conhecimento sobre IAG, propriedade intelectual e direitos autorais, bem como à ausência de orientações institucionais. Como produto tecnológico, foi elaborado um guia educativo destinado a subsidiar políticas institucionais e ações educativas voltadas ao uso ético, crítico e responsável da IAG, contribuindo para a promoção da integridade acadêmica e da proteção dos direitos autorais no ambiente educacional.
References
BARBOSA, Denis Borges. Direito de autor: questões fundamentais de direito de autor. Rio de Janeiro: Lumen Juris, 2013. 984 p. ISBN 978-85-375-2300-1. Disponível em: https://www.isbns.nu/isbn/9781329315914.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY (FAccT), 2021, Virtual Event. Proceedings... New York: ACM, 2021. p. 610–623. DOI: https://doi.org/10.1145/3442188.3445922. Disponível em: https://dl.acm.org/doi/10.1145/3442188.3445922. Acesso em: 13 ago. 2026.
BENNETT, Lorraine; ABUSALEM, Ali. Artificial intelligence (AI) and its potential impact on the future of higher education. Athens Journal of Education, Athens, v. 11, n. 3, p. 195-212, ago. 2024. Disponível em: https://biblioteka.pans.krosno.pl/eds/recorddetail?db=eric&an=EJ1438036. Acesso em: 26 de jul. de 2026.
BUSSAB, Wilton de Oliveira; MORETTIN, Pedro Alberto. Estatística básica. 10. ed. São Paulo: Saraiva Uni, 2023.
BRASIL. Ministério da Saúde. Conselho Nacional de Saúde. Resolução nº 466, de 12 de dezembro de 2012. Aprova as diretrizes e normas regulamentadoras de pesquisas envolvendo seres humanos. Revoga as Resoluções nº 196/96, 303/00 e 404/08. Diário Oficial da União: seção 1, Brasília, DF, 13 dez. 2012. Disponível em: https://www.gov
.br/conselho-nacional-de-saude/pt-br/atos-normativos/resolucoes/2012/resolucao-no-466.pdf. Acesso em: 26 de jul. de 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, ano 155, n. 157, p. 59, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 26 de jul. de 2026.
BRASIL. Ministério da Saúde. Conselho Nacional de Saúde. Resolução nº 510, de 07 de abril de 2016. Dispõe sobre as normas aplicáveis a pesquisas em Ciências Humanas e Sociais cujos procedimentos metodológicos envolvam a utilização de dados diretamente obtidos com os participantes ou de informações identificáveis ou que possam acarretar riscos maiores do que os existentes na vida cotidiana. Diário Oficial da União: seção 1, Brasília, DF, p. 44, 24 maio de 2016. Disponível em: https://www.gov.br/conselho-nacional-de-saude/pt-br/atos-normativos/resolucoes/2016
/resolucao-no-510.pdf. Acesso em: 26 de jul. de 2026.
BRASIL. Lei nº 9.279, de 14 de maio de 1996. Regula direitos e obrigações relativos à propriedade industrial. Brasília, DF: Presidência da República, 1996.
BRASIL. Lei nº 9.610, de 19 de fevereiro de 1998. Altera, atualiza e consolida a legislação sobre direitos autorais. Brasília, DF: Presidência da República, 1998.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil. Brasília, DF: Presidência da República, 2014.
BRASIL. Conselho Nacional de Educação. Câmara de Educação Básica. Parecer CNE/CEB nº 2, de 17 de fevereiro de 2022. Normas sobre Computação na Educação Básica – Complemento à Base Nacional Comum Curricular (BNCC). Homologado por Despacho do Ministro da Educação, publicado no Diário Oficial da União de 3 out. 2022. Brasília, DF: Ministério da Educação, 2022. Disponível em: https://mecnormas.mec.gov.br. Acesso em: 26 de jul. de 2026.
BRASIL. Conselho Nacional de Educação. Câmara de Educação Básica. Resolução CNE/CEB nº 1, de 4 de outubro de 2022. Institui normas sobre Computação na Educação Básica – Complemento à Base Nacional Comum Curricular (BNCC). Brasília, DF: Ministério da Educação, 2022. Disponível em: https://mecnormas.mec.gov.br. Acesso em: 26 de jul. de 2026.
BRASIL. Conselho Nacional de Desenvolvimento Científico e Tecnológico. Portaria nº 2.664, de 6 de março de 2026. Institui a nova Política de Integridade na Atividade Científica, estabelecendo diretrizes nacionais de ética, combate à má conduta acadêmica e regulamentando o uso obrigatório de Inteligência Artificial Generativa (IAG) em pesquisas financiadas pelo órgão. Diário Oficial da União, Brasília, DF, 6 mar. 2026.
BUCKINGHAM, David. Defining digital literacy: What do young people need to know about digital media? Nordic Journal of Digital Literacy, v. 10, p. 21-34, 2015. Disponível em: https://doi.org/10.18261/issn1891-943x-2015-jubileumsnummer-03. Acesso em: 26 de jul. de 2026.
CARLINI, Nicholas; TRAMÈR, Florian; WALLACE, Eric; JAGIELSKI, Matthew; HERBERT-VOSS, Ariel; LEE, Katherine; ROBERTS, Adam; BROWN, Tom B.; SONG, Dawn Xiaodong; ERLINGSSON, Úlfar; OPREA, Alina; RAFFEL, Colin. Extracting Training Data from Large Language Models. In: USENIX SECURITY SYMPOSIUM, 30., 2021, Virtual Event. Proceedings... Berkeley: USENIX Association, 2021. p. 2633–2650. Disponível em: https://www.usenix.org/conference/usenixsecurity21/presentation/carlini. Acesso em: 13 ago. 2026.
COCHRAN, William G. Sampling techniques. 3. ed. New York: Wiley, 1977. 428 p. (Wiley series in probability and mathematical statistics).
CONSELHO NACIONAL DE EDUCAÇÃO (Brasil). Parecer que estabelece diretrizes para o uso da inteligência artificial na educação básica e superior. Brasília, DF, 11 maio 2026. Documento em consulta pública. Disponível em: https://cnte.org.br/noticias/cne-abre-consulta-publica-sobre-uso-de-ia-na-escola.
ELOUNDOU, Tyna; MANNING, Sam; MISHKIN, Pamela; ROCK, Daniel. GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models. Ithaca: arXiv, 2023. DOI: https://doi.org/10.48550/arXiv.2303.10130. Disponível em: https://arxiv.org/abs/2303.10130. Acesso em: 13 ago. 2026.
FLORIDI, Luciano et al. AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, v. 28, n. 4, p. 689-707, 2018.
HERRERA, Francisco. Attentiveness on criticisms and definition about Explainable Artificial Intelligence, 2024 19th Conference on Computer Science and Intelligence Systems (FedCSIS), Belgrade, Serbia, 2024, pp. 45-52, doi: 10.15439/2024F0001. Disponível em: https://ieeexplore.ieee.org/document/10736047 . Acesso em: 13 ago. 2026.
JIN, Yueqiao; YAN, Lixiang; ECHEVERRIA, Vanessa; GAŠEVIĆ, Dragan; MARTINEZ-MALDONADO, Roberto. Generative AI in higher education: a global perspective of institutional adoption policies and guidelines. Computers and Education: Artificial Intelligence, [s.l.], v. 8, p. 100348, 2025. Disponível em: https://arxiv.org/abs/2405.11800. Acesso em: 26 de jul. de 2026.
KASNECI, Enkelejda et al. ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, Amsterdam, v. 103, artigo 102274, 2023. DOI: 10.1016/j.lindif.2023.102274. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/
S1041608023000195. Acesso em: 26 de jul. de 2026.
LEE, Katherine; COOPER, A. Feder; GRIMMELMANN, James. Talkin’ ‘Bout AI Generation: Copyright and the Generative-AI Supply Chain. Journal of the Copyright Society, [S. l.], 2024. No prelo. DOI: https://doi.org/10.2139/ssrn.4523551. Disponível em: https://ssrn.com/abstract=4523551. Acesso em: 13 ago. 2026.
LESSIG, Lawrence. Code: version 2.0. New York: Basic Books, 2006.
MCDONALD, Nora; JOHRI, Aditya; ALI, Areej; HINGLE COLLIER, Aayushi. Generative artificial intelligence in higher education: evidence from an analysis of institutional policies and guidelines. Computers in Human Behavior: Artificial Humans, [s.l.], v. 3, p. 100121, 2025. Disponível em: https://arxiv.org/abs/2402.01659. Acesso em: 26 de jul. de 2026.
OECD – ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT. OECD digital education outlook 2026: exploring effective uses of generative AI in education. Paris: OECD Publishing, 2026. (OECD Digital Education Outlook, 2026).
PARK, S.; NAN, X. Generative AI and misinformation: a scoping review of the role of generative AI in the generation, detection, mitigation, and impact of misinformation. AI & SOCIETY, v. 41, p. 1501–1515, 2026. DOI: https://doi.org/10.1007/s00146-025-02620-3 .
SAI, S.; YASHVARDHAN, U.; CHAMOLA, V.; SIKDAR, B. Generative AI for Cyber Security: Analyzing the Potential of ChatGPT, DALL-E, and Other Models for Enhancing the Security Space. IEEE Access, v. 12, p. 53497–53516, 2024. DOI: https://doi.org/10.1109/ACCESS.2024.3385107.
SELWYN, Neil. Education and technology: key issues and debates. 3. ed. London: Bloomsbury Academic, 2022.
SURBAKTI, F. P. S. Systematic Literature Review on Generative AI: Ethical Challenges and Opportunities. International Journal of Advanced Computer Science and Applications, v. 16, n. 5, 2025. DOI: https://doi.org/10.14569/IJACSA.2025.0160530.
TAEIHAGH, Araz. The ethics of generative AI: decision-making, personalization, and autonomy. Policy and Society, v. 44, n. 1, p. 1–15, 2025. DOI: https://doi.org/10.1093/polsoc/puae040.
UNESCO – UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Recommendation on the ethics of artificial intelligence. Paris: UNESCO, 2021. Disponível em: https://www.unesco.org/en/articles/
recommendation-ethics-artificial-intelligence. Acesso em: 26 de jul. de 2026.
UNESCO – UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Guidance for generative AI in education and research. Paris: UNESCO, 2023. 44 p. ISBN 978-92-3-100612-8. DOI: 10.54675/EWZM9535. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693. Acesso em: 26 de jul. de 2026.
UNIVERSIDADE FEDERAL DO PARÁ. Conselho Superior de Ensino, Pesquisa e Extensão (CONSEPE). Resolução n.º 5.940, de 4 de agosto de 2025. Aprova a criação do Curso de Inteligência Artificial – Bacharelado, de interesse do Instituto de Ciências Exatas e Naturais (ICEN). Belém: UFPA, 2025. Disponível em: Boletim Interno do CONSEPE – 2025. Acesso em: 26 de jul. de 2026.
UNIVERSIDADE FEDERAL DO PARÁ. Conselho Superior de Ensino, Pesquisa e Extensão (CONSEPE). Resolução n.º 5.941, de 4 de agosto de 2025. Aprova o Projeto Pedagógico do Curso de Inteligência Artificial – Bacharelado, de interesse do Instituto de Ciências Exatas e Naturais (ICEN). Belém: UFPA, 2025. Disponível em: Boletim Interno do CONSEPE – 2025. Acesso em: 26 de jul. de 2026.
UNICEF – UNITED NATIONS CHILDREN'S FUND. Guidance on AI and children: recommendations for AI policies and systems that uphold child rights. Version 3.0. Florence: UNICEF Innocenti – Global Office of Research and Foresight, 2025. Disponível em: https://www.unicef.org/innocenti/reports/policy-guidance-ai-children. Acesso em: 26 de jul. de 2026.
WORLD INTELLECTUAL PROPERTY ORGANIZATION (WIPO). Revised Issues Paper on Intellectual Property Policy and Artificial Intelligence. Geneva: WIPO, 2020. Disponível em: https://www.wipo.int/meetings/en/doc_details.jsp?doc_
id=499504. Acesso em: 26 de jul. de 2026.
ZAWACKI-RICHTER, Olaf et al. Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, [Cham], v. 16, p. 1-27, 2019. Disponível em: https://link.springer.com/article/10.1186/s41239-019-0171-0. Acesso em: 26 de jul. de 2026.
Downloads
Published
How to Cite
Issue
Section
License
I (we) submit this article which is original and unpublished, of my (our) own authorship, to the evaluation of the Veredas do Direito Journal, and agree that the related copyrights will become exclusive property of the Journal, being prohibited any partial or total copy in any other part or other printed or online communication vehicle dissociated from the Veredas do Direito Journal, without the necessary and prior authorization that should be requested in writing to Editor in Chief. I (we) also declare that there is no conflict of interest between the articles theme, the author (s) and enterprises, institutions or individuals.
I (we) recognize that the Veredas do Direito Journal is licensed under a CREATIVE COMMONS LICENSE.
Licença Creative Commons Attribution 3.0
