Inteligencia artificial generativa en la educación: implicaciones éticas y riesgos cognitivos

• Autores: Suárez Muñoz, Flavio
• Año de publicación: 2025
• Idioma: español castellano
• Tipo de recurso: documento de conferencia
• Materia: Ciencias Informáticas; inteligencia artificial generativa; Ética; Cognición; Educación a distancia; procesamiento de lenguaje natural; generative artificial intelligence; ethics; cognition; distance education; natural language processing
• Institución: Universidad Nacional de La Plata

La Inteligencia Artificial Generativa (IAG) posee un vasto potencial transformador, pero su implementación plantea interrogantes éticas y cognitivas importantes, especialmente en la educación a distancia. Aunque las herramientas de Procesamiento de Lenguaje Natural (PLN) facilitan la creación de trabajos aparentemente originales, también derivan en un esfuerzo cognitivo mínimo por parte de los estudiantes, lo que limita el aprendizaje significativo. Esta situación se agrava por la reducida interacción entre docentes y alumnos en entornos remotos, y dificulta la detección de contenidos generados por algoritmos.El desafío va más allá de la honestidad académica; constituye un riesgo significativo para el desarrollo cognitivo de futuros profesionales. Los estudiantes podrían habituarse a consumir y producir textos, y a resolver problemas mediante el uso de IAG. A pesar de su sofisticación lingüística, estas herramientas carecen de razonamiento y de le conciencia que caracteriza al ser humano, elementos esenciales para la producción académica y generación de conocimiento auténtico.Para indagar sobre este tema, se propone la hipótesis de que: los algoritmos de PLN, al propiciar la delegación sistemática de actividades intelectuales en sistemas automatizados, inhiben el desarrollo del pensamiento creativo y crítico en los estudiantes. Esta transferencia de responsabilidad cognitiva impactaría negativamente en los procesos de aprendizaje, desvirtuando la esencia educativa y generando potenciales efectos perjudiciales en los educandos. Las implicaciones sociales podrían ser graves, al obstaculizar la adecuada inserción y desempeño laboral de los estudiantes.Ante este panorama, parece necesario abordar la pregunta sobre ¿cómo puede la IAG integrarse éticamente en el ámbito educativo sin comprometer los fundamentos del aprendizaje y el desarrollo cognitivo? Un análisis preliminar sugiere la necesidad de desarrollar marcos éticos robustos que orienten la integración tecnológica en contextos educativos. El objetivo es equilibrar la innovación con la preservación de los valores fundamentales del aprendizaje, aprovechando el potencial de la IAG mientras se mitigan sus efectos adversos en la formación integral de las nuevas generaciones de profesionistas.
Generative Artificial Intelligence (GAI) holds vast transformative potential, but its implementation raises significant ethical and cognitive questions, especially in distance education. Although Natural Language Processing (NLP) tools facilitate the creation of seemingly original work, they also lead to minimal cognitive effort from students, which limits meaningful learning. This situation is exacerbated by the reduced interaction between teachers and students in remote settings, making it difficult to detect algorithm generated content. The challenge goes beyond academic honesty; it poses a significant risk to the cognitive development of future professionals. Students could become accustomed to consuming and producing texts, and solving problems, through the use of GAI. Despite their linguistic sophistication, these tools lack of reasoning and consciousness that characterize human beings, which are essential elements for academic production and the generation of authentic knowledge.To inquire about this topic, the hypothesis is proposed that: NLP algorithms, by fostering the systematic delegation of intellectual activities to automated systems, inhibit the development of creative and critical thinking in students. This transfer of cognitive responsibility would negatively impact learning processes, distorting the educational essence and generating potential detrimental effects on learners. The social implications could be severe, by blocking proper integration and performance in the workplace of the students.Given this scenario, it seems necessary to address the question of how GAI can be ethically integrated into the educational sphere without compromising the foundations of learning and cognitive development. A preliminary analysis suggests the need to develop robust ethical frameworks to guide technological integration in educational contexts. The goal is to balance innovation with the preservation of fundamental learning values, leveraging GAI's potential while mitigating its adverse effects on the holistic training of new generations of professionals.
Sociedad Argentina de Informática e Investigación Operativa