Escritura científico-académica e inteligencia artificial: algunos límites para los grandes modelos de lenguaje

• Autores: Scotto, Victoria
• Año de publicación: 2025
• Idioma: español castellano
• Tipo de recurso: artículo
• Materia: GRANDES MODELOS DE LENGUAJE; ESCRITURA CIENTÍFICO-ACADÉMICA; ALFABETIZACIÓN ACADÉMICA; ALFABETIZACIÓN DIGITAL; CHATGPT
• Institución: Consejo Nacional de Investigaciones Científicas y Técnicas

Desde 2022 el mundo científico ha acusado recibo del impacto que representó la masificación del ChatGPT. Su utilización en contextos académicos y científicos ha despertado el interés de investigaciones diversas que, hasta ahora, no han sido ordenadas en función de criterios de uso por parte de los individuos, y tampoco han hecho foco en las características comunes que presentan los textos que genera. El presente trabajo es una exposición ordenada de los problemas y límites del uso de grandes modelos de lenguaje en contextos académicos y científicos identificados en la bibliografía especializada, realizada en función de un criterio novedoso, el de uso experto. Por un lado, se referirán consecuencias del uso no experto, y por otro, se desarrollará qué problemas y limitaciones se observan en textos generados por estos modelos, problemas que pueden observarse (pero aún no prevenirse) con el uso experto: la falta de trazabilidad y los sesgos, las alucinaciones, el parroting, el plagio, el desarrollo argumentativo endeble y las exposiciones inconsistentes, incoherentes y contradictorias.
Since 2022, the scientific world has acknowledged the impact of the massification of ChatGPT. Its use in academic and scientific contexts has sparked the interest of various research projects that, until now, have not yet organized their analysis according to criteria of individual expert use, nor have they focused on the common characteristics of the texts they generate. This paper is an organized exposition of the problems and limitations of the use of large language models in academic and scientific contexts observed in the specialized literature, based on a novel criterion: expert use. On the one hand, we will address the consequences of non-expert use, and on the other, we will name and explain the problems and limitations observed in texts generated by these models, problems that can be observed (but not yet prevented) with expert use: lack of traceability and biases, hallucinations, parroting, plagiarism, weak argumentative development, and inconsistent, incoherent, and contradictory expositions.
Desde 2022, o mundo científico sente o impacto do uso generalizado do ChatGPT. Seu uso em contextos acadêmicos e científicos tem despertado o interesse de diversos projetos de pesquisa que, até o momento, não foram organizados segundo critérios de uso por indivíduos, nem se concentraram nas características comuns dos textos que gera. Este artigo é uma exposição organizada dos problemas e limitações do uso de grandes modelos de linguagem em contextos acadêmicos e científicos identificados na literatura especializada, com base em um novo critério: o uso por especialistas. Por um lado, serão discutidas as consequências do uso não especializado e, por outro, serão desenvolvidos os problemas e limitações observados em textos gerados por esses modelos, problemas que podem ser observados (mas ainda não prevenidos) com o uso especializado: falta de rastreabilidade e vieses, alucinações, parroting, plágio, fraco desenvolvimento argumentativo e exposições inconsistentes, incoerentes e contraditórias.
Fil: Scotto, Victoria. Consejo Nacional de Investigaciones Científicas y Técnicas. Centro Científico Tecnológico Conicet - La Plata. Instituto de Investigaciones en Humanidades y Ciencias Sociales. Universidad Nacional de La Plata. Facultad de Humanidades y Ciencias de la Educación. Instituto de Investigaciones en Humanidades y Ciencias Sociales; Argentina