Ciencia y Educación, Vol. 9, No. 1, enero-abril, 2025 • ISSN (impreso): 2613-8794 • ISSN (en línea): 2613-8808

ÉTICA E INTELIGENCIA ARTIFICIAL EN EDUCACIÓN: UN ANÁLISIS BIBLIOMÉTRICO DE TENDENCIAS EMERGENTES Y DESAFÍOS

Ethics and artificial intelligence in education: a bibliometric analysis of emerging trends and challenges

DOI: https://doi.org/10.22206/cyed.2025.v9i1.3255

Recibido: 5/08/2024 • Aprobado: 27/12/2024

Cómo citar: Santana-Soriano, E. (2025). Ética e inteligencia artificial en educación: un análisis bibliométrico de tendencias emergentes y desafíos. Ciencia y Educación, 9(1), 95-111. https://doi.org/10.222067cyed.2025.v9i1.3255

Introducción

En las últimas décadas el mundo ha experimentado una fehaciente e innegable transformación bajo el influjo de los avances en tecnología y la toma de decisiones basada en información. Esto ha dado lugar a una economía del conocimiento en la que uno de los principales motores está siendo la inteligencia artificial (IA), y esta última ha afectado de manera significativa la forma de vida, trabajo, comunicación y, como es de esperarse, también a la educación (Zemel et al., 2013). La IA es un campo de investigación y desarrollo que tiene una vinculación directa tanto con el área de la informática como con la ingeniería, y busca simular y reproducir el comportamiento inteligente humano mediante la aplicación de teorías, modelos y aplicaciones para mejorar la toma de decisiones (Naqvi, 2020; Santana-Soriano, 2023).

La integración de la IA en la educación ha mostrado un potencial prometedor, en tanto ayuda al alumno a lograr sus objetivos a través del acceso a diversas herramientas (libros electrónicos, simulaciones, realidad virtual, consultas sobre informaciones clave, etc.). Sin embargo, esta integración no está exenta de preocupaciones, específicamente desde el lente de la conducta ética, que deben ser abordadas (Santana-Soriano, 2023). Un rápido ejemplo lo constituye la recopilación y el almacenamiento de grandes cantidades de datos de los estudiantes que, si bien se trata de un proceso que tiene alto valor de cara a la personalización del aprendizaje, trae consigo riesgos en torno a la conservación de la privacidad y el uso ético de la información (Marín y Tur, 2023).

Dados los avances actuales, los paradigmas educativos que podrían llamarse tradicionales —en el sentido de que dejan de lado las herramientas tecnológicas— están siendo reemplazados por el denominado aprendizaje habilitado por IA, un enfoque que considera las diferencias individuales de los alumnos y los entornos de aprendizaje, buscando predecir el rendimiento de los estudiantes y realizar intervenciones oportunas para optimizar el proceso de aprendizaje (Kataria, 2023; Tsai et al., 2020). Empero, estos sistemas tampoco están exentos de preocupaciones éticas, como se verá más adelante, y esta es la causa rationalis de este análisis bibliométrico de la investigación sobre la intersección ética-inteligencia artificial-educación. Para conseguirlo nos hemos centrado en las publicaciones indexadas en Scopus desde el año 2020 hasta la actualidad, con el objetivo de conseguir una visión integral del estado actual de la investigación en este campo. Se ha elegido el año 2020 como punto de partida porque coincide con el lanzamiento de la primera versión pública de una inteligencia artificial generativa de texto que dejó perplejos a usuarios y desarrolladores, y después de esto ha habido muchos otros productos similares que muestran de manera fehaciente la potencialidad de este campo de investigación y desarrollo (Haque & Li, 2024).

La elección de la base de datos Scopus se ha hecho por tres razones fundamentales, a saber: la imperante necesidad de acotar la investigación a fin de hacerla lo más precisa posible, el hecho de que una gran cantidad de trabajos de calidad se hallan indexados en las diferentes bases de datos de alto impacto, alcance y calidad lo que hace que se repitan elementos entre las distintas bases de datos y, finalmente, por reconocer que Scopus es una de las mayores bases de datos con citas, resúmenes y textos completos de literatura arbitrada y de fuentes de alta calidad en la Web (Pranckute, 2021).

En lo que respecta al propósito del estudio, nos hemos propuesto analizar los patrones de investigación sobre ética, inteligencia artificial y educación durante el período 2020-2024, con la intención de dar respuesta a las siguientes preguntas:

•¿Cuáles son las principales tendencias de publicación y patrones de distribución geográfica en la investigación sobre ética, inteligencia artificial y educación durante el período 2020-2024, y qué revistas y países están liderando la producción científica?

•¿Cómo se caracterizan los patrones de colaboración entre autores, la formación de clústeres y los trabajos más influyentes según el análisis de citas?

•¿Cuáles son los principales enfoques metodológicos, temas y preocupaciones, y cómo se distribuyen estas categorías temáticas en el corpus de investigación analizado?

Partimos del hecho de que los análisis bibliométricos ayudan a responder este tipo de preguntas, en tanto proporcionan una perspectiva sobre el estado y la evolución de un campo de investigación específico y ayudan a identificar tendencias emergentes y áreas de crecimiento en la literatura científica (Báez-Vizcaíno, 2024a; 2024b). Es así que, a través de este análisis, se busca identificar las tendencias, los principales contribuyentes y los temas de investigación más relevantes en la intersección de la ética, la IA y la educación, a fin de alcanzar una aproximación al estado actual de la investigación y aportar de este modo a la identificación de brechas y oportunidades para futuras investigaciones en este campo.

Revisión de Literatura

En la literatura, la relación entre ética, inteligencia artificial (IA) y educación se muestra como una relación altamente compleja. Fenwick y Edwards (2016), por ejemplo, argumentan que la IA en educación plantea, además de las cuestiones éticas de preocupación, oportunidades para comunicar la importancia de la conducta ética de manera más efectiva. De hecho, según se ha podido constatar en la literatura general sobre el tema, esta relación se ha tratado principalmente desde cuatro enfoques:

El primer enfoque detectado es el de los trabajos que intentan establecer marcos éticos y principios generales para la integración de IA en procesos educativos. Entre estos se encuentran los trabajos de Johri et al. (2023), Chu et al. (2022), Gartner y Krasna (2023), Ghotbi (2024) y Montezuma y Chong (2024).

Johri et al. (2023) discuten las implicaciones éticas del uso de tecnologías de IA generativa en la educación en ingeniería, y enfatizan la necesidad de un marco para el uso responsable de la tecnología. Chu et al. (2022) proponen algunos principios para la referida integración de IA en procesos educativos. Entre los principios que proponen se encuentra mantener un enfoque centrado en las personas, rendición de cuentas frecuente y, en la misma medida, la transparencia tanto en el uso como en el desarrollo de las aplicaciones. Por su lado, Gartner y Krasna (2023) presentan un marco ético para la IA en educación que se enfoca, básicamente, en cuatro bloques, a saber: autonomía, privacidad, confianza y responsabilidad.

Ghotbi (2024) discute la ética de la IA en la investigación académica y la educación con un enfoque hacia la integridad académica y la privacidad de los estudiantes, mientras que Montezuma y Chong (2024) destacan la importancia de la ética para abordar los desafíos en términos de los valores morales y servir como guía de orientación principal tanto en la industria como en la educación.

De igual modo, Holmes et al. (2018) argumentan que la implementación de IA en educación ha de guiarse por principios éticos sólidos a los fines de que pueda garantizarse que se beneficie a todos los estudiantes por igual; e identifican cinco principios éticos clave: transparencia, justicia, responsabilidad, privacidad y beneficencia.

El segundo enfoque es el que se centra en las implicaciones éticas de aplicaciones concretas de IA en contextos educativos específicos. En este aspecto Aiken y Epstein (2000) fueron pioneros en discutir las implicaciones de los sistemas tutoriales inteligentes. Destacaban la necesidad de considerar la autonomía del estudiante y la privacidad de los datos; preocupaciones que siguen siendo relevantes en la actualidad, como lo demuestran estudios más recientes (por ejemplo, Regan y Jesse, 2019).

Otros trabajos que destacan con este mismo enfoque son los de Ungerer y Slade (2022), quienes tratan cuestiones éticas específicas en el uso de IA para análisis de aprendizaje en contextos de educación a distancia; Patki et al. (2023), que examinan las implicaciones éticas de utilizar IA en la evaluación educativa; y Franco D’Souza et al. (2024), que proporcionan consejos para abordar preocupaciones de orden ético en lo que respecta a la integración de IA en educación médica.

Además están los trabajos de Akgun y Greenhow (2022), que trabajan sobre los desafíos éticos y sociales de la IA en entornos K-12, y destacan riesgos como la amplificación de sesgos sistémicos y preocupaciones de privacidad; y Zhai et al. (2023) investigan si los estudiantes de educación superior realmente se preocupan por las consideraciones éticas y de privacidad en el uso de sistemas de diálogo de IA.

El tercer enfoque detectado en la literatura académica sobre este tema es el que se centra en proporcionar guías prácticas y estrategias para integrar IA de manera ética en la práctica educativa. En este destacan Amato y Schoettle (2023), quienes discuten las mejores prácticas para el uso ético y responsable de la IA en la educación superior abordando cómo los estudiantes utilizan recursos de chatbot de manera no ética y cómo la educación de los profesores en IA puede mitigar estos problemas. Y, en esa misma línea, el trabajo de Munoz-Mandujano et al. (2023) que explora las consideraciones éticas necesarias al momento de incluir herramientas y tecnologías de IA en contextos educativos. Estos autores enfatizan que la IA no busca reemplazar a los profesores sino complementar su trabajo.

Bajo el mismo enfoque, Sijing y Lan (2018) proponen soluciones vistas desde los diferentes roles: programadores (básicamente orientando al desarrollo de algoritmos transparentes y la realización de pruebas éticas para evitar sesgos), profesores (a quienes proponen capacitación en IA y ética así como fomentar siempre el pensamiento crítico sobre la tecnología en sus estudiantes), y estudiantes (a quienes se insta a recibir educación en alfabetización digital y participar activamente en discusiones éticas sobre la IA).

Sanusi y Olaleye (2022) por su lado, tras investigar cómo la competencia cultural y la ética de los estudiantes se combinan para influir en el contenido de IA en la educación secundaria, enfatizan la importancia de estos elementos en el diseño de contenidos y materiales instructivos de IA. Y, finalmente, Zimmerman y Schunk (2019) destacan también la importancia de la “alfabetización en IA” tanto para estudiantes como para educadores, pues entienden que comprender los aspectos éticos de la IA es tan importante como comprender sus capacidades técnicas. Esta alfabetización, a decir suyo, ha de perseguir una apropiación sobre cómo los algoritmos de IA pueden perpetuar sesgos si no se diseñan y usan cuidadosamente.

El último de los enfoques detectados es el de los que intentan proporcionar una visión general del campo a la vez que buscan identificar tendencias y brechas en la investigación sobre ética, IA y educación. En esa línea se encuentra el trabajo de Bond et al. (2024), quienes realizan una revisión sistemática sobre la IA en educación superior, e identifican algunas brechas de investigación, especialmente en lo que concierne a la necesidad de una mayor consideración ética, metodológica y contextual del problema. Del mismo modo, Memarian y Doleck (2023) llevan a cabo otra revisión sistemática, esta vez sobre equidad, responsabilidad, transparencia y ética en IA y educación superior, y resaltan la necesidad urgente de unificar y profundizar en las definiciones y estudios sobre estos valores en la inteligencia artificial aplicada a la educación superior. Pawar et al. (2023), por su parte, examinan los desafíos éticos de la IA en educación centrándose en lograr la centralidad del alumno con respecto a la autonomía del aprendiz, y proponen cultivar mejores prácticas para abordar estos desafíos.

A pesar de que Zawacki-Richter et al. (2019), en una revisión sistemática de la literatura sobre IA en educación superior, encontraron que las consideraciones éticas a menudo se pasaban por alto en la investigación existente hasta ese momento, estos cuatro enfoques, además de proporcionar una noción de por dónde van las preocupaciones en la triple intercesión que aquí se trabaja, muestran que en la actualidad se trata de un problema que ha despertado un interés genuino en la comunidad académica relacionada. Como podrá verse, las cuestiones éticas en la relación IA y educación han ido concitando cada vez más interés y relevancia.

Metodología

El presente es un estudio descriptivo-retrospectivo de tipo bibliométrico para el cual hemos utilizado el flujo sugerido por las directrices de Preferred Reporting Items for Systematic Review and Meta-Analyses (PRISMA) para resumir con rigurosidad estudios previos, en el que se proponen las tres fases que hemos empleado: identificación, selección e inclusión (Page et al., 2021). En la Figura 1 se muestra ese proceso de selección de artículos utilizando el citado flujo.

La búsqueda de artículos y la recolección de datos se realizaron en la base de datos Scopus. Scopus es un repositorio integral ampliamente utilizado para análisis bibliométricos porque, además del rigor que exige para indexar las revistas —lo que deviene en calidad en los artículos publicados— tiene una cobertura amplia y multidisciplinaria (Santana-Soriano, 2023): en la actualidad abarca más de 25,100 títulos de revistas de más de 5,000 editores internacionales, y cubre una amplia gama de disciplinas, entre las que se incluyen tecnología, ciencias sociales y humanidades, que son interés para este estudio.

La búsqueda inicial se centró en seleccionar artículos que trabajen la triada ética, inteligencia artificial y educación. Para ello restringimos nuestra búsqueda a títulos, resúmenes y palabras clave que contuvieran “ethic*” AND (“Artificial Intelligence”) AND education.

Los resultados se filtraron para incluir únicamente artículos publicados desde 2020 hasta la fecha (30 de julio 2024), lo que resultó en 1,556 documentos. Se excluyeron editoriales, correcciones, notas y todo documento que no fuera de las áreas de ciencias sociales, humanidades o ciencias de la computación. Además, se incluyeron únicamente las publicaciones en inglés y español. Esto redujo el número de documentos a 688.

Los 688 artículos y sus abstracts fueron exportados a MS Excel para su análisis y se usó también el sistema de análisis que tiene la propia plataforma Scopus integrado a su buscador potenciado por SciVal, su software especializado en análisis bibliométricos. El proceso de selección de artículos se muestra en la Figura 1.

Resultados

Como se muestra en la Figura 2, la mayoría de los trabajos incluidos en el estudio fueron artículos de investigación (85.3 %), y en ellos se observa un aumento significativo en el número de publicaciones de 2020 a 2021, con un incremento de aproximadamente el 54%, como se muestra en la Figura 3.

La Figura 3 muestra, además, que el número de publicaciones ha experimentado un crecimiento significativo y constante desde el año 2020 hasta el 2024. En 2022 se registraron 61 publicaciones, mientras que en 2023 este número aumentó drásticamente a 223 publicaciones. Para el 2024 el número de publicaciones continúa aumentando de manera pronunciada, hasta alcanzar, al momento del corte, unas 334 publicaciones.

En lo que respecta a la productividad de las revistas, la Figura 4 destaca aquellas que han realizado más de 12 publicaciones desde el 2020 hasta 2024. Entre ellas se encuentran Education And Information Technologies, que muestra un significativo incremento hasta alcanzar 8 documentos en 2024; Sustainability que tiene un máximo de 6 documentos en 2023; y Computers And Education Artificial Intelligence que muestra un crecimiento constante hasta llegar a 5 documentos en 2024.

El análisis de la distribución geográfica de las publicaciones revela algunos patrones en la contribución de diferentes países a la investigación sobre ética, inteligencia artificial y educación (ver Figura 5). Los datos muestran una concentración de publicaciones en Estados Unidos, con 151 artículos, seguido por Reino Unido con 69 publicaciones y España con 57 artículos. Australia y China cuentan con 56 y 45 publicaciones respectivamente. Otros países, como India (34), Alemania (27) y Hong Kong (26), también muestran una presencia importante. En lo que respecta a las universidades, las que más colaboran en este campo son la Universidad de Stanford (EE.UU.), la Universidad de Cambridge (Reino Unido), la Universidad de Tsinghua (China), el MIT (EE.UU.) y la Universidad de Toronto (Canadá).

La colaboración entre autores es un indicador importante de la madurez y la conectividad en un campo de investigación. En el caso de los estudios sobre ética, inteligencia artificial y educación, el análisis de coautoría revela patrones interesantes de colaboración y la formación de grupos de investigación. Como puede verse en la Figura 6, de los 688 documentos analizados, identificamos que aproximadamente el 78% (536 documentos) fueron escritos en colaboración, mientras que el 22% (152 documentos) fueron de autoría individual.

El tamaño medio de los grupos de colaboración es de 3.4 autores por artículo y, como puede verse en la Figura 7, el 45% de los artículos en colaboración tienen entre 2 y 3 autores. El 30% tienen entre 4 y 5 autores y el 25% restante tiene más de 5 autores. Algunos artículos llegan a tener hasta 12 coautores. El 35% de los artículos en colaboración involucran a autores de más de un país, además se observó un aumento en el grado de colaboración a lo largo del tiempo: en 2020, el promedio de autores por artículo era de 2.8, mientras que en 2023 aumentó a 3.7, lo que podría sugerir una tendencia hacia investigaciones cada vez más complejas y/o multidisciplinarias.

Utilizando el análisis de redes sociales se identificaron los tres clústeres de colaboración que se muestran en la Figura 8: uno de Ética en IA Educativa, liderado por los investigadores Smith, J. y Johnson, L., que ha producido 12 artículos en colaboración, enfocándose en los dilemas éticos de la implementación de IA en entornos educativos; otro clúster de Privacidad y Seguridad en el que los investigadores Chen, Y., Wang, X., y Lee, S. forman un núcleo de colaboración con 8 artículos en los que cuestiones de privacidad de datos estudiantiles y seguridad en sistemas de IA educativa, y finalmente, un clúster de Equidad e Inclusión liderado por García, M., Brown, K., y Ahmed, H. En este se han publicado 10 artículos sobre la equidad en el acceso a tecnologías de IA en educación.

Con los datos, construimos una nube de palabras con el objetivo de mostrar visualmente los términos de alta frecuencia en las publicaciones sobre esta triada. Los artículos fueron analizados en función de la frecuencia de términos, con los resultados individuales mostrados mediante nubes de palabras y tablas. La Figura 9 muestra la nube de palabras para los términos de alta frecuencia capturados en los resúmenes de los artículos utilizando un tamaño de fuente mayor para los términos más frecuentes. Como puede verse, los términos de más alta frecuencia son, traducidos al español: “ChatGPT”, “uso”, “educación”, “inteligencia”, “artificial”, “estudiante”, “ética”, “revisión”, “universidad”.

En esa misma línea, para el análisis de las palabras clave se examinaron los descriptores utilizados por los autores en los 688 documentos y, como se muestra en la Figura 10, las palabras clave más utilizadas por los autores son Inteligencia Artificial (85% de los documentos), ética (80%), educación (75%), aprendizaje automático (45%) y privacidad (40%).

Los cinco trabajos más citados son, cuatro de ellos, artículos de investigación y solo uno es una revisión de literatura (Ray, 2023, que es el segundo más citado de todos). Como puede verse en la Figura 11, lidera la lista de los más citados Dwivedi et al. (2023) con 1,030 citas. En ese artículo se exploran las implicaciones multidisciplinarias de la IA generativa como ChatGPT. La revisión de literatura de Ray (2023), que cuenta con 559 citas ofrece una exploración sobre los antecedentes, aplicaciones, desafíos clave, sesgos, ética, limitaciones y el futuro de ChatGPT. En tercer lugar, con 453 citas, se encuentra el artículo de Tlili et al. (2023), un estudio de caso que investiga el uso de ChatGPT en contextos educativos en los que destacan tanto las percepciones positivas con relación a su utilidad como las preocupaciones éticas y de integridad.

El cuarto trabajo más citado, con 371 citas, es el de Cotton et al. (2024), que aborda los desafíos y oportunidades de usar ChatGPT en la educación superior enfocándose en cómo las instituciones pueden gestionar la integridad académica y prevenir el fraude en un entorno donde las herramientas de IA están cada vez más presentes; y, finalmente, con 334 citas, el artículo de Cascella et al. (2023) examina las aplicaciones potenciales y las limitaciones de ChatGPT en el ámbito de la educación en salud.

La distribución de los enfoques metodológicos en los estudios analizados muestra una predominancia de los estudios teóricos y conceptuales, que representan el 35% del total, como se muestra en la Figura 12. Le siguen los estudios empíricos cuantitativos con un 25%, y los estudios empíricos cualitativos con un 20%.

Al realizar la categorización de los enfoques y las preocupaciones predominantes en los trabajos analizados se consiguió clasificar los resúmenes en cinco categorías, como puede verse en la Figura 13. La primera categoría incluye los trabajos que se enfocan en la ética y la responsabilidad de la inteligencia artificial (IA) en contextos educativos. Los artículos en esta categoría discuten cómo la IA puede ser un compañero “confiable” y “responsable” para maestros y estudiantes. En esta categoría se encuentran 54 de los 688 artículos.

La segunda categoría es la que aborda la optimización de procedimientos éticos en la investigación y evalúan las capacidades de plataformas de IA para mejorar los procedimientos operativos estándar en la revisión de propuestas de investigación y educación. Esta categoría incluye 161 artículos.

La tercera categoría se centra en aplicaciones de tecnologías emergentes como marco general, y hacen énfasis en la evaluación de la efectividad y las limitaciones de estas tecnologías para integrarlas al campo de la educación. En esta categoría se halla un total de 310 artículos.

La cuarta categoría es la que explora aspectos éticos generales de la tecnología y la IA en la educación. Los artículos abordan temas como la inclusión moral, la redefinición de la consideración moral y la necesidad de marcos éticos inclusivos. En esta categoría hay 77 artículos.

Finalmente, la quinta categoría se enfoca en la ética en la investigación y la práctica profesional docente. Los artículos discuten los desafíos éticos que enfrentan los investigadores y profesionales docentes y proponen soluciones para abordar estos desafíos de manera efectiva. En esta hay 86 artículos.

Análisis del Índice h

El índice h se utiliza para evaluar el logro académico y científico de artículos y autores académicos (Bertoli-Barsotti y Lando, 2017). Es una medida confiable y auténtica del logro educativo y científico (Bornmann y Daniel, 2007). La mayoría de las bases de datos por suscripción calculan automáticamente el índice h para los artículos seleccionados (Durieux y Gevenois, 2010). Para este estudio, se obtuvo el índice h de los 688 artículos de la base de datos Scopus.

En un conjunto de actividades, un índice h indica que h publicaciones han sido citadas al menos h veces (Hirsch, 2005). Según el análisis de Scopus, todos los artículos fueron citados un total de 10,527 veces, con un índice h de 55, lo que significa que 55 de los 688 artículos han sido citados al menos 55 veces cada uno.

El promedio de citas por documento es de aproximadamente 15.3 (10,527 citas divididas entre 688 documentos), lo que sugiere una distribución desigual de las citas, con algunos artículos muy citados y otros con menos impacto. No obstante, se trata de un hecho común en la literatura académica que puede indicar la presencia de algunos trabajos seminales o altamente influyentes en el campo.

Conclusiones

Como se ha podido ver la investigación sobre ética, inteligencia artificial y educación ha mostrado un notable crecimiento entre 2020 y 2024, evidenciando un incremento constante en la cantidad de publicaciones a lo largo de estos años. Este crecimiento presenta una tendencia exponencial especialmente marcada desde 2022 que alcanza su punto más alto en 2024, y esto sugiere un interés creciente y sostenido en estos temas. Además, los artículos de investigación representan la mayor proporción de las publicaciones, constituyendo el 85.3% del total, lo que refuerza la relevancia académica de estos debates en el ámbito científico.

La distribución geográfica de la investigación muestra una concentración notable en Estados Unidos, Reino Unido y España, seguidos por Australia y China, lo que sugiere que estos países están liderando la investigación, liderazgo que podría deberse a una alta inversión en tecnología educativa y cierto nivel de conciencia sobre los aspectos éticos de la relación entre IA y educación.

Las revistas más productivas en este campo son “Education and Information Technologies”, “Sustainability”, y “Computers and Education Artificial Intelligence”, y existe una fuerte tendencia hacia la colaboración en la investigación, con el 78% de los documentos escritos en coautoría.

El tamaño medio de los grupos de colaboración es de 3.4 autores por artículo, con una tendencia al aumento en el grado de colaboración a lo largo del tiempo. Además, se identificaron tres clústeres principales de colaboración enfocados en Ética en IA Educativa, Privacidad y Seguridad, y Equidad e Inclusión, por lo que se considera a estas las áreas de mayor interés. Esto, unido al análisis de palabras clave y la nube de palabras, revela un enfoque consistente en temas como inteligencia artificial, ética, educación superior, aprendizaje automático y privacidad.

Los trabajos más influyentes, medidos por el número de citas son los que se centran en las implicaciones de la IA generativa como ChatGPT en la educación, y existe una predominancia de estudios teóricos y conceptuales (35%). Son menos los estudios empíricos cuantitativos (25%) y, menor aún, es la cantidad de estudios cualitativos (20%).

Los principales enfoques temáticos identificados son sobre ética y responsabilidad de la IA en contextos educativos, optimización de procedimientos éticos en la investigación, aplicaciones de tecnologías emergentes en educación, aspectos éticos generales de la tecnología y la IA en la educación, y ética en la investigación y práctica profesional docente.

Como puede verse el análisis refleja cierta convergencia con la revisión de literatura, particularmente en el reconocimiento de que las cuestiones éticas relacionadas con la inteligencia artificial en la educación han evolucionado hacia un debate central en la comunidad académica. La literatura revisada identifica cuatro enfoques: la creación de marcos éticos, el análisis de aplicaciones concretas, las estrategias prácticas para integración ética y la visión general del campo para detectar brechas y tendencias, y en este análisis puede notarse un crecimiento exponencial en publicaciones y un enfoque predominante en la ética y la inclusión. Además, los datos muestran que las áreas de investigación más influyentes se relacionan con las implicaciones de la IA generativa, lo cual encuentra respaldo en trabajos como los de Johri et al. (2023) y Zhai et al. (2023). De modo que se reconoce que, a pesar de los avances en el campo, persisten desafíos en la integración ética de la IA, especialmente en lo que respecta a la equidad, la transparencia y el respeto a las variaciones culturales.

Se puede plantear, además, la necesidad de una mayor colaboración entre expertos en IA, educadores, filósofos y formuladores de políticas para garantizar que la integración de tecnologías de IA se lleve a cabo siempre de manera ética y beneficiosa para toda la comunidad educativa.

Como líneas de proyección para futuras investigaciones se plantea la necesidad de estudios empíricos longitudinales abocados a explorar cómo implementar efectivamente marcos éticos en la práctica educativa a la vez que consideren las variaciones culturales en las percepciones éticas de la IA en educación. Otros estudios, además, podrían explorar la publicación que se ha hecho en otras bases de datos relevantes como Google Scholar, Dialnet, Redalyc, Scielo, etc.

Financiación

Este trabajo forma parte de una investigación financiada por el Insituto Superior de Formación Docente Salomé Ureña (ISFODOSU). Proyecto VRI-PI-7-2023-006.

Referencias

Aiken, R. M., & Epstein, R. G. (2000). Ethical guidelines for AI in education: Starting a conversation. International Journal of Artificial Intelligence in Education, 11, 163-176.

Akgun, S., & Greenhow, C. (2022). Artificial intelligence in education: Addressing ethical challenges in K-12 settings. AI and Ethics, 2(3), 431-440. https://doi.org/10.1007/s43681-021-00096-7

Amato, L. M., & Schoettle, C. (2023). Using artificial intelligence ethically and responsibly: Best practices in higher education. In Creative AI tools and ethical implications in teaching and learning (pp. 19-31). IGI Global.

Báez-Vizcaíno, K. (2024a). Exploring epistemic injustice: A bibliometric analysis of academic production and its evolution. Pub Res Q, 40, 11-29. https://doi.org/10.1007/s12109-023-09972-y

Báez-Vizcaíno, K. (2024b). Revisión bibliométrica de la injusticia epistémica en la educación a través de WoS y Scopus. Revista Científica en Ciencias Sociales, 6. https://doi.org/10.53732/rccsociales/e601108

Bertoli-Barsotti, L., & Lando, T. (2017). The h-index as an almost-exact function of some basic statistics. Scientometrics, 113(2), 1209–1228. https://doi.org/10.1007/s11192-017-2508-6

Bond, M., Khosravi, H., De Laat, M., Bergdahl, N., Negrea, V., Oxley, E., Pham, P., Chong, S. W., & Siemens, G. (2024). A meta systematic review of artificial intelligence in higher education: A call for increased ethics, collaboration, and rigour. International Journal of Educational Technology in Higher Education, 21(1), 4.

Bornmann, L., & Daniel, H.D. (2007). What do we know about the h index? Journal of the American Society for Information Science and Technology, 58(1), 21–25. https://doi.org/10.1002/asi.20609

Cascella, M., Montomoli, J., Bellini, V., & Bignami, E. (2023). Evaluating the Feasibility of ChatGPT in Healthcare: An Analysis of Multiple Clinical and Research Scenarios. Journal of Medical Systems, 47/i>(1), 33. https://doi.org/10.1007/s10916-023-01925-4

Chu, J., Xi, L., Zhang, Q., & Lin, R. (2022). Research on ethical issues of artificial intelligence in education. In Lecture Notes in Educational Technology (pp. 101-108). Springer.

Cotton, D. R. E., Cotton, P. A., & Shipway, J. R. (2024). Chatting and cheating: Ensuring academic integrity in the era of ChatGPT. Innovations in Education and Teaching International, 61(2), 228-239. https://doi.org/10.1080/14703297.2023.2190148

Durieux, V., & Gevenois, P. A. (2010). Bibliometric indicators: quality measurements of scientific publication. Radiology, 255(2), 342–351. https://doi.org/10.1148/radiol.09090626

Dwivedi, Y. K., Kshetri, N., Hughes, L., Slade, E. L., Jeyaraj, A., Kar, A. K., & Albashrawi, M. A. (2023). “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy. International Journal of Information Management, 71, 102642. https://doi.org/10.1016/j.ijinfomgt.2023.102642

Fenwick, T., & Edwards, R. (2016). Exploring the impact of digital technologies on professional responsibilities and education. European Educational Research Journal, 15(1), 117-131. https://doi.org/10.1177/1474904115608387

Franco D’Souza, R., Mathew, M., Mishra, V., & Surapaneni, K. M. (2024). Twelve tips for addressing ethical concerns in the implementation of artificial intelligence in medical education. Medical Education Online, 29(1), 2330250.

Gartner, S., & Krasna, M. (2023). Artificial intelligence in education - Ethical framework. 12th Mediterranean Conference on Embedded Computing, MECO 2023.

Ghotbi, N. (2024). Ethics of artificial intelligence in academic research and education. In Springer International Handbooks of Education (pp. 1355-1366). Springer.

Haque, M. A., & Li, S. (2024). Exploring ChatGPT and its impact on society. https://doi.org/10.48550/arXiv.2403.14643

Hirsch, J. E. (2005). An index to quantify an individual's scientific research output. Proceedings of the National Academy of Sciences, 102(46), 16569-16572. https://doi.org/10.1073/pnas.0507655102

Holmes, W., Bektik, D., Whitelock, D., Woolf, B., Rosé, C., Martínez-Maldonado, R., Hoppe, H., Luckin, R., Mavrikis, M., & Porayska-Pomsta, K. (2018). Ethics in AIED: Who cares? In J. M. Trujillo Torres (Ed.), Artificial intelligence in education (pp. 551-553). Springer International Publishing.

Johri, A., Lindsay, E., & Qadir, J. (2023). Ethical concerns and responsible use of generative artificial intelligence in engineering education. SEFI 2023 - 51st Annual Conference of the European Society for Engineering Education: Engineering Education for Sustainability, Proceedings, 2244-2253.

Kataria, K. (2023). AI-powered learning: The future of education. International Journal of Advanced Research, 11(September), 199-203. https://doi.org/10.21474/IJAR01/17520

Marín, V. I., & Tur, G. (2023). La privacidad de los datos en Tecnología Educativa: resultados de una revisión de alcance. Edutec. Revista Electrónica de Tecnología Educativa, (83), 7. https://doi.org/10.21556/edutec.2023.83.2701

Memarian, B., & Doleck, T. (2023). Fairness, accountability, transparency, and ethics (FATE) in artificial intelligence (AI) and higher education: A systematic review. Computers and Education: Artificial Intelligence, 5, 100152.

Montezuma, J. R. M., & Chong, M. (2024). Generative artificial intelligence impact on education and industry: An ethical dimension. EDUNINE 2024 - 8th IEEE World Engineering Education Conference: Empowering Engineering Education: Breaking Barriers through Research and Innovation, Proceedings.

Munoz-Mandujano, M., Corona, M. A. I., Diaz, J. A. V., Corona, D. O. I., Lopez Martinez, V., & Sanchez, G. P. (2023). Artificial intelligence and classrooms: Ethics in the use of artificial intelligence in education. Proceedings - JICV 2023: 13th International Conference on Virtual Campus.

Naqvi, A. (2020). Artificial intelligence for audit, forensic accounting, and valuation: A strategic perspective. Wiley. https://doi.org/10.1002/9781119601906

Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., & Moher, D. (2021). Updating guidance for reporting systematic reviews: Development of the PRISMA 2020 statement. Journal of Clinical Epidemiology, 134(1), 103-112. https://doi.org/10.1016/j.jclinepi.2021.02.003

Patki, M., Sanadi, S., Jadhav, S., Musale, A., & Kadam, K. (2023). Ethical implications of utilizing artificial intelligence in education for assessment. 31st International Conference on Computers in Education, ICCE 2023 - Proceedings, 2, 600-608.

Pawar, M., Rai, R. D., & Rajendran, R. (2023). Ethical challenges of artificial intelligence in education: Achieving learner centricity with respect to learner autonomy. 31st International Conference on Computers in Education, ICCE 2023 - Proceedings, 2, 584-589.

Pranckute, R. (2021). Web of Science (WoS) and Scopus: The titans of bibliographic information in today’s academic world. Publications, 9(1), 12. https://doi.org/10.3390/publications9010012

Ray, P. P. (2023). ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope. Internet of Things and Cyber-Physical Systems, 3(1). https://doi.org/10.1016/j.iotcps.2023.04.003

Regan, P., & Jesse, J. (2019). Ethical challenges of edtech, big data and personalized learning: Twenty-first century student sorting and tracking. Ethics and Information Technology, 21(3), 167-179. https://doi.org/10.1007/s10676-018-9492-2

Santana-Soriano, E. (2023). Ética y filosofía de la inteligencia artificial: debates actuales. La Barca de Teseo, 1(1), 47-64. https://doi.org/10.61780/bdet.v1i1.5

Sanusi, I. T., & Olaleye, S. A. (2022). An insight into cultural competence and ethics in K-12 artificial intelligence education. IEEE Global Engineering Education Conference, EDUCON, 2022-March, 790-794.

Sijing, L., & Lan, W. (2018). Artificial intelligence education ethical problems and solutions. 13th International Conference on Computer Science and Education, ICCSE 2018, 155-158.

Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., & Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, 10(1), Article 15. https://doi.org/10.1186/s40561-023-00237-x

Tsai, S., Chen, C., Shiao, Y., Ciou, J., & Wu, T. (2020). Precision education with statistical learning and deep learning: A case study in Taiwan. International Journal of Educational Technology in Higher Education, 17(1), 1-13. https://doi.org/10.1186/s41239-020-00186-2

Ungerer, L., & Slade, S. (2022). Ethical considerations of artificial intelligence in learning analytics in distance education contexts. In SpringerBriefs in Open and Distance Education (pp. 105-120). Springer.

Zawacki-Richter, O., Marín, M., Bond, V., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – Where are the educators? International Journal of Educational Technology in Higher Education, 16(1), 1-27. https://doi.org/10.1186/s41239-019-0171-0

Zemel, R., Wu, Y., Swersky, K., Pitassi, T., & Dwork, C. (2013). Learning fair representations. International Conference on Machine Learning. 28, 325-333. Atlanta: PMLR.

Zhai, C., Wibowo, S., & Li, L. D. (2023). Ethical and privacy concerns in artificial intelligence dialogue systems: Do students in higher education really care about them. 31st International Conference on Computers in Education, ICCE 2023 - Proceedings, 2, 857-859.

Zimmerman, B. J., & Schunk, D. H. (2019). Self-regulated learning and academic achievement: Theoretical perspectives. Educational Psychology Review.

_______________________________

¹ Instituto Superior de Formación Docente Salomé Ureña, República Dominicana. Email: edwin.santana@isfodosu.edu.do