Introducción
La inteligencia artificial (IA) es la tecnología con mayor capacidad de transformación en nuestra época. Se ha convertido en uno de los campos con mayor impacto en la sociedad. Desde el reconocimiento de voz, hasta la toma de decisiones para la resolución de problemas complejos, así como en la detección de fraudes virtuales, la IA demostró ser una herramienta valiosa en una amplia variedad de esferas sociales, económicas y políticas.
¿Qué riesgos y desafíos presenta la IA?
A medida que la IA continúa avanzando, también presenta una serie de riesgos y desafíos culturales que deben ser abordados. Uno de ellos tiene que ver con su impacto en el ámbito educativo, sobre todo en los procesos de enseñanza-aprendizaje. La inteligencia artificial es un tipo de tecnociencia que estudia el comportamiento e interviene en la resolución de problemas.
Esta área se enfoca en crear sistemas capaces de imitar las capacidades cognitivas humanas, como pensar, representar, aprender e interactuar con los usuarios. Se trata de una tecnología emergente, también denominada tecnología convergente, que ha tenido un gran impacto en la cultural global, ya que permite desarrollar nuevos productos y servicios para mejorar amplios aspectos de la vida cotidiana. La IA ha avanzado de manera significativa transformando radicalmente la manera en que vivimos, pensamos, nos relacionamos, trabajamos y convivimos de forma cotidiana. Se ha utilizado en una variedad de manufacturas en el ámbito de la atención médica o la industria automotriz contemporánea; empero, presenta una serie de riesgos y desafíos sociales que deben ser abordados para garantizar que sus beneficios superen sus impactos negativos.
¿Cuál es el potencial transformador verdadero de la IA?
La IA tiene el potencial de transformar el proceso de aprendizaje mejorando la calidad de la educación en algunos ámbitos; pero al mismo tiempo tiene la capacidad de generar consecuencias negativas imprevistas en la actualidad. Una de las formas en que está impactando la educación es a través de la mejora de la personalización del aprendizaje. Puede analizar los datos de los estudiantes, habilidades y competencias educativas, con el objetivo de proporcionar recomendaciones personalizadas sobre qué materiales de aprendizaje serían óptimos para cada tipo de alumno.
La IA también ayuda a adaptar la velocidad y el nivel de dificultad del material de aprendizaje para satisfacer las necesidades individuales de cada educando. Esto puede ayudar a las y los alumnos a aprender de manera más eficiente, lo que puede mejorar su rendimiento académico, dentro y fuera del aula. Otro impacto importante de la IA en la educación es la automatización de tareas administrativas.
Puede ayudar a las instituciones educativas a automatizar tareas como la gestión de registros de estudiantes, la programación de clases virtuales y la evaluación de exámenes. Esto puede ahorrar tiempo y recursos a las entidades de educación, lo que les permite centrarse en actividades más importantes, como la enseñanza y el desarrollo curricular.
Además, la automatización de tareas administrativas contribuye a reducir errores y mejorar la precisión de los registros estudiantiles.
¿Qué desafíos presenta la aplicación de la IA en Educación?
A pesar de los beneficios potenciales de la IA en la educación, su implementación presenta desafíos.
Uno de los mayores retos es la falta de capacitación y conocimiento de los educadores sobre cómo utilizarla de manera efectiva en el aula. Además, la privacidad y la seguridad de los datos de los estudiantes también son preocupaciones importantes cuando ésta se utiliza en este ámbito.
La protección de datos personales y el manejo responsable de la información privada de los alumnos, pues, se vuelve un tema central para las instituciones educativas. Otro de los riesgos importantes es la capacidad que tiene la IA para sustituir el proceso de creación de conocimientos críticos, reflexivos y creativos por parte de las y los estudiantes. Un ejemplo es el desarrollo del modelo tecnológico Chat GPT-4, de la empresa OpenAI, que desde su salida en el año 2022, está revolucionando las posibilidades de creación de contenidos con consecuencias inimaginables.
Este tipo de IA puede, seriamente, poner en crisis el proceso de creación e invención, directamente relacionado con el proceso cognitivo. El desarrollo artificial de contenidos implica la sustitución de un proceso cognitivo natural de los seres humanos, por un modelo de lenguaje programado para la generación de tareas de aprendizaje.
La IA en manos de los estudiantes
Cuando un estudiante utiliza IA para entregar tareas o desarrollar contenidos, una serie de preguntas saltan inmediatamente a la vista: ¿quién es el autor o autora de ese contenido?, ¿el estudiante, la IA, ambos?, ¿a quién se le debe dar crédito por la generación de esa información?, ¿posee identidad de género la información o el contenido creado por la IA?, ¿las y los alumnos realmente aprenden al utilizar la IA?.
Por otro lado, este tipo de “chats-bots” pueden generar información que no se encuentre basada en evidencias científicas, o bien, no permitir la producción de nuevos conocimientos por parte de estudiantes; así como la inhibición del aprendizaje colaborativo, debido a la particularidad del uso “individualizado” en la creación artificial de contenidos.
La importancia de una buena implementación de la IA
El desarrollo de esta IA, sin regulaciones jurídicas ni estándares éticos, puede además correr el riesgo de mal uso de información privada, manejo irrestricto de datos personales, así como producción de información “incorrecta”, falsa o no certificada, con alto impacto para las y los alumnos.
Otro de los riesgos está directamente asociado con el desarrollo de tareas complejas que las IA pueden lograr en la actualidad.
El crecimiento acelerado de tareas cada vez más difíciles dentro y fuera de las aulas, podría eventualmente generar un proceso de reemplazamiento de las y los maestros, capacitadores, gestores educativos, así como de distintos profesionales del campo educativo.
La digitalización del aprendizaje podrían tener consecuencias negativas para la calidad de la evaluación educativa, la producción de conocimiento, así como en los aprendizajes colaborativos que requieren de la socialización, la interacción y las relaciones humanas.
Además, la pérdida de empleos puede tener un impacto económico significativo en las comunidades locales, especialmente en aquellas que dependen de la educación como fuente principal de trabajo.
IA y su potencial social
La inteligencia artificial posee un alto potencial para reproducir los prejuicios sociales y la discriminación racial, étnica, política y religiosa en nuestra sociedad, ya que podría ser usada con fines socialmente irresponsables. Es decir, si se cuenta con una aplicación de reconocimiento facial que identifique a las personas basándose en sus rasgos fenotípicos (como el color de piel), se puede contribuir al sesgo racial porque no todos los individuos tienen los mismos patrones fisonómicos (que un reconocimiento tecnológico estandarizado, previamente programado) como el que una IA exige. Esto se puede convertir en un problema cuando se usan tecnologías como la IA para decidir quién recibe un préstamo bancario o qué tipo de tratamiento médico recibirán las personas con alguna discapacidad mental o física, pues estos procesos son automatizados y no necesariamente justos para todos los individuos.
La IA también presenta desafíos éticos relevantes, como los de la seguridad personal, la vigilancia y la privacidad. Puede recopilar y analizar grandes cantidades de datos sobre los usuarios, lo que puede violar el uso privado de la información de perfiles de los ciudadanos. En el caso de estudiantes, sobre todo en los niveles básico, medio superior y superior, es bastante claro. Además, existe el riesgo de que la IA sea utilizada para cometer delitos, como fraudes bancarios, el robo de identidad o tipos de acoso virtual, como en el caso de estudiantes menores, infantes y adolescentes. Un riesgo es el uso, la privatización, la recolección y el análisis de datos. La inteligencia artificial puede ser utilizada para recopilar información de los usuarios y analizarla. Esto incluye datos personales como nombres, direcciones, correos electrónicos y otro tipo de éstos que se generan cuando una persona accede a un servicio digital, virtual o en línea.
Los proveedores de servicios los pueden usar para fines comerciales, mercantiles, publicitarios o de criminalidad, y los gobiernos para investigaciones en seguridad; pensemos en las grandes bases de datos, con fotografías faciales, con las que cuentan agencias de seguridad como el FBI en los Estados Unidos. Para abordar estos riesgos, es importante que se implementen medidas para garantizar la privacidad y seguridad de los datos de los usuarios. Esto incluye la implementación de regulaciones y estándares de seguridad adecuados para que estén protegidos contra el acceso no autorizado, tanto de empresas, como de servicios comerciales, políticos e incluso legales. También son necesarias medidas para asegurar la transparencia y la responsabilidad en el desarrollo y uso de la IA, a través de la regulación legal y que permitan un uso justo y equitativo. En esta dirección, una educación digital adecuada coadyuvaría a que el público en general comprenda los riesgos y beneficios de este tipo de sistemas tecnológicos.
Conclusiones
En conclusión, la IA presenta una serie de desafíos que deben abordarse para garantizar que sus beneficios superen sus impactos negativos, sobre todo en ámbitos tan importantes como la educación. Para lograr esto, es necesario implementar medidas que aseguren la transparencia y la responsabilidad en su desarrollo y uso, así como una educación adecuada que permita al público en general comprender los riesgos y bondades de esta tecnología.
