La ética y la inteligencia artificial
Clara Julieta Mora Gutiérrez
Universidad Nacional Autónoma de México
julieta.gutierrez.jm@gmail.com
Resumen
El presente trabajo muestra un análisis desde el punto de vista ético sobre el impacto de la globalización, la digitalización y el uso de las herramientas basadas en la inteligencia artificial (ai), para lo cual se toma en cuenta un marco regulatorio multiniveles en el espacio digital.
Palabras clave
Educación, inteligencia artificial y ética.
Abstract
The present work show an analysis from an ethical point of view, on the impact of globalization, digitalization and the use of tolls based on artificial intelligence (ai), for which a multilevel regulatory framework is taken into account in digital space.
Keywords
Education, artificial intelligence, ethics.
apa: Mora, C. J. (2024). La ética y la inteligencia artificial. Azcatl, 3, 10-12. doi: 10.24275/AZC2024B002
Introducción
En un mundo globalizado e hiperconectado el empleo de herramientas digitales se ha vuelto esencial en la comunicación humana. La aplicación de tecnologías, como la inteligencia artificial (ai por sus siglas en inglés), el internet de las cosas (IoT) y el análisis de grandes volúmenes de datos en el desarrollo de actividades humanas plantea nuevas interrogantes y condiciones que requieren regulación, por lo que es preciso establecer directrices sociales, éticas y jurídicas para reglamentar el uso de estas tecnologías con la finalidad de garantizar una mayor seguridad en los espacios digitales.
El tema de la ética genera la necesidad de crear leyes que normen los nuevos desarrollos tecnológicos; en el caso de los sistemas de inteligencia artificial, objeto de este artículo, éstos deben utilizarse de forma transparente, no deben manipular o explotar a las personas, esto es, no deben violar los derechos humanos.
Uso de la ai en la educación
La evolución de la tecnología configura un ecosistema tecnológico, «metáfora para expresar una necesaria evolución de los sistemas de información tradicionales con soluciones basadas en la composición de diferentes componentes de software y servicios que comparten un conjunto de flujos de datos definidos semánticamente» (García-Holgado y García-Peñalvo, 2019).
La inteligencia artificial se origina a partir de la imitación del pensamiento humano, integrándose mediante sistemas y subsistemas que posibilitan la ejecución de conductas apropiadas en respuesta a estímulos específicos. De esta emulación surge el término tecnologías de la información, que hace referencia a equipos informáticos y máquinas programadas para llevar a cabo tareas que tradicionalmente sólo podía realizar el ser humano. Esta tecnología se puede emplear para realizar predicciones como la propagación de virus; ofrecer recomendaciones, por ejemplo, sugerir qué videos ver a continuación en internet, o para tomar decisiones como determinar la calificación apropiada para una redacción.
En el ámbito educativo el uso de la ai presenta una oportunidad de crecimiento, es por ello que el avance de las tecnologías emergentes está en camino de transformar la enseñanza y el aprendizaje, que tiende a volverse más adaptativo mediante el uso de herramientas personalizadas.1 Sin embargo, esto genera una disyuntiva: ¿hasta qué punto es pertinente el uso de la inteligencia artificial en la educación?
Por ello, la implementación de tecnologías de ai en la educación debe ser vista como un asunto complejo y altamente controvertido (Selwyn, 2019), en donde la moral y los principios éticos deben estar sólidamente respaldados mediante una regulación con enfoque global.
Marco ético y social
La implementación de la inteligencia artificial en el campo de la educación debe considerar la perspectiva ética, es decir, buscar una regulación con un enfoque global, tomando en cuenta los derechos humanos, el cuidado de los datos personales y la seguridad de los usuarios dentro y fuera del entorno digital.
La ética en el desarrollo de la ai se centra en la transparencia y responsabilidad en el manejo de datos y procesos, en la seguridad y protección de la información y privacidad, en la sostenibilidad y equilibrio económico y social, así como en el enfoque humano para complementar capacidades. Estos principios aseguran que la ai se desarrolle y utilice de manera ética, responsable y justa.
En la Figura 1 se esquematiza el espectro de los elementos necesarios por considerar en el uso de la ai en un marco ético y social, planteando la educación desde una óptica de aprendizaje continuo.
Figura 1. Características del marco ético y social.
El paso previo para asumir los principios de la ética en la ai requiere no sólo de la concientización de valores, sino profundizar en el conocimiento y potencial de estas nuevas tecnologías. El diseño algorítmico debe tener en cuenta los principios éticos en el desarrollo de herramientas y tomar en cuenta que no van a sustituir a los profesores ni pretender que enseñen mejor que ellos. Por el contrario, las herramientas de ai deben crearse para fortalecer la capacidad de los docentes y ayudarles a convertirse en los mejores transmisores de conocimiento que puedan ser.
Por otra parte, los profesores deben recibir la capacitación necesaria para el uso de estas herramientas, asimismo, los desarrolladores tendrán que diseñar estrategias globales donde siempre esté presente la ética en la creación de los algoritmos.
Conclusiones
La inteligencia artificial es una herramienta creada para imitar el pensamiento humano mediante algoritmos, los cuales son una serie de reglas que pretenden imitar el aprendizaje humano. Esta inteligencia es alimentada con datos que forman modelos que permiten alimentar y enseñar a la misma inteligencia, por lo que al ser creada a partir de la inteligencia natural y tratar de imitarla puede caer en sesgos naturales propios de los seres humanos, mostrando en algunos de sus procesos una opacidad dentro de sus decisiones.
Si bien, parte de los beneficios del uso de estas tecnologías se encuentra en el manejo de un gran volumen de datos, esto también implica riesgos, como los sesgos mencionados, los cuales provocan discriminación durante su uso. Igualmente, la ai puede tener impacto en temas como la privacidad. Dentro del área de la educación existe el peligro de la filtración de datos de los alumnos, lo que puede colocarlos en una situación de riesgo. Además de la amenaza de los ataques cibernéticos, en los que los usuarios pueden caer en la burbuja de información, la cual sólo muestra datos filtrados que en la mayoría de los casos da como resultado el sesgo algorítmico.
El uso de la ai en la educación es innegable, ya que esta herramienta puede facilitar la tarea de los docentes y contribuye en la transmisión de conocimientos a los educandos. Asimismo, la preparación de los profesores debe ser continua para poder aprovechar esta herramienta en su mayor capacidad.
Referencias
Interaction Design Foundation (s.f.). User experience (UX) design. https://www.interaction-design.org/literature/topics/ux-design
Law, E. y Heinz, M. (2021). Stimulating children’s engagement with an educational serious video-game using Lean UX co-design. International Journal of Child Computer interaction, (30). https://doi.org/10.1016/j.ijcci.2021.100321
Merriam-Webster (s.f). Usefulness. Recuperado el 3 de abril de 2023 de https://www.merriam- webster.com/dictionary/usefulness
Sampieri, R. y Mendoza, C. (2018). Metodología de la investigación. Las rutas de la investigación cuantitativa, cualitativa y mixta. McGraw-Hill Interamericana.
1 Idem