Crédito: Allison Shelley para la Educación EstadounidenseCrédito: Allison Shelley para la Educación EstadounidenseEmma Gallegos20 de septiembre de 2023El uso de tecnología educativa en las escuelas, como la inteligencia artificial, la vigilancia digital y los filtros de contenido, representa una amenaza para los derechos civiles de los estudiantes con discapacidades, estudiantes LGBTQ y estudiantes de color, advierte un nuevo informe publicado el miércoles.
Algunas tecnologías utilizadas en las escuelas para bloquear contenido explícito para adultos y detectar estudiantes en riesgo de autolesionarse o dañar a otros también han creado graves problemas para los estudiantes ya vulnerables, advierte el informe del Centro para la Democracia y la Tecnología, una organización sin fines de lucro y no partidista que aboga por los derechos civiles en el mundo digital.
El informe se basa en una amplia encuesta nacional en línea sobre la tecnología utilizada por las escuelas, estudiantes y maestros. Este verano, el Centro para la Democracia y la Tecnología encuestó a 1.029 estudiantes de noveno a duodécimo grado, 1.018 padres de estudiantes de sexto a duodécimo grado y 1.005 maestros de estudiantes de sexto a duodécimo grado en una muestra que, según la organización, estaba "representativamente ponderada a nivel nacional".
Según el Centro para la Democracia y la Tecnología, las encuestas también indican una confusión generalizada sobre el papel de la inteligencia artificial en el aula, con la mayoría de los padres, estudiantes y maestros diciendo que desean más información y capacitación sobre cómo usarla correctamente.
El informe delinean los riesgos de la tecnología educativa para los estudiantes
El informe describe cómo la tecnología escolar puede, a menudo involuntariamente, perjudicar a los estudiantes. El Centro para la Democracia y la Tecnología señala que estos perjuicios se sienten con mayor intensidad en los estudiantes vulnerables.
Los estudiantes reportaron incidentes en los que los compañeros LGBTQ fueron revelados por la vigilancia digital, un evento potencialmente traumático al compartir su identidad u orientación sexual sin su consentimiento.
Los estudiantes con discapacidades dijeron que eran los más propensos a utilizar inteligencia artificial, y eran más propensos a informar sobre enfrentar acciones disciplinarias por usarla.
Un tercio de los maestros dijo que el contenido relacionado con la raza o la comunidad LGBTQ es más probable que esté restringido por los filtros. El centro dijo que esto "equivale a una prohibición digital de libros".
Algunas escuelas han enfrentado resistencia por la forma en que implementaron la tecnología. Después de que la Unión Estadounidense por las Libertades Civiles demandó a un distrito escolar en Texas, el distrito relajó un filtro que había bloqueado el sitio web del Proyecto Trevor, un sitio web dirigido a jóvenes LGBTQ.
Hay ciertos grupos de estudiantes que deberían estar protegidos por las leyes existentes de derechos civiles, y sin embargo, siguen experimentando consecuencias desproporcionadas y negativas debido al uso de esta información y tecnología educativa”, afirmó Elizabeth Laird, directora de equidad en tecnología cívica del Center for Democracy and Technology.
Aunque las escuelas a menudo cuentan con personal especializado y otras prácticas para garantizar la protección de los derechos civiles de los estudiantes, Laird afirmó que su encuesta indica que las escuelas aún no han abordado por completo cómo la tecnología educativa está afectando la promesa de una educación equitativa, lo que resulta en que los derechos civiles y la tecnología se traten como problemas separados.
“Creo que se han mantenido separados, y ahora es el momento de unirlos”, comentó Laird.
Grupos de derechos civiles piden más orientación federal
Aunque las escuelas han estado llevando a cabo más actividades de divulgación que en años anteriores, la encuesta muestra un aumento en las preocupaciones de los estudiantes y los padres sobre los datos y la privacidad en el último año. Los datos recopilados en años anteriores muestran que tanto los padres como los estudiantes necesitan más información y participación sobre cómo las escuelas seleccionan y utilizan la tecnología.
En octubre pasado, la Casa Blanca publicó un Borrador para una Declaración de Derechos de la IA, pero los grupos de derechos civiles, incluyendo la ACLU, la Asociación de Bibliotecarios Escolares Estadounidenses, la Asociación de Bibliotecas de Estados Unidos, el Fondo para la Defensa de los Derechos de Educación de Personas con Discapacidad y la Electronic Frontier Foundation, firmaron una carta junto con el informe del Center for Democracy and Technology, solicitando al Departamento de Educación federal una mayor orientación.
“En el año transcurrido desde la publicación del borrador, sigue siendo necesario que haya protecciones relacionadas con la educación y, si acaso, es aún más urgente con la aparición explosiva de la IA generativa”, según se expone en la carta.
El 57% de los profesores encuestados afirmaron que no han recibido ninguna capacitación sustancial en IA, mientras que el 24% dice haber recibido capacitación sobre cómo detectar el uso inapropiado de la IA.
La encuesta también revela que el 58% de los estudiantes han utilizado ChatGPT u otros programas de IA generativa, y el 19% afirma haber presentado un trabajo escrito utilizando IA. Los estudiantes informan que utilizan la IA tanto para tareas escolares como para enfrentar problemas de salud mental o asuntos personales con familiares y amigos.
Los estudiantes con discapacidades tienen más probabilidades de utilizar IA generativa: el 72% dijo haber utilizado esta tecnología. Los padres de estudiantes con discapacidades también son más propensos a afirmar que sus hijos han sido disciplinados por el uso de inteligencia artificial. El informe califica las tasas más altas de disciplina entre las comunidades vulnerables como "especialmente preocupantes".
Estos estudiantes y sus padres, el 71% de los estudiantes con discapacidades y el 79% de sus padres, expresan más preocupación que otros acerca de la privacidad y la seguridad de los datos recopilados y almacenados por la escuela.
Los maestros de educación especial con licencia tienen más probabilidades de conversar con los estudiantes y sus padres sobre la privacidad de los estudiantes y los problemas de equidad en tecnología, una "práctica prometedora que podría extenderse al resto de la población escolar", recomienda el Center for Democracy and Technology.
La larga influencia de la vigilancia escolar
Los problemas de derechos civiles pueden trascender las paredes de la escuela. Algunos estudiantes, especialmente los estudiantes de color y aquellos de comunidades de bajos ingresos, son más propensos a depender de los dispositivos proporcionados por la escuela cuando están en casa. Por lo tanto, el seguimiento y la vigilancia pueden continuar en su hogar.
"El entorno de aprendizaje para esos estudiantes es muy diferente al de aquellos que pueden optar por no participar en este seguimiento", dijo Laird.
Los estudiantes que utilizan dispositivos tecnológicos para cargar sus teléfonos personales también pueden descubrir que esta tecnología escaneará y supervisará sus dispositivos personales. Entre los estudiantes que han utilizado su dispositivo escolar para cargar su teléfono personal, el 51% afirmó que el software de la escuela comenzó a sincronizarse y descargar contenido de su dispositivo personal.
La tecnología de vigilancia se volvió predominante durante el aprendizaje remoto de la era de la pandemia, pero ha persistido, con un 88% de los profesores informando que sus escuelas utilizan esta tecnología. La Casa Blanca estableció como prioridad prevenir la vigilancia descontrolada de los estudiantes en su plan. El Centro para la Democracia y la Tecnología afirma que el uso de tecnología de vigilancia puede causar una serie de problemas para los estudiantes.
Los estudiantes con discapacidades y los estudiantes LGBTQ son más propensos a informar que son disciplinados como resultado de la tecnología que los monitorea. Laird dijo que a veces los estudiantes son disciplinados por algo que la tecnología señaló, pero otras veces, son disciplinados debido a su reacción al ser señalados.
A veces, las escuelas comparten datos directamente con las fuerzas del orden, incluso después de las horas escolares. El cincuenta y tres por ciento de los maestros de educación especial y el 46% de los maestros en escuelas del Programa Título I dijeron que se compartían datos con las fuerzas del orden después de las horas escolares. Durante una entrevista con el Centro para la Democracia y la Tecnología, la madre de un estudiante de noveno grado dijo que se contactó a las autoridades incluso antes de que ella fuera notificada cuando algo en el dispositivo de su hijo fue señalado por la tecnología de vigilancia de la escuela. Su hijo fue interrogado durante una hora sin su consentimiento.
"Todas estas cosas pueden provocar que los estudiantes sean expulsados del aula y pierdan tiempo de instrucción", dijo Laird. "Y si estos estudiantes están siendo señalados de manera desproporcionada y siendo intervenidos de manera desproporcionada, esto también podría ser una violación potencial del derecho de un estudiante a una educación pública gratuita y apropiada, que especifica la prevención de la discriminación basada en la discapacidad".
Para obtener más informes como este, haz clic aquí para suscribirte al correo electrónico diario sin costo de EdSource sobre los últimos avances en educación.
Compartir artículo
Explorar:
Race and Equity
Tecnología
