(Estamos en WhatsApp. Empieza a seguirnos ahora)
Se suponía que una plataforma de inteligencia artificial llamada Ed sería un “amigo educativo” para un millón de exalumnos de escuelas públicas de Los Ángeles. En medio de conversaciones, Ed dirigía a los estudiantes hacia recursos académicos y de salud mental, o les decía a los padres si sus hijos habían asistido a clases ese día; incluyendo los resultados de sus exámenes más recientes. También sería capaz de detectar y responder a emociones como la hostilidad, la alegría y la tristeza.
Alberto Carvalho, superintendente del Distrito Escolar Unificado de Los Ángeles, utilizó términos aterradores para hablar de Ed. En un discurso en abril promocionando el software, prometió que la educación se democratizaría y transformaría. En respuesta a aquellos que no están atentos a la inteligencia artificial, preguntó: «¿Por qué no dejar que este objetivo de educación y vigilancia los mantenga concentrados y cautelosos?» “¿Cuál es el motivador? «.
Una chica de 20 años que probó el chatbot, representado por un sonido animado de un sol, dijo: «Creo que le queda bien a Ed», comentó Carvalho.
Los Ángeles acordaron pagar a la nueva empresa AllHere hasta 6 millones de dólares, una pequeña parte del presupuesto anual de 18.000 millones de dólares del distrito, para el desarrollo de Ed. Sin embargo, apenas dos meses después de que Carvalho se presentara en una conferencia tecnológica pendiente en abril, el fundador y director ejecutivo de AllHere abandonó su puesto y la empresa le faltó el respeto a la mayor parte de su personal. La empresa anunció en su página web que se esperaba que los estafadores se adaptaran a «nuestra situación financiera actual».
Las empresas de inteligencia artificial están promocionando fuertemente entre las escuelas, que han gastado décadas de miles de dólares al año en tecnología. Sin embargo, el arrepentido colapso de AllHere ilustra algunos de los riesgos de invertir el dinero de los contribuyentes en inteligencia artificial, una tecnología con un enorme potencial pero también con historia, sobre todo cuando hay niños devorados. Hay muchas cuestiones complicadas en el juego, como la privacidad de los datos de los estudiantes y la precisión de toda la información proporcionada por los chatbots. Además, la IA puede tener un efecto contraproducente en otra cuestión que cada vez interesa más a los líderes educativos que a los padres: reducir el tiempo que los niños pasan frente a las pantallas.
Natalie Milman, profesora de tecnología educativa en la Universidad George Washington, dice que muchos de los consejos que se dan a los centros educativos adoptan un enfoque de «esperar y ver» para adquirir nueva tecnología. Si bien ciertamente vale la pena usar y probar la inteligencia artificial, me han advertido que las escuelas están «hablando de manera confusa sobre esta herramienta glorificada». Hay límites y debemos asegurarnos de analizar críticamente lo que podemos hacer, así como su potencial para dañar y desinformar”.
AllHere no respondió a solicitudes de entrevistas ni preguntas escritas.
En un comunicado, Britt Vaughan, portavoz de la Sexta Escuela Unificada de Los Ángeles, hizo una distinción entre los estudiantes distraídos que están «consumidos por los teléfonos durante el día escolar» y aquellos que usan computadoras portátiles o tabletas para interactuar con la plataforma educativa, lo que, según él, era «destinado a proporcionar estrategias educativas individualizadas para abordar el aprendizaje de los estudiantes».
Anthony Aguilar, director de educación especial del distrito, afirmó que debido al colapso de AllHere, una versión truncada de Ed todavía estaba disponible para las familias en las cinco escuelas «prioritarias» del distrito porque los estudiantes tenían dificultades académicas y de apoyo.
Sin embargo, este programa no es un chatbot interactivo sofisticado. Este es un sitio web que reúne información sobre muchas otras aplicaciones que utiliza el distrito para monitorear tareas, calificaciones y servicios de apoyo. Los estudiantes que utilizan el sitio también pueden completar ciertas actividades de aprendizaje en la plataforma, como problemas de matemáticas.
El chatbot Ed promovido por Carvalho fue probado con estudiantes de 14 años o más, pero se desconectó para perfeccionar la forma de responder las preguntas de los usuarios, informó Aguilar. El objetivo es que el chatbot esté disponible en septiembre; una tarea complicada, sabiendo que AllHere tendría que brindar apoyo técnico y capacitación continua al personal de la escuela, según su contrato con el distrito. El distrito dijo que espera que se compre AllHere y que el nuevo propietario continúe ofreciendo servicios.
Aguilar dijo que la idea del software se originó en el distrito, como parte del plan de Carvalho para ayudar a los estudiantes a recuperarse de los efectos académicos y emocionales de la pandemia.
Aguilar también mencionó que AllHere autorizó su creación.
Sin embargo, el proyecto presentó un desafío enorme y difícil de gestionar para la empresa, más conocida como proveedora de mensajes de texto automatizados de escuelas a familias.
AllHere había ganado 12 millones de dólares en financiación de capital de riesgo, según la firma emergente de análisis de empresas Crunchbase. Su fundadora y directora ejecutiva, Joanna Smith-Griffin, que ahora tiene 33 años, aparece en Forbes, CBS y otros medios de comunicación con una historia muy convincente. Si ella era una ex educadora cuyos alumnos ya visitaban la universidad con una frecuencia explicada, fundó AllHere en 2016 para ayudar a resolver el problema.
Los mensajes de texto automatizados parecieron llegar justo cuando comenzaba la pandemia de COVID-19 y el síndrome crónico se convertía en una crisis nacional. En la primavera de 2020, AllHere adquirió tecnología desarrollada por el economista y experto en tecnología educativa Peter Bergman. Esto permitiría a las escuelas enviar mensajes de texto a los padres sobre asistencia, tareas pendientes, calificaciones y otros temas.
Smith-Griffin habló sobre parte de la Fundación AllHere en Harvard Innovation Labs, un programa universitario que apoya a estudiantes emprendedores. Según Matt Segneri, director ejecutivo de los laboratorios, Smith-Griffin estaba afiliado al programa cuando asistió a la universidad y se graduó de la Escuela de Extensión de Harvard.
Como muchas pequeñas empresas nuevas, la misión de la empresa ha cambiado con el tiempo. El año pasado, AllHere comenzó a hablar más sobre un “chatbot intuitivo impulsado por IA”. AllHere proporcionaría inteligencia artificial a los centros educativos, pero también mantendría a un humano en movimiento, asegura la empresa, recordando que moderadores humanos supervisarían la IA para garantizar la seguridad, una propuesta potencialmente hermosa y que requeriría mucho trabajo.
Stephen Aguilar, professeur à l’Université du Sud de Californie — sans lien avec Anthony Aguilar — a déclaré qu’il s’agissait d’un « problème très courant » qui a fait s’effondrer les efforts les plus ambitieux en matière de technologie escolar. Antes de trabajar como desarrollador de software educativo, llevó a cabo algunos proyectos que no pudieron realizarse según las promesas que les había hecho.
«Los vecindarios tienen muchas necesidades complejas y muchas preocupaciones de seguridad», dijo. «Pero me importa mucho el conocimiento técnico necesario para saber realmente lo que estoy comprando».
