Se suponía que una plataforma de inteligencia artificial llamada Ed sería un “amigo educativo” para medio millón de estudiantes de escuelas públicas de Los Ángeles. En los chats escritos, Ed dirigía a los estudiantes a recursos académicos y de salud mental, o les decía a los padres si sus hijos habían asistido a clase ese día y les proporcionaba los resultados de sus exámenes más recientes. Ed incluso sería capaz de detectar y responder a emociones como la hostilidad, la felicidad y la tristeza.
Alberto Carvalho, director del distrito, habló de Ed en términos atrevidos. En un discurso en abril promocionando el software, prometió que «democratizaría» y «transformaría la educación». En respuesta a los escépticos de la IA, preguntó: “¿Por qué no dejar que este enfoque de entretenimiento educativo capture y cautive su atención y se convierta en un motivador? »
Una niña de séptimo grado que probó el chatbot, personificado como un sol animado y sonriente, dijo: «Creo que le gusto a Ed», dijo Carvalho.
Los Ángeles acordó pagar a una startup, AllHere, hasta $6 millones para desarrollar Ed, una pequeña porción del presupuesto anual de $18 mil millones del distrito. Pero apenas dos meses después de la presentación de Carvalho en abril en una prestigiosa conferencia de tecnología, la fundadora y directora ejecutiva de AllHere dejó su puesto y la empresa despidió a la mayor parte de su personal. AllHere dijo en su sitio web que los permisos se debieron a «nuestra situación financiera actual».
Las empresas de IA comercializan fuertemente en las escuelas, que gastan decenas de miles de millones de dólares en tecnología cada año. Pero el repentino colapso de AllHere ilustra algunos de los riesgos de invertir el dinero de los contribuyentes en inteligencia artificial, una tecnología con enorme potencial pero poco historial, particularmente cuando se trata de «niños». Hay muchas cuestiones complejas en juego, incluida la privacidad de los datos de los estudiantes y la precisión de cualquier información ofrecida a través de chatbots. Y la IA también podría ir en contra de otro interés creciente de los funcionarios educativos y de los padres: reducir el tiempo que los niños pasan frente a la pantalla.
Natalie Milman, profesora de tecnología educativa en la Universidad George Washington, dijo que a menudo aconseja a las escuelas que adopten un enfoque de «esperar y ver» al comprar nueva tecnología. Si bien vale la pena usar y probar la IA, dijo, advirtió contra las escuelas que “hablan de manera nebulosa sobre esta herramienta glorificada”. Tiene límites y debemos asegurarnos de que somos críticos con lo que puede hacer y su potencial de causar daño y desinformar.
AllHere no respondió a solicitudes de entrevistas ni preguntas escritas.
En un comunicado, Britt Vaughan, portavoz del distrito escolar de Los Ángeles, hizo una distinción entre estudiantes distraídos que están «consumidos por sus teléfonos durante el día escolar» y estudiantes que usan computadoras portátiles o tabletas para interactuar con la plataforma Ed. dice que está «destinado a proporcionar vías educativas individualizadas para satisfacer el aprendizaje de los estudiantes».
Anthony Aguilar, jefe de educación especial del distrito, dijo que a pesar del colapso de AllHere, una versión truncada de Ed seguía disponible para las familias en las 100 escuelas «prioritarias» del distrito, cuyos estudiantes tienen dificultades académicas y de asistencia.
Pero este software no es un chatbot interactivo sofisticado. Este es un sitio web que reúne información de muchas otras aplicaciones que utiliza el distrito para realizar un seguimiento de las tareas, las calificaciones y los servicios de apoyo. Los estudiantes que utilizan el sitio también pueden completar ciertas actividades de aprendizaje en la plataforma, como problemas de matemáticas.
El chatbot Ed promovido por Carvalho se probó con estudiantes de 14 años o más, pero se desconectó para refinar la forma en que responde las preguntas de los usuarios, dijo Aguilar. El objetivo es tener el chatbot disponible para septiembre, un desafío dado que se suponía que AllHere brindaría asistencia técnica y capacitación continua al personal de la escuela, según su contrato con el distrito. El distrito dijo que esperaba que se adquiriera AllHere y que el nuevo propietario continuara con sus servicios.
Aguilar dijo que la idea del software surgió del distrito, como parte del plan del Sr. Carvalho para ayudar a los estudiantes a recuperarse de los efectos académicos y emocionales de la pandemia.
AllHere ganó una licitación para su construcción, dijo Aguilar.
Pero el proyecto presentó un desafío enorme y abrumador para la startup, mejor conocida como proveedora de mensajes de texto automatizados de escuelas a familias.
Según Crunchbase, AllHere ha atraído 12 millones de dólares en financiación de capital de riesgo. Su fundadora y directora ejecutiva, Joanna Smith-Griffin, que ahora tiene 33 años, ha sido citada en Forbes, CBS y otros medios de comunicación contando una historia convincente. Como ex maestra cuyos propios alumnos a menudo estaban ausentes, dijo, fundó AllHere en 2016 para ayudar a resolver el problema.
Los mensajes de texto automatizados parecieron responder cuando comenzó la pandemia de Covid-19 y el ausentismo crónico se convirtió en una crisis nacional. En la primavera de 2020, AllHere adquirió tecnología desarrollada por Peter Bergman, economista y experto en tecnología educativa. Permitió a las escuelas enviar «empujones» a los padres a través de mensajes de texto sobre asistencia, tareas perdidas, calificaciones y otros temas.
La Sra. Smith-Griffin ha hablado a menudo sobre la creación de AllHere dentro de los Laboratorios de Innovación de Harvard, un programa universitario diseñado para apoyar a los estudiantes emprendedores. Según Matt Segneri, director ejecutivo de los laboratorios, Smith-Griffin se involucró por primera vez en el programa cuando era estudiante de pregrado y luego de posgrado en la Escuela de Extensión de Harvard.
Como muchas pequeñas empresas emergentes, la empresa ha cambiado su misión con el tiempo. El año pasado, AllHere comenzó a hablar más sobre un “chatbot intuitivo impulsado por IA”. AllHere proporcionaría inteligencia artificial a las escuelas mientras mantendría a un “humano informado”, dijo la compañía, lo que significa que moderadores humanos supervisarían la IA para garantizar la seguridad, una propuesta potencialmente costosa y que requiere mucha mano de obra.
Stephen Aguilar, profesor de educación en la Universidad del Sur de California, que no está relacionado con Aguilar de las escuelas de Los Ángeles, dijo que era “un problema bastante común” que los esfuerzos tecnológicos de las escuelas ambiciosas fracasaran. Anteriormente trabajó como desarrollador de software educativo, incluidos algunos proyectos que no pudieron entregarse según lo prometido.
«Los distritos tienen necesidades muy complejas y muchas preocupaciones de seguridad», afirmó. “Pero a menudo carecen de la experiencia técnica para verificar realmente lo que están comprando. »
La incursión en la inteligencia artificial no es la primera vez que Los Ángeles hace una gran apuesta por la tecnología educativa, con resultados cuestionables. A partir de 2013, bajo la dirección de un superintendente anterior, el distrito gastó decenas de millones de dólares en la compra de iPads precargados con materiales educativos, pero el esfuerzo se vio empañado por problemas de seguridad y contratiempos técnicos.
En su discurso de abril en una conferencia organizada por la Universidad Estatal de Arizona y GSV Ventures, una firma de capital de riesgo, dijo que el chatbot Ed tendría acceso a datos de los estudiantes sobre puntajes de exámenes, salud mental, salud física y estatus socioeconómico de la familia.
La Sra. Smith-Griffin se unió a él en el escenario para explicar que los datos de los estudiantes vivirían en «un jardín amurallado» accesible sólo dentro del «ecosistema educativo».
La Sra. Smith-Griffin no respondió a las solicitudes de entrevista. Vaughan, de las escuelas de Los Ángeles, dijo que el distrito protegería la privacidad y seguridad de los datos en la plataforma «independientemente de lo que le suceda a AllHere como empresa».
En abril, AllHere dijo que prestaba servicios a «9.100 escuelas en 36 estados». Según un informe de The74, un sitio de noticias sobre educación, algunos de los otros contratos de AllHere con distritos escolares, en el rango de cinco cifras, eran pequeños en comparación con su acuerdo con Los Ángeles, que anteriormente reportaba a la compañía más de 2 millones de dólares.
A algunos clientes fuera de Los Ángeles se les informó que los servicios de la empresa prácticamente no estaban disponibles.
Las Escuelas Públicas del Condado de Prince George en Maryland supieron por medio de AllHere el 18 de junio que «con efecto inmediato» la startup ya no podría proporcionar su servicio de mensajes de texto, dijo una portavoz del distrito, debido a «circunstancias financieras imprevistas».
Susan C. playero la investigación contribuyó.
