Sábado, Julho 20

Chatbot de IA para escolas de Los Angeles falha

Chatbot de IA para escolas de Los Angeles falha

Uma plataforma de inteligência artificial chamada Ed deveria ser um “amigo educacional” para meio milhão de estudantes nas escolas públicas de Los Angeles. Em bate-papos por escrito, Ed orientava os alunos sobre recursos acadêmicos e de saúde mental, ou informava aos pais se seus filhos haviam frequentado a escola naquele dia e fornecia-lhes os resultados dos testes mais recentes. Ed seria ainda capaz de detectar e responder a emoções como hostilidade, felicidade e tristeza.

Alberto Carvalho, superintendente distrital, falou de Ed em termos ousados. Num discurso em abril promovendo o software, ele prometeu que ele “democratizaria” e “transformaria a educação”. Em resposta aos céticos da IA, ele perguntou: “Por que não deixar que essa abordagem de educação e entretenimento para capturar e cativar sua atenção seja o motivador?”

Uma menina da sétima série que testou o chatbot, personificado por um sol animado e sorridente, relatou: “Acho que Ed gosta de mim”, disse Carvalho.

Los Angeles concordou em pagar a uma startup, AllHere, até US$ 6 milhões para desenvolver Ed, uma pequena parte do orçamento anual de US$ 18 bilhões do distrito. Mas apenas dois meses depois da apresentação de Carvalho em Abril numa conferência tecnológica brilhante, o fundador e CEO da AllHere deixou o seu cargo e a empresa despediu a maior parte do seu pessoal. AllHere postou em seu site que as licenças se deviam à “nossa situação financeira atual”.

As empresas de IA estão a fazer um grande esforço de marketing nas escolas, que gastam dezenas de milhares de milhões de dólares por ano nesta tecnologia. Mas o súbito colapso da AllHere ilustra alguns dos riscos de investir o dinheiro dos contribuintes em inteligência artificial, uma tecnologia com enorme potencial, mas com pouco historial, especialmente quando se trata de crianças. Há muitas questões complicadas em jogo, incluindo a privacidade dos dados dos alunos e a precisão de qualquer informação oferecida através de chatbots. E a inteligência artificial também pode ir contra outro interesse crescente dos líderes educacionais e dos pais: reduzir o tempo de tela das crianças.

Natalie Milman, professora de tecnologia educacional na Universidade George Washington, disse que frequentemente aconselha as escolas a adotarem uma abordagem de “esperar para ver” ao adquirir novas tecnologias. Embora a IA valha a pena ser usada e testada, disse ele, ele alertou que as escolas “falam de maneira nebulosa sobre esta ferramenta glorificada. “Ele tem limitações e precisamos ter certeza de que somos críticos em relação ao que ele pode fazer e ao seu potencial para causar danos e desinformação.”

AllHere não respondeu a pedidos de entrevista ou perguntas por escrito.

Em comunicado, Britt Vaughan, porta-voz do distrito escolar de Los Angeles, fez uma distinção entre alunos distraídos que são “consumidos por telefones durante o dia escolar” e alunos que usam laptops ou tablets para interagir com a plataforma Ed, que ele disse. foi “destinado a fornecer caminhos educacionais individualizados para abordar a aprendizagem dos alunos”.

Anthony Aguilar, chefe de educação especial do distrito, disse que apesar do colapso do AllHere, uma versão truncada de Ed permaneceu acessível às famílias nas 100 escolas “prioritárias” do distrito, cujos alunos lutam com os estudos e a frequência.

Mas esse software não é um chatbot sofisticado e interativo. É um site que compila informações de muitos outros aplicativos que o distrito usa para monitorar tarefas, notas e serviços de apoio. Os alunos que utilizam o site também podem realizar algumas atividades de aprendizagem na plataforma, como problemas de matemática.

O chatbot Ed promovido por Carvalho foi testado com estudantes de 14 anos ou mais, mas foi colocado offline para refinar a forma como responde às perguntas dos usuários, disse Aguilar. O objetivo é ter o chatbot disponível em setembro, um desafio dado que a AllHere deveria fornecer apoio técnico e formação contínua aos funcionários da escola, de acordo com o seu contrato com o distrito. O distrito disse esperar que a AllHere fosse adquirida e que o novo proprietário continuasse os serviços.

Aguilar disse que a ideia do software teve origem no distrito, como parte do plano do Sr. Carvalho para ajudar os alunos a recuperarem dos efeitos académicos e emocionais da pandemia.

A AllHere venceu uma licitação para construí-lo, disse Aguilar.

Mas o projeto representou um desafio enorme e difícil para a startup, que era mais conhecida como fornecedora de mensagens de texto automatizadas de escolas para famílias.

AllHere atraiu US$ 12 milhões em financiamento de capital de risco, de acordo com a Crunchbase. Sua fundadora e CEO, Joanna Smith-Griffin, agora com 33 anos, apareceu em Forbes, CBS e outros meios de comunicação que contam uma história convincente. Como ex-educadora cujos próprios alunos estavam frequentemente ausentes, ela disse que fundou a AllHere em 2016 para ajudar a resolver o problema.

As mensagens de texto automatizadas pareciam ser a resposta quando a pandemia de Covid-19 começou e o absentismo crónico se tornou uma crise nacional. Na primavera de 2020, AllHere tecnologia adquirida desenvolvido por Peter Bergman, economista e especialista em tecnologia educacional. Permitiu que as escolas enviassem “cutucões” aos pais por meio de mensagens de texto sobre frequência, tarefas faltantes, notas e outros assuntos.

Smith-Griffin falou frequentemente sobre a fundação do AllHere no Harvard Innovation Labs, um programa universitário para apoiar estudantes empreendedores. De acordo com Matt Segneri, diretor executivo dos laboratórios, a Sra. Smith-Griffin tornou-se afiliada ao programa enquanto era estudante de graduação e depois de pós-graduação na Harvard Extension School.

Como muitas pequenas startups, a empresa mudou de missão ao longo do tempo. No ano passado, AllHere começou a falar mais sobre um “chatbot intuitivo com tecnologia de IA”. AllHere forneceria inteligência artificial às escolas, mantendo um “humano informado”, disse a empresa, o que significa que moderadores humanos supervisionariam a IA para garantir a segurança, uma proposta potencialmente cara e trabalhosa.

Stephen Aguilar, professor de educação da Universidade do Sul da Califórnia que não tem parentesco com Aguilar, das escolas de Los Angeles, disse que era “um problema bastante comum” o fracasso de esforços ambiciosos de tecnologia escolar. Anteriormente, ele trabalhou como desenvolvedor de software educacional, incluindo alguns projetos que não puderam ser entregues conforme prometido.

“Os distritos têm muitas necessidades complexas e muitas preocupações de segurança”, disse ele. “Mas muitas vezes falta-lhes o conhecimento técnico para realmente examinar o que estão comprando.”

A incursão na IA não é a primeira vez que Los Angeles faz uma grande aposta na tecnologia educacional, com retornos questionáveis. A partir de 2013, sob o comando de um superintendente anterior, o distrito gastou dezenas de milhões de dólares na compra de iPads pré-carregados com materiais curriculares, mas o esforço falhou. estragado devido a problemas de segurança e falhas técnicas.

Em um discurso que Carvalho proferiu em abril em uma conferência organizada pela Arizona State University e pela GSV Ventures, uma empresa de capital de risco, ele disse que o chatbot de Ed teria acesso aos dados dos alunos sobre notas de testes, saúde mental, saúde física e status socioeconômico familiar.

Smith-Griffin juntou-se a ele no palco para explicar que os dados dos alunos viveriam em “um jardim murado” acessível apenas dentro do “ecossistema educacional”.

A Sra. Smith-Griffin não respondeu aos pedidos de entrevista. Vaughan, das escolas de Los Angeles, disse que o distrito protegeria a privacidade e a segurança dos dados na plataforma “independentemente do que acontecer com a AllHere como empresa”.

Em abril, a AllHere disse que atendia “9.100 escolas em 36 estados”. De acordo com Reportagem de The74De acordo com um site de notícias sobre educação, alguns dos outros contratos de cinco dígitos da AllHere com distritos escolares eram minúsculos em comparação com o acordo com Los Angeles, que já havia rendido à empresa mais de US$ 2 milhões.

Alguns clientes fora de Los Angeles foram informados de que os serviços da empresa são praticamente inexistentes.

As Escolas Públicas do Condado de Prince George, em Maryland, souberam da AllHere em 18 de junho que “com efeito imediato” a startup não seria mais capaz de fornecer seu serviço de mensagens de texto, disse uma porta-voz do distrito, devido a “circunstâncias financeiras”.

Susan C. praiano contribuiu para a pesquisa.