Uma plataforma de IA chamada Ed deveria ser uma “amiga educacional” para meio milhão de estudantes nas escolas públicas de Los Angeles. Em bate-papos digitados, Ed direcionava os alunos para recursos acadêmicos e de saúde mental, ou informava aos pais se seus filhos haviam assistido às aulas naquele dia e fornecia as últimas notas dos testes. Ed seria ainda capaz de detectar e responder a emoções como hostilidade, felicidade e tristeza.

Alberto Carvalho, superintendente distrital, falou de Ed em termos ousados. Num discurso em abril promovendo o software, ele prometeu que ele “democratizaria” e “transformaria a educação”. Em resposta aos céticos em relação à IA, ele perguntou: “Por que não permitir que esta abordagem de educação e entretenimento capte e cative sua atenção, seja o motivador?”

Uma menina da sétima série que testou o chatbot – personificado por um sol sorridente e animado – relatou: “Acho que Ed gosta de mim”, disse Carvalho.

Los Angeles concordou em pagar a uma empresa iniciante, AllHere, até US$ 6 milhões para desenvolver Ed, uma pequena parte do orçamento anual de US$ 18 bilhões do distrito. Mas apenas dois meses depois da apresentação de Carvalho em abril, em uma conferência de tecnologia reluzente, o fundador e executivo-chefe da AllHere deixou seu cargo, e a empresa dispensou a maior parte de seus funcionários. AllHere postou em seu site que as licenças foram devido à “nossa situação financeira atual”.

As empresas de IA estão a promover-se fortemente junto das escolas, que gastam dezenas de milhares de milhões de dólares anualmente em tecnologia. Mas o súbito colapso do AllHere ilustra alguns dos riscos de investir o dinheiro dos contribuintes em inteligência artificial, uma tecnologia com enorme potencial, mas com pouco historial, especialmente quando se trata de crianças. Há muitas questões complicadas em jogo, incluindo a privacidade dos dados dos alunos e a precisão de qualquer informação oferecida através de chatbots. E a IA também pode ir contra outro interesse crescente dos líderes educacionais e dos pais: reduzindo o tempo de tela das crianças.

Natalie Milman, professora de tecnologia educacional na Universidade George Washington, disse que frequentemente aconselha as escolas a adotarem uma abordagem de “esperar para ver” na compra de novas tecnologias. Embora a IA valha a pena ser usada e testada, disse ela, ela alertou sobre as escolas “falando nebulosamente sobre esta ferramenta glorificada. Tem limitações e precisamos de garantir que estamos a ser críticos em relação ao que pode fazer e ao seu potencial de danos e desinformação.”

AllHere não respondeu a pedidos de entrevista ou perguntas por escrito.

Em comunicado, Britt Vaughan, porta-voz do distrito escolar de Los Angeles, fez uma distinção entre alunos distraídos que são “consumidos por telefones durante o dia escolar” e alunos que usam laptops ou tablets para interagir com a plataforma Ed, que ele disse ser “ pretende fornecer caminhos educacionais individualizados para abordar a aprendizagem dos alunos.

Anthony Aguilar, chefe de educação especial do distrito, disse que apesar do colapso do AllHere, uma versão truncada do Ed permaneceu acessível às famílias nas 100 escolas “prioritárias” do distrito, cujos alunos lutam com os estudos e a frequência.

Mas esse software não é um chatbot sofisticado e interativo. É um site que reúne informações de muitos outros aplicativos que o distrito usa para monitorar tarefas, notas e serviços de apoio. Os alunos que utilizam o site também podem realizar algumas atividades de aprendizagem na plataforma, como problemas de matemática.

O chatbot Ed promovido por Carvalho foi testado com estudantes de 14 anos ou mais, mas foi colocado off-line para refinar a forma como responde às perguntas dos usuários, disse Aguilar. O objetivo é que o chatbot esteja disponível em setembro, um desafio dado que a AllHere deveria fornecer apoio técnico e formação contínua aos funcionários da escola, de acordo com o seu contrato com o distrito. O distrito disse esperar que a AllHere fosse adquirida e que o novo proprietário continuasse os serviços.

Aguilar disse que a ideia do software surgiu no distrito, como parte do plano do Sr. Carvalho para ajudar os alunos a se recuperarem dos efeitos acadêmicos e emocionais da pandemia.

A AllHere venceu uma licitação para construí-lo, disse Aguilar.

Mas o projeto representou um desafio vasto e difícil para a start-up, que era mais conhecida como fornecedora de mensagens de texto automatizadas das escolas para as famílias.

AllHere atraiu US$ 12 milhões em financiamento de capital de risco, de acordo com a Crunchbase. Sua fundadora e executiva-chefe, Joanna Smith-Griffin, hoje com 33 anos, foi destaque em Forbes, CBS e outros meios de comunicação contando uma história convincente. Como ex-educadora cujos próprios alunos estavam frequentemente ausentes, ela disse que fundou a AllHere em 2016 para ajudar a resolver o problema.

As mensagens de texto automatizadas pareciam corresponder ao momento em que a pandemia de Covid-19 começou e o absentismo crónico tornou-se um problema. crise nacional. Na primavera de 2020, AllHere tecnologia adquirida desenvolvido por Peter Bergman, economista e especialista em tecnologia educacional. Permitiu que as escolas enviassem “cutucões” aos pais através de mensagens de texto sobre frequência, tarefas faltantes, notas e outros assuntos.

Smith-Griffin falava frequentemente sobre a fundação do AllHere no Harvard Innovation Labs, um programa universitário para apoiar estudantes empreendedores. De acordo com Matt Segneri, diretor executivo dos laboratórios, a afiliação da Sra. Smith-Griffin ao programa ocorreu enquanto ela era estudante de graduação e depois de pós-graduação na Harvard Extension School.

Como muitas pequenas start-ups, a empresa mudou a sua missão ao longo do tempo. No ano passado, AllHere começou a falar mais sobre um “chatbot intuitivo com tecnologia de IA”. AllHere forneceria inteligência artificial às escolas, ao mesmo tempo que manteria um “humano informado”, disse a empresa, o que significa que moderadores humanos supervisionariam a IA para garantir a segurança e a proteção – uma proposta potencialmente cara e que exige muita mão de obra.

Stephen Aguilar, professor de educação da Universidade do Sul da Califórnia – que não é parente de Aguilar das escolas de Los Angeles – disse que era “um problema bastante comum” o fracasso de esforços ambiciosos de tecnologia escolar. Anteriormente, ele trabalhou como desenvolvedor de software educacional, incluindo alguns projetos que não puderam ser entregues conforme prometido.

“Os distritos têm muitas necessidades complexas e muitas preocupações de segurança”, disse ele. “Mas muitas vezes falta-lhes o conhecimento técnico para realmente avaliar o que estão comprando.”

A incursão na IA não é a primeira vez que Los Angeles faz uma grande aposta na tecnologia educacional, com retornos questionáveis. A partir de 2013, sob o comando de um superintendente anterior, o distrito gastou dezenas de milhões de dólares comprando iPads pré-carregados com materiais curriculares, mas o esforço foi estragado por preocupações de segurança e acidentes técnicos.

No discurso de abril de Carvalho, em uma conferência organizada pela Arizona State University e pela GSV Ventures, uma empresa de capital de risco, ele disse que o chatbot Ed teria acesso aos dados dos alunos sobre notas de testes, saúde mental, saúde física e status socioeconômico familiar.

Smith-Griffin juntou-se a ele no palco para explicar que os dados dos alunos viveriam em “um jardim murado” acessível apenas dentro do “ecossistema Ed”.

A Sra. Smith-Griffin não respondeu aos pedidos de entrevista. Vaughan, das escolas de Los Angeles, disse que o distrito protegeria a privacidade e a segurança dos dados na plataforma “independentemente do que acontecer com a AllHere como empresa”.

Em abril, a AllHere disse que atendia “9.100 escolas em 36 estados”. De acordo com reportagem de The74um site de notícias sobre educação, alguns dos outros contratos distritais escolares da AllHere, na faixa de cinco dígitos, eram minúsculos em comparação com seu acordo com Los Angeles, que já havia rendido à empresa mais de US$ 2 milhões.

Alguns clientes fora de Los Angeles foram informados de que os serviços da empresa estão essencialmente extintos.

As Escolas Públicas do Condado de Prince George, em Maryland, souberam da AllHere em 18 de junho que “com efeito imediato” a start-up não seria mais capaz de fornecer seu serviço de mensagens de texto, disse uma porta-voz do distrito, devido a “circunstâncias financeiras imprevistas”.

Susan C. praiano contribuiu com pesquisas.