PESQUISADOR PRINCIPAL (PE2) - AI EDGE

FAPESP Programas de Inovação Tecnológica para Soberania Digital

• na linha da pesquisa: Inferência AÍ no Edge (na ponta e não no datacenter) distribuída, otimização de modelos.
• temas correlatos: Quantização de modelos, Inferência especulativa, Sistemas Ternários (bitnet), Formas de atenção e Cache KV

O MotorAION é um motor proprietário de inferência de modelos de linguagem (LLMs) escrito em Rust, concebido para executar inteligência artificial generativa de forma distribuída, multi-tenant e soberana dentro da rede dos provedores regionais de internet (ISPs/PCRs) brasileiros. O problema que ataca é a dependência desses milhares de provedores de nuvens estrangeiras para oferecer IA aos seus clientes - dependência que impõe custos em dólar, latência intercontinental e exposição de dados brasileiros a processamento fora do país, em tensão com a LGPD e com o interesse nacional. A proposta inverte a arquitetura dominante: em vez de enviar a infer...