Como e por quê os microcontroladores podem ajudar a democratizar o acesso à IA de borda

Nos últimos anos, a IA de borda tem ganhado popularidade. Prevê-se que o mercado global associado cresça a uma taxa anual composta de 27,8% até 2035, aumentando para um valor líquido de 356,84 bilhões de dólares.

Uma variedade de fatores está alimentando essa demanda. O processamento de dados na borda lida com as preocupações de segurança que as empresas possam ter sobre o roteamento de informações confidenciais ou proprietárias para a nuvem. O processamento de borda também diminui a latência, o que pode ser importante nas aplicações em tempo real, em que decisões em frações de segundo precisam ser feitas. Os dispositivos IoT industriais (IIoT) fornecem operações orientadas por dados, o que, por sua vez, aumenta os casos de uso da IA de borda. As implementações em rápida expansão — desde dispositivos médicos portáteis a vestíveis e IIoT — estão reforçando o mercado da IA na borda.

À medida que a tecnologia cresce em popularidade, há uma procura crescente associada por componentes que possam dar resposta às necessidades de processamento de dados em sistemas embarcados.

As opções de processamento computacional: microcontroladores ou microprocessadores

A grande maioria dos dispositivos IoT implantados atualmente em equipamentos industriais e outros embarcados são dispositivos de baixa potência com pouquíssima memória. O poder de processamento que possuem provém de pequenos microcontroladores (MCUs) embarcados. Estes MCUs têm arquiteturas de baixa potência que permitem que os sistemas embarcados sejam muito mais econômicos do que aqueles com microprocessadores.

Até ao advento da IA de borda, os MCUs satisfaziam bem as necessidades de processamento dos dispositivos IoT. Mas os MCUs tradicionais geralmente não conseguem fornecer o poder computacional necessário para algoritmos de aprendizado de máquina mais complexos, que são a marca registrada das aplicações de IA de borda. Estes algoritmos são normalmente executados em unidades de processamento gráfico (GPU) e microprocessadores com mais poder de computação. O uso desses componentes, no entanto, tem suas próprias desvantagens, incluindo a quantidade de energia consumida. Os microprocessadores ou as GPUs não são as soluções mais eficientes em termos energéticos. Como resultado, a computação de borda baseada em microprocessadores pode não ser a melhor opção para todas as aplicações de IA de borda e os fornecedores optam por confiar em MCUs.

Os MCUs autônomos são mais baratos do que GPUs e microprocessadores. Para aumentar a escala da IA de borda, há uma necessidade crescente de aproveitar as vantagens dos MCUs — baixo custo e baixo consumo de energia — ao mesmo tempo que se aumenta o poder computacional.

De fato, ao longo dos anos, alguns fatores convergiram para aumentar as capacidades dos MCUs na borda.

O que está ajudando no uso de MCUs na borda

Embora a suposição geral seja de que o MCU tradicional é muito leve para o processamento de dados relacionado à IA, as mudanças no design do MCU e no ecossistema mais amplo de tecnologia estão estimulando sua adoção em casos de uso de IA de borda.

Esses fatores incluem:

• A integração de aceleradores de IA em MCUs: quando o MCU sozinho se esforça para atender às demandas da computação de borda, integrá-lo a um acelerador de IA/ML, como unidades de processamento neural (NPUs) ou processadores de sinal digital (DSPs), melhora o desempenho.

  Por exemplo, as CPUs da série STM32N6 (Figura 1) da STMicroelectronics baseiam-se no Arm Cortex-M55 que funciona a 800 MHz. A tecnologia de processamento vetorial Arm Helium traz as capacidades de processamento DSP para uma CPU padrão. O STM32N6 é o primeiro MCU STM32 que incorpora o ST Neural-ART Accelerator, uma NPU desenvolvida internamente e projetada para poderosas aplicações de IA de borda.

Figura 1: O STM32N6 é o primeiro MCU STM32 que incorpora o ST Neural-ART Accelerator, uma unidade de processamento neural (NPU) desenvolvida internamente e projetada para aplicações de IA de borda com eficiência energética. (Fonte da imagem: STMicroelectronics)

• Modelos otimizados de IA para a borda: algoritmos pesados de IA e de aprendizado de máquina não podem ser simplesmente transferidos para MCUs. Têm de ser otimizados para recursos computacionais limitados. Arquiteturas compactas de IA, como TinyML e MobileNet, fazem exatamente isso junto com técnicas de otimização, permitindo que até mesmo MCUs na borda executem algoritmos de IA. A STMicroelectronics lançou o STM32Cube.AI, uma solução de software que converte uma rede neural em código C otimizado para MCUs STM32. Usar a solução em conjunto com o STM32N6 ajuda a garantir o desempenho necessário para aplicações de IA de borda, apesar das restrições de processamento e memória.

• A ascensão dos ecossistemas de IA: ter simplesmente um componente de hardware capaz de processamento relacionado à IA na borda não é suficiente. A execução de algoritmos de IA na borda exige ecossistemas amigáveis ao desenvolvedor que ajudem a facilitar as implantações de IA. Ferramentas específicas, como o TensorFlow Lite para microcontroladores, ajudam a fornecer essas soluções. Comunidades de código aberto como a Hugging Face e outras plataformas oferecem modelos pré-treinados e bibliotecas de código que os desenvolvedores podem testar e adaptar aos seus casos de uso específicos. Esses ecossistemas de IA reduzem a barreira para a adoção da tecnologia e democratizam o acesso até mesmo para empresas com poucos recursos que talvez não consigam desenvolver modelos proprietários de IA do zero.

  A STMicroelectronics tem um ecossistema de hardware e software especificamente adaptado, o ST Edge AI Suite, para soluções otimizadas de IA de borda. O pacote consolida muitas das bibliotecas e ferramentas de IA da ST para facilitar aos desenvolvedores a procura de modelos, fontes de dados, ferramentas e compiladores que possam gerar código para o microcontrolador.

  Os modelos pré-treinados num conjunto de modelos fornecem um ponto de partida para os desenvolvedores. Estes modelos utilizam o formato ONNX (Open Neural Network Exchange), uma norma aberta para representar modelos de aprendizado de máquina em áreas como a visão computacional (CV), o processamento de linguagem natural (PLN), a IA generativa (GenAI) e o aprendizado de máquina em grafos.

• Códigos para padronização e interoperabilidade: embora os ecossistemas de IA tenham ajudado as empresas a testar casos de uso de IA de borda, os formatos de modelos abertos e normalizados ajudaram a uma integração perfeita entre sistemas de hardware. A compatibilidade entre ferramentas de software e MCUs ajudou a diminuir os obstáculos às implementações da IA de borda.
• Atenção à segurança na borda: embora os MCUs eliminem ou, pelo menos, diminuem a necessidade de processamento de dados na nuvem, os componentes de hardware fornecem camadas adicionais de segurança. Eles geralmente incluem recursos como criptografia de hardware e inicialização segura, que protegem os dados e os modelos de IA contra agentes mal-intencionados.

Características notáveis do hardware STM32N6

A série STM32N6 inclui um MCU de elevado desempenho com uma NPU, um conjunto de módulos de câmara e um kit de ensino. A série usa uma arquitetura ARM Cortex-M típica e tem vários recursos importantes que tornam esses dispositivos adequados para IA na borda. Estes incluem:

• Neural ART Accelerator, que pode executar modelos de redes neurais. Está otimizado para algoritmos intensivos de IA, com um clock de 1 GHz, e fornece 600 GOPS com uma média de 3 TOPS/W de eficiência energética.
• Suporte para instruções "Helium" MPVE (M-profile Vetor Extension), um conjunto de instruções ARM que permitem poderosas funções de rede neural e DSP. Estas instruções foram concebidas, por exemplo, para funcionar com números de ponto flutuante de 16 e 32 bits, o que lhes permite manipular com eficiência números de baixa precisão. São importantes para o processamento de modelos ML.
• ST Edge AI Suite, um repositório de ferramentas de software gratuitas, casos de uso e documentação que ajuda os desenvolvedores de todos os níveis de experiência a criar IA para a borda inteligente. O pacote também inclui ferramentas como o ST Edge AI Developer Cloud, que apresenta redes neurais dedicadas no conjunto do modelo STM32, um grupo de placas para referência na vida prática e muito mais.
• Cerca de 300 unidades de multiplicação-acumulação configuráveis e dois barramentos de memória AXI de 64 bits para uma taxa de transferência de 600 GOPS.
• Processador de sinal de imagem (ISP) dedicado incorporado, que pode fazer interface diretamente com várias câmaras de 5 megapixels. Para construir sistemas que incorporem câmaras, os desenvolvedores têm de sintonizar o ISP para um determinado sensor de câmara CMOS e a respectiva lente. Normalmente, a sintonia requer conhecimentos especializados ou ajuda de terceiros. A ST fornece aos desenvolvedores um software especial de computador chamado iQtune para essa finalidade. Este software, executado numa estação de trabalho Linux, comunica com o código incorporado no STM32 e analisa a precisão da cor, a qualidade da imagem e as estatísticas, e configura os registradores do ISP de forma adequada.
• Suporta MIPI CSI-2, a interface de câmara mais popular em aplicações móveis, sem necessidade de um ISP externo compatível com esta interface serial de câmera específica.
• Muitas capacidades adicionais num único dispositivo significam que os desenvolvedores podem agora executar uma rede neural em conjunto com uma GUI sem terem de utilizar vários MCUs.
• Segurança robusta, incluindo as certificações Target SESIP Nível 3 e PSA Nível 3.

Conclusão

As aplicações de aprendizado de máquina executadas na borda costumavam precisar de microprocessadores pesados em sistemas embarcados para suportar a carga de executar algoritmos complexos. Graças aos MCUs poderosos como as CPUs da série STM33N6 da STMicroelectronics, as empresas podem agora democratizar a IA na borda. A STMicroelectronics fornece um ecossistema completo para a implementação de IA na borda, incluindo os componentes de software e hardware para inferências.