Enhancing AI and Machine Learning via FPGA hardware

 

Hvorfor bruker vi FPGA for å prosessere AI i produktene våre?

 

Et grunnleggende krav til produktene våre er å ha evnen til å behandle sanntids RF spektrumdata med lav latenstid på kanten. Behandling av RF spektrumdata med lav latenstid har mange utfordringer som FPGA (Field Programmable Gate Arrays) men sine egenskaper mtp størrelse-, vekt- og strømeffektive løser svært effektivt.

  1. Regnekapasitet levert gjennom fleksibilitet: DroneShields AI-algoritmer er sterkt avhengige av tette faste-punkt matrisemultiplikasjoner, som egner seg godt til maskinvareplattformer som GPU-er og FPGAs siden den nødvendige regnekapasiteten for å oppnå klassifiseringer med lav latenstid er i størrelsesordenen Tera-Operasjoner/sekund (TOPs/s).FPGA har bevist seg å være den perfekte teknologiplattformen for maskinlærings-/kunstig intelligens arbeidsoppgaver siden:

 

    • Maskinlæringsbehandling er en veldig beregningsintensiv oppgave. Enkelt sagt, jo mer komplekst problemet er, desto flere TOPs/s kreves. FPGA har kapasiteten til å oppfylle dette behovet på grunn av deres enorme parallelitet, som utnyttes av DroneShield sin tilpassede FPGA-design. Dette betyr at vi er i stand til å øke hastigheten på algoritmene våre betydelig ved å parallellisere beregningene ved hjelp av FPGA.
    • Beskrevet i punktet over, er FPGAs omskrivbar maskinvareteknologi. Enkelt sagt, tilkoblingene mellom transistorer på FPGA-brikken kan programmeres på kjøretid (omprogrammeres) av programvare. Dette gjør at DroneShield kan utvikle tilpasset maskinvare med korte utviklingssykluser, skreddersydd til våre krav fra kundene.
    • Vår AI-algoritme er en tilpasset algoritme som bruker kompleks, uregelmessig parallelitet som nettverk-sparsity (beskjæring) på tilpassede datatyper. Disse typene arbeidsprosessering er vanskelige for tradisjonelle GPU-er og CPU-er å håndtere, men egner seg utmerket for FPGA pga maskinvarens unike fleksibilitet.

 

  1. SWaP-fordeler: FPGAs tilbyr imponerende regneevne og fleksibilitet med svært liten størrelse-, vekt-, område- og ytelsesbelastning. En direkte konkurrent til FPGA når det gjelder Tera-Operasjoner/sekund, eller hastighet på klassifiseringer, er en grafikkprosesseringsenhet (GPU). Sammenlignet med en GPU eller CPU, har FPGA enorme fordeler i følgende generelle aspekter:

 

    • Størrelse, vekt og areal: GPU-er krever ofte en mekanisk stabel, tilpasset kjøling og en dedikert strømforsyning. Pga FPGA sin størrelse kan den implementeres i små håndholdte produkter som RfPatrol på batteristrøm.
    • Ytelse: På grunn av tilpasset FPGA-design for vår spesifikke AI-applikasjon, overgår ytelsen til systemet for å oppdage droner en GPU-basert system i nesten hver eneste metrik.
    • Energieffektivitet: GOP/watt, eller giga-operasjoner/watt, er en vanlig brukt måleenhet for å definere energieffektiviteten til AI ytelse. DroneShield’s FPGA-plattform er over 2,3 ganger mer effektiv i rå-ytelse/watt metrikken sammenlignet med vanlige GPU-er eller CPU-er.
    • Latency: Vår FPGA-baserte AI-arkitektur er for øyeblikket i stand til å levere en forsinkelse på 90 mikrosekunder/klassifisering, i en håndholdt batteridrevet enhet.
    • Nøyaktighet: Til tross for å være en brøkdel av størrelsen til en typisk GPU prosessor, er vår FPGA-baserte AI-maskinvare over 97% nøyaktig sammenlignet i en 1:1 test mot en typisk GPU.