Rock PI N10, Raspberry PI 4 e Jetson Nano stanno diventando sempre più popolari, e molti ricercatori tendono a utilizzarli per progetti AI e Deep learning.

Nell’articolo di oggi proveremo a mettere questi tre combattenti l’uno contro l’altro, per vedere chi uscirà vincitore nelle capacità di utilizzare algoritmi di deep learning, ma anche nello sfruttare al meglio le proprie risorse.

Presentiamo gli sfidanti!

Rock Pi N10- RK3399Pro

• Il Rock Pi N10 è il nuovo arrivato nella famiglia Rock pi, nato specificamente per elaborazioni AI e deep learning.
• Dispone di un potente SoC (system on chip) rappresentato da un RK3399Pro che utilizza  CPU, GPU e NPU.
  • La CPU  del RK3399Pro è una CPU six-core che include un Dual Cortex-A72 (con frequenza di clock a 1.8GHz) ed un quad Cortex-A53 (con frequenza di clock a 1.4GHz).
  • La GPU del RK3399Pro è una Mali T860MP4 con la capacità di gestire OpenGL ES 1.1 /2.0 /3.0 /3.1 /3.2, Vulkan 1.0, Open CL 1.1 1.2, DX1.
  • La NPU può gestire calcoli a 8/16 bit e raggiunge la potenza di calcolo di 3.0 TOPS.
• Il Rock Pi N10 dispone inoltre di notevoli capacità di memoria. 4GB di LPDDR a 64 bit dual-channel e 16GB eMMC 5.1 sono inserite nella mainboard per fornire spazio sufficiente per elaborazione ed archiviazione dei dati. Inoltre, la scheda contiene anche uno slot μSD per il boot, ed un connettore M.2 SSD che permette di utilizzare SSD sino a 2T di memoria estesa.
• Il Rock Pi N10 è versatile anche a livello di interfacce. Come il Raspberry 4B, il Rock Pi N10 dispone di interfacce per Audio, fotocameracamera, display, Ethernet, USB e I/O. L’interfaccia Ethernet può gestire la funzione PoE ed accetta un hat PoE vicino all’interfaccia Ethernet. Il SBC non utilizza il wi-fi per il momento, ma esiste un modulo wi-fi opzionale da associare alla scheda.
• Il software di sistema fornito con il Rock Pi N10 è Debian e Android 8.1. Per la NPU esiste un firmware aggiornato ed una procedura di boot.
• Altre schede che dispongono del Rockchip RK3399Pro, come la Toybrick RK3399Pro AI Developer Kit, costano oltre $200, mentre il nostro Rock Pi N10 risulta molto più economico, venduto a partire dai $99.

Raspberry Pi 4

• Il Raspberry Pi 4 Model B rappresenta l’ultimo prodotto della popolare schiera dei computer di classe PI.
• La versione 4 offre un notevole incremento nella velocità del processore, nelle prestazioni legate al multimedia, nella memoria e nella connettività, mantenendo tuttavia la compatibilità all’indietro ed un consumo di corrente allineato alla precedente generazione costituita dal Raspberry Pi 3 Model B+. Almeno dopo gli ultimi aggiornamenti del firmware.
• Le caratteristiche più importanti del prodotto includono un processore quad-core 64 bit ad alte prestazioni (Cortex-A72), supporto per il dual-display a risoluzioni sino a 4K attraverso due porte micro-HDMI, decodifica video hardware sino a 4Kp60, sino a 4GB di RAM, LAN wireless dual-band che arriva a 2.4/5.0 GHz, Bluetooth 5.0, Gigabit Ethernet, USB 3.0, e compatibilità con PoE capability (attraverso un adattarore PoE HAT esterno).
• La LAN dual-band wireless ed il Bluetooth dispongono di modular compliance certification, che consente alla scheda di appartenere al gruppo degli end products con meno test di controllo, implicando quindi costi e time to market inferiori.
• A causa dell’aumento di prestazioni del Pi 4 rispetto ai modelli precedenti, il Raspberry Pi 4 rappresenta al momento una robusta piattaforma per on-device inference. Inoltre, grazie al sistema USB 3.0, diventa un potente host per l’accelerazione hardware verso AI e deep learning.
• Infine, ricordiamo che il Raspberry Pi 4 è particolarmente a buon mercato, tra i $35 per la versione da 1GB di RAM ed i $55 per la versione da 4GB di RAM.

NVIDIA Jetson Nano Developer Kit

• NVIDIA Jetson Nano Developer Kit garantisce le prestazioni di calcolo per gestire moderni carichi di lavoro su AI a costi e e con prestazioni prima impossibili. Chiunque è ora in grado di gestire una infrastruttura AI e numerosi modelli per applicazioni del tipo “classificazione automatica delle immagini”, object detection, segmentation, e speech processing.
• Il kit di sviluppo può essere alimentato attraverso micro-USB ed è distribuito con ampie possibilità di I/Os, che vanno dal GPIO al CSI. Questo lo rende più semplice per gli sviluppatori, quando si debba collegare un sistema complesso di sensori per abilitare le diverse applicazioni AI. Il Jetson Nano è anche molto oculato nei consumi energetici, con i suoi 5W in modalità normale (che però passano facilmente a 10W nell’uso heavy-duty).
• Jetson Nano dispone di un processore Quad-core ARM Cortex-A57 MPCore, una architettura GPU NVIDIA Maxwell con 128 NVIDIA CUDA cores e 4 GB di memoria 64-bit LPDDR4 @1600MHz.
• In tal modo, gli sviluppatori sono in grado di creare devices con il Jetson Nano che possano gestire task multipli di machine learning come computer vision e natural language processing, tutti attraverso un computer singolo e compatto.
• Il sistema è infine in grado di far girare multiple reti neurali su ciascun sensor stream, e consente di accedere alla maggior parte delle infrastrutture AI oggi disponibili, comprese TensorFlow, PyTorch, Caffe, e MXNet.

Rock Pi N10 RK3399Pro vs Raspberry Pi 4 vs Jetson Nano

E quando si parla di AI e machine learning, CPU, GPU e NPU iniziano a giocare un ruolo dominante. Per coloro che non riescono (ancora) a valutare le differenze tra CPU, GPU or NPU:

• CPU: Nota come Central Processing Unit, rappresenta la componente chiave ed il “cervello” operativo di un SBC. Analizza le istruzioni del programma o applicazionie, ed esegue i calcoli.
• GPU: Nota come Graphics Processing Unit, è progettata per manipolare ed alterare velocemente i dati, ed accelerare così la creazione di immagini in una zona di memoria  (il frame buffer) riservata all’output di un display device. La GPU viene anche utilizzata per accelerare altri calcoli geometrici utilizzati spesso nel machine learning.
• NPU: Nota come Neural Network Processing Unit, è un circuito altamente specializzato che implementa la necessaria logica aritmetica e di controllo per eseguire algoritmi di machine learning.

E adesso, cercheremo di confrontare le divese specifiche di ciascuna macchina, in particolare delle loro CPU, GPU ed NPU:

NPU

Il primo fattore che occorre ricordare è che il Rock Pi N10 RK3399Pro è l’unico device don una NPU. Grazie alla NPU, la capacità di calcolo del Rock Pi N10 raggiunge i 3.0 TOP, che significa 3.0 x 10¹² operazioni di data processing al secondo!

La NPU non è presente sul Raspberry Pi 4 né sul Jetson Nano, che potranno utilizzare esclusivamente la propria CPU per gestire i calcoli complessi per il deep learning. Quest’unica caratteristica rende il Rock Pi N10 RK3399Pro superiore agli altri nel gestire task complessi legati ad AI e deep learning.

GPU

In termini di GPU, il Jetson Nano supera tutti gli altri concorrenti grazie al sistema di processori NVIDIA Maxwell con 128 CUDA cores @ 921 Mhz. Dal momento che il modello RK3399Pro utilizza una GPU integrata assieme a CPU ed NPU, in termini di elaborazione delle immagini tramite AI risulta meno performante del Jetson Nano. La GPU del Raspberry Pi 4 infile risulta anch’essa meno potente rispetto al Jetson Nano, ed il suo sfruttamento nella programmazione SIMD e vettoriale appare più complesso, sebbene possibile.

CPU

A livello di CPU, infine, il Raspberry Pi 4 dispone della CPU più nuova e peformante, con un processore Quad-core ARM Cortex-A72 64-bit @ 1.5 GHz che garantisce una maggiore velocità del clock e prestazioni migliori. Tuttavia, nel campo del deep learning ed in genere della AI, potrebbe non offrire eccezionali caratteristiche di elaborazione. Rimane comunque la CPU più rapida rispetto agli altri, il che rende Raspberry Pi il general-purpose single board computer più versatile del gruppo.

Altre caratteristiche

Anche nel settore prezzi, evidentemente, il Raspberry Pi 4 risulta il più economico dell’intero gruppo di SBC considerato. Il Jetson Nano ed il prezzo di partenza del Rock Pi N10 RK3399Pro sono allineati a $99.

Ad ogni modo, occorre ricordare che le altre schede basate sul RK3399Pro Rockchip, come la Toybrick RK3399Pro AI Developer Kit costano oltre $200,  rendendo il Rock Pi N10 RK3399Pro decisamente più competitivo.

Conclusioni

Come appare evidente nel confronto, ci troviamo di fronte a tre sistemi nati più per interagire che per competere. Ciascun SBC ha i propri elementi positivi e negativi.

Qualora si cerchi un sistema dedito a scopi di ricerca AI, il Rock Pi N10 RK3399Pro rimane un vero mostro, se si tratta di prestazioni di deep learning, offrendo sino a 3.0 TOPS di potenza di calcolo grazie alla propria NPU. In più, al suo prezzo di vendita, rappresenta una scelta quasi imposta rispetto ad altri SBC.

Se invece il vostro progetto di studio prevede una onerosa elaborazione di immagini e grafica, il Jetson Nano risulta la scelta migliore, grazie al coprocessire NVIDIA Maxwell con 128 CUDA cores @ 921 Mhz.

Se infine si desidera eseguire task di deep learning ed AI a livello basico, come vedere il movimento, riconoscere oggetti ed eseguire operazioni di inferenza di base o con un basso livello di FPS, il Raspberry Pi 4 sarebbe la scelta vincente. E comunque il Raspberry Pi 4 rappresenta la scelta ottimale in caso di necessità di un computer general-purpose a basso prezzo.