Sistema di inferenza AI MIC-743-AT

Il sistema di inferenza IA MIC-743-AT di Advantech è integrato con NVIDIA^® Jetson T5000™ e offre prestazioni fino a 2070 TFLOPS (FP4). Questo sistema presenta un'architettura CPU SMP a 64 bit Arm^® Neoverse V3AE a 14 core, 128 GB di memoria LPDDR5X e un SSD da 1 TB preinstallato. Il sistema di inferenza IA MIC-743-AT integra 2560 core NVIDIA^® CUDA^® e 96 core Tensor di 5a generazione, con 1,57 GHz MAXN. Questo sistema supporta HDMI, USB 3.2 Gen 2, M.2 AEkey (Wi-Fi^®) e M.2 Bkey (LTE). Il sistema di inferenza IA MIC-743-AT viene fornito con NVIDIA Jetpack™ 7.0 installato e supporta molteplici casi d'uso per modelli IA di grandi dimensioni in applicazioni di intelligenza artificiale generativa. Questo sistema gestisce carichi di lavoro IA impegnativi, inclusi i Large Language Models (LLM), i Vision-Language Models (VLM) e l'analisi video a bordo.