PQ Labs MagicAI - 为 人工智能 赋能

MagicCompute – 支持 CPU 加速和 AISC 芯片加速的人工智能加速计算解决方案
MagicChip – 高性能、低功耗的人工智能 ASIC 芯片加速计算解决方案
CES2019 展会现场
MagicAI
CPU加速和ASIC芯片加速,支持云端和设备端
MagicAI 是一种基于异构计算的高性能神经网络加速计算解决方案。
可为 云端和设备端 提供高性能、低能耗的神经网络计算能力。
相较于业内目前的解决方案,MagicAI 在 推理决策 和 训练 方面拥有非常明显的 计算速度 优势。
MagicAI 还支持超高网络分辨率下的海量目标检测,为安防监控等应用领域提供了全新的可能性。
同时检测多达 2,000 个目标
公共交通 - 体育场馆 - 群众集会
传统深度学习技术无法对海量目标进行同时检测,MagicAI 可以同时检测支持高达 2,000 个目标;
MagicAI 支持高达 4096 x 2048 网络分辨率,每帧处理多达 838 万 像素;
同时,MagicAI 可以检测到小至为 10 x 10 像素的物体,在 4K 摄像头画面中即使很远的物体依旧可以准确识别。
这意味着 MagicAI 可以在设备端配合 4K 分辨率的摄影及监控系统,对画面中海量目标进行快速检测。

在安防和监控领域,由于传统 AI 技术运算能力的不足,很难对海量人群进行快速智能化识别分析。
传统技术往往只能对关键通道、闸机等位置进行智能识别分析,而对大厅、体育场坐席等海量人群聚集的位置则束手无策,留下了安全隐患。
MagicAI 可以为大型活动、大型场馆的安防赋能,从宏观看到微观,杜绝安全隐患。

巨大的 神经网络运算 性能优势
比 CPU 运算快 199 倍,比 GPU 运算快 3.5 倍
MagicAI 拥有无与伦比的运算性能,
与同样基于 CPU 运算的 Intel MKL 相比,性能提升达到惊人的 176 倍
与配备 NVIDIA Titan X 的系统相比,性能提升亦达到了 3 倍,而此时功耗仅为其 1/3 左右。
AI Model
Tiny Yolo
-
Original
CPU Only (i7-7700K)
Tiny Yolo
-
Intel Optimized
CPU Only (i7-7700K)
Tiny Yolo
-
NVIDIA Optimized
CPU+GPU 
(i7-7700K + Titan X)
Tiny Magic Yolo
-
PQ Labs Optimized
CPU Only (i7-7700K)
Frame Per Second (Multi-Core)
1.54
3.6
207
718
Frame Per Second (Single-Core)
1.46
1.61
<0.06
292
mAP
57
57
57
57
Quantization
No
No
No
No
* 表格内比较项目在同样精度下运行同样数据集

性能/功耗比 高,部署及运营成本 低
超高的 每瓦特神经网络运算性能,大大提高 运算系统的经济性
MagicAI 不仅拥有非常高的极限性能,在低功耗设备上,MagicNet 依然拥有强劲的性能表现。
在功耗仅 5.9 瓦特的低功耗运算设备上,已然能够表现出接近 NVIDIA Titan X 的运算性能。
这将为 设备端 AI 运算提供崭新的可能性 – 在 机器人、无人机 等低功耗设备中 本地运行复杂神经网络模型。

而在云端,异构设计的 MagicAI 无需昂贵且高功耗的 GPU 芯片,大大降低了 神经网络服务器 的部署成本,
同时,仅仅消耗约 GPU 服务器 1/3 的能耗,又大大降低了 服务运营的成本;

另一方面,针对传统的 IDC 行业,MagicAI 也是其转型 人工智能云服务商 的最佳机会:
无需采购昂贵的GPU芯片,利用现有的 服务器资源 即可迅速开展 人工智能云计算 业务。

Performance on VOC 2007+2012 Dataset with same mAP
AI Model
Tiny Yolo
-
NVIDIA Optimized
CPU + GPU (i7-7700K + Titan X)
Magic Tiny Yolo
-
PQ Labs Optimized
CPU Only (M3-6Y30)

Frame Per Second207170
Typical Power Consumption400 Watt5.9 Watt
Performance / Watt0.5226.61
 51X better power efficiency