MagicCompute
—— 为 人工智能 赋能

支持 CPU 加速和 AISC 芯片加速的人工智能加速计算解决方案
MagicCompute
CPU加速和ASIC芯片加速，支持云端和设备端
MagicCompute 是一种基于异构计算的高性能神经网络加速计算解决方案。
可为 云端和设备端 提供高性能、低能耗的神经网络计算能力。
相较于业内目前的解决方案，MagicCompute 在 推理决策 和 训练 方面拥有非常明显的 计算速度 优势。
MagicCompute 还支持超高网络分辨率下的海量目标检测，为安防监控等应用领域提供了全新的可能性。
同时检测多达 2,000 个目标
公共交通 - 体育场馆 - 群众集会
传统深度学习技术无法对海量目标进行同时检测，MagicCompute 可以同时检测支持高达 2,000 个目标；
MagicCompute 支持高达 4096 x 2048 网络分辨率，每帧处理多达 838 万 像素；
同时，MagicCompute 可以检测到小至为 10 x 10 像素的物体，在 4K 摄像头画面中即使很远的物体依旧可以准确识别。
这意味着 MagicCompute 可以在设备端配合 4K 分辨率的摄影及监控系统，对画面中海量目标进行快速检测。

在安防和监控领域，由于传统 AI 技术运算能力的不足，很难对海量人群进行快速智能化识别分析。
传统技术往往只能对关键通道、闸机等位置进行智能识别分析，而对大厅、体育场坐席等海量人群聚集的位置则束手无策，留下了安全隐患。
MagicCompute 可以为大型活动、大型场馆的安防赋能，从宏观看到微观，杜绝安全隐患。

巨大的 神经网络运算 性能优势
比 CPU 运算快 199 倍，比 GPU 运算快 3.5 倍
MagicCompute 拥有无与伦比的运算性能，
与同样基于 CPU 运算的 Intel MKL 相比，性能提升达到惊人的 176 倍。
与配备 NVIDIA Titan X 的系统相比，性能提升亦达到了 3 倍，而此时功耗仅为其 1/3 左右。
AI Model
Tiny Yolo
-
Original
CPU Only (i7-7700K)
Tiny Yolo
-
Intel Optimized
CPU Only (i7-7700K)
Tiny Yolo
-
NVIDIA Optimized
CPU+GPU 
(i7-7700K + Titan X)
Tiny Magic Yolo
-
PQ Labs Optimized
CPU Only (i7-7700K)
Frame Per Second (Multi-Core)
1.54
3.6
207
718
Frame Per Second (Single-Core)
1.46
1.61
<0.06
292
mAP
57
57
57
57
Quantization
No
No
No
No
* 表格内比较项目在同样精度下运行同样数据集

性能/功耗比 高，部署及运营成本 低
超高的 每瓦特神经网络运算性能，大大提高 运算系统的经济性
MagicCompute 不仅拥有非常高的极限性能，在低功耗设备上，MagicCompute 依然拥有强劲的性能表现。
在功耗仅 5.9 瓦特的低功耗运算设备上，已然能够表现出接近 NVIDIA Titan X 的运算性能。
这将为 设备端 AI 运算提供崭新的可能性 - 在 机器人、无人机 等低功耗设备中 本地运行复杂神经网络模型。

而在云端，异构设计的 MagicCompute 无需昂贵且高功耗的 GPU 芯片，大大降低了 神经网络服务器 的部署成本，
同时，仅仅消耗约 GPU 服务器 1/3 的能耗，又大大降低了 服务运营的成本；

另一方面，针对传统的 IDC 行业，MagicCompute 也是其转型 人工智能云服务商 的最佳机会：
无需采购昂贵的GPU芯片，利用现有的 服务器资源 即可迅速开展 人工智能云计算 业务。

Performance on VOC 2007+2012 Dataset with same mAP
AI Model
Tiny Yolo
-
NVIDIA Optimized
CPU + GPU (i7-7700K + Titan X)
Magic Tiny Yolo
-
PQ Labs Optimized
CPU Only (M3-6Y30)

Frame Per Second207170
Typical Power Consumption400 Watt5.9 Watt
Performance / Watt0.5226.61
 51X better power efficiency