跟着由诱发的高潮，GPU成为了锻炼平台的基石，以至是决定性的底座。为何GPU才能压，成为炙手可热的配角呢？要回答这个题目，起首需求懂得以后野生智能（AI，Artificial Intelligence）的首要手艺。
野生智能是一个汗青异常长的学科。自上世纪50年代以来，在多个手艺偏向上举行过索求，也经历过屡次的低潮和低谷。想懂得更根底更无味的野生智能先容，能够看上面这篇文章：野生智能来了，当心你的饭碗不保。野生智能在晚期诞生了一个“不甚胜利”的门户，叫做“”。这个手艺的思绪是，人脑的聪明无与伦比，要完成高等的野生智能，仿照人脑便是不贰秘诀。人脑是由数以亿计的神经元构成。这些神经元相互连贯，形成为了重大而庞杂的神经网络。婴儿的大脑是一张白纸，经由后天的进修就可完成高度的智能。
参考人脑神经元，野生神经元模子就被设想了进去。
在野生神经元里，经由过程调解每一个输出的权重，经过神经元计较处置以后，就可得出响应的输入。这里面的每一个权重，就被称作一个参数。
把如许的多个神经元互相连贯构成网络，便是野生神经网络了。野生神经网络普通由输出层、旁边的多个潜藏层以及输入层构成。
如许的野生神经网络就像婴儿的大脑同样空空如也，必需给它投喂少量的数据，让它充沛进修能力构成常识，能力用于实践解决题目。这个进程就叫做“深度进修”，属于“机械进修”的子集。
以罕见的“监视进修”为例，给AI投喂的数据必需包括题目和谜底。比如说，咱们的目的是让AI判别图片内里是否有一只猫，那就需要给AI少量肯定有猫的图片并给出猫的特性，让它自己从中找纪律。起首AI拿出一张给定的图片，接纳初始权重得出本人的论断。而后比拟这个论断和精确谜底究竟相差了几何，再返归去优化参数权重，这个进程轮回举行，直至AI给出的效果和精确谜底最为靠近。
这个进修的进程就叫做锻炼。普通来讲，需要给AI少量含有精确谜底的数据，才会得出比较好的锻炼效果。一旦咱们觉得锻炼实现，就拿出尝尝成色。假如咱们给它未知的题目，它也能很好地找出谜底，就觉得锻炼是胜利的，AI的“泛化”结果很好。
如上图所示，从神经网络上一层到下一层，参数权重的通报，本质上便是矩阵的乘法和加法。神经网络参数的范围越大，锻炼时需求的这些矩阵的计较也就越大。
最进步前辈的深度进修神经网络能够无数百万到跨越数万亿个参数，它们还需要少量的锻炼数据来完成高精度，这意味着必需经由过程正向和反向通报运转惊人的输出样本。因为神经网络是由少量沟通的神经元建立的，是以这些计较本质上是高度并行的。云云大规模的计较量，用CPU仍是GPU好呢？
咱们先说CPU（Central Processing Unit）。此物堪称电脑的大脑，是当仁不让的核心中的焦点。CPU外部首要包括运算器（也叫逻辑运算单位，ALU）和（CU），以及一些和缓存。
数据来了，会先放到。而后，控制器会从存储器拿到响应数据，再交给运算器举行运算。运算完成后，再把效果返回到存储器。在晚期，一个CPU惟独一套运算器、控制器和缓存，统一时候只能处置一个使命。要处置多个使命，只能按时候列队轮着来，人人雨露均沾。如许的CPU便是单核CPU。
起初，人们把多套运算器、控制器和缓存集成在统一块上，就组成为了多核CPU。多核CPU领有真正意义上的才能。
普通情况下，多核CPU的焦点数目少则2个4个，多则几十个。在刚开始遍及的时间，手机的表面趋同，其余处所也乏善可陈，厂家就鼎力大举衬着CPU的核数，史称智能手机的“核战”。
无非“核战”也就从双核烧到4核再到8核，而后人人也就都就偃旗息鼓了。芯片厂家也都是在这个焦点数目上做优化。为何CPU未几集成一些焦点呢？这是由于CPU是一个通用。它的使命异常庞杂，既要应答分歧范例的数据计较，还要呼应。庞杂的使命治理和调理使得它需求更庞杂的控制器和更大的缓存，举行逻辑操纵和调理，保管种种使命状况，以下降使命切换时的时延。
CPU的焦点越多，焦点之间的互联通信压力就越来越大，会下降单个焦点的功能体现。而且，焦点多了还会使功耗增添，假如忙闲不均，团体功能还可能不升反降。
上去再看GPU（Graphics Processing Unit）。GPU叫做图形处置单位。其设立的初志是为了分管CPU的压力，加快三维图形的衬着，常用于电脑的显卡。图象的处置，恰是一种针对矩阵的麋集。
GPU一词从1999年Nvidia推出其GeForce256时开端风行，该产物对每个同时处置，施行图形转换、照明和三角剪裁等数学密集型并行计较，用于图象衬着。为何GPU擅长负担麋集的并行计较呢？这是由于GPU的在架构上和CPU有很大的分歧。
CPU的核数少，单个焦点有足够多的缓存和足够强的运算才能辅佐不少加快分支判别以至庞杂的逻辑判别适宜处置庞杂使命。相比之下GPU简略粗犷多了每一个焦点的运算才能都不强，缓存也不大增添焦点数目晋升团体才能焦点数目多了就能多管处置少量简略的并行计较事情。