CPU作為計算機系統的運算和控制核心，是信息處理、程序運行的終執(zhí)行單元。CPU 自產生以來，在邏輯結構、運行效率以及功能外延上取得了巨大發(fā)展。CPU是計算機的大腦。

程序的運行過程，實際上是程序涉及到的、未涉及到的一大堆的指令的執(zhí)行過程。當程序要執(zhí)行的部分被裝載到內存后，CPU要從內存中取出指令，然后指令解了碼(以便知道類型和操作數，簡單的理解為CPU要知道這是什么指令)，然后執(zhí)行該指令。再然后取下一個指令、解了碼、執(zhí)行，以此類推直到程序退出。

在計算機體系結構中，CPU 是對計算機的所有硬件資源（如存儲器、輸入輸出單元） 進行控制調配、執(zhí)行通用運算的核心硬件單元。CPU 是計算機的運算和控制核心。計算機系統中所有軟件層的操作，終都將通過指令集映射為CPU的操作。

由于CPU訪問內存以得到指令或數據的時間要比執(zhí)行指令花費的時間長很多，因此在CPU內部提供了一些用來保存關鍵變量、臨時數據等信息的通用寄存器。所以，CPU需要提供 一些特定的指令，使得可以從內存中讀取數據存入寄存器以及可以將寄存器數據存入內存。

因為CPU有大量的緩存和復雜的邏輯控制單元，因此它非常擅長邏輯控制、串行的運算。相比較而言，GPU因為有大量的算術運算單元，因此可以同時執(zhí)行大量的計算工作，它所擅長的是大規(guī)模的并發(fā)計算， 計算量大但是沒有什么技術含量，而且要重復很多次。這樣一說，我們利用GPU來提高程序運算速度的方法就顯而易見了。使用CPU來做復雜的邏輯控制，用GPU來做簡單但是量大的算術運算，就能夠大大地提高程序的運行速度。

CPU有強大的算術運算單 元，可以在很少的時鐘周期內完成算術計算。同時，有很大的緩存可以保存很多數據在里面。此外，還有復雜的邏輯控制單元，當程序有多個分支的時候， 通過提供分支預測的能力來降低延了時。GPU是基于大的吞吐量設計，有很多的算術運算單元和很少的緩存。同時GPU支持大量的線程同時運行，如果他們需要訪問同一個數據，緩存會合并這些訪問，自然會帶來延了時的問題。盡管有延了時，但是因為其算術運算單元的數量龐大，因此能夠達到一個非常大的吞吐量的效果。