因為CPU有大量的緩存和復雜的邏輯控制單元，因此它非常擅長邏輯控制、串行的運算。相比較而言，GPU因為有大量的算術運算單元，因此可以同時執(zhí)行大量的計算工作，它所擅長的是大規(guī)模的并發(fā)計算， 計算量大但是沒有什么技術含量，而且要重復很多次。這樣一說，我們利用GPU來提高程序運算速度的方法就顯而易見了。使用CPU來做復雜的邏輯控制，用GPU來做簡單但是量大的算術運算，就能夠大大地提高程序的運行速度。

關于CPU的多核和多線程

1、CPU的物理個數由主板上的插槽數量決定，每個CPU可以有多核心，每核心可能會有多線程。

2、多核CPU的每核(每核都是一個小芯片)，在OS看來都是一個獨立的CPU。

3、對于超線程CPU來說，每核CPU可以有多個線程(數量是兩個，比如1核雙線程，2核4線程，4核8線程)，每個線程都是一個虛擬的邏輯CPU(比如windows下是以邏輯處理器的名稱稱呼的)，而每個線程在OS看來也是獨立的CPU。

每核上的多線程CPU都共享該核的CPU資源。

假設每核CPU都只有一個"發(fā)動機"資源，那么線程1這個虛擬CPU使用了這個"發(fā)動機"后，線程2就沒法使用，只能等待。

所以，超線程技術的主要目的是為了增加流水線上更多個獨立的指令，這樣線程1和線程2在流水線上就盡量不會爭搶該核CPU資源。所以，超線程技術利用了superscalar(超標量)架構的優(yōu)點。

關于CPU上的高速緩存

1、高速的緩存是CPU的寄存器，它們和CPU的材料相同，靠近CPU或接近CPU，訪問它們沒有時延(<1ns)。但容量很小，小于1kb。

2、寄存器之下，是CPU的高速緩存。分為L1緩存、L2緩存、L3緩存，每層速度按數量級遞減、容量也越來越大。

3、每核心都有一個自己的L1緩存。L1緩存分兩種：L1指令緩存(L1-icache)和L1數據緩存(L1-dcache)。L1指令緩存用來存放已解了碼指令，L1數據緩存用來放訪問非常頻繁的數據。

4、L2緩存用來存放近期使用過的內存數據。更嚴格地說，存放的是很可能將來會被CPU使用的數據。

5、多數多核CPU的各核都各自擁有一個L2緩存，但也有多核共享L2緩存的設計。無論如何，L1是各核私有的(但對某核內的多線程是共享的)。