此文主要內(nèi)容來(lái)自這篇文章,本文翻譯只求能理解,不求逐句翻譯。
正文:
我們將在本文中介紹如何在C++/C中使用SSE指令。我的目的不是用SSE寫盡可能快的程序,而是試圖講明白它的使用方法。
什么是SSE?
?SSE的全稱是 Sreaming SIMD Extensions, 它是一組CPU指令,用于像信號(hào)處理、科學(xué)計(jì)算或者3D圖形計(jì)算一樣的應(yīng)用。
SIMD 也是幾個(gè)單詞的首寫字母組成的: Single Instruction, Multiple Data。 一個(gè)指令發(fā)出后,同一時(shí)刻被放到不同的數(shù)據(jù)上執(zhí)行,
這個(gè)指令就是SIMD指令。
SSE在1999年首次出現(xiàn)在Pentium 3上。在過(guò)去的那段時(shí)光里,一些更加精致的功能被加入了這套指令集,
8個(gè)128-bit的寄存器被加入了CPU :xmm0到xmm7.
?
最初的時(shí)候,這些寄存器智能用來(lái)做單精度浮點(diǎn)數(shù)計(jì)算(float),
自從SSE2開始,這些寄存器可以被用來(lái)計(jì)算任何基本數(shù)據(jù)類型的數(shù)據(jù)了。
給定一個(gè)標(biāo)準(zhǔn)的32位機(jī)器,我們可以并行的存儲(chǔ)和計(jì)算了:
-- 2 double
-- 2 long
-- 4 float?
-- 4 int
-- 8 short
-- 16 char
注意:整數(shù)類型可以是有符號(hào)也可以是無(wú)符號(hào)的,不過(guò)有時(shí)候你可能要用不同的指令來(lái)處理他們。
比如,你想計(jì)算兩個(gè)整數(shù)數(shù)組的和,你可以一次計(jì)算四個(gè)加法。
簡(jiǎn)單的例子
開始學(xué)習(xí)SSE并不是很簡(jiǎn)單的,幸好MSDN的文檔寫的很好(原作的鏈接打不開了,新連接是我加上去的)!
如果你看一下那個(gè)算術(shù)操作的列表,一會(huì)注意到總有相應(yīng)的匯編指令與其對(duì)應(yīng)。
另外,一些操作是符合操作,例如那些set操作。
在C++中用SSE真真是一個(gè)low-level的操作:我們將直接通過(guò)類型
__m128(4個(gè)float)、__m128d(2個(gè)double)、__m128i(int、short、char)直接控制那些128-bit的寄存器。
不過(guò),為了使用SSE我們不必去聲明__m128類型的數(shù)組:比如,你想計(jì)算一個(gè)浮點(diǎn)型數(shù)組中每個(gè)元素的平方根,
有可以直接將你的數(shù)組強(qiáng)制類型轉(zhuǎn)換成__m128*,然后使用SSE的命令操作這個(gè)數(shù)組。
不管怎樣,我們還是要多做一點(diǎn)事情,才能用SSE。大多數(shù)SSE操作需要我們的數(shù)據(jù)是16-bytes對(duì)齊的,
這里我們將使用另一個(gè)GCC的 Variable attributes。 我們使用對(duì)齊屬性:
aligned?(alignment) This?attribute?specifies?a?minimum?alignment?for?the?variable?or?structure?field,?measured?in?bytes.
下面是一個(gè)簡(jiǎn)單的代碼,展示如何用SSE的_mm_sqrt_ps()函數(shù)一次性計(jì)算四個(gè)浮點(diǎn)數(shù)的平方根:
float?a[]?__attribute__?((aligned?(16)))?=?{?41982.,??81.5091,?3.14,?42.666?};
__m128*?ptr?=?(__m128*)a;
__m128?t?=?_mm_sqrt_ps(*ptr);如果用GCC編譯器,在編譯選項(xiàng)中加入-S選項(xiàng),產(chǎn)生的匯編代碼中相應(yīng)的匯編語(yǔ)句是SQRTPS,
而且這個(gè)指令使用的寄存器就是SSE的寄存器:
sqrtps??%xmm0,?%xmm0
不要忘了加上那個(gè)頭文件:
#include
第一個(gè)評(píng)測(cè)
在前面的代碼中,我們同時(shí)計(jì)算了4個(gè)float的平方根,但是我們沒(méi)有記錄結(jié)果。為了記錄結(jié)果,我們使用_mm_store_ps
在下面的代碼中,我們計(jì)算一個(gè)非常大的float數(shù)組的平方根。(作者使用的是他之前寫的計(jì)時(shí)函數(shù),這里我直接貼出來(lái)了)
來(lái)對(duì)程序的標(biāo)準(zhǔn)版本和SSE版計(jì)時(shí)。
class?Timer
{
public:
??Timer(const?std::string&?name)
????:?name_?(name),
??????start_?(std::clock())
????{
????}
??~Timer()
????{
??????double?elapsed?=?(double(std::clock()?-?start_)?/?double(CLOCKS_PER_SEC));
??????std::cout?<<?name_?<<?":?"?<<?int(elapsed?*?1000)?<<?"ms"?<<?std::endl;
????}
private:
??std::string?name_;
??std::clock_t?start_;
};
#define?TIMER(name)?Timer?timer__(name);
void?normal(float*?a,?int?N)
{
??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?sqrt(a[i]);
}?
void?sse(float*?a,?int?N)
{//?We?assume?N?%?4?==?0.
??int?nb_iters?=?N?/?4;
??__m128*?ptr?=?(__m128*)a;
??for?(int?i?=?0;?i?<?nb_iters;?++i,?++ptr,?a?+=?4)
????_mm_store_ps(a,?_mm_sqrt_ps(*ptr));
}
int?main(int?argc,?char**?argv)
{
??if?(argc?!=?2)
????return?1;
??int?N?=?atoi(argv[1]);
??float*?a;
??posix_memalign((void**)&a,?16,??N?*?sizeof(float));
??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?3141592.65358;
??{
????TIMER("normal");
????normal(a,?N);
??}
??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?3141592.65358;
??{
????TIMER("SSE");
sse(a,?N);
??}
}
在上面的SSE的函數(shù)代碼中,我們用了兩個(gè)指針指向的是同一個(gè)地址,但是使用的類型不同,這當(dāng)然不是必須的,只是用來(lái)避免強(qiáng)制類型轉(zhuǎn)換。
有趣的是,我們必須對(duì)__m128每次遞增1(128bits),對(duì)應(yīng)的,我們也必須按四遞增float指針(就是相當(dāng)于一次算四個(gè)float)。
另一個(gè)有趣的函數(shù)式 posix_memalign,而不是用align attribute,這個(gè)函數(shù)是在堆上申請(qǐng)對(duì)齊內(nèi)存,而gcc attribute是在棧上申請(qǐng)內(nèi)存。
評(píng)測(cè)環(huán)境:?llvm-g++ 4.2 (flags: -O3 -msse2) ?在Intel Core2 Duo P7350(2GHz)上測(cè)試。
$?./sqrt?64000000 normal:?392ms SSE:?145ms
真的相當(dāng)快哈!
第二個(gè)評(píng)測(cè)
怎么將兩個(gè)char數(shù)據(jù)加在一起呢:
void?sse(char*?a,?const?char*?b,?int?N)??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
{?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
??int?nb_iters?=?N?/?16;
??__m128i*?l?=?(__m128i*)a;
??__m128i*?r?=?(__m128i*)b;
?
??for?(int?i?=?0;?i?<?nb_iters;?++i,?++l,?++r)
????_mm_store_si128(l,?_mm_add_epi8(*l,?*r));
}
評(píng)測(cè)結(jié)果:
$?./add?64000000 normal:?98ms SSE:?42ms
性能分析
你可能會(huì)問(wèn),為什么我們沒(méi)有得到四倍的加速呢?我們可是一次計(jì)算4個(gè)float數(shù)據(jù)啊,怎么我們只有2倍的加速呢??
答案是,你的編譯器很聰明,它已經(jīng)做了很多優(yōu)化了,特別是在加入O3選項(xiàng)后。
實(shí)際上,如果你看下normal產(chǎn)生的匯編代碼,里面的sqrt和add函數(shù)都已經(jīng)被你的編譯器給用SSE指令優(yōu)化了。
編譯器檢測(cè)到循環(huán)模式適合SSE,就把這個(gè)代碼使用SSE指令實(shí)現(xiàn)了。
不管怎樣,直接使用SSE函數(shù)還是可以獲得一些性能的。
取決于你的編譯器版本,對(duì)于這種簡(jiǎn)單的循環(huán),你發(fā)現(xiàn)執(zhí)行時(shí)間上沒(méi)有差異也是可能的。
但是,這里必須要再提一次的是,我們是介紹怎么用SSE,不是只為了性能~





