從一個(gè)單元測(cè)試用例來說說編程中的編碼問題
編碼簡(jiǎn)述以及Windows默認(rèn)配置
一提到編碼大家最熟悉的莫過于ASCII(American Standard Code for Information Interchange), 其采用7個(gè)bit表示128個(gè)字符,包含了常見的英文字符、數(shù)字,控制字符等。但是ASCII不包含中文,日文等文字的編碼,便出現(xiàn)了針對(duì)中文的編碼GB2312,GBK等編碼,針對(duì)日文的Shift_JIS編碼,他們都兼容ASCII編碼,微軟]稱為ANSI(American National Standards Institute)編碼。但是有個(gè)問題,就是各個(gè)編碼之間不兼容,比如我們都知道一個(gè)字符的編碼說到底都是二進(jìn)制表示,那么0xB182?在GB2312中編碼為偙,但是在Shift_JIS編碼中為こ。說到這里讀者是不是會(huì)有兩個(gè)問題:- 上述的編碼并不涵蓋世界上所有語言的字符。于是這個(gè)時(shí)候出現(xiàn)了
Unicode編碼方案,而對(duì)應(yīng)的編碼方式主要有UTF-8,?UTF-16,?UTF-32. - 上述例子中編碼值
0xB182在GB2312和Shift_JIS編碼方式中有不同的字符表示。這對(duì)于對(duì)于程序員來說處理起來不是很友好了,比如0xB182這個(gè)字符保存的文本,在你的操作系統(tǒng)中用notepad打開會(huì)顯示什么字符呢?這個(gè)時(shí)候你也許會(huì)發(fā)現(xiàn),怎么在不同人的機(jī)器上會(huì)顯示不同的字符樣式呢?
偙:同一個(gè)文件在另一個(gè)Windows系統(tǒng)上打開可能顯示字符
こ:然后同一個(gè)文件在另一個(gè)Windows系統(tǒng)上也可能顯示亂碼。
Notepad在解析的時(shí)候,是根據(jù)當(dāng)前的Windows的默認(rèn)配置的區(qū)域有關(guān)系,在
控制面板\時(shí)鐘和區(qū)域->區(qū)域->管理->更改系統(tǒng)區(qū)域設(shè)置?(修改后會(huì)提示重啟生效)這個(gè)配置關(guān)聯(lián)著一個(gè)相應(yīng)的
Code Page, 這個(gè)就表明使用的編碼方式。比如我本機(jī)配置的是中文(簡(jiǎn)體,中國(guó)),那么通過命令行chcp得到代碼頁為936,通過微軟的MSDN可以查詢到為GB2312(ANSI/OEM Simplified Chinese (PRC, Singapore); Chinese Simplified (GB2312))。根據(jù)我當(dāng)前的配置
Code Page為936,那邊便在GB2312相應(yīng)字符集中找到對(duì)應(yīng)的字符偙進(jìn)行顯示啦。如果
Code Page為932(ANSI/OEM Japanese; Japanese (Shift-JIS)),那邊便從Shift-JIS相應(yīng)的字符相應(yīng)的字符集中找到字符こ進(jìn)行顯示。如果
Code Page為437?(OEM United States), 把每個(gè)字節(jié)當(dāng)成一個(gè)單獨(dú)的字符為?±亂碼樣式。一個(gè)單元測(cè)試
有一定編碼經(jīng)驗(yàn)的同學(xué)一定聽說過URL Encoding,在RFC1738中規(guī)定URL中的除了字母和數(shù)字[0-9a-zA-Z],特殊符號(hào)$-_. !*'(),以及一些保留字可以不做編碼,對(duì)于其他的字符需要對(duì)其進(jìn)行編碼,比如漢字程序員對(duì)應(yīng)三個(gè)字對(duì)應(yīng)的UTF-8編碼為E7A88B,E5BA8F和E59198(字節(jié)按照從低到高排序), 其對(duì)應(yīng)的UTF-8的URL Encoding(Percent-Encoding)的編碼為程序員。URL Encoding不是本章節(jié)的重點(diǎn),本章節(jié)的重點(diǎn)在于通過一個(gè)單元測(cè)試用例,來看一看Visual Studio中字符串的編碼(本文基于Visual Studio 2015)。那么先上一個(gè)基于gtest的測(cè)試用例,測(cè)試用主要測(cè)試了原型為std::string UrlEncoding(const std::string 




