日本黄色一级经典视频|伊人久久精品视频|亚洲黄色色周成人视频九九九|av免费网址黄色小短片|黄色Av无码亚洲成年人|亚洲1区2区3区无码|真人黄片免费观看|无码一级小说欧美日免费三级|日韩中文字幕91在线看|精品久久久无码中文字幕边打电话

當(dāng)前位置:首頁 > 測試測量 > 測試測量
[導(dǎo)讀] 在這個小程序中,我發(fā)現(xiàn) 乘的輸出總是不正確??偸潜扰c其的要小很多。開始并沒注意到是數(shù)據(jù)格式的問題。那我們右鍵輸出接點會彈出這樣的對話框表示法顯示的是U16 而U16最大值為65536.所以 溢出了。而U16是因為匹配


在這個小程序中,我發(fā)現(xiàn) 乘的輸出總是不正確。總是比與其的要小很多。

開始并沒注意到是數(shù)據(jù)格式的問題。

那我們右鍵輸出接點會彈出這樣的對話框

表示法顯示的是U16 而U16最大值為65536.所以 溢出了。

而U16是因為匹配到源數(shù)據(jù)類型才是U16的。如果前面的數(shù)據(jù)格式為U32則 這個輸出也為U32。

我們不想修改前面的數(shù)據(jù)格式,因為U16對于前面的足夠了,大了浪費內(nèi)存。

那我們只要修改該輸出的數(shù)據(jù)格式就好了。改成U32。

問題解決。

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除( 郵箱:macysun@21ic.com )。
換一批
延伸閱讀
關(guān)閉