NI產品與技術 討論區

取消
顯示結果 
搜尋替代 
您的意思是: 

在SPEEDY-33下給定固定值輸出來卻不一樣

像輸入12038.1526,輸出卻是12038.15234375
    輸入12038.9999,輸出卻是12039.0000
 
 
0 積分
1 條訊息(共 3 條)
4,663 檢視

上個附檔錯誤

重新上傳

0 積分
2 條訊息(共 3 條)
4,658 檢視
Hi,
 
因為在Speedy-33上的DSP晶片只有支援
Single precision number
Signed 32-bit Integer
所以DBL數字都被強制轉換為SGL的形式了
 
請參考
 
Ko-Wei
0 積分
3 條訊息(共 3 條)
4,644 檢視