Home
Community
Regional Communities
NI台灣 技術論壇
NI產品與技術 討論區
主題
NI產品與技術 討論區
註冊成為社群會員
·
登入
·
說明
所有社群
此類別
此討論區
知識庫
使用者
取消
開啟建議
自動建議透過在您鍵入單字時,提示可能相符的結果,幫助您快速縮小搜尋結果。
顯示結果
搜尋替代
您的意思是:
選項
訂閱 RSS 提要
將此討論主題標示為已新增
將此討論主題標示為已閱讀
將本討論主題置頂
標示為書籤
訂閱
靜音
印表機友善頁面
所有論壇主題
上一主題
下一主題
在SPEEDY-33下給定固定值輸出來卻不一樣
在SPEEDY-33下給定固定值輸出來卻不一樣
Chickman
Member
在
05-20-2007
09:14 AM
選項
標籤為新
標示為書籤
訂閱
靜音
訂閱 RSS 提要
將本訊息視為重要文章
列印
將不當文章回報版主
像輸入12038.1526,輸出卻是12038.15234375
輸入12038.9999,輸出卻是12039.0000
Untitled-1.vi 10 KB
0
積分
第
1
條訊息(共 3 條)
4,663 檢視
新增回應
Re: 在SPEEDY-33下給定固定值輸出來卻不一樣
Chickman
Member
Author
在
05-20-2007
09:17 AM
選項
標籤為新
標示為書籤
訂閱
靜音
訂閱 RSS 提要
將本訊息視為重要文章
列印
將不當文章回報版主
上個附檔錯誤
重新上傳
Untitled-1.vi 10 KB
0
積分
第
2
條訊息(共 3 條)
4,658 檢視
新增回應
Re: 在SPEEDY-33下給定固定值輸出來卻不一樣
ko-wei
NI Employee (retired)
在
05-23-2007
01:07 AM
選項
標籤為新
標示為書籤
訂閱
靜音
訂閱 RSS 提要
將本訊息視為重要文章
列印
將不當文章回報版主
Hi,
因為在Speedy-33上的DSP晶片只有支援
Single precision number
Signed 32-bit Integer
所以DBL數字都被強制轉換為SGL的形式了
請參考
http://digital.ni.com/public.nsf/allkb/494B9EF3937EE9898625700400702916
Ko-Wei
0
積分
第
3
條訊息(共 3 條)
4,644 檢視
新增回應
所有論壇主題
上一主題
下一主題