NI製品ディスカッション

キャンセル
次の結果を表示 
次の代わりに検索 
もしかして: 

測定データ取り扱いに関する質問。”スプレッドシートファイルに書き込み”を行う前(配列表示)と後(テキストファイルデータ)で小数点4桁目以降の値が変わってしまう。

お世話になります。
題名の件について教えて下さい。
 
現在、LabVIEW ver.7.0を使用しています。
2-D配列データを”スプレッドシートファイルに書き込み”でファイルに保存しているのですが、セーブする前に配列変数表示で見た値と、セーブされたテキストファイルの小数点以下4桁目以降の値が異なると言う現象が発生しています。形式(%.6f)、デリミタ(,)で21列32000点の単(倍)精度のデータを保存しようとしています。
正常に保存する方法は、無いのでしょうか?
 
以上、よろしくお願い致します。
 
0 件の賞賛
メッセージ1/2
3,441件の閲覧回数
問題解決しました。
”スプレッドシートファイルに書き込み”は、単精度の数値しか扱え無かったようです。
”配列からスプレッドシート文字列に変換”を使用することで、正常にセーブされました。
単精度を超える値に関しては、セーブされなけば直に気付いたと思うのですが・・・。
 
以上。
 
0 件の賞賛
メッセージ2/2
3,433件の閲覧回数