NIホームページ
Community
Regional Communities
ディスカッションフォーラム(日本語)
NI製品ディスカッション
トピック
NI製品ディスカッション
コミュニティに登録
·
ログイン
·
ヘルプ
すべてのコミュニティ
このカテゴリ
この掲示板
ナレッジベース
ユーザー
キャンセル
提案をオンにする
自動提案では、入力時に可能な一致が提案されるので検索結果を素早く絞り込むことができます。
次の結果を表示
次の代わりに検索
もしかして:
オプション
RSS フィードを購読する
トピックを新着としてマーク
トピックを既読としてマーク
このスレッドを最上位に表示
{0}にこのスレッドを追加する
購読
ミュート
印刷用ページに変更
すべてのフォーラムトピック
前のトピック
次のトピック
測定データ取り扱いに関する質問。”スプレッドシートファイルに書き込み”を行う前(配列表示)と後(テキストファイルデータ)で小数点4桁目以降の値が変わってしまう。
測定データ取り扱いに関する質問。”スプレッドシートファイルに書き込み”を行う前(配列表示)と後(テキストファイルデータ)で小数点4桁目以降の値が変わってしまう。
Saitoh
Member
01-11-2007
12:55 AM
オプション
新着としてマーク
{0}にこのメッセージを追加する。
購読
ミュート
RSS フィードを購読する
このメッセージをハイライトする
このメッセージを印刷する
管理者に不正使用を報告する
お世話になります。
題名の件について教えて下さい。
現在、LabVIEW ver.7.0を使用しています。
2-D配列データを”スプレッドシートファイルに書き込み”でファイルに保存しているのですが、セーブする前に配列変数表示で見た値と、セーブされたテキストファイルの小数点以下4桁目以降の値が異なると言う現象が発生しています。形式(%.6f)、デリミタ(,)で21列32000点の単(倍)精度のデータを保存しようとしています。
正常に保存する方法は、無いのでしょうか?
以上、よろしくお願い致します。
0
件の賞賛
メッセージ
1
/2
3,441件の閲覧回数
返信
Re: 測定データ取り扱いに関する質問。”スプレッドシートファイルに書き込み”を行う前(配列表示)と後(テキストファイルデータ)で小数点4桁目以降の値が変わってしまう。
Saitoh
Member
Author
01-11-2007
01:32 AM
オプション
新着としてマーク
{0}にこのメッセージを追加する。
購読
ミュート
RSS フィードを購読する
このメッセージをハイライトする
このメッセージを印刷する
管理者に不正使用を報告する
問題解決しました。
”スプレッドシートファイルに書き込み”は、単精度の数値しか扱え無かったようです。
”配列からスプレッドシート文字列に変換”を使用することで、正常にセーブされました。
単精度を超える値に関しては、セーブされなけば直に気付いたと思うのですが・・・。
以上。
0
件の賞賛
メッセージ
2
/2
3,433件の閲覧回数
返信
すべてのフォーラムトピック
前のトピック
次のトピック