複数のデータセットによる補正係数の決定

これまでは各データセットごとに補正平面を求め、補正係数を計算してきたが、それらは毎回異なる値となった。そこで、複数のデータセットから補正平面を求めることにした。
使用したデータセットは2/27-、3/12-、3/25-、4/10-、7/10-の５つである。4/10-と7/10-の間が空いているのは、その間のデータには、前々回報告したノイズが入っており、補正平面を求めるのに不適であるからである。また、使用するデータセットの中には、測定値の jump が発生しているものもあり、そのままでは使えない。さらに、測定中に起こった測定値の jump や、測定していないときにケーブルが曲がることで発生した測定値の jump のため、各データセットには offset が乗っていると考えられる。よって、補正平面を求めるにあたって次のような操作を行った。

1. jump をソフト的に消去する
2. jump が消去されたそれぞれのデータセットに offset を与えて補正平面を計算する
3. データ点の補正平面からの分散が最も小さくなるような offset のときの補正平面の係数を採用する

jump の消去

jump の特徴を定量的に調べるために、測定値の差分(の絶対値)を取って、測定値の変化の仕方を調べた。その結果を下に示す。

上の図からわかるように、jump の起きていないときは、差分が40nmを超えることはない。よって、直前の測定値に比べ、40nm以上の変動が発生したものを"jump"と考える。
このことを用いて jump を消去する。具体的には、jump が発生したらその jump 量を記録して、以後の測定値からはその値だけ引き算をする。これによって jump が消去された様子を下に示す。

offset の計算

上のように jump を消去した5つのデータセットにそれぞれ offsetを与え、補正平面を計算する。そしてデータ点の補正平面からの分散が小さくなるように offset を調節し、分散が極小値に収束するまで計算を繰り返した。

1番のセンサー

1番のセンサーの offset 値と補正平面の方程式、データ点の平面からの標準偏差、実際にプロットした図を下に示す。

平面の方程式： z = 0.001230 × (水蒸気量) - 0.059972 × (温度) + 372.443561
標準偏差：75nm

2番のセンサー

2番のセンサーの offset 値と補正平面の方程式、データ点の平面からの標準偏差、実際にプロットした図を下に示す。

平面の方程式： z = 0.004488 × (水蒸気量) - 0.005069 × (温度) + 438.248965
標準偏差：91nm

3番のセンサー

3番のセンサーの offset 値と補正平面の方程式、データ点の平面からの標準偏差、実際にプロットした図を下に示す。

平面の方程式： z = 0.002831 × (水蒸気量) + 0.027209 × (温度) + 372.467402
標準偏差：73nm

これらによって決定された補正係数は、

２つのセンサーの差

上で得られた補正係数を用いてデータを補正するが、ここでセンサの挙動変化をキャンセルする方法を試してみる。

1番のセンサー(以下DS1)、2番のセンサー(以下DS2)、3番のセンサー(以下DS3)を用いて、それぞれのうち2つをペアにして用い、測定値の差の半分を測定値とする。以下に2/27-、3/12-、3/25-、4/10-、4/10-、7/10-のデータを上の補正係数を用いて補正した後、2つのセンサーの差の半分を取った図を示す。

2/27-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 34.8 nm/week (rms)
(DS2 - DS3)/2 : 23.1 nm/week (rms)
(DS3 - DS1)/2 : 24.0 nm/week (rms)

3/12-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 39.2 nm/week (rms)
(DS2 - DS3)/2 : 36.3 nm/week (rms)
(DS3 - DS1)/2 : 17.9 nm/week (rms)

3/25-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 42.7 nm/week (rms)
(DS2 - DS3)/2 : 37.3 nm/week (rms)
(DS3 - DS1)/2 : 55.5 nm/week (rms)

4/10-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 29.6 nm/week (rms)
(DS2 - DS3)/2 : 79.1 nm/week (rms)
(DS3 - DS1)/2 : 90.8 nm/week (rms)

4/20-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 115.0 nm/week (rms)
(DS2 - DS3)/2 : 162.1 nm/week (rms)
(DS3 - DS1)/2 : 61.0 nm/week (rms)

7/10-のデータ

それぞれの誤差は
(DS1 - DS2)/2 : 63.4 nm/week (rms)
(DS2 - DS3)/2 : 78.8 nm/week (rms)
(DS3 - DS1)/2 : 70.2 nm/week (rms)

以上のデータは jump を消去せずに補正したものである。jump を消去した後に補正して、2つのセンサーの差を取ったものはさらに精度が上がる。

2/27-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 34.8 nm/week (rms) (jump 消去前と変わらず)
(DS2 - DS3)/2 : 23.1 nm/week (rms) (jump 消去前と変わらず)
(DS3 - DS1)/2 : 24.0 nm/week (rms) (jump 消去前と変わらず)

3/12-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 39.5 nm/week (rms) (jump 消去前 39.2 nm/week)
(DS2 - DS3)/2 : 25.8 nm/week (rms) (jump 消去前 36.3 nm/week)
(DS3 - DS1)/2 : 24.4 nm/week (rms) (jump 消去前 17.9 nm/week)

3/25-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 42.7 nm/week (rms) (jump 消去前と変わらず)
(DS2 - DS3)/2 : 37.3 nm/week (rms) (jump 消去前と変わらず)
(DS3 - DS1)/2 : 55.5 nm/week (rms) (jump 消去前と変わらず)

4/10-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 28.4 nm/week (rms) (jump 消去前 29.6 nm/week)
(DS2 - DS3)/2 : 29.1 nm/week (rms) (jump 消去前 79.1 nm/week)
(DS3 - DS1)/2 : 42.3 nm/week (rms) (jump 消去前 90.8 nm/week)

4/20-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 61.6 nm/week (rms) (jump 消去前 115.0 nm/week)
(DS2 - DS3)/2 : 35.2 nm/week (rms) (jump 消去前 162.1 nm/week)
(DS3 - DS1)/2 : 48.2 nm/week (rms) (jump 消去前 61.0 nm/week)

7/10-のデータ(jump 消去)

それぞれの誤差は
(DS1 - DS2)/2 : 68.1 nm/week (rms) (jump 消去前 63.4 nm/week)
(DS2 - DS3)/2 : 99.1 nm/week (rms) (jump 消去前 78.8 nm/week)
(DS3 - DS1)/2 : 56.8 nm/week (rms) (jump 消去前 70.2 nm/week)

jump を消去してから補正した方が精度は高まる。しかし、実際に運用しているときにうまく jump を判断して消去する方法を考える必要がある。また、補正係数を出すとき、高温・高湿度の状態のデータは7/10-のものだけであるので、さらなる高温・高湿度の状態のデータを使って係数を出す必要がある。

＜＜その12へ ＜トップへ＞ その14へ＞＞