Try   HackMD

"初期Seed厳選"における最適戦略の考察(2)

序文

前回は"初期Seed厳選"における最適戦略を考察するために, 目的Seedを得るまでにかかる時間の期待値を計算した.

ただし, あくまで期待値は期待値であって, 実際に目的Seedを得るまでの時間はバラつきが生じる. あまりにもバラつきが大きい戦略を取ってしまうと, いわゆる確率の"下振れ"を引いてしまったときに何時までたっても厳選が終わらない, といったことも考えられる.

今回は, このバラつきを考慮に入れて, 確率の下振れを引いた場合でもなるべく少ない時間で厳選を終わらせる方法を考察する.

事前条件

乱数生成器の周期が十分に大きく, 各出力が独立であると見做してよいことを仮定する. すなわち, 目的Seedの出現確率が消費数によらず常に

pとして良いものとする.

初期Seed厳選のモデリング

初期Seedから目的Seedまでに必要な消費数を

a[adv]として, 閾値
U
[adv]に対して
a<U
を満たすならばその初期Seedを採択するという戦略を考える.

一回の試行にかかる時間(初期Seedを得るまでにかかる1回あたりの時間)を

C[s], 乱数消費速度を
A
[adv/s]とする.

このとき, 試行回数

N[]で条件を満たす初期Seedを得られたのであれば, 最終的に目的Seedを得るまでにかかった時間
T
[s]は
T=NC+aA (1)

と表される.

"バラつき"の定量化

標本のバラつきを評価する指標には, "分散"と"標準偏差"の二種類が存在する. 分散は平均値からの偏差の2乗によって計算され, その平方根を取ることで標準偏差が得られる.

"3シグマのルール"

平均を

μ, 標準偏差を
SD
とする正規分布において, 約
99.7%

標本が
[μ3SD,μ+3SD]
の中に含まれることが知られている.

また, 正規分布に従わない一般の分布の場合でも, 少なくとも

88.8%の標本は
[μ3SD,μ+3SD]
の範囲内に入ることが知られている[1].

すなわち, 目的のSeedを得るまでにかかる時間は概ね

E(T)+3SD(T)[s]で抑えられると言い換えられるので, これを最小化することを考える.

厳選時間の標準偏差の計算

SD(T)を計算するために, まずは分散
V(T)
を考える.

厳選時間の分散

C,Aが定数と見なせることと試行回数
N
と必要な消費数
a
が独立に決まることに注意すると,

V(T)=V(NC+aA)=V(N)C2+V(a)1A2 (2)

と変形される.

試行回数の分散

前回の考察にて, 初期Seed厳選が成功確率

paccept=1(1p)Uのベルヌーイ試行と見做せること, ベルヌーイ試行が成功するまでの繰り返した際の試行回数
N
は幾何分布に従うことが分かっている.

幾何分布の分散は, ベルヌーイ試行の成功確率

pacceptを用いて
V(N)=1pacceptpaccept2

として表される.
p,U
を用いて書き直すことで
V(N)=1(1(1p)U)(1(1p)U)2=(1p)U(1(1p)U)2

が導出される.

消費数の分散

前回の考察と同様に,

a
0
から
U1
までの離散一様分布に従うと見做すことで,
V(a)=U2112

が導出される.

総括

導出結果を纏めると,

V(T)=C2(1p)U(1(1p)U)2+U2112A2
となる.

また,

|p|1を仮定してマクローリン近似を行うことで,
V(T)C2(1pU)(1(1pU))2+U2112A2=C2(1pU)p2U2+U2112A2

と近似できる.従って, 目的Seedを得るまでにかかる時間の標準偏差

SD(T)C2(1pU)p2U2+U2112A2
が計算できた.

目的関数の設計

導出された標準偏差と前回の期待値の近似の結果を用いて, 今回最小化を試みる目的関数

f(U)を次のように定義する.
f(U)=CpU+U2A+3C2(1pU)p2U2+U2112A2

実験

パラメータを用意して

f(U)を計算する. 今回はそれぞれ

  • C=300
  • A=1.2
  • p=11000000

とした[2].

Wolfram Alphaのリンク

プロット

f(U)の計算式を Wolfram Alphaに投入する と次のようになる.
Image Not Showing Possible Reasons
  • The image was uploaded to a note which you don't have access to
  • The note which the image was originally uploaded to has been deleted
Learn More →

最小値

前回と同様に, Wolfram Alphaに最小値を計算させる.

Image Not Showing Possible Reasons
  • The image was uploaded to a note which you don't have access to
  • The note which the image was originally uploaded to has been deleted
Learn More →

実験より, 目的関数

f(U)の最小値を与える閾値
U
が求められた.

(以上, 常体終わり)

評価

前回の期待値の結果(

U=26832)と比較してみましょう.

得られた目的関数に代入してみます.

Image Not Showing Possible Reasons
  • The image was uploaded to a note which you don't have access to
  • The note which the image was originally uploaded to has been deleted
Learn More →

今回の最小値が,

f(U)58708 (U32973) であったことを踏まえると, ざっくり
2000
[s]の短縮になったようです.

それなりに効果がありそうだと期待していたのですが, 思ってたほどではありませんでした.

とはいえ, 例えば

f(100000)の値をみる と今回の最小値の二倍近く, 1日以上かかる可能性がある事が分かります.

この結果は, 最適戦略の重要性を示す一つの成果といえそうです.

Appendix. 最小値を与える
U
の推定

前回と同様に,

f(U)の最小値を与えるような
U
を考えたいのですが
f(U)=CpU+U2A+3C2(1pU)p2U2+U2112A2

流石にこの式を解析的に解くのは難しそう

一応, Excelの近似曲線機能と睨めっこしながらあれこれ試行錯誤したところ,

U3CAp

が良さそうな近似を与えることが分かりました.

実際, 今回のパラメータ(

C=300,
A=1.2
,
p=11000000
)を代入すると,
U33001.21100000032863.4

となり, 真値に対する誤差が
±0.5%
に収まっています.


  1. https://bigdata-analysis.hatenablog.com/entry/68_95_99-rule ↩︎

  2. BDSPにおいてg7TIDの1点狙いをする場合のモデル. 前回とは異なり, 自動化環境にて再測定した値を使用している. ↩︎