Hyper Estraier : estcmd merge で fatal error out of memory発生

約1800万件程度のデータベースを作りたくて試行錯誤。

 

ひとつのデータベースサイズを約100万行で区切って生成し、

それを、estcmd mergeでひとつにまとめるという目論見だったが、見事に玉砕。

 

1500~1600万件ほどのマージに差し掛かったところで、

fatal error out of memory を吐いていて、バッチ処理が止まってた。

 

サイズに上限があるのかしら?

 

1000万件と800万件のデータベースに分けて、ユーザーに使い分けてもらう...

というのは論外なので、Hyper EstraierP2Pというものを試してみようと思う。

 

P2Pの説明によると、100万件のデータベースを10個用意して、

1000万件のデータベースとして扱える...と書いてあって、期待が持てる。

 

いやぁ~休日前にバッチ処理仕込んでおいて、休み明けにデータベースできてるかなぁ~とワクワクしながら職場に行ったらfaltal error で落ちてるとか、涙目でした。