Parchive
Parchive (Parity archive) は PAR2 ファイルを使ってファイルを検証・修復するツールです。様々な種類のファイルで使うことができます。
インストール
公式リポジトリから par2cmdline パッケージをインストールしてください。インストールすると par2, par2create, par2verify, par2repair コマンドが使えるようになります。
使用方法
par2create には入力ファイルを指定することができ、特定の数のデータブロックとして解釈されます。データブロックに基づいて par2create はリード・ソロモン符号によるリカバリブロックを作成します。後から破損したデータブロックをリカバリブロックと交換することで元のデータを修復することができます。ファイルを完全に修復するには破損したデータブロックに応じた数のリカバリブロックが必要です。
例えば、大切なファイルの30パーセント分のリカバリ情報を計算したい場合:
$ par2create -r30 <file>
上記のコマンドで Parchive は <file>.par2 インデックスファイルを作成しますが、インデックスファイルは修復するのに必ずしも必要というわけではありません。インデックスファイルに加えて、複数のファイルに分かれたリカバリブロックが作成されます。例えばリカバリブロックの数が592個であれば、以下のようにファイルが作られます:
<file>.vol000+001.par2 <file>.vol001+002.par2 <file>.vol003+004.par2 <file>.vol007+008.par2 <file>.vol015+016.par2 <file>.vol031+032.par2 <file>.vol063+064.par2 <file>.vol127+128.par2 <file>.vol255+256.par2 <file>.vol511+081.par2
プラス記号の左の数字はファイルのリカバリブロックのインデックスで、プラス記号の右の数字がファイルに含まれているリカバリブロックの数です。
リンクレベルで整合性チェックが行われなかった初期バージョンでは破損したデータブロックの数に基づいてリカバリファイルを選択することで上記のファイルを使うことができました。ダウンロードしたファイルのデータブロックが43個破損している場合、数字を2進数に変換することで必要なリカバリファイルがすぐにわかります:
32 16 8 4 2 1 43 = 1 0 1 0 1 1
ファイルを修復するには *+032.par2, *+008.par2, *+002.par2, *+001.par2 をダウンロードしてください。
必要なファイルだけをダウンロードすることで帯域幅を節約することができます。リカバリファイルをダウンロードしたら、以下のコマンドでダウンロードしたファイルの修復を行うことが可能です:
$ par2repair <file>*.par2
インデックスファイルはなくても Parchive が勝手に処理してくれるため無視してかまいません。データブロックを完全にするために場合によっては -N パラメータを指定すると良いこともあります。
ヒントとテクニック
ファイルのバッチ保護
ファイルの整合性を保証したいが、クライアントにリカバリファイルを配布したくはないという場合もあるでしょう。ヘリウム封入ハードディスクドライブ・瓦記録技術・センチメートル級面密度・伝達損失などが跋扈する時代、ビットが腐る可能性は決して低くありません。出来るかぎりデータのバックアップを行うべきですが、利用できるストレージの容量が膨大な昨今、ちょっとした保護を加えることは気楽です。par2 ファイルを作成することは、ファイルに対してアプリケーションプログラムを実行したりエラー出力を確認するよりも簡単にデータの整合性を確認してデータをリストすることができます。Bit rot は元のファイルとリカバリファイルのどちらでも発生する可能性があり、それでも元のファイルを修復することが可能です。
結果的には、ひとつのリカバリファイルに全てのリカバリパケットを含めて大丈夫です (-n1 パラメータ)。これによってリカバリデータの量も減ります。重要なのはどの程度冗長性をもたせるかということです。特に小さいファイル (1 MiB 以下) の場合、リカバリデータの量は元のファイルのサイズとあまり相関関係がありません:
| 元のデータ | 割合 (%) | リカバリデータ (インデックスを含まない) |
|---|---|---|
| 184.8 KiB | 5 | 287.8 KiB |
| 184.8 KiB | 100 | 743.1 KiB |
| 3.4 MiB | 5 | 458.8 KiB |
| 3.4 MiB | 30 | 1.5 MiB |
| 3.4 MiB | 100 | 4 MiB |
| 1.7 GiB | 5 | 87.6 MiB |
5% がリカバリデータとしては合理的なサイズですが、本当に重要なファイルであれば 100% のリカバリデータを確保しても良いでしょう。100% のリカバリデータは間違って元のファイルを削除してしまったとしてもファイルを復元することができます。
ファイルをバッチ保護するスクリプトは以下のようになります:
$HOME/bin/batchprotect.sh
#!/bin/bash while [ ! -z "$1" ] ; do if [ ! -d "$1" ] ; then #entry is not a directory ending=$(echo "$1" | sed 's/\(.*\)\.\(.*\)$/\2/') #include this block if you want to have 5% recovery data if [ ! -e "$1-5.par2" -a $ending != "par2" -a $ending != "sig" ]; then par2create -n1 -r5 "$1" rm "$1".par2 mv "$1".vol*par2 "$1"-5.par2 fi #include this block if you want to have 100% recovery data if [ ! -e "$1-100.par2" -a $ending != "par2" -a $ending != "sig" ]; then par2create -n1 -r100 "$1" rm "$1".par2 mv "$1".vol*par2 "$1"-100.par2 fi #include this block if you want to check for normal AND cryptographic integrity if [ ! -e "$1.sig" -a $ending != "par2" -a $ending != "sig" ]; then gpg --default-key C0FFEEBEEFC0FFEEBEEFC0FFEEDEADBEEF31415926 --detach-sign --yes "$1" fi fi shift done
batchprotect.sh * を実行すればカレントディレクトリに含まれている全てのファイルが Parchive で保護されます。署名によってデータが改竄されていないことが保証されます。また、gpg を使用するためチェックサムのリストを管理する必要はありません。
検証
$ par2verify <file>-5.par2 $ cfv <file>-5.par2 $ gpg --verify <file>.sig
元のファイルのパスを変更した場合:
$ par2verify <file>-5.par2 /new/path/to/<fileRenamed> $ gpg --verify <file>.sig /new/path/to/<fileRenamed>
par2/sig ファイルのパスを変更することもできます。
マルチスレッド
残念ながら Parchive はマルチスレッドをサポートしていません。tbb や OpenMP を使うことでマルチスレッド対応版をコンパイルすることができます。Wikipedia のページを見てください。ファイルのリストをシャッフルして、スクリプトを多重実行するという方法もあります。スクリプトは既に処理したファイルを無視するため、複数のインスタンスを同時に実行しても問題ありません。以下のようにしてください:
#!/bin/bash SHUFFILE=$(mktemp -t batchprotect.XXXXXXXXXX) echo "" > $SHUFFILE while [ ! -z "$i" ] ; do echo $i >> $SHUFFILE shift done for i in "$(shuf $SHUFFILE)" ; do ...
ただし、ファイル名の空白によって動作に支障をきたす可能性があります。