「Parchive」の版間の差分

提供: ArchWiki
ナビゲーションに移動 検索に移動
(文字列「Tips and tricks」を「ヒントとテクニック」に置換)
(同期)
5行目: 5行目:
 
{{Related|アプリケーション一覧/セキュリティ#ハッシュチェッカー}}
 
{{Related|アプリケーション一覧/セキュリティ#ハッシュチェッカー}}
 
{{Related articles end}}
 
{{Related articles end}}
Parchive (Parity archive) は PAR2 ファイルを使ってファイルを検証・修復するツールです。様々な種類のファイルで使うことができます。
+
[https://github.com/Parchive/par2cmdline Parchive] (Parity archive) は PAR2 ファイルを使ってファイルを検証・修復するツールです。様々な種類のファイルで使うことができます。
   
 
==インストール==
 
==インストール==
   
[[公式リポジトリ]]から {{Pkg|par2cmdline}} パッケージを[[インストール]]してください。インストールすると {{ic|par2}}, {{ic|par2create}}, {{ic|par2verify}}, {{ic|par2repair}} コマンドが使えるようになります。
+
{{Pkg|par2cmdline}} パッケージを[[インストール]]してください。インストールすると {{ic|par2}}, {{ic|par2create}}, {{ic|par2verify}}, {{ic|par2repair}} コマンドが使えるようになります。
   
 
==使用方法==
 
==使用方法==
75行目: 75行目:
   
 
{{Tip|1={{ic|bin/}} フォルダを検索パスに含める必要があります: {{ic|1=$ export PATH=$PATH:$HOME/bin/}}。ホームディレクトリの init ファイルに追加することで永続的に設定することが可能です。}}
 
{{Tip|1={{ic|bin/}} フォルダを検索パスに含める必要があります: {{ic|1=$ export PATH=$PATH:$HOME/bin/}}。ホームディレクトリの init ファイルに追加することで永続的に設定することが可能です。}}
 
{{Note|1=マッチしたエントリだけが保護されます。{{ic|$(find $(pwd))}} を使うことで再帰的に実行することも可能です。}}
 
   
 
{{hc|$HOME/bin/batchprotect.sh|2=#!/bin/bash
 
{{hc|$HOME/bin/batchprotect.sh|2=#!/bin/bash
  +
OIFS="$IFS"
 
  +
IFS=$'\n'
while [ ! -z "$1" ] ; do
 
  +
list=$(find . -type f {{!}} shuf)
if [ ! -d "$1" ] ; then
 
  +
numleft=$(echo "$list" {{!}} wc -l)
#entry is not a directory
 
  +
for file in $list ; do
 
ending=$(echo "$1" {{!}} sed 's/\(.*\)\.\(.*\)$/\2/')
+
ending=$(echo "$file" {{!}} sed 's/\(.*\)\.\(.*\)$/\2/')
  +
 
#include this block if you want to have 5% recovery data
+
#include this block if you want to have 5% recovery data
if [ ! -e "$1-5.par2" -a $ending != "par2" -a $ending != "sig" ]; then
+
if [ ! -e "$file-5.par2" -a $ending != "par2" -a $ending != "sig" -a "$(stat --format=%s $file)" != 0 ]; then
  +
echo "$numleft original files left"
par2create -n1 -r5 "$1"
 
  +
par2create -q -n1 -r5 "$file"
rm "$1".par2
 
mv "$1".vol*par2 "$1"-5.par2
+
rm "$file".par2
  +
mv "$file".vol*par2 "$file"-5.par2
fi
 
  +
fi
 
  +
#include this block if you want to have 100% recovery data
 
  +
#include this block if you want to have 100% recovery data
if [ ! -e "$1-100.par2" -a $ending != "par2" -a $ending != "sig" ]; then
 
  +
if [ ! -e "$file-100.par2" -a $ending != "par2" -a $ending != "sig" -a "$(stat --format=%s $file)" != 0 ]; then
par2create -n1 -r100 "$1"
 
  +
echo "$numleft original files left"
rm "$1".par2
 
  +
par2create -q -n1 -r100 "$file"
mv "$1".vol*par2 "$1"-100.par2
 
  +
rm "$file".par2
fi
 
  +
mv "$file".vol*par2 "$file"-100.par2
 
#include this block if you want to check for normal AND cryptographic integrity
 
if [ ! -e "$1.sig" -a $ending != "par2" -a $ending != "sig" ]; then
 
gpg --default-key C0FFEEBEEFC0FFEEBEEFC0FFEEDEADBEEF31415926 --detach-sign --yes "$1"
 
fi
 
 
fi
 
fi
  +
shift
 
  +
#include this block if you want to check for normal AND cryptographic integrity
  +
if [ ! -e "$file.sig" -a $ending != "par2" -a $ending != "sig" ]; then
  +
gpg --default-key C0FFEEBEEFC0FFEEBEEFC0FFEEDEADBEEF31415926 --detach-sign --yes "$file"
  +
fi
  +
  +
numleft=$((numleft-1))
 
done
 
done
  +
IFS="$OIFS"
 
}}
 
}}
   
119行目: 120行目:
 
元のファイルのパスを変更した場合:
 
元のファイルのパスを変更した場合:
   
$ par2verify &lt;file&gt;-5.par2 /new/path/to/<fileRenamed>
+
$ par2verify -B / &lt;file&gt;-5.par2 /new/path/to/<fileRenamed>
 
$ gpg --verify &lt;file&gt;.sig /new/path/to/<fileRenamed>
 
$ gpg --verify &lt;file&gt;.sig /new/path/to/<fileRenamed>
   
 
{{ic|par2}}/{{ic|sig}} ファイルのパスを変更することもできます。
 
{{ic|par2}}/{{ic|sig}} ファイルのパスを変更することもできます。
 
===マルチスレッド===
 
 
{{Note|This is work in progress. Help is appreciated.}}
 
 
残念ながら Parchive はマルチスレッドをサポートしていません。tbb や OpenMP を使うことでマルチスレッド対応版をコンパイルすることができます。[[wikipedia:Parchive|Wikipedia のページ]]を見てください。ファイルのリストをシャッフルして、スクリプトを多重実行するという方法もあります。スクリプトは既に処理したファイルを無視するため、複数のインスタンスを同時に実行しても問題ありません。以下のようにしてください:
 
 
#!/bin/bash
 
SHUFFILE=$(mktemp -t batchprotect.XXXXXXXXXX)
 
echo "" > $SHUFFILE
 
 
while [ ! -z "$i" ] ; do
 
echo $i >> $SHUFFILE
 
shift
 
done
 
 
for i in "$(shuf $SHUFFILE)" ; do
 
...
 
 
ただし、ファイル名の空白によって動作に支障をきたす可能性があります。
 

2018年2月23日 (金) 22:47時点における版

関連記事

Parchive (Parity archive) は PAR2 ファイルを使ってファイルを検証・修復するツールです。様々な種類のファイルで使うことができます。

インストール

par2cmdline パッケージをインストールしてください。インストールすると par2, par2create, par2verify, par2repair コマンドが使えるようになります。

使用方法

par2create には入力ファイルを指定することができ、特定の数のデータブロックとして解釈されます。データブロックに基づいて par2createリード・ソロモン符号によるリカバリブロックを作成します。後から破損したデータブロックをリカバリブロックと交換することで元のデータを修復することができます。ファイルを完全に修復するには破損したデータブロックに応じた数のリカバリブロックが必要です。

例えば、大切なファイルの30パーセント分のリカバリ情報を計算したい場合:

$ par2create -r30 <file>

上記のコマンドで Parchive は <file>.par2 インデックスファイルを作成しますが、インデックスファイルは修復するのに必ずしも必要というわけではありません。インデックスファイルに加えて、複数のファイルに分かれたリカバリブロックが作成されます。例えばリカバリブロックの数が592個であれば、以下のようにファイルが作られます:

<file>.vol000+001.par2
<file>.vol001+002.par2
<file>.vol003+004.par2
<file>.vol007+008.par2
<file>.vol015+016.par2
<file>.vol031+032.par2
<file>.vol063+064.par2
<file>.vol127+128.par2
<file>.vol255+256.par2
<file>.vol511+081.par2

プラス記号の左の数字はファイルのリカバリブロックのインデックスで、プラス記号の右の数字がファイルに含まれているリカバリブロックの数です。

リンクレベルで整合性チェックが行われなかった初期バージョンでは破損したデータブロックの数に基づいてリカバリファイルを選択することで上記のファイルを使うことができました。ダウンロードしたファイルのデータブロックが43個破損している場合、数字を2進数に変換することで必要なリカバリファイルがすぐにわかります:

    32 16  8  4  2  1
43 = 1  0  1  0  1  1

ファイルを修復するには *+032.par2, *+008.par2, *+002.par2, *+001.par2 をダウンロードしてください。

必要なファイルだけをダウンロードすることで帯域幅を節約することができます。リカバリファイルをダウンロードしたら、以下のコマンドでダウンロードしたファイルの修復を行うことが可能です:

$ par2repair <file>*.par2

インデックスファイルはなくても Parchive が勝手に処理してくれるため無視してかまいません。データブロックを完全にするために場合によっては -N パラメータを指定すると良いこともあります。

ヒントとテクニック

ファイルのバッチ保護

ファイルの整合性を保証したいが、クライアントにリカバリファイルを配布したくはないという場合もあるでしょう。ヘリウム封入ハードディスクドライブ・瓦記録技術・センチメートル級面密度・伝達損失などが跋扈する時代、ビットが腐る可能性は決して低くありません。出来るかぎりデータのバックアップを行うべきですが、利用できるストレージの容量が膨大な昨今、ちょっとした保護を加えることは気楽です。par2 ファイルを作成することは、ファイルに対してアプリケーションプログラムを実行したりエラー出力を確認するよりも簡単にデータの整合性を確認してデータをリストすることができます。Bit rot は元のファイルとリカバリファイルのどちらでも発生する可能性があり、それでも元のファイルを修復することが可能です。

結果的には、ひとつのリカバリファイルに全てのリカバリパケットを含めて大丈夫です (-n1 パラメータ)。これによってリカバリデータの量も減ります。重要なのはどの程度冗長性をもたせるかということです。特に小さいファイル (1 MiB 以下) の場合、リカバリデータの量は元のファイルのサイズとあまり相関関係がありません:

元のデータ 割合 (%) リカバリデータ (インデックスを含まない)
184.8 KiB 5 287.8 KiB
184.8 KiB 100 743.1 KiB
3.4 MiB 5 458.8 KiB
3.4 MiB 30 1.5 MiB
3.4 MiB 100 4 MiB
1.7 GiB 5 87.6 MiB

5% がリカバリデータとしては合理的なサイズですが、本当に重要なファイルであれば 100% のリカバリデータを確保しても良いでしょう。100% のリカバリデータは間違って元のファイルを削除してしまったとしてもファイルを復元することができます。

ファイルをバッチ保護するスクリプトは以下のようになります:

ヒント: bin/ フォルダを検索パスに含める必要があります: $ export PATH=$PATH:$HOME/bin/。ホームディレクトリの init ファイルに追加することで永続的に設定することが可能です。
$HOME/bin/batchprotect.sh
#!/bin/bash
OIFS="$IFS"
IFS=$'\n'
list=$(find . -type f | shuf)
numleft=$(echo "$list" | wc -l)
for file in $list ; do
	ending=$(echo "$file" | sed 's/\(.*\)\.\(.*\)$/\2/')
	
	#include this block if you want to have 5% recovery data
	if [ ! -e "$file-5.par2" -a $ending != "par2" -a $ending != "sig" -a "$(stat --format=%s $file)" != 0 ]; then
		echo "$numleft original files left"
		par2create -q -n1 -r5 "$file"
		rm "$file".par2
		mv "$file".vol*par2 "$file"-5.par2
	fi
	
	#include this block if you want to have 100% recovery data
	if [ ! -e "$file-100.par2" -a $ending != "par2" -a $ending != "sig" -a "$(stat --format=%s $file)" != 0 ]; then
		echo "$numleft original files left"
		par2create -q -n1 -r100 "$file"
		rm "$file".par2
		mv "$file".vol*par2 "$file"-100.par2
	fi
	
	#include this block if you want to check for normal AND cryptographic integrity 
	if [ ! -e "$file.sig" -a $ending != "par2" -a $ending != "sig" ]; then
		gpg --default-key C0FFEEBEEFC0FFEEBEEFC0FFEEDEADBEEF31415926 --detach-sign --yes "$file"
	fi
	
	numleft=$((numleft-1))
done
IFS="$OIFS"

batchprotect.sh * を実行すればカレントディレクトリに含まれている全てのファイルが Parchive で保護されます。署名によってデータが改竄されていないことが保証されます。また、gpg を使用するためチェックサムのリストを管理する必要はありません。

検証

$ par2verify <file>-5.par2
$ cfv <file>-5.par2
$ gpg --verify <file>.sig

元のファイルのパスを変更した場合:

$ par2verify -B / <file>-5.par2 /new/path/to/<fileRenamed>
$ gpg --verify <file>.sig /new/path/to/<fileRenamed>

par2/sig ファイルのパスを変更することもできます。