www.kinryo.net

ある時ファイルサーバーのファイルを見ると大量の複製している画像や動画があった。
これを消去しようとスクリプトを組もうとして調べるともっと簡単に出来ることが判った。
ダブっている画像や動画は*(1).JPG や*(1).MOVなので cd でそのdirectory にいって
# find -iname *(1).JPG
# find -iname *(1).MOV
で綺麗にダブっている分が消去された。因みに -iname はファイル名の指定で大文字と小文字をチェックしない指定

rsyncでexclude-fromファイルの中でexcludeしたいファイルの指定方法であまり正規化表現が指定できないので色々迷っていたが、https://futuremix.org/2011/02/rsyncが参考になった。ポイントは

-C(または–cvs-exclude) オプションを使うと CVS などバージョン管理システムの生成するファイルなどを自動的に除外してくれます。
これは CVS だけではなく、Subversion や .bak .exe などの拡張子を持つファイルも除外されます。具体的には
*~ #* .#* ,* _$* *$ *.old *.bak *.BAK *.orig *.rej .del-* *.a *.olb *.o
*.obj *.so *.exe *.Z *.elc *.ln core .svn/

正規表現はあまり使えませんが、[0-9] のような数値指定は可能です。
また * と ** も使用できます。** はディレクトリ区切りを超えてマッチします。この意味は　**/.recycle/* とすると aaa/.recycle/* とも aaa/bbb/ccc/.recycle/* ともマッチするとのこと

なので私のexcludeファイルは（sambaのバックアップを取る時の指定）

/.Trash-0/
/lost+found/
/*/.recycle/
/**/cache/
/**/$RECYCLE.BIN/*

apache 設定チェック ： apachectl configtest
apache ロードされているmoduleを表示：httpd -M

postfix 設定チェック ： postfix check
postfix 設定表示         ： postconf　　　変更した部分のみの表示：postconf -n

dovecot設定表示        ：doveconf -n
                                   問題無ければ、デフォルトと異なる設定だけが出力されます。
                                   設定項目名にミスがあれば、エラーが表示されます。
                                   但し、設定項目の内容のチェックまではされないようです。
                                  設定項目があっていれば、指定したファイルが存在しなくてもエラーにはなりません。

spamassasin 設定チェック ： spamassassin –lint  (– は見にくいが： ハイフォンが二つ）

ddの進捗情報 ：dd status=progress if=xxxx…… of=xxxx…..
ネットワーク越しのdd(ローカルからローカル)：コピー元のホストで
dd status=progress if=/dev/Kvm/web4 | nc 192.168.xx.xx 12345
IPはコピーコピー先のIP、最後の数字はポートNoで両ホストで使用していないポートなら何でもいい。
コピー先のホストに移って
nc -l 12345 | dd of=/dev/Kvm/web5
ネットワーク越しのdd(リモートからローカル)：ssh -p xxx username@ip or domain sudo dd status=progress  if=/dev/xxx…. |dd of=/dev/xxx….
defaultのポートなら -p xxxはいらない。dd を sudo でパスワードなしでやるには visudo で設定が必用（参照：https://qiita.com/RyodoTanaka/items/e9b15d579d17651650b7）

rsync       : rsync -av –exclude-from=/root/exclude1 –password-file=/etc/rsync.passwd rsync://root@192.168.xx.xx/webdata /webdata
      dry-runは -n
      外からは：rsync -av -e ‘ssh -p xxx -i .ssh/id_rsa’ –exclude-from=/root/exclude1 –password-file=/etc/rsync.passwd rsync://root@グローバルIP/webdata /webdata

letsencrypt で cert file を更新したらDRBDのSECONDARYにも設定が必要
初めて行う時は /etc/rsyncd.conf に追記が必要
[letsencrypt]
path = /etc/letsencrypt
authusers = root
secrets file = /etc/rsyncd.secrets
read only =no
追記したらrsyncdを再起動して設定を有効にする。
# systemctl restart rsyncd
そしてコピー
# rsync -av –exclude-from=/root/exclude1 –password-file=/etc/rsyncd.passwd rsync://root@192.168.0.55/letsencrypt /test3
で /test3に出来た必要なファイルを /etc/letsencrypt にコピー
letsebcrypt でcertificatesで有効期限を表示
# certbot certificates
Saving debug log to /var/log/letsencrypt/letsencrypt.log
– – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – –
Found the following certs:
Certificate Name: aarah.info-0001
Serial Number: 4dd777ec388a651d72423d6df2c9ae24460
Key Type: RSA
Domains: aarah.info inpac.jp inpactours.jp kinryo.net opengarden.info www.aarah.info www.inpac.jp www.inpactours.jp www.kinryo.net www.opengarden.info
Expiry Date: 2023-04-12 07:32:50+00:00 (VALID: 78 days)
Certificate Path: /etc/letsencrypt/live/aarah.info-0001/fullchain.pem
Private Key Path: /etc/letsencrypt/live/aarah.info-0001/privkey.pem
Certificate Name: kinryokai.net
Serial Number: 4040193692d1e64b9ec8639985a7943a43f
Key Type: RSA
Domains: kinryokai.net mail.kinryokai.net www.kinryokai.net
Expiry Date: 2023-04-12 07:33:20+00:00 (VALID: 78 days)
Certificate Path: /etc/letsencrypt/live/kinryokai.net/fullchain.pem
Private Key Path: /etc/letsencrypt/live/kinryokai.net/privkey.pem
Certificate Name: mail.kinryo.net
Serial Number: 32edf706664cd2ce65b156a10cbedd55168
Key Type: RSA
Domains: mail.kinryo.net
Expiry Date: 2023-03-21 08:17:31+00:00 (VALID: 56 days)
Certificate Path: /etc/letsencrypt/live/mail.kinryo.net/fullchain.pem
Private Key Path: /etc/letsencrypt/live/mail.kinryo.net/privkey.pem

vsftp 設定チェック :  vsftpd /etc/vsftpd/vsftpd.conf

ポート指定の疎通確認  :
LINUX:  nc -vz ドメイン(IP）port No
Winows powershallから:　test-netcpnnection IPアドレス -port ポート番号

ssh接続               ：ssh -i 秘密鍵のパス リモートユーザー@リモートサーバーのホスト名

空ポートの確認 ：ss -nat 又は-nau   # t=tcp, u=udp

virbr0の停止：
    # virsh net-destroy default,   再起動後も止める：# virsh net-autostart default –disable
    Almalinux 8以上  # systemctl disable libvirtd 但し仮想化が動いていれば出来無いので上の行の様にして止める
 

mail.kinryokai.netだけのcertbot 更新  ： certbot certonly –webroot -w /webdata/public/kinryokai -d  mail.kinryokai.net

bacula conf のチェック    https://www.kinryo.net/?p=2510

samba mount    mount.cifs //192.168.xx.xx/yyyy /zzz -o user=name

SSH経由でVNC(CentOS7)
　　まずSSHで接続：# ssh -p ポート番号　ユーザ@IP かドメイン -L 12345(このポートは任意）:IP かドメイン: サーバのVNCポート
　　新しいターミナルを開け
　　# vncviewer
　　ウィンドウが開くので、localhost:12345

lvextend で領域を増やしたら(xfsの場合)
　　sudo xfs_growfs マウントポイント（xfsはマウントしたまま出来る）で領域を増やす

ポートが空いているか調べる
　　$ netstat -an |grep ポート番号
　　このポートを閉じる時
　　$ lsof -i:ポート番号     PIDの番号がいる
　　$ kill PIDの番号

grep -A オプション
　　直後の３行が表示され
　　ABCD　検索した文字
　　EFG
　　HI
　　JKL

php-fpm の再起動
       私はphp56とphp74をインストールしているので、
       # systemctl restart php56-php-fpm
       # systemctl restart php74-php-fpm

ルート領域に使っているNMVeを大きい容量のNMVeにddでコピーしたら下記のエラーが出た（注：ddでdisk毎コピーすると容量がオリジナルの容量になるが、以前はgpartedで容量を増やしていたが、今はpartedで、diskを見ると（p）容量がおかしいので、FIXするか聞いてくるので、fixと入れると本来のサイズにアップしてくれる）
# lvs -a -o +devices
WARNING: Couldn’t find device with uuid DMr0bx-8hT0-qAr0-Can8-IcVq-F4Zr-or5v0h.
WARNING: VG Data5 is missing PV DMr0bx-8hT0-qAr0-Can8-IcVq-F4Zr-or5v0h (last written to /dev/nvme0n1p6).
WARNING: Couldn’t find device with uuid ydBOpY-3v1F-l5KD-Hj73-C1Yw-LPoC-425E9H.
WARNING: VG SubHost5 is missing PV ydBOpY-3v1F-l5KD-Hj73-C1Yw-LPoC-425E9H (last written to [unknown]).
LV   VG   Attr LSize Pool Origin Data% Meta% Move Log Cpy%Sync Convert Devices
Backup Backup -wi——- 1.46t /dev/sdb6(0)
Download Data5 -wi——- 50.00g /dev/sda6(0)
以下省略
前にSSDで同じ事をしてもエラーにならなかったが、NVMeだからエラーになるの？？
(注：/etc/lvm/lvm.confにある# use_devicesfile = 1はコメントを取り、use_devicesfile = 0でエラーが出ないようにしている）
なので、
# pvcreate –help　　すると
前略
pvcreate PV …
　　[ -f|–force ]
　　[ -M|–metadatatype lvm2 ]
　　[ -u|–uuid String ]
　　[ -Z|–zero y|n ]
　　[ 　　–dataalignment Size[k|UNIT] ]
　　[ –dataalignmentoffset Size[k|UNIT] ]
　　[ –bootloaderareasize Size[m|UNIT] ]
　　[ –labelsector Number ]
　　[ –pvmetadatacopies 0|1|2 ]
　　[ –metadatasize Size[m|UNIT] ]
　　[ –metadataignore y|n ]
　　[ –norestorefile ]
以下省略
pvcreate時にUUIDを指定できる見たいなので
# pvcreate -u ydBOpY-3v1F-l5KD-Hj73-C1Yw-LPoC-425E9H –norestorefile /dev/nvme0n1p6
Physical volume “/dev/nvme0n1p6” successfully created.
となったので
# pvscan
PV /dev/sdb6 VG Backup lvm2 [<1.67 TiB / <207.73 GiB free]
PV /dev/sda6 VG Data5 lvm2 [<200.00 GiB / <10.00 GiB free]
以下省略
と無事エラーを消す事ができた。又、どう言う訳かlast written to [unknown]になっていたVG SubHost5も消えていた。
# lvscan
inactive ‘/dev/Backup/Backup’ [1.46 TiB] inherit
inactive ‘/dev/Data5/Mysql’ [5.00 GiB] inherit
以下省略
と全部inactiveになっていたので、
# vgchange -ay
をすると、LVが全部activeになった。
VG Data5と VG SubHost5 にあったファイルは要らないので問題ない
もし、必要なら、オリジナルのNVMeをUSBでアタッチし、ファイルをコピればいい

私はアパッチのバーチャルで複数のWEBを運営していますが、全てのWEBでどのメニューをクリックしても、URLは正しく表示されているが、表示されているページはホームぺージだ！！！
実はDRBDを使い2つのサーバーでプライマリーとセカンダリーを自動で切り替えている。そこで、セカンダリー側をプライマリーにしても同じ状態！！
原因は全く不明なのでがここで何が問題か考える。先ずはアパッチ, phpやデーターベースなどのサーバー側の問題。だけどこれは２台同時にいかれるのは考えにくい。そして各WEBのデーターはデフォルトからは変更をしていて、50GiBの領域を専用に割り当てている。これはDRBDが自動で同期するので、何かの問題でプライマリー側のデーターが問題になると、セカンダリーも同じデーターになる筈。なのでこれが原因と勘繰る。幸いbaculaで バックアップがあるので、仮にアタッチしたディスクにバックアップしている全てのWEBデーターをリストアする。そしてDRBDで動いているWEBサーバーで drbdadm down r0でdrbdをストップしておく。ここでリストアのデーターがある場所が/testと仮定し、WEBデータがある場所を/test2と仮定しコピーをする。
# cd /test
# cp -pr -f ./ /test2
アレー、上書きの確認が出る。このままでは何千回も確認が出るので止める。
これはエイリアスでalias cp=’cp -i’となっているからだ。なのでエイリアスを無効にする。これにはコマンドの前に\（バックスラッシュ）をつければいい。
# \cp -pr -f ./ /test2
やっとコピーが終わり、drbdを起動
# drbdadm up r0
Device ‘0’ is configured!
Command ‘drbdmeta 0 v08 /dev/vdc internal apply-al’ terminated with exit code 20
Device ‘1’ is configured!
Command ‘drbdmeta 1 v08 /dev/vdd internal apply-al’ terminated with exit code 20
とエラーが出る。
念の為、
# pcs status
Online: [ web3 ]      （抜粋）
OFFLINE: [ web4 ]

Full list of resources:

Resource Group: apachegroup
   vipcheck_res (ocf::myres:VIPcheck):       Started web3
   VirtualIP (ocf::heartbeat:IPaddr2):          Started web3
   FS_DRBD0 (ocf::heartbeat:Filesystem):   Started web3
   FS_DRBD1 (ocf::heartbeat:Filesystem):   Started web3
   HTTPD (ocf::heartbeat:apache):              Started web3
   MARIADB (systemd:mariadb):     Started web3
   POSTFIX (systemd:postfix):         Started web3
   dovecot (systemd:dovecot):         Started web3
Master/Slave Set: MS_DRBD0 [DRBD0]
   Masters: [ web3 ]
   Stopped: [ web4 ]

Failed Resource Actions:
* DRBD0_monitor_20000 on web3 ‘not running’ (7): call=40, status=complete, exitreason=”,
    last-rc-change=’Wed Sep 13 12:01:41 2023′, queued=0ms, exec=0ms
あれー、エラーは出ているもののdrbdも起動している。

このエラーはそのままにして、もう片方のサーバーを立ち上げて
# pcs status
とすると(抜粋）
Online: [ web3 web4 ]

Full list of resources:

Resource Group: apachegroup
   vipcheck_res (ocf::myres:VIPcheck):       Started web3
   VirtualIP (ocf::heartbeat:IPaddr2):          Started web3
   FS_DRBD0 (ocf::heartbeat:Filesystem):   Started web3
   FS_DRBD1 (ocf::heartbeat:Filesystem):   Started web3
   HTTPD (ocf::heartbeat:apache):              Started web3
   MARIADB (systemd:mariadb):         Started web3
   POSTFIX (systemd:postfix):             Started web3
   dovecot (systemd:dovecot):             Started web3
Master/Slave Set: MS_DRBD0 [DRBD0]
   Masters: [ web3 ]
   Slaves: [ web4 ]

Failed Resource Actions:
* DRBD0_monitor_20000 on web3 ‘not running’ (7): call=40, status=complete, exitreason=”,
     last-rc-change=’Wed Sep 13 12:01:41 2023′, queued=0ms, exec=0ms

Daemon Status:
    corosync: active/enabled
   pacemaker: active/enabled
   pcsd: active/enabled

エラーが出ているものの、初めに立ち上げたWEBが動いているようなので、WEBにアクセスすると無事元に戻っていた。
# cat /proc/drbd
0: cs:Connected ro:Secondary/Primary ds:Diskless/UpToDate C r—–
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:0
1: cs:Connected ro:Secondary/Primary ds:Diskless/UpToDate C r—–
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:0
disklessになっているので
# drbdadm attach r0
0: cs:Connected ro:Secondary/Primary ds:Negotiating/UpToDate C r—d-
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:12264
1: cs:Connected ro:Secondary/Primary ds:Negotiating/UpToDate C r—d-
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:120
何時迄もNegotiatingのままなので、drbdを再起動してみる
# systemctl restart drbd
# cat /proc/drbd
0: cs:StandAlone ro:Secondary/Unknown ds:UpToDate/DUnknown r—–
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:12264
1: cs:StandAlone ro:Secondary/Unknown ds:UpToDate/DUnknown r—–
ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:120
これでスプリットブレイン状態になったので、
# drbdadm — –discard-my-data connect r0

そして最初に起動したサーバーに戻って
出て行たエラーを消す
# pcs resource cleanup
そしてスプリットブレインを解消するため
# drbdadm connect r0
でもってcat /proc/drbdで見ると動機が始まった。

これでやっと正常になった。