Linux下如何將UTF8編碼批量轉(zhuǎn)換成GB2312編碼
UTF8編碼和GB2312編碼是有區(qū)別的,在sqlplus中導(dǎo)入UTF8編碼的sql腳本就會出現(xiàn)亂碼錯誤,這時就需要將UTF8編碼轉(zhuǎn)換成GB2312編碼,可是一個個的轉(zhuǎn)換十分麻煩,下面學(xué)習(xí)啦小編就教你如何在Linux下將UTF8編碼批量轉(zhuǎn)換成GB2312編碼。
背景
本人在使用oracle的sqlplus批量導(dǎo)入UTF8編碼的sql腳本時,由于不了解如何設(shè)置讓sqlplus識別UTF8格式,導(dǎo)致出現(xiàn)亂碼、錯行等錯誤,而使工作無法繼續(xù),在google無果的情況下只好想辦法轉(zhuǎn)換編碼。
由于文件較多,手動轉(zhuǎn)換太麻煩,于是想到用腳本批量轉(zhuǎn)換,幸好網(wǎng)上相關(guān)腳本比較多,實現(xiàn)起來唯一的麻煩是UTF8的BOM標(biāo)記。
內(nèi)容:
代碼如下:
#!/bin/bash
for loop in `find 。 -type f -name “*.sql” -print`do
echo $loop
mv -f $loop $loop.tmp
dos2unix $loop.tmp
file_check_utf8=‘file_check_utf8.log’
sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^737’ $file_check_utf8 》/dev/null 2》&111. then
echo ‘UTF-8 BOM’
sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt
rm -rf $loop.tmp
elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then
echo ‘UTF-8’
iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp
else
echo ‘ANSI’
mv -f $loop.tmp $loop
fi
rm -rf $file_check_utf8
#模擬unix2dos,要求文本文件最后一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop
done
#!/bin/bash
for loop in `find 。 -type f -name “*.sql” -print`do
echo $loop
mv -f $loop $loop.tmp
dos2unix $loop.tmp
file_check_utf8=‘file_check_utf8.log’
sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^737’ $file_check_utf8 》/dev/null 2》&111. then
echo ‘UTF-8 BOM’
sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt
rm -rf $loop.tmp
elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then
echo ‘UTF-8’
iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp
else
echo ‘ANSI’
mv -f $loop.tmp $loop
fi
rm -rf $file_check_utf8
#模擬unix2dos,要求文本文件最后一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop
done
解釋
1.處理UTF8的BOM,本人沒有找到好的辦法,最后用sed+grep判斷了一下,如果前三個字節(jié)是737,則文件必定是UTF8,用sed去掉這三個字節(jié)再轉(zhuǎn)換
2.為了避免重復(fù)或者遺漏,腳本中用iconv對沒有BOM的文件嘗試轉(zhuǎn)換了一把,轉(zhuǎn)換成功說明文件是UTF8,否則說明是ANSI也就是GB2312
3.關(guān)于最后的sed命令,那是因為本人的系統(tǒng)上沒有unix2dos命令,所以進(jìn)行了模擬,目的是為了方便自己在windows下查看和編輯
以上就是Linux下將UTF8編碼批量轉(zhuǎn)換成GB2312編碼的方法介紹了,轉(zhuǎn)換后就能解決亂碼等問題,可使用命令鏡像批量轉(zhuǎn)換,你學(xué)會了嗎?