Python驗證碼識別_台中搬家

Posted on by admin

※台中搬家公司費用怎麼算?

擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司

項目地址：https://github.com/kerlomz/captcha_trainer

編譯版下載地址： https://github.com/kerlomz/captcha_trainer/releases/tag/v1.0

注意：若使用雲服務器 (Windows Server版) 遇到閃退，請按照步驟：我的電腦——屬性——管理——添加角色和功能——勾選桌面體驗，點擊安裝，安裝之後重啟即可。

2020/06/01編外：

想必各位只是偶然間搜到這篇文章，網上文章參差不齊，標題黨很多，能跑起來的開源代碼很少，對於能跑起來的代碼，也經常遇到以下問題如：內存泄漏，網絡參數寫死導致更換訓練集報錯，網絡跑其他樣本識別率低，沒有調用示例等等。

再往下看之前，我可以向你們保證，它絕對會是你所見過的所有驗證碼有關的文章中最實用，最接近生產水平的。

  1. 對小白： 你可以不需要動手寫任何一行代碼。
  2. 對小企業： 它的可用性和穩定性是經得起考驗的，在性能上也是同行領先的，可以放心入坑。

因為小編打算轉行了，離開這個行業之前總要留下點什麼證明自己來過，總有人和我說的這個部署不會調用，可能你們想要的是一行pip就搞定環境的，所以今天給你們安排了麻瓜OCR（MuggleOCR）。
https://pypi.org/project/muggle-ocr
它整合了簡單驗證碼識別通用模型+印刷文字通用識別，並且支持調用本文框架訓練的模型。調用只需要三行核心代碼：

import time
# STEP 1
import muggle_ocr
import os
# STEP 2
sdk = muggle_ocr.SDK(model_type=muggle_ocr.ModelType.OCR)
root_dir = r"./imgs"
for i in os.listdir(root_dir):
    n = os.path.join(root_dir, i)
    with open(n, "rb") as f:
        b = f.read()
    st = time.time()
    # STEP 3
    text = sdk.predict(image_bytes=b)
    print(i, text, time.time() - st)

這真的很簡單，應付一般的文字識別和驗證碼都足夠了。（文字識別過幾天會更新一下新模型，畢竟0601模型就跑了半天。

1. 前言

本項目適用於Python3.7，GPU>=NVIDIA GTX1050Ti，原master分支新增了GUI配置界面以及編譯版本了，是時候寫一篇新的文章了。

長話短說，開門見山，網絡上現有的代碼以教學研究為主，本項目是為實用主義者定製的，只要基本的環境安裝常識，便可很好的訓練出期望的模型，重定義幾個簡單的參數任何人都能使用深度學習技術訓練一個商業化成品。

筆者選用的時下最為流行的CNN+BLSTM+CTC（CRNN）進行端到端的不定長驗證碼識別，代碼中預留了CNNX（搜不到因為是小編自己拼湊的）/MobileNet/DenseNet121/ResNet50等選項，可以在配置界面中直接選用。首先，介紹個大概吧。

網格結構 predict-CPU predict-GPU 模型大小
CNN5+Bi-LSTM+H64+CTC 15ms 8ms 2mb
CNN5+CrossEntropy 8ms 2ms 1.5mb

H16/H64指的是Bi-LSTM的隱藏神經元個數UnitsNum，所以本項目使用GPU訓練，使用CPU進行預測。預測服務部署項目源碼請移步此處：https://github.com/kerlomz/captcha_platform
部署項目的編譯版下載地址：https://github.com/kerlomz/captcha_platform/releases

2.環境依賴：

花了超長篇幅介紹了訓練環境的基本搭建，主要是給尚未入門的讀者看的，老鳥們隨便跳過，若不希望在環境上面浪費時間的，歡迎使用編譯版，可在文章開頭找到下載地址。

關於CUDA和cuDNN版本的問題，不少人很糾結，這裏就列出官方通過pip安裝的TensorFlow的版本對應表：

Linux

Version Python version Compiler Build tools cuDNN CUDA
tensorflow_gpu-1.14.0 3.7 GCC 4.8 Bazel 0.15.0 7.6 9

Windows

Version Python version Compiler Build tools cuDNN CUDA
tensorflow_gpu-1.14.0 3.7 MSVC 2015 update 3 Bazel 0.15.0 7.6 10

如果希望使用上面對應之外的搭配的CUDA和cuDNN，可以自行編譯TensorFlow，或者去Github上搜索TensorFlow Wheel找到第三方編譯的對應版本的whl安裝包。提前預警，若是自己編譯將會苦難重重，坑很多，這裏就不展開了。

2.1 本項目環境依賴

目前在以下主流操作系統平台均測試通過：

操作系統 最低支持版本
Ubuntu 16.04
Windows 7 SP1
MacOS N/A

本訓練項目主要的環境依賴清單如下

依賴 最低支持版本
Python 3.7
TensorFlow-GPU 1.14.0
Opencv-Python 4.1.2.30
Numpy 1.16.0
Pillow 4.3.0
PyYaml 3.13
tqdm N/A

2.1.1 Ubuntu 16.04 下的 Python 3.7

1）先安裝Python環境（有Python 3.7環境的可以忽略）

sudo apt-get install openssl  
sudo apt-get install libssl-dev
sudo apt-get install libc6-dev gcc  
sudo apt-get install -y make build-essential zlib1g-dev libbz2-dev libreadline-dev $ libsqlite3-dev wget curl llvm tk-dev 
wget https://www.python.org/ftp/python/3.7.6/Python-3.7.6.tgz
tar -vxf Python-3.7.6.tar.xz
cd Python-3.7.6
./configure --prefix=/usr/local  --enable-shared
make -j8
sudo make install -j8

經過上面指令就安裝好Python3.7環境了，如果提示找不到libpython3.7m.so.1.0就到/usr/local/lib路徑下將該文件複製一份到/usr/lib和/usr/lib64路徑下。
2）安裝相關依賴（這一步Windows和Linux通用）
可以直接在項目路徑下執行pip3 install -r requirements.txt安裝所有依賴，注意這一步是安裝在全局Python環境下的，強烈建議使用虛擬環境進行項目間的環境隔離，如Virtualenv或Anaconda等等。
我一般使用的是Virtualenv，有修改代碼需要的，建議安裝PyCharm作為Python IDE

virtualenv -p /usr/bin/python3 venv # venv is the name of the virtual environment.
cd venv/ # venv is the name of the virtual environment.
source bin/activate # to activate the current virtual environment.
cd captcha_trainer # captcha_trainer is the project path.
pip3 install -r requirements.txt

2.1.2 Ubuntu 16.04 下的 CUDA/cuDNN

網上看到過很多教程，我自己也部署過很多次，Ubuntu 16.04遇到的坑還是比較少的。14.04支持就沒那麼好，如果主板不支持關閉SecureBoot的話千萬不要安裝Desktop版，因為安裝好之後一定會無限循環在登陸界面無法進入桌面。
網上教程說要加驅動黑名單什麼的我直接跳過了，親測沒那個必要。就簡單的幾步：
1. 下載好安裝包
注意下載runfile類型的安裝包，deb安裝會自動安裝默認驅動，極有可能導致登陸循環
NVIDIA 驅動下載：https://www.geforce.cn/drivers
CUDA 下載地址：https://developer.nvidia.com/cuda-downloads
cuDNN 下載地址：https://developer.nvidia.com/cudnn （需要註冊NVIDIA賬號且登陸，下載deb安裝包）

2. 關閉圖形界面
Ctrl+alt+F1進入字符界面，關閉圖形界面

sudo service lightdm stop

3. 安裝Nvidia Driver

命令中的版本自己對應下載的版本改，在上面的下載地址根據自己的顯卡型號下載最新版，切記是runfile格式的安裝包。

sudo chmod a+x NVIDIA-Linux-x86_64-384.90.run //獲取執行權限
sudo ./NVIDIA-Linux-x86_64-384.90.run –no-x-check –no-nouveau-check –no-opengl-files //安裝驅動

安裝成功以後使用以下命令驗證，如果显示顯卡信息則表示安裝成功

nvidia-smi

4. 安裝CUDA

1）先安裝一些系統依賴庫

sudo apt-get install freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev
  1. 執行安裝程序，按指示無腦繼續就好了，如果提示是否安裝驅動選不安裝。
sudo sh cuda_9.0.176_384.81_linux.run

安裝完如果環境變量沒配上去，就寫到 ~/.bashrc 文件的尾部

export PATH=/usr/local/cuda-9.0/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

然後在終端執行 sudo ldconfig更新，安裝完畢就可以重啟機器重啟圖形界面了。

sudo service lightdm start

2.1.3 Windows 系統

在Windows其實簡單很多，只要到官網下載安裝包無腦安裝就可以了，下載連接同Ubuntu，先安裝Python，顯卡驅動，CUDA，然後下載對應的cuDNN替換到對應路徑即可。

3 使用

在訓練之前，有不少群友經常問我“訓練4位數英文数字需要多少樣本？”諸如此類的問題，我這裏統一做個回復，樣本數量主要是看樣本的特徵複雜度而定。

這裏可以提供幾個參考依據： 是否變形？是否旋轉？是否有複雜背景干擾？是否多種字體？字符集（分類數）多大？位數（標籤數）多少？

  1. 一般簡單的幾百個樣本（需要自行調整 驗證集大小 和 驗證批次大小 ）即可。
  2. 稍微複雜的幾千個樣本一般都能搞定。
  3. 特別複雜的幾萬樣本起。
  4. 中文這種幾千個分類的一般十萬起。

注：只準備一百個不到樣本的親們，千萬不要嘗試訓練測試，因為根本跑不起來。

入手的第一步環境搭建好了，那就是準備跑代碼了，還是有幾個必要的條件，巧婦難為無米之炊，首先，既然是訓練，要先有訓練集，有一個新手嘗鮮的訓練集，是mnist手寫識別的例子，可以在騰訊雲下載：https://share.weiyun.com/5pzGF4V
，現在萬事俱備，只欠東風。

3.1 定義一個模型

本項目基於參數化配置，不需要改動任何代碼，可以通過可視化界面操作訓練幾乎任何字符型圖片驗證碼。訓練框架界面可以大致劃分為幾個部分：

  1. Neural Network – 神經網絡區
  2. Project Configuration – 項目配置區
  3. Sample Source – 樣本源配置區
  4. Training Configuration – 訓練配置區
  5. Buttons – 功能控制區

依此類推的訓練配置的步驟如下：

  1. 神經網絡區 的配置項看起來很多，對於新手來說，可以直接使用默認的配置：CNNX+GRU+CTC+C1組合（CNN前置網絡+GRU+CTC+單通道）。
  2. 項目配置區 的配置項在網絡選好之後配置項目名，按回車或者點擊空白處確認。
  3. 樣本源配置區 的配置項用來配置樣本源的路徑，訓練樣本是根據此路徑進行打包成TFRecords格式，驗證樣本可以不指定，使用[Validation Set Num]參數隨機從訓練集總抽樣成驗證集。
  4. 訓練配置區 的配置項負責定義訓練完成的條件如：結束準確率，結束COST，結束Epochs，批次大小
  5. 功能控制區 的配置項，設置完上面步驟，先點擊[Make Dataset] 打包樣本，再點擊[Start Training]開始訓練。

以下部分有基礎的讀者們可以了解一下：

如若使用CrossEntropy作為解碼器需要注意標籤數LabelNum和圖片尺寸需要滿足的關係，因為網絡為多標籤而設計（一般的多標籤採用直接連接多個分類器），卷積層的輸出 outputs 經過了以下變換：

Reshape([label_num, int(outputs_shape[1] / label_num)])

為了保證運算 int(outputs_shape[1] / label_num) 能夠取得正整數，也意味着他們之間存在某種關係，對於CNN5+Cross Entropy的網絡結構，Conv2D層的步長皆為1，那麼需要保證以下關係成立：

\[mod(\frac{輸入寬度\times輸入高度\times輸出層參數}{池化步長^{池化層數}\times標籤數})= 0 \]

所以有時候需要Resize網絡輸入的Shape

網絡 池化步長^池化層數 輸出層參數
CNN5 16 64
CNNX 8 64
ResNet50 16 1024
DenseNet 32 2048

例如使用CNN5+CrossEntropy組合，則輸入寬度與輸入高度需要滿足：

\[mod(\frac{輸入寬度\times輸入高度\times64}{16\times標籤數})= 0 \]

※台中搬家遵守搬運三大原則,讓您的家具不再被破壞!

台中搬家公司推薦超過30年經驗,首選台中大展搬家

同理如果CNN5+RNN+CTC，卷積層之後的輸出經過以下變換：

Reshape([-1, outputs_shape[2] * outputs_shape[3]])

原輸出(batch_size, outputs_shape[1], outputs_shape[2], outputs_shape[3])，RNN層的輸入輸出要求為(batch, timesteps, num_classes)，為了接入RNN經過以上操作，那麼又引出一個Time Step的概念，所以timesteps的值也是 outputs_shape[1]，而CTC Loss要求的輸入為 [batch_size, frames, num_labels]，若是 timesteps 小於標籤數則無法計算損失，也就無法找損失函數中找到極小值，梯度何以下降。timesteps 最合理的值一般是標籤數的2倍，為了達到目的，也可以通過Resize網絡輸入的Shape解決，一般情況timesteps直接關聯於圖片寬度，大多情況只要按比例放大寬度即可。

ExtractRegex 參數：

注意：如果訓練集的命名格式和我提供的新手訓練集不一樣，請根據實際情況修改ExtractRegex的正則表達式。目前只支持在yaml配置文件中直接修改，尚未提供GUI界面修改的支持。 DatasetPath 和SourcePath參數允許多個路徑，這種操作適用於需要將多種樣本訓練為一個模型，或者希望訓練一套通用泛化模型的人。
字符集Category其實大多數情況下不需要修改，一般的圖形驗證碼離不開数字和英文，而且一般來說是大小寫不敏感的，不區分大小寫，因為打碼平台收集的訓練集質量參差不齊，有些大寫有些小寫，不如全部統一為小寫，默認ALPHANUMERIC_LOWER則會自動將大寫的轉為小寫，字符集可定製化很靈活，除了配置備註上提供的幾種類型，還可以訓練中文，自定義字符集用list表示，示例如下：

Category: ['常', '世', '寧', '慢', '南', '制', '根', '難']

如果是單標籤分類，可以配合LabelNum=1，例如：

Category: ["航母", "雨靴", "毛線", "安全帽", "調色板", "海鷗", "日曆", "網球拍", ......]

其文件名示例：航母_1231290424123.png

如果是多標籤分類，可以配合LabelSplit=&，例如：

Category: ["航母", "雨靴", "毛線", "安全帽", "調色板", "海鷗", "日曆", "網球拍", ......]

其文件名示例：航母&雨靴&毛線_1231290424123.png

可以自己根據收集訓練集的實際字符集使用率來定義，也可以無腦網上找3500常用字來訓練，注意：中文字符集一般比数字英文大很多，剛開始收斂比較慢，需要更久的訓練時間，也需要更多的樣本量，請量力而行

形如上圖的圖片能輕鬆訓練到95%以上的識別率。
ImageWidth、ImageHeight只要和當前圖片尺寸匹配即可，其實這裏的配置主要是為了方便後面的部署智能策略。

Pretreatment參數：

該參數是用來做圖片預處理的，例如形如以下的GIF動圖，

可以使用ConcatFrames參數選取幀對兩幀進行水平拼接，適用於處理滾動型GIF，而閃爍型GIF可以使用BlendFrames參數進行融合。

3.2 開始訓練

  1. 經過 採集標註樣本形如 xxx_隨機數.png
  2. 打包樣本
    通過GUI界面的 [Make Dataset] 或者 make_dataset.py 直接打包。
    注意：使用源碼運行本項目的功能模塊需要具備一定的語言基礎，參數修改的部分和示例已預留好，盡量不修改核心類或函數的代碼以免出現錯誤。

按照上面的介紹，配置只要修改極少數的參數對應的值，就可以開啟正式的訓練之旅了，具體操作如下：
可以直接使用 PyCharm 的 Run，執行 trains.py，也可以在激活Virtualenv下使用終端亦或在安裝依賴的全局環境下執行，但本文建議全程使用GUI界面進行操作，使用GUI僅需啟動 app.py 即可。

python3 trains.py

剩下的就是等了，看過程，等結果。
正常開始訓練的模樣應該是這樣的：

訓練結束會在項目的out路徑下生成一個包含pb文件的graph目錄和包含yaml文件的model目錄，下面該到部署環節了。

3.3 部署

真的很有必要認真的介紹一下部署項目，比起訓練，這個部署項目傾注了筆者更多的心血，為什麼呢？
項目地址：https://github.com/kerlomz/captcha_platform

如希望將本系統集成於自己的項目中的可以參考python-sdk的使用：
https://pypi.org/project/muggle-ocr/
該項目的核心基於 captcha_platform/sdk/pb/sdk.py 可以根據需要自行修改，抑或直接使用MuggleOCR 調用訓練框架生產的模型。（具體調用方法可點擊上面鏈接有對應的文檔介紹）

編譯版：https://github.com/kerlomz/captcha_platform/releases，使用編譯版無需安裝Python和TensorFlow環境。

真的值得了解的幾點

  1. 同時管理多個模型，支持模型熱拔插
  2. 靈活的版本控制
  3. 支持批量識別
  4. 服務智能路由策略

首先筆者重寫了TensorFlow的Graph會話管理，設計會話池，允許同時管理多模型，實現多模型動態部署方案。

1） 訓練好的 pb模型只要放在部署項目的graph路徑下，yaml模型配置文件放在model， 即可被服務發現並加載。（用SDK調用時，兩者置於同一目錄下）

2） 如果需要卸載一個正在服務的模型，只需要在model中刪除該模型的yaml配置文件，在graph中刪除對應的pb模型即可。

3） 如果需要更新一個已經服務中的模型，只需修改新版的模型yaml配置文件的版本號高於原模型的版本號，按先放pb後放yaml的順序，服務便會自動發現新版的模型並加載使用，舊的模型將因版本低於新版模型不會被調用，可以按照上述的卸載方法卸載已被棄用的模型釋放內存。
上面的操作中無需重啟服務，完全的無縫切換

其次，一套服務想要服務於各式各樣的圖像識別需求，可以定義一套策略，訓練時將所有尺寸一樣的圖片訓練成一個模型，服務根據圖片尺寸自動選擇使用哪個模型，這樣的設計使定製化和通用性共存，等積累到一定多樣的訓練集時可以將所有的訓練集合到一起訓練一個通用模型，亦可以彼此獨立，每個模型的疊加僅僅增加了少量的內存或顯存，網上的方案大多是不同的模型單獨部署一套服務，每個進程加載了一整套TensorFlow框架勢必是過於龐大和多餘的。

用到批量識別需求的人相對少很多這裏就不展開介紹了。但是這裏給出一個12306的例子：

FieldParam:
  CorpParams: [
    {
      "start_pos": [118, 0],
      "interval_size": [0, 0],
      "corp_num": [1, 1],
      "corp_size": [60, 30]
    },
    {
      "start_pos": [5, 40],
      "interval_size": [5, 5],
      "corp_num": [4, 2],
      "corp_size": [66, 66]
    }
  ]
  OutputCoord: True

該參數可以用於大圖的裁剪組成一批小圖作為一個批次的輸入，改用法可以避免多次調用。

但是識別項目提供了多套可選的服務有：gRPC，Flask，Tornado，Sanic，其中Flask和Tornado提供了加密接口，類似於微信公眾號開發接口的SecretKey和AccessKey接口，感興趣的可以在demo.py中閱讀調用源碼了解。

部署的使用可以經過package.py編譯為可執行文件，這樣可以免去更換機器環境安裝的煩惱，部署項目安裝流程同訓練項目，項目中提供的requirements.txt已經將所需的依賴都列清楚了，強烈建議部署項目安裝cpu版TensorFlow。

本項目部署推薦使用Tornado版，功能最齊全，性能最為穩定。

Linux：

  1. Tornado：
# 端口 19952
python3 tornado_server.py
  1. Flask
# 方案1，裸啟動， 端口 19951
python flask_server.py 
# 方案2，使用gunicorn，端口 5000
pip install gunicorn 
gunicorn -c deploy.conf.py flask_server:app
  1. Sanic：
# 端口 19953
python3 sanic_server.py
  1. gRPC:
# 端口 50054
python3 grpc_server.py
  1. 編譯版(基於Tornado)
# 前台運行
./captcha_platform_tornado
#後台運行
nohup ./captcha_platform_tornado &

Windows：
Windows平台下都是通過python3 xxx_server.py啟動對應的服務，注意，Tornado、Flask、Sanic的性能在Windows平台都大打折扣，gRPC是Google開源的RPC服務，有較為優越的性能。
編譯版直接運行編譯后的exe可執行文件即可。

3.4 調用/測試

1. Tornado服務：

請求地址 Content-Type 參數形式 請求方法
http://localhost:19952/captcha/v1 application/json JSON POST

具體參數：

參數名 必選 類型 說明
image Yes String Base64 編碼
model_name No String 模型名，yaml配置中可綁定
need_color No String 顏色過濾，black/red/blue/yellow/green/white
output_split No String 多標籤分割字符

請求為JSON格式，形如：{“image”: “base64編碼后的圖像二進制流”}

返回結果：

參數名 類型 說明
message String 識別結果或錯誤消息
code String 狀態碼
success String 是否請求成功

該返回為JSON格式，形如：{“message”: “xxxx”, “code”: 0, “success”: true}

2. Flask服務：

請求地址 Content-Type 參數形式 請求方法
http://localhost:19951/captcha/v1 application/json JSON POST

請求參數和返回格式同上

3. Sanic服務：

請求地址 Content-Type 參數形式 請求方法
http://localhost:19953/captcha/v1 application/json JSON POST

請求參數和返回格式同上

4. gRPC服務：
需要安裝依賴，grpcio、grpcio_tools和對應的grpc.proto文件，可以直接從項目中的示例代碼demo.py中提取。

python -m grpc_tools.protoc -I. --python_out=. --grpc_python_out=. ./grpc.proto

grpcio、grpcio_tools 是根據 grpc.proto 使用上述命令生成的。

class GoogleRPC(object):

    def __init__(self, host: str):
        self._url = '{}:50054'.format(host)
        self.true_count = 0
        self.total_count = 0

    def request(self, image, model_type=None, model_site=None):

        import grpc
        import grpc_pb2
        import grpc_pb2_grpc
        channel = grpc.insecure_channel(self._url)
        stub = grpc_pb2_grpc.PredictStub(channel)
        response = stub.predict(grpc_pb2.PredictRequest(
            image=image, split_char=',', model_type=model_type, model_site=model_site
        ))
        return {"message": response.result, "code": response.code, "success": response.success}

if __name__ == '__main__':
    result = GoogleRPC().request("base64編碼后的圖片二進制流")
    print(result)

3.5 奇技淫巧

該項目還可以直接用於識別帶顏色的驗證碼，部署項目middleware/impl/color_extractor.py基於k-means實現了顏色分離模塊，可用於處理如下形式的驗證碼：

還有一種方案是同時預測驗證碼和每個字符對應的顏色，不過這需要修改現有的神經網絡進行支持，在最後一層修改為雙輸出，一個輸出顏色，一個輸出對應字符，這對於樣本標註的要求較高，也提高的成本，所以如果能用無限生成樣本，那問題就迎刃而解了，比如上圖，筆者就寫了樣本生成代碼，感興趣的可以移步：
https://www.jianshu.com/p/da1b972e24f2
其實還有很多很多技巧，例如，用生成的樣本代替訓練集，其實網上的圖片驗證碼大多是採用開源的，稍作修改而已，大多數情況都能被近似生成出來，上述展示的驗證碼圖片不代表任何實際的網站，如有雷同，純屬巧合，該項目只能用於學習和交流用途，不得用於非法用途。

後記

如果文章描述不夠詳盡或需要技術支持的，可以加群 857149419 諮詢，或在開源項目中提issue，很榮幸能為開源社區貢獻綿薄之力。

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

※台中搬家公司費用怎麼算?

擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司