利用Java+Selenium+OpenCV模拟实现网页滑动验证代码

本篇文章小编给大家分享一下利用Java+Selenium+OpenCV模拟实现网页滑动验证代码，文章代码介绍的很详细，小编觉得挺不错的，现在分享给大家供大家参考，有需要的小伙伴们可以来看看。

效果展示：

一、需求分析

要模拟滑动验证总共就两步：

1、找到小滑块

2、按住小滑块，滑动一段距离

第一步很简单，直接通过xPath找到，比较重要和困难的是第二步中距离的问题，我花了那么多的时间在这次学习中，主要是耗在计算需要滑动的距离。

在面向百度编程的过程中看到了很多学习资料，大体上是同一个方法：使用opencv计算机视觉工具让两张处理过的图像进行比对，从而计算出滑动的距离。

二、模拟步骤

1、使用selenium打开某音网页

直接打开

2、找到小滑块以及小滑块所在的背景图

打开前端调式工具，F12，定位小滑块和背景图的位置，复制xpath，然后用selenium查找元素

eg: driver.findElement(By.xpath("小滑块的xpath"));

3、计算小滑块需要滑动的距离

这一部分是最重要的，所以需要重点记录，学习一次，以后遇到同样的问题就能马上解决。

步骤：

1、保存小滑块图像和小滑块背景图

如图，使用selenium可以很方便的获取到这两张图片。

2、将背景图进行指定比例和区域的剪裁

在这一步中有两个比较重要的参数：

1、小滑块的top值

2、网页当前显示的图像和原图像的大小比例，在计算滑动距离需要用到

剪裁用的是 BufferedImage的getSubimage方法，一共有四个参数

image = image.getSubimage(x, y, width, height);

x和y 为截图后图片左上角的坐标值，如果x和y都是0，那么就从原图的左上角开始截起，width和height分别是截图后图片的长和宽。

在某音的滑动验证中，x设置成小滑块的宽度，y设置为小滑块的top，top也就是小滑块距离背景图上边界的像素

width设置为背景图原来的宽度-小滑块的宽度

height设置为小滑块的高度

最后截出来的图片类似这样，一定要把背景图的缺口包含进去

3、将小滑块图像二值化

从这里开始要用到opencv（开源计算机视觉库）

首先将保存的小滑块图片转灰度，然后将转灰度的下滑快二值化，二值化就是非黑即白，了解过后才知道目前很多机器识别使用的原理和这个差不多。

代码如下：

           //小滑块Mat对象
           Mat s_mat = Imgcodecs.imread(sFile.getPath());
 
           // 转灰度图像
           Mat s_newMat = new Mat();
           Imgproc.cvtColor(s_mat, s_newMat, Imgproc.COLOR_BGR2GRAY);
           // 二值化图像
           binaryzation(s_newMat);binaryzation是一个方法，在源码中有
           Imgcodecs.imwrite(sFile.getPath(), s_newMat);

4、将二值化的小滑块和剪裁的背景图进行比对

代码我是抄的，看不懂，就不放在这了。

研究了好久，因为没有学习过opencv，计算过程调用的几个方法我还不是很懂，但是最后的返回值需要根据实际情况来调整，要不然验证成功率几乎为0。

4、按住小滑块并滑动

滑动过程不能让程序一步走完，不然网页会认为你是爬虫，即使能滑到指定位置也会验证失败。滑动过程应该尽量模拟人工操作。

     /**
     * 模拟移动滑块
     * @param driver
     * @param ele 小滑块
     * @param distance 滑动距离
     */
    public void move(ChromeDriver driver,WebElement ele,int distance) {
        int randomTime = 0;
        if (distance > 90) {
            randomTime = 250;
        } else if (distance > 80 && distance <= 90) {
            randomTime = 150;
        }
        List track = getMoveTrack(distance - 2);
        int moveY = 1;
        try {
            Actions actions = new Actions(driver);
            actions.clickAndHold(ele).perform();
            Thread.sleep(200);
            for (int i = 0; i < track.size(); i++) {
                actions.moveByOffset(track.get(i), moveY).perform();
                Thread.sleep(new Random().nextInt(300) + randomTime);
            }
            Thread.sleep(200);
            actions.release(ele).perform();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
 
    /**
     * 根据距离获取滑动轨迹
     * @param distance 需要移动的距离
     * @return
     */
    public static List getMoveTrack(int distance) {
        List track = new ArrayList<>();// 移动轨迹
        Random random = new Random();
        int current = 0;// 已经移动的距离
        int mid = distance * 4 / 5;// 减速阈值
        int a = 0;
        int move = 0;// 每次循环移动的距离
        while (true) {
            a = random.nextInt(10);
            if (current <= mid) {
                move += a;// 不断加速
            } else {
                move -= a;
            }
            if ((current + move) < distance) {
                track.add(move);
            } else {
                track.add(distance - current);
                break;
            }
            current += move;
        }
        return track;
    }

三、学习过程中比较棘手的问题

1、截图问题

我一开始截出来的图包含的小滑块缺口总是不完整的，经过一番截图参数调试后，我发现某音小滑块top的单位他丫的是em，这像素的大小用em???真不愧是某音，别家都是px，你偏偏要em......然后我又开始面向百度，最后得到的结论是默认浏览器1em = 10px，我在top *10之后还是截不到完整的小滑块缺口。

我这会直接上网页调试工具，最终调式出来1em约等于100px，最后top *100截出来的图片就对了。

2、返回结果与实际滑动距离相差太多，甚至无规律可循

好不容易把代码敲完，之后的测试却一直是失败的，无论在计算的结果加减乘除某个数值都不行。

导致原因：因为在网页上显示的图片和实际上图片大小是不同的，依靠opencv比对计算出来的滑动距离是按照原图大小计算的。

解决办法：只需要将返回值乘上显示图片与原图宽度的比例即可。

注意：因为之前在获取小滑块图像时，top的值为网页显示的大小，计算过程中是按照原图大小计算的，所以获取的top值乘以100后还要乘上原图宽度与显示图像宽度的比例。

3、openCV的下载安装

官网实在是太慢了，直接搜索安装包下载了。

四、总结

这次学习经历前后共花了一周，恰逢考试周，考试科目大多没有复习好，也不知是不是亏了，滑动验证是网页登录或者搜索会经常遇到的问题，模拟滑动解锁主要能够锻炼我们解决问题的能力。

图像在计算机中实际是一个个像素组成的，每一个像素包含三个数值，所以才能够对图像进行二值化、比对。比对过程是在看不懂，不过也不必每一行代码都看懂，能够解决问题才是最重要的。

以下为源码（仅用于学习交流）：

package indi.imitateslide;
 
import org.apache.commons.io.FileUtils;
import org.opencv.core.*;
import org.opencv.imgcodecs.Imgcodecs;
import org.opencv.imgproc.Imgproc;
import org.openqa.selenium.By;
import org.openqa.selenium.WebDriver;
import org.openqa.selenium.WebElement;
import org.openqa.selenium.chrome.ChromeDriver;
import org.openqa.selenium.interactions.Actions;
 
import javax.imageio.ImageIO;
import java.awt.image.BufferedImage;
import java.io.File;
import java.net.URL;
import java.util.ArrayList;
import java.util.List;
import java.util.Random;
 
 
/**
 * 自动化模拟滑动验证
 */
public class ImitateSlide {
    //驱动
    private ChromeDriver driver;
 
    public ImitateSlide(ChromeDriver driver){
        this.driver = driver;
    }
 
    public void slide(String url,String sliderXpath) throws Exception {
        driver.get(url);
        Thread.sleep(2000);
 
        //获取滑块
        WebElement ele = waitWebElement(driver,By.xpath(sliderXpath),500);
 
        //获取滑动背景图
        String bUrl = waitWebElement(driver,By.xpath("//*[@id="captcha-verify-image"]"),500).getAttribute("src");
        //获取小滑块图片
        String sUrl = waitWebElement(driver,By.xpath("//*[@id="captcha_container"]/div/div[2]/img[2]"),500).getAttribute("src");
        //获取高度
        String topStr = waitWebElement(driver,By.xpath("//*[@id="captcha_container"]/div/div[2]/img[2]"),500).getAttribute("style").substring(16,20);
        System.out.println("字符串高度是： "+topStr);
        double dTop = Double.parseDouble(topStr);
        dTop *= 160;
        int top = (int) dTop;
        System.out.println("最终高度是： "+top);
 
        //计算移动的距离
        double dDis = Double.parseDouble(getDistance(bUrl,sUrl,top));
        System.out.println("计算出的距离为： "+dDis);
        int distance = (int) dDis;
        System.out.println("最终移动的距离为： "+distance);
        Thread.sleep(500);
        //滑动
        move(driver,ele,distance);
        Thread.sleep(1000);
        driver.quit();
    }
 
    /**
     * 模拟移动滑块
     * @param driver
     * @param ele
     * @param distance
     */
    public void move(ChromeDriver driver,WebElement ele,int distance) {
        int randomTime = 0;
        if (distance > 90) {
            randomTime = 250;
        } else if (distance > 80 && distance <= 90) {
            randomTime = 150;
        }
        List track = getMoveTrack(distance - 2);
        int moveY = 1;
        try {
            Actions actions = new Actions(driver);
            actions.clickAndHold(ele).perform();
            Thread.sleep(200);
            for (int i = 0; i < track.size(); i++) {
                actions.moveByOffset(track.get(i), moveY).perform();
                Thread.sleep(new Random().nextInt(300) + randomTime);
            }
            Thread.sleep(200);
            actions.release(ele).perform();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
 
    /**
     * 根据距离获取滑动轨迹
     * @param distance 需要移动的距离
     * @return
     */
    public static List getMoveTrack(int distance) {
        List track = new ArrayList<>();// 移动轨迹
        Random random = new Random();
        int current = 0;// 已经移动的距离
        int mid = distance * 4 / 5;// 减速阈值
        int a = 0;
        int move = 0;// 每次循环移动的距离
        while (true) {
            a = random.nextInt(10);
            if (current <= mid) {
                move += a;// 不断加速
            } else {
                move -= a;
            }
            if ((current + move) < distance) {
                track.add(move);
            } else {
                track.add(distance - current);
                break;
            }
            current += move;
        }
        return track;
    }
 
    /**
     * 获取滑块移动的距离
     * @param bUrl 滑动背景图
     * @param sUrl 小滑块
     * @param top 高度
     * @return
     */
    public String getDistance(String bUrl, String sUrl, int top) {
        System.loadLibrary( Core.NATIVE_LIBRARY_NAME );
        File bFile = new File("D:douyin_b1.jpg");
        File sFile = new File("D:douyin_s1.jpg");
        try {
            //将图片复制保存到指定路径
            FileUtils.copyURLToFile(new URL(bUrl), bFile);
            FileUtils.copyURLToFile(new URL(sUrl), sFile);
 
            BufferedImage bgBI = ImageIO.read(bFile);
            BufferedImage sBI = ImageIO.read(sFile);
 
            // 裁剪
            System.out.println("背景图片的宽度是： "+bgBI.getWidth());
            System.out.println("小图片的高度是："+sBI.getHeight());
            bgBI = bgBI.getSubimage(sBI.getWidth(), top, bgBI.getWidth() - 110, sBI.getHeight());
            ImageIO.write(bgBI, "png", bFile);
 
            Mat s_mat = Imgcodecs.imread(sFile.getPath());
            Mat b_mat = Imgcodecs.imread(bFile.getPath());
 
            // 转灰度图像
            Mat s_newMat = new Mat();
            Imgproc.cvtColor(s_mat, s_newMat, Imgproc.COLOR_BGR2GRAY);
 
            // 二值化图像
            binaryzation(s_newMat);
            Imgcodecs.imwrite(sFile.getPath(), s_newMat);
 
            //让两张图片进行比对
            int result_rows = b_mat.rows() - s_mat.rows() + 1;
            int result_cols = b_mat.cols() - s_mat.cols() + 1;
            Mat g_result = new Mat(result_rows, result_cols, CvType.CV_32FC1);
            Imgproc.matchTemplate(b_mat, s_mat, g_result, Imgproc.TM_SQDIFF); // 归一化平方差匹配法
            // 归一化相关匹配法
            Core.normalize(g_result, g_result, 0, 1, Core.NORM_MINMAX, -1, new Mat());
 
            //以下看不懂
            Point matchLocation = new Point();
            Core.MinMaxLocResult mmlr = Core.minMaxLoc(g_result);
            matchLocation = mmlr.maxLoc; // 此处使用maxLoc还是minLoc取决于使用的匹配算法
            Imgproc.rectangle(b_mat, matchLocation,
                    new Point(matchLocation.x + s_mat.cols(), matchLocation.y + s_mat.rows()), new Scalar(0, 255, 0, 0));
            //返回值就是要移动的距离，在这里需要加上被裁剪掉的宽度再减去小滑块的宽度，最后乘上相应的比例。
            return "" + ((matchLocation.x + s_mat.cols()) / 1.62);
        } catch (Throwable e) {
            e.printStackTrace();
            return null;
        } finally {
            //删除保存的滑块以及背景图片
            bFile.delete();
            sFile.delete();
        }
    }
 
    /**
     * 将图像二值化，固定代码
     * @param mat
     */
    public static void binaryzation(Mat mat) {
        int BLACK = 0;
        int WHITE = 255;
        int ucThre = 0, ucThre_new = 127;
        int nBack_count, nData_count;
        int nBack_sum, nData_sum;
        int nValue;
        int i, j;
        int width = mat.width(), height = mat.height();
        // 寻找最佳的阙值
        while (ucThre != ucThre_new) {
            nBack_sum = nData_sum = 0;
            nBack_count = nData_count = 0;
 
            for (j = 0; j < height; ++j) {
                for (i = 0; i < width; i++) {
                    nValue = (int) mat.get(j, i)[0];
 
                    if (nValue > ucThre_new) {
                        nBack_sum += nValue;
                        nBack_count++;
                    } else {
                        nData_sum += nValue;
                        nData_count++;
                    }
                }
            }
            nBack_sum = nBack_sum / nBack_count;
            nData_sum = nData_sum / nData_count;
            ucThre = ucThre_new;
            ucThre_new = (nBack_sum + nData_sum) / 2;
        }
        // 二值化处理
        int nBlack = 0;
        int nWhite = 0;
        for (j = 0; j < height; ++j) {
            for (i = 0; i < width; ++i) {
                nValue = (int) mat.get(j, i)[0];
                if (nValue > ucThre_new) {
                    mat.put(j, i, WHITE);
                    nWhite++;
                } else {
                    mat.put(j, i, BLACK);
                    nBlack++;
                }
            }
        }
        // 确保白底黑字
        if (nBlack > nWhite) {
            for (j = 0; j < height; ++j) {
                for (i = 0; i < width; ++i) {
                    nValue = (int) (mat.get(j, i)[0]);
                    if (nValue == 0) {
                        mat.put(j, i, WHITE);
                    } else {
                        mat.put(j, i, BLACK);
                    }
                }
            }
        }
    }
 
    /**
     * 元素延时加载，等到元素出现时返回该元素，超过500*0.05s后无响应则抛出NOSuchElement异常
     * @param driver
     * @param by
     * @param count
     * @return WebElement
     * @throws Exception
     */
    private static WebElement waitWebElement(WebDriver driver, By by, int count) throws Exception {
        WebElement webElement = null;
        boolean isWait = false;
        for (int k = 0; k < count; k++) {
            try {
                webElement = driver.findElement(by);
                if (isWait)
                    System.out.println(" ok!");
                return webElement;
            } catch (org.openqa.selenium.NoSuchElementException ex) {
                isWait = true;
                if (k == 0)
                    System.out.print("waitWebElement(" + by.toString() + ")");
                else
                    System.out.print(".");
                Thread.sleep(50);
            }
        }
        if (isWait)
            System.out.println(" outTime!");
        return null;
    }
}