乐闻世界logo
搜索文章和话题

Puppeteer

Puppeteer 是一个 Node.js 库,它提供了一个高级 API 来通过 DevTools 协议控制无头 Chrome 或 Chromium。它还可以配置为使用完整(非无头)Chrome 或 Chromium。
Puppeteer
Puppeteer 如何阻止跟随重定向
在使用Puppeteer时,如果您想阻止自动跟随重定向,可以通过监听每个请求,并使用`request.abort()`方法来阻止那些会导致重定向的请求。 下面是一个具体的例子: ```javascript const puppeteer = require('puppeteer'); (async () => { const browser = await puppeteer.launch(); const page = await browser.newPage(); // 监听页面请求 await page.setRequestInterception(true); // 开启请求拦截 page.on('request', request => { // 根据需要,判断请求是否为导航请求 // 'document' 类型对应于主文档导航请求 if (request.isNavigationRequest() && request.redirectChain().length) { // 如果是导航请求,并且有重定向链存在,就阻止这个请求 request.abort(); } else { // 其它请求正常继续 request.continue(); } }); // 访问页面 await page.goto('http://example.com'); // 其他操作... await browser.close(); })(); ``` 这段代码通过设置`page.setRequestInterception(true)`来启用请求拦截。当请求发生时,会触发`page.on('request', ...)`中定义的监听器。在这个监听器中,我们通过`request.isNavigationRequest()`来检查请求是否为导航请求(即页面跳转),并且通过`request.redirectChain().length`来判断这个导航请求是否是重定向的一部分。如果是导航且有重定向链,就使用`request.abort()`方法来阻止请求,从而防止自动跟随重定向。 请注意,阻止重定向可能会导致页面加载不完整或者页面功能异常,因为有些重定向是网站正常功能的一部分。因此,在实际使用中需要根据具体场景谨慎使用该技术。
阅读 21 · 6月27日 12:14
Puppeteer 如何停止所有 JS 脚本
在使用 Puppeteer 进行网页自动化时,有时可能需要阻止页面上的所有 JavaScript 脚本的执行,以加快页面加载速度或阻止某些操作。可以通过以下步骤来实现这个需求: 1. **拦截请求**:通过 Puppeteer 的 `page.setRequestInterception(true)` 方法启用请求拦截功能。 2. **分析请求**:在请求拦截器中,检查每个网络请求的类型。 3. **终止 JS 文件请求**:如果检测到请求类型为脚本(`script`),使用 `request.abort()` 方法阻止该请求,从而停止下载和执行相关的 JavaScript 文件。 4. **允许其它请求**:对于非脚本的其他类型的请求,使用 `request.continue()` 方法让它们正常进行。 这里是实现上述步骤的 Puppeteer 代码示例: ```javascript const puppeteer = require('puppeteer'); (async () => { const browser = await puppeteer.launch(); const page = await browser.newPage(); // 启用请求拦截 await page.setRequestInterception(true); // 添加请求拦截器 page.on('request', (request) => { // 如果是脚本文件,终止请求 if (request.resourceType() === 'script') { request.abort(); } else { // 其他类型的请求继续进行 request.continue(); } }); // 打开网页 await page.goto('http://example.com'); // 其他页面操作... // 关闭浏览器 await browser.close(); })(); ``` 使用这种方法,所有的 JavaScript 脚本请求将被停止,但是这并不意味着页面上已经内嵌或者预先执行的脚本会被阻止。阻止内联脚本或页面上已经执行的 JavaScript 需要采用不同的策略,比如在页面加载之前注入自定义脚本来禁用或重写 `eval` 函数和其他相关的 JavaScript 执行函数。 例如,可以在页面载入之前执行以下代码来禁用内联脚本: ```javascript await page.evaluateOnNewDocument(() => { window.eval = global.eval = function() { throw new Error(`Eval is disabled`); }; }); ``` 总之,根据不同的需求,你可以选择合适的方法来停止 JavaScript 脚本在 Puppeteer 控制的页面上的执行。
阅读 21 · 6月27日 12:14
Puppeteer 如何进行并行测试?
Puppeteer 是一个 Node 库,它提供了一套高层次的 API 来控制无头浏览器。关于进行并行测试,这里有几种策略可以实现: ### 1. 使用 `Promise.all` 运行多个浏览器实例: 可以通过启动多个 Puppeteer 实例并同时让它们运行不同的测试来实现并行测试。这可以通过使用 `Promise.all` 方法来实现,它允许我们等待多个 Promise 同时解决。 ```javascript const puppeteer = require('puppeteer'); async function runTest(url) { const browser = await puppeteer.launch(); const page = await browser.newPage(); await page.goto(url); // 运行某些测试... await browser.close(); } async function runParallelTests() { const urls = ['https://example1.com', 'https://example2.com', 'https://example3.com']; await Promise.all(urls.map(url => runTest(url))); } runParallelTests(); ``` ### 2. 使用并行测试框架: 可以结合使用 Puppeteer 和一些并行测试框架,比如 `jest-puppeteer`,`mocha` 结合 `mocha-parallel-tests`,或者其他可以执行并行测试的框架。 例如,如果使用 Jest,您可以配置它以允许同时运行多个测试文件: ```javascript // jest.config.js module.exports = { maxConcurrency: 10, // 允许并行运行的测试数 // 其他配置... }; ``` 然后每个测试文件将使用一个独立的 Puppeteer 实例来运行。 ### 3. 使用多线程(Node.js 适用): 通过 Node.js 的 `worker_threads` 模块,可以在不同的线程中启动多个 Puppeteer 实例。 ```javascript const { Worker } = require('worker_threads'); function runTestInWorker(url) { return new Promise((resolve, reject) => { const worker = new Worker('./test-worker.js', { workerData: { url } }); worker.on('message', resolve); worker.on('error', reject); worker.on('exit', (code) => { if (code !== 0) reject(new Error(`Worker stopped with exit code ${code}`)); }); }); } async function runParallelTests() { const urls = ['https://example1.com', 'https://example2.com', 'https://example3.com']; const tests = urls.map(url => runTestInWorker(url)); await Promise.all(tests); } runParallelTests(); ``` 在 `test-worker.js` 中,您将编写实际使用 Puppeteer 进行测试的代码。 ### 4. 使用云服务和 CI/CD 工具: 如果您正在使用 CI/CD 环境,很多服务(如 CircleCI, Travis CI, Jenkins 等)都支持并行工作流。您可以配置多个工作流同时运行,每个工作流都运行 Puppeteer 测试。 ### 注意事项: - 并行执行时需要考虑系统资源,因为每个 Puppeteer 实例都会消耗相当的内存和 CPU。 - 保持测试之间相互独立,以避免竞争条件和共享状态导致的问题。 - 如果在本地机器上运行许多并行测试,请监视系统的性能,以确保不会因资源不足而使系统崩溃或测试失败。 通过以上任一方法,Puppeteer 都可以有效地进行并行测试,以加速测试过程并提高效率。在使用 Puppeteer 进行并行测试时,主要的思路是同时运行多个浏览器实例或页面实例,以此来模拟多用户同时操作的场景。以下是实现并行测试的一些步骤和建议: 1. **使用多个浏览器实例**: 您可以启动多个`Browser`实例来进行测试。每个`Browser`实例都相当于一个独立的浏览器环境。但是,请注意,每个实例都会占据相当的系统资源,因此这种方式在资源有限的情况下可能不太适用。 ```javascript const puppeteer = require('puppeteer'); async function runTest(instance) { const browser = await puppeteer.launch(); const page = await browser.newPage(); // 进行页面操作 await page.goto('http://example.com'); // ... await browser.close(); } // 同时启动多个测试实例 const testInstances = [runTest(1), runTest(2), runTest(3)]; Promise.all(testInstances).then(() => { console.log('所有测试完成'); }); ``` 2. **使用多个页面实例**: 在单个浏览器实例中,您可以创建多个`Page`实例进行测试。这种方式比多个`Browser`实例更节省资源,因为它们共享同一个浏览器环境。 ```javascript const puppeteer = require('puppeteer'); async function runTest(browser, instance) { const page = await browser.newPage(); // 进行页面操作 await page.goto('http://example.com'); // ... await page.close(); } async function runParallel() { const browser = await puppeteer.launch(); const tests = [runTest(browser, 1), runTest(browser, 2), runTest(browser, 3)]; await Promise.all(tests); await browser.close(); } runParallel().then(() => { console.log('所有测试完成'); }); ``` 3. **使用测试框架的并行功能**: 许多现代的测试框架支持并行测试。例如,Jest 可以配置为并行运行多个测试文件,每个文件可以被视为一组独立的测试。 在 Jest 中,您可以这样做: ```javascript // Jest 配置文件 jest.config.js module.exports = { // 其他配置... maxConcurrency: 5, // 设置最大并发测试文件数 }; ``` 然后,在每个测试文件中使用 Puppeteer。 4. **使用集群(Cluster)**: Puppeteer 提供了一个`Cluster`模块,可以方便地管理多个 Puppeteer 实例。这是一个第三方库,专门用于在 Node.js 中实现并行操作。 ```javascript const { Cluster } = require('puppeteer-cluster'); (async () => { const cluster = await Cluster.launch({ concurrency: Cluster.CONCURRENCY_BROWSER, maxConcurrency: 2, // 同时最大并发数 }); await cluster.task(async ({ page, data: url }) => { await page.goto(url); // 执行页面操作 }); cluster.queue('http://example.com'); cluster.queue('http://example.net'); cluster.queue('http://example.org'); await cluster.idle(); await cluster.close(); })(); ``` 通过以上几种方法,您可以根据需要选择合适的方式来并行执行 Puppeteer 测试。这可以大大提高测试的效率,并模拟更加贴近真实世界的用户场景。记住,进行并行测试时,要确保测试相互之间是独立的,避免状态污染导致测试结果不准确。
阅读 30 · 6月27日 12:14