HOME 首页
SERVICE 服务产品
XINMEITI 新媒体代运营
CASE 服务案例
NEWS 热点资讯
ABOUT 关于我们
CONTACT 联系我们
创意岭
让品牌有温度、有情感
专注品牌策划15年

    抓取微信APP登录数据

    发布时间:2023-03-21 12:44:52     稿源: 创意岭    阅读: 1118        问大家

    大家好!今天让创意岭的小编来大家介绍下关于抓取微信APP登录数据的问题,以下是小编对此问题的归纳整理,让我们一起来看看吧。

    本文目录:

    抓取微信APP登录数据

    一、如何抓取微信所有公众号最新文章

    经常有朋友需要帮忙做公众号文章爬取,这次来做一个各种方法的汇总说明。

    目前爬取微信公众号的方法主要有3种:

    • 通过爬取第三方的公众号文章聚合网站

    • 通过微信公众平台引用文章接口

    • 通过抓包程序,分析微信app访问公众号文章的接口

    • 通过第三方的公众号文章聚合网站爬取

      微信公众号文章一直没有提供一个对外的搜索功能,直到2013年微信投资搜狗之后,搜狗搜索接入微信公众号数据,从此使用搜狗搜索就可以浏览或查询到相关公众号以及文章。

      域名是: https://weixin.sogou.com/

    可以直接搜索公众号或者文章的关键字,一些热门的公众号更新还是很及时的,几乎做到了和微信同步。

    所以,爬一些热门公众号可以使用搜狗微信的接口来做,但是一些小众公众号是搜索不到的,而且搜狗的防爬机制更新的比较勤,获取数据的接口变化的比较快,经常两三个月就有调整,导致爬虫很容易挂,这里还是建议使用 selenium爬比较省心。另外搜狗对每个ip也有访问限制,访问太频ip会被封禁24小时,需要买个ip池来做应对。

    还有一些其他公众号文章聚合网站(比如传送门)也都存在更新不及时或者没有收录的问题,毕竟搜狗这个亲儿子都不行。

    通过微信公众平台引用文章接口

    这个接口比较隐蔽而且没法匿名访问,所有得有一个公众号,建议新注册一个公众号比较好,免得被封。

    下面开始具体步骤:首先登录自己的微信公众号,在进去的首页选择 新建群发,然后再点击 自建图文,在文章编辑工具栏中找到 超链接,如下图:

    点击这个超链接按钮,就会弹出一个对话框,链接输入方式这一项选中 查找文章,如下图:

    到这里就可以输入公众号的名字,回车之后微信就会返回相匹配的公众号列表,接着点击你想抓取的公众号,就会显示具体的文章列表了,已经是按时间倒序了,最新的文章就是第一条了。

    微信的分页机制比较奇怪,每个公众号的每页显示的数据条数是不一样的,分页爬的时候要处理一下。

    通过chrome分析网络请求的数据,我们想要的数据已经基本拿到了,文章链接、封面、发布日期、副标题等,如

    由于微信公众平台登录验证比较严格,输入密码之后还必须要手机扫码确认才能登录进去,所以最好还是使用 selenium做自动化比较好。具体微信接口的分析过程我就不列了,直接贴代码了:

    • import re

    • import time

    • import random

    • import traceback

    • import requests

    • from selenium import webdriver

    • class Spider(object):

    • '''

    • 微信公众号文章爬虫

    • '''

    • def __init__(self):

    • # 微信公众号账号

    • self.account = '286394973@qq.com'

    • # 微信公众号密码

    • self.pwd = 'lei4649861'

    • def create_driver(self):

    • '''

    • 初始化 webdriver

    • '''

    • options = webdriver.ChromeOptions()

    • # 禁用gpu加速,防止出一些未知bug

    • options.add_argument('--disable-gpu')

    • # 这里我用 chromedriver 作为 webdriver

    • # 可以去 http://chromedriver.chromium.org/downloads 下载你的chrome对应版本

    • self.driver = webdriver.Chrome(executable_path='./chromedriver', chrome_options=options)

    • # 设置一个隐性等待 5s

    • self.driver.implicitly_wait(5)

    • def log(self, msg):

    • '''

    • 格式化打印

    • '''

    • print('------ %s ------' % msg)

    • def login(self):

    • '''

    • 登录拿 cookies

    • '''

    • try:

    • self.create_driver()

    • # 访问微信公众平台

    • self.driver.get('https://mp.weixin.qq.com/')

    • # 等待网页加载完毕

    • time.sleep(3)

    • # 输入账号

    • self.driver.find_element_by_xpath("./*//input[@name='account']").clear()

    • self.driver.find_element_by_xpath("./*//input[@name='account']").send_keys(self.account)

    • # 输入密码

    • self.driver.find_element_by_xpath("./*//input[@name='password']").clear()

    • self.driver.find_element_by_xpath("./*//input[@name='password']").send_keys(self.pwd)

    • # 点击登录

    • self.driver.find_elements_by_class_name('btn_login')[0].click()

    • self.log("请拿手机扫码二维码登录公众号")

    • # 等待手机扫描

    • time.sleep(10)

    • self.log("登录成功")

    • # 获取cookies 然后保存到变量上,后面要用

    • self.cookies = dict([[x['name'], x['value']] for x in self.driver.get_cookies()])

    • except Exception as e:

    • traceback.print_exc()

    • finally:

    • # 退出 chorme

    • self.driver.quit()

    • def get_article(self, query=''):

    • try:

    • url = 'https://mp.weixin.qq.com'

    • # 设置headers

    • headers = {

    • "HOST": "mp.weixin.qq.com",

    • "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.109 Safari/537.36"

    • }

    • # 登录之后的微信公众号首页url变化为:https://mp.weixin.qq.com/cgi-bin/home?t=home/index&lang=zh_CN&token=1849751598,

    • # 从这里获取token信息

    • response = requests.get(url=url, cookies=self.cookies)

    • token = re.findall(r'token=(d+)', str(response.url))[0]

    • time.sleep(2)

    • self.log('正在查询[ %s ]相关公众号' % query)

    • search_url = 'https://mp.weixin.qq.com/cgi-bin/searchbiz?'

    • # 搜索微信公众号接口需要传入的参数,

    • # 有三个变量:微信公众号token、随机数random、搜索的微信公众号名字

    • params = {

    • 'action': 'search_biz',

    • 'token': token,

    • 'random': random.random(),

    • 'query': query,

    • 'lang': 'zh_CN',

    • 'f': 'json',

    • 'ajax': '1',

    • 'begin': '0',

    • 'count': '5'

    • }

    • # 打开搜索微信公众号接口地址,需要传入相关参数信息如:cookies、params、headers

    • response = requests.get(search_url, cookies=self.cookies, headers=headers, params=params)

    • time.sleep(2)

    • # 取搜索结果中的第一个公众号

    • lists = response.json().get('list')[0]

    • # 获取这个公众号的fakeid,后面爬取公众号文章需要此字段

    • fakeid = lists.get('fakeid')

    • nickname = lists.get('nickname')

    • # 微信公众号文章接口地址

    • search_url = 'https://mp.weixin.qq.com/cgi-bin/appmsg?'

    • # 搜索文章需要传入几个参数:登录的公众号token、要爬取文章的公众号fakeid、随机数random

    • params = {

    • 'action': 'list_ex',

    • 'token': token,

    • 'random': random.random(),

    • 'fakeid': fakeid,

    • 'lang': 'zh_CN',

    • 'f': 'json',

    • 'ajax': '1',

    • 'begin': '0', # 不同页,此参数变化,变化规则为每页加5

    • 'count': '5',

    • 'query': '',

    • 'type': '9'

    • }

    • self.log('正在查询公众号[ %s ]相关文章' % nickname)

    • # 打开搜索的微信公众号文章列表页

    • response = requests.get(search_url, cookies=self.cookies, headers=headers, params=params)

    • time.sleep(2)

    • for per in response.json().get('app_msg_list', []):

    • print('title ---> %s' % per.get('title'))

    • print('link ---> %s' % per.get('link'))

    • # print('cover ---> %s' % per.get('cover'))

    • except Exception as e:

    • traceback.print_exc()

    • if __name__ == '__main__':

    • spider = Spider()

    • spider.login()

    • spider.get_article('python')

    代码只是作为学习使用,没有做分页查询之类。实测过接口存在访问频次限制,一天几百次还是没啥问题,太快或者太多次访问就会被封24小时。

    二、xposed + python 怎么爬取微信朋友圈的数据

    有JAVA的,你参考一下

    主要思路

    从UI获取文本信息是最为简单的方法,于是应该优先逆向UI代码部分。

    逆向微信apk

    首先解包微信apk,用dex2jar反编译classes.dex,然后用JD-GUI查看jar源码。当然,能看到的源码都是经过高度混淆的。但是,继承自安卓重要组件(如Activity、Service等)的类名无法被混淆,于是还是能从中看到点东西。

    首先定位到微信APP package。我们知道这个是 com.tencent.mm

    在 com.tencent.mm

    中,我们找到一个 ui

    包,有点意思。

    展开 com.tencent.mm.ui

    ,发现多个未被混淆的类,其中发现 MMBaseActivity

    直接继承自 Activity

    , MMFragmentActivity

    继承自 ActionBarActivity

    , MMActivity

    继承自 MMFragmentActivity

    ,并且 MMActivity

    是微信中大多数Activity的父类:

    public class MMFragmentActivity

    extends ActionBarActivity

    implements SwipeBackLayout.a, b.a {

    ...

    }

    public abstract class MMActivity

    extends MMFragmentActivity {

    ...

    }

    public class MMBaseActivity

    extends Activity {

    ...

    }

    现在需要找出朋友圈的Activity,为此要用Xposed hook MMActivity

    创建一个Xposed模块

    参考 [TUTORIAL]Xposed module devlopment

    ,创建一个Xposed项目。

    简单Xposed模块的基本思想是:hook某个APP中的某个方法,从而达到读写数据的目的。

    小编尝试hook com.tencent.mm.ui.MMActivity.setContentView

    这个方法,并打印出这个Activity下的全部TextView内容。那么首先需要遍历这个Activity下的所有TextView,遍历ViewGroup的方法参考了SO的以下代码:

    private void getAllTextViews(final View v) {

    if (v instanceof ViewGroup) {

    ViewGroup vg = (ViewGroup) v;

    for (int i = 0; i < vg.getChildCount(); i++) {

    View child = vg.getChildAt(i);

    getAllTextViews(child);

    }

    } else if (v instanceof TextView ) {

    dealWithTextView((TextView)v); //dealWithTextView(TextView tv)方法:打印TextView中的显示文本

    }

    }

    Hook MMActivity.setContentView

    的关键代码如下:

    findAndHookMethod("com.tencent.mm.ui.MMActivity", lpparam.classLoader, "setContentView", View.class, new XC_MethodHook() {

    ...

    });

    在findAndHookMethod方法中,第一个参数为完整类名,第三个参数为需要hook的方法名,其后若干个参数分别对应该方法的各形参类型。在这里, Activity.setContentView(View view)

    方法只有一个类型为 View

    的形参,因此传入一个 View.class

    现在,期望的结果是运行时可以从Log中读取到每个Activity中的所有的TextView的显示内容。

    但是,因为View中的数据并不一定在 setContentView()

    时就加载完毕,因此小编的实验结果是,log中啥都没有。

    意外的收获

    当切换到朋友圈页面时,Xposed模块报了一个异常,异常源从 com.tencent.mm.plugin.sns.ui.SnsTimeLineUI

    这个类捕捉到。从类名上看,这个很有可能是朋友圈首页的UI类。展开这个类,发现更多有趣的东西:

    这个类下有个子类 a

    (被混淆过的类名),该子类下有个名为 gyO

    的 ListView

    类的实例。我们知道, ListView

    是显示列表类的UI组件,有可能就是用来展示朋友圈的列表。

    顺藤摸瓜

    那么,我们先要获得一个 SnsTimeLineUI.a.gyO

    的实例。但是在这之前,要先获得一个 com.tencent.mm.plugin.sns.ui.SnsTimeLineUI.a

    的实例。继续搜索,发现 com.tencent.mm.plugin.sns.ui.SnsTimeLineUI

    有一个名为 gLZ

    的 SnsTimeLineUI.a

    实例,那么我们先取得这个实例。

    经过测试, com.tencent.mm.plugin.sns.ui.SnsTimeLineUI.a(boolean, boolean, String, boolean)

    这个方法在每次初始化微信界面的时候都会被调用。因此我们将hook这个方法,并从中取得 gLZ

    findAndHookMethod("com.tencent.mm.plugin.sns.ui.SnsTimeLineUI", lpparam.classLoader, "a", boolean.class, boolean.class, String.class, boolean.class, new XC_MethodHook() {

    @Override

    protected void afterHookedMethod(MethodHookParam param) throws Throwable {

    XposedBridge.log("Hooked. ");

    Object currentObject = param.thisObject;

    for (Field field : currentObject.getClass().getDeclaredFields()) { //遍历类成员

    field.setAccessible(true);

    Object value = field.get(currentObject);

    if (field.getName().equals("gLZ")) {

    XposedBridge.log("Child A found.");

    childA = value;

    //这里获得了gLZ

    ...

    }

    }

    }

    });

    现在取得了 SnsTimeLineUI.a

    的一个实例 gLZ

    ,需要取得这个类下的 ListView

    类型的 gyO

    属性。

    private void dealWithA() throws Throwable{

    if (childA == null) {

    return;

    }

    for (Field field : childA.getClass().getDeclaredFields()) { //遍历属性

    field.setAccessible(true);

    Object value = field.get(childA);

    if (field.getName().equals("gyO")) { //取得了gyO

    ViewGroup vg = (ListView)value;

    for (int i = 0; i < vg.getChildCount(); i++) { //遍历这个ListView的每一个子View

    ...

    View child = vg.getChildAt(i);

    getAllTextViews(child); //这里调用上文的getAllTextViews()方法,每一个子View里的所有TextView的文本

    ...

    }

    }

    }

    }

    现在已经可以将朋友圈页面中的全部文字信息打印出来了。我们需要根据TextView的子类名判断这些文字是朋友圈内容、好友昵称、点赞或评论等。

    private void dealWithTextView(TextView v) {

    String className = v.getClass().getName();

    String text = ((TextView)v).getText().toString().trim().replaceAll("\n", " ");

    if (!v.isShown())

    return;

    if (text.equals(""))

    return;

    if (className.equals("com.tencent.mm.plugin.sns.ui.AsyncTextView")) {

    //好友昵称

    ...

    }

    else if (className.equals("com.tencent.mm.plugin.sns.ui.SnsTextView")) {

    //朋友圈文字内容

    ...

    }

    else if (className.equals("com.tencent.mm.plugin.sns.ui.MaskTextView")) {

    if (!text.contains(":")) {

    //点赞

    ...

    } else {

    //评论

    ...

    }

    }

    }

    自此,我们已经从微信APP里取得了朋友圈数据。当然,这部分抓取代码需要定时执行。因为从 ListView

    中抓到的数据只有当前显示在屏幕上的可见部分,为此需要每隔很短一段时间再次执行,让用户在下滑加载的过程中抓取更多数据。

    剩下的就是数据分类处理和格式化输出到文件,受本文篇幅所限不再赘述,详细实现可参考作者GitHub上的源码。

    三、怎样通过app查看微信被谁登录过

    微信里面有订阅号、可以自己查看。

    四、微信聊天记录如何提取出来

    微信聊天记录提取出来的具体操作如下:

    工具:华为手机。微信APP

    1、打开手机,登录微信主页面,点击右下角的“我”。

    2、点击界面中的【设置】选项卡。

    3、在【设置】界面中,选择【聊天】选项卡。

    4、在接下来弹出的界面中,选择【聊天记录备份与迁移】选项卡,然后就可以导出微信聊天记录了。

    以上就是关于抓取微信APP登录数据相关问题的回答。希望能帮到你,如有更多相关问题,您也可以联系我们的客服进行咨询,客服也会为您讲解更多精彩的知识和内容。


    推荐阅读:

    特征抓取SEO(特征搜索算法)

    抓取百度关键词电话(抓取百度关键词电话的方法)

    关键词每半小时抓取(关键词时长)

    学生形象

    转mbr后无法进入系统(mbr转guid后无法启动)