立即注册  找回密码
 立即注册
CeraNetworksBGVM服务器主机交流会员请立即修改密码Sharktech防护
查看: 61|回复: 9

咨询一个双IP爬虫的问题

[复制链接]

咨询一个双IP爬虫的问题

[复制链接]

51

主题

189

回帖

813

积分

高级会员

积分
813
TMD

51

主题

189

回帖

813

积分

高级会员

积分
813
2020-3-2 16:47:40 | 显示全部楼层 |阅读模式
加入一台机器有两个IP
1.1.1.1和2.2.2.2

建立两个站点

a.com绑定1.1.1.1
b.com绑定2.2.2.2

那么a.com下面的爬虫出去爬东西的时候是不是以1.1.1.1这个ip去爬的,会不会出现2.2.2.2?
回复

使用道具 举报

0

主题

235

回帖

486

积分

中级会员

积分
486
我是一个大水怪

0

主题

235

回帖

486

积分

中级会员

积分
486
2020-3-2 17:00:39 | 显示全部楼层
本帖最后由 我是一个大水怪 于 2020-3-2 17:02 编辑

两个都是公网IP,没使用代理、隧道,爬虫所使用的IP取决于该爬虫建立TCP连接时所使用的本地地址,如果未指定则自动选择。

建议你从爬虫框架、编程语言、操作系统这3个层次来分析被使用的本地地址。
回复

使用道具 举报

6

主题

339

回帖

966

积分

高级会员

积分
966
guoguomiao

6

主题

339

回帖

966

积分

高级会员

积分
966
2020-3-2 17:02:11 | 显示全部楼层
首先。主动发起的连接。和被绑定的域名是不可能有联系的。
被访问的那里只有访问者的IP。
那么问题就呼之欲出了。

至于你出现在别人那里的IP。就是你本地的路由规则问题了
回复

使用道具 举报

51

主题

189

回帖

813

积分

高级会员

积分
813
TMD 楼主

51

主题

189

回帖

813

积分

高级会员

积分
813
2020-3-2 17:18:35 | 显示全部楼层

我是一个大水怪 发表于 2020-3-2 17:00

两个都是公网IP,没使用代理、隧道,爬虫所使用的IP取决于该爬虫建立TCP连接时所使用的本地地址,如果未指 ...

php的爬虫,那么能不能指定a.com这个域名只以1.1.1.1这个IP去爬?
回复

使用道具 举报

51

主题

189

回帖

813

积分

高级会员

积分
813
TMD 楼主

51

主题

189

回帖

813

积分

高级会员

积分
813
2020-3-2 17:00:00 | 显示全部楼层

guoguomiao 发表于 2020-3-2 17:02

首先。主动发起的连接。和被绑定的域名是不可能有联系的。
被访问的那里只有访问者的IP。
那么问题就呼之欲 ...

a.com这个域名发起的链接能不能指定他用1.1.1.1建立链接呢?
回复

使用道具 举报

6

主题

339

回帖

966

积分

高级会员

积分
966
guoguomiao

6

主题

339

回帖

966

积分

高级会员

积分
966
2020-3-2 17:19:58 | 显示全部楼层

TMD 发表于 2020-3-2 17:19

a.com这个域名发起的链接能不能指定他用1.1.1.1建立链接呢?

emmm。都说了。主动发起的连接取决于发起设备的路由规则。
回复

使用道具 举报

51

主题

189

回帖

813

积分

高级会员

积分
813
TMD 楼主

51

主题

189

回帖

813

积分

高级会员

积分
813
2020-3-2 17:02:00 | 显示全部楼层

guoguomiao 发表于 2020-3-2 17:20

emmm。都说了。主动发起的连接取决于发起设备的路由规则。

听这话应该是不能指定了
回复

使用道具 举报

0

主题

235

回帖

486

积分

中级会员

积分
486
我是一个大水怪

0

主题

235

回帖

486

积分

中级会员

积分
486
2020-3-2 17:20:55 | 显示全部楼层

TMD 发表于 2020-3-2 17:18

php的爬虫,那么能不能指定a.com这个域名只以1.1.1.1这个IP去爬?

不了解PHP。

但不是给你思路了吗?去读你使用的框架文档、去读PHP的文档、按照关键字去Google。

参考:golang的tcp api可以指定发起tcp的本地地址。
回复

使用道具 举报

0

主题

8

回帖

30

积分

新手上路

积分
30
Yancheng

0

主题

8

回帖

30

积分

新手上路

积分
30
2020-3-2 17:19:00 | 显示全部楼层
wget curl 都可以了
php 不熟, php 爬蟲應該是 curl 吧
https://stackoverflow.com/questions/2425651/select-outgoing-ip-for-curl-request
回复

使用道具 举报

51

主题

189

回帖

813

积分

高级会员

积分
813
TMD 楼主

51

主题

189

回帖

813

积分

高级会员

积分
813
2020-3-2 17:22:21 | 显示全部楼层

Yancheng 发表于 2020-3-2 17:31

wget curl 都可以了
php 不熟, php 爬蟲應該是 curl 吧
https://stackoverflow.com/questions/2425651/sele ...

大佬威武,就是这个东西,我怎么没搜索到,看来不懂英语真不行呀
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|小黑屋|HS2V主机综合交流论坛

GMT+8, 2024-12-19 07:55 , Processed in 0.026578 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表