Java学习者论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

手机号码,快捷登录

恭喜Java学习者论坛(https://www.javaxxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,购买链接:点击进入购买VIP会员
JAVA高级面试进阶视频教程Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程

Go语言视频零基础入门到精通

Java架构师3期(课件+源码)

Java开发全终端实战租房项目视频教程

SpringBoot2.X入门到高级使用教程

大数据培训第六期全套视频教程

深度学习(CNN RNN GAN)算法原理

Java亿级流量电商系统视频教程

互联网架构师视频教程

年薪50万Spark2.0从入门到精通

年薪50万!人工智能学习路线教程

年薪50万!大数据从入门到精通学习路线年薪50万!机器学习入门到精通视频教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程 MySQL入门到精通教程
查看: 1221|回复: 0

Java编写的spider网络爬虫程序源码 下载

[复制链接]

该用户从未签到

发表于 2011-9-16 11:19:08 | 显示全部楼层 |阅读模式

1、要想运行次爬虫程序首先要有个前提条件,因为本爬虫程序采用了分词的技术,所以需要加载一个字典文件,此字典文件在爬虫程序中要求放在此目录结构下:c:\dictionary\dictionary.txt,词典默认认为是按照词语长到短的顺序排列的
2、此爬虫程序爬到的网页内容存储到数据库中,运用的是SQL Server 2005,在此数据库下有一个叫javadatabase的数据库,下面有个叫做webinfo的表格,表格的列有:id(int),url(varchar(50)),title(varchar(max)),body(text),bodyppl(text)

3、程序中运用了基于字符串匹配的分此方法中的正向最大匹配法

4、此爬虫程序采用的是广度优先的搜索方法搜索网络中的网页,仅仅实现了搜索“河北大学”的网络资源,程序中采用队列的方式存储已经访问过的网页的URL,以避免重复的抓取同一个网页的现象发生,待抓取的网页存储在一个链表中,链表的每个结点存储着待抓取的网页的URL信息


下载地址:
Java编写的spider网络爬虫程序源码 下载
回复

使用道具 举报

该用户从未签到

发表于 2011-10-24 14:08:23 | 显示全部楼层
让我下载一下嘛,看看!
回复 支持 反对

使用道具 举报

该用户从未签到

发表于 2012-3-6 11:20:26 | 显示全部楼层
多谢分享
回复 支持 反对

使用道具 举报

该用户从未签到

发表于 2012-3-9 17:20:10 | 显示全部楼层
看看呢
回复 支持 反对

使用道具 举报

该用户从未签到

发表于 2012-3-9 17:25:46 | 显示全部楼层
楼主跟本没有数据库,请你发给我我QQ115889198
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|手机版|Java学习者论坛 ( 声明:本站资料整理自互联网,用于Java学习者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

GMT+8, 2024-12-23 05:12 , Processed in 0.371226 second(s), 37 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表