Google搜索引擎架构研究
Google搜索引擎架构研究
【摘 要】 google做为世界上最成功的网络公司之一,以其巨大,快速的搜索引擎而著名。但很少有人了解能了解如何将数万台pc组织成为一个强大的,可靠的,可扩展的分布式系统。本文简要介绍的google的主要后台架构gfs,mapreduce和bigtable。
【关键词】 google gfs mapreduce bigtable
1 google要解决的问题
(1)web是非常巨大的,并且以指数级别在增长。
(2)web中存在不同形式的资源:
word,html,pdf,ascii,images
(3)检索时间要极短不能让用户等待。
(4)各种民族各种语言不同,需要不同的分词方法。
(5)系统能够每天承受每天上亿次的检索。
(6)优化结果的排序规则,把用户最需要的信息展现在最前面。 2 google的分布式设计结构
google的分布式设计是一项伟大的设计,它建立在上万台计算机上。面的上万台的复杂系统结构google在设计系统的开始就有一个假设:“机器是会出问题的。”“容许机器出问题,但机器必需自动跳过或自动修复这些问题。”如图1所示,是一张google分布式设计的基本结构图。
2.1 抓取部分
url server:存储url列表,这些url都是将要被抓取的对象。
你可能喜欢
- 系统架构概述
- 淘宝技术
- 搜索引擎技术
- 淘宝平台
- 网络搜索
- 体系结构
- 存储架构
- 2.1系统架构概述11页
- 2012 - 第1章 J2EE系统架构概述48页
- 第1章 J2EE系统架构概述112页
- MAXIMO系统架构和技术概述11页
- mySAP ERP系统架构概述6页
- MAXIMO系统架构和技术概述8页
- 淘宝数据魔方技术架构解析8页
- 淘宝技术嘉年华--TaobaoABS演示12页
- 淘宝SEO技术50页
- 掌握淘宝SEO技术,轻松获得百万IP流量73页
- 淘宝技术这十年_0127页
- 淘宝客推广技术1页
- 如何从淘宝分销平台下载宝贝获得授权3页
- 淘宝开放平台API技术分析70页
- 《淘宝分销平台管理规范》2页
- 淘宝分销平台管理规范2012年3月19日生效8页
- 淘宝网装修平台特色模板推荐规则4页
- 淘宝开放平台产品设计文档模板10页
- 网络搜索工具的使用 A13页
- 网络信息搜索练习题2页
- 小学生网络搜索竞赛试题3页
- 网络搜索林黛玉进贾府张青4页
- 网络信息大搜索教学设计5页
- 网络搜索教学设计文档5页
- 3、体系结构3 10110131页
- 软件体系结构20页
- 数据库第4次课 体系结构11页
- OpenLayers体系结构23页
- 组成与体系结构(4)58页
- 互联网体系结构复习计划3页


