CS101：使用Python搭建搜索引擎-Unit1

本文为学习Udacity弗吉尼亚大学cs101课程《Intro to Computer Science》过程中的笔记。

Unit 1

如何开始

本课程通过学习如何使用Python建立一个简单的搜索引擎，从而掌握Python编程入门以及计算机科学的基本知识。计算机科学是通过将问题——如建立搜索引擎——分解成更小的部分来解决，如下图。

建立搜索引擎.png

将建立搜索引擎的问题分解为：

1. 编写网络爬虫，从而寻找数据
2. 创建索引，以便于搜索
3. 结果页面排序，以便于获得满意的结果

第一单元的目标是学习如何从页面中抓取第一个链接。

算术语法

加法:<number> + <number>
输出两个输入数字的和

乘法:<number> ***** <number>
输出两个输入数字的积

​减法:<number> - <number>
输出第一个数字减去第二个数字的差

​除法:<number> / <number>
输出第一个数字除以第二个数字的商
（若两个数字都是整数，则结果只保留整数部分）

变量及赋值

变量名

Python使用变量名来定义一个变量，该变量可以指向一个值，从而达到复用的效果。Python中的变量名可以由任意字母、数字及下划线（ _ ）组成，但不能以数字开头。一般使用全小写来命名变量，而且变量名大小写敏感，即myname不等于Myname。以下是一些合法的Python变量：

my_name
one2one
​Dorian
this_is_a_very_long_variable_name

赋值语句

赋值语句讲一个值赋予一个变量

​<Name> = <Expression>

赋值之后，变量<Name>将会指向表达式<Expression>的值。<Expression>可以是任何具有值的Python结构。

多重赋值

可以在一个赋值语句的左侧放置多个变量名，然后在右侧放置相应数量的表达式：

<Name1>, <Name2>, ... = <Expression1>, <Expression2>, ...

这种情况下右侧的所有表达式都会先被求值，然后被赋予左侧相应的变量，即

​<Name1> = <Expression1>
<Name2> = <Expression2>

这种方法可以方便地交换两个变量的值，如：

s, t = t, s

s将会被赋予t之前的值，t将会被赋予s之前的值。

字符串

字符串是一系列使用引号包围的字符列。引号可以是双引号也可以是单引号，但是同一个字符串的前后引号必须是同一种。以下是Python中一些合法的字符串：

​"silly"
'string'
"I'm a valid string, even with a single quote in the middle!"

字符串连接

可以对字符串使用 + 操作符，但和使用在数字上相比有不同含义。

字符串连接: <String> + <String>
输出两个输入字符串的连接结果（将两个字符串连接成新的字符串，字符串之间没有空格）

也可以对字符串使用 ***** 操作符：

​字符串倍增： <String> ***** <Number>
输出将<Number>个<String>相连的结果

字符串索引

索引操作符可以取得字符串中相应位置的单个字符。

字符串索引： <String>[<Number>]
输出<String>中<Number>位置的单个字符。字符串的位置由0开始计数，因此s[1]输出s中的第二个字符。如果<Number>为负数，则将从字符串的末尾开始计数：s[-1]输出s**中的最后一个字符。

字符串提取： <String>[<Start Number>:<Stop Number>]
输出<String>中从位置<Start Number>到位置<Stop Number>前一位的字符串子集。如果<Start Number>缺失，则从字符串开头开始；如果<Stop Number>缺失，则一直持续到字符串结尾。

寻找字符串中的子集

find方法提供了在字符串中寻找字符子集的手段。

​寻找字符串： <search string>.find(<target string>)
输出一个数字表示字符串<search string>中第一次出现字符串<target string>的位置。若<search string>中不存在<target string>，则输出-1。

我们可以给find传入一个数字，达到在某个位置后寻找的效果。

​在...之后寻找字符串： <search string>.find(<target string>, <start number>)
输出一个数字表示在字符串<search string>的位置<start number>上及之后第一次出现字符串<target string>的位置。若<search string>中位置<start number>之后不存在<target string>，则输出-1。

将数字转换为字符串

str： str(<Number>)
输出一个对应输入数字的字符串。例如：

**str(23) **输出字符串 '23'。

抓取页面中第一个链接

运用以上的知识，我们就可以开始抓取链接了。用浏览器打开一个网页，右键点击空白地方，选择“显示网站源文件”，我们可以看到页面的html源代码。其中链接一般是以<a href="…">的方式标记（实际可能有其他更多的情况，为了简化先假设所有链接都以这种形式书写）。

我们可以将网页的源代码复制出来，作为字符串存入变量page。代码如下：

#将网页html源代码存入page
page = '''<div id="top_bin"> <div id="top_content" class="width960"><div class="udacity float-left"> <a href="/">...'''
start_link = page.find('<a href=')                #找到链接标签的位置
start_quote = page.find('"', start_link)          #找到包含链接的前引号"的位置
end_quote = page.find('"', start_quote + 1)       #找到包含链接的后引号"的位置
url = page[start_quote + 1:end_quote]             #两个引号之间即为链接，存入url
print url                                         #显示url

运行以上代码，我们就获得了一个网页中的第一个链接，并且存入了变量url中。