python学习之路(15),python学习之路15,map/reduce


map/reduce


Python内建了map()和reduce()函数。

如果你读过Google的那篇大名鼎鼎的论文“MapReduce: Simplified Data Processing on Large Clusters”,你就能大概明白map/reduce的概念。

我们先看map。map()函数接收两个参数,一个是函数,一个是Iterable,map将传入的函数依次作用到序列的每个元素,并把结果作为新的Iterator返回。

举例说明,比如我们有一个函数f(x)=x2,要把这个函数作用在一个list [1, 2, 3, 4, 5, 6, 7, 8, 9]上,就可以用map()实现如下:

>>> def f(x):    return x*x>>> r=map(f,[1,2,3,4,5,6,7,8,9])>>> list(r)[1, 4, 9, 16, 25, 36, 49, 64, 81]

map()传入的第一个参数是f,即函数对象本身。由于结果r是一个Iterator,Iterator是惰性序列,因此通过list()函数让它把整个序列都计算出来并返回一个list。

你可能会想,不需要map()函数,写一个循环,也可以计算出结果:

>>> for n in range(1,11):    l.append(f(n))    >>> print(l)[1, 4, 9, 16, 25, 36, 49, 64, 81, 100]

的确可以,但是,从上面的循环代码,能一眼看明白“把f(x)作用在list的每一个元素并把结果生成一个新的list”吗?

所以,map()作为高阶函数,事实上它把运算规则抽象了,因此,我们不但可以计算简单的f(x)=x2,还可以计算任意复杂的函数,比如,把这个list所有数字转为字符串:

>>> a=list(map(str,range(1,11)))>>> a[‘1‘, ‘2‘, ‘3‘, ‘4‘, ‘5‘, ‘6‘, ‘7‘, ‘8‘, ‘9‘, ‘10‘]

只需要一行代码。

再看reduce的用法。reduce把一个函数作用在一个序列[x1, x2, x3, ...]上,这个函数必须接收两个参数,reduce把结果继续和序列的下一个元素做累积计算,其效果就是:

reduce(f, [x1, x2, x3, x4]) = f(f(f(x1, x2), x3), x4)

比方说对一个序列求和,就可以用reduce实现:

from functools import reduce>>> def add(x, y):...     return x + y...>>> reduce(add, [1, 3, 5, 7, 9])25

当然求和运算可以直接用Python内建函数sum(),没必要动用reduce。

但是如果要把序列[1, 3, 5, 7, 9]变换成整数13579,reduce就可以派上用场:

>>> from functools import reduce>>> def fn(x,y):    return x*10+y>>> reduce(fn,range(1,10,2))13579

这个例子本身没多大用处,但是,如果考虑到字符串str也是一个序列,对上面的例子稍加改动,配合map(),我们就可以写出把str转换为int的函数:

>>> def str2int(c):    def fn(x,y):        return x*10+y    def char2num(c):        return a[c]    return reduce(fn,map(char2num,c))>>> str2int(‘546854‘)546854

还可以用lambda函数进一步简化成:

>>> def str2int(c):    return reduce(lambda x,y: x*10+y,map(char2num,c))>>> def char2num(c):    return a[c]>>> str2int(‘45646546‘)45646546

也就是说,假设Python没有提供int()函数,你完全可以自己写一个把字符串转化为整数的函数,而且只需要几行代码!

lambda函数的用法在后面介绍。

练习

利用map()函数,把用户输入的不规范的英文名字,变为首字母大写,其他小写的规范名字。输入:[‘adam‘, ‘LISA‘, ‘barT‘],输出:[‘Adam‘, ‘Lisa‘, ‘Bart‘]:

upper()——所有字母大写

lower()——所有字母小写

capitalize()——首字母大写,其他字母小写

title()——所有单词首字母大写,其他小写

>>> def a(list):
for i in range(len(list)):
list[i]=list[i][0].upper()+lista[i][1:]
return list

>>> print(a(aaa))

[‘Dog‘, ‘Cat‘]

python学习之路(15)

评论关闭