百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

Python之函数式编程:深入理解惰性求值与生成器

connygpt 2024-12-01 08:21 19 浏览

引言

我们在过程式编程或者面向对象编程中(当然也不局限于这些),涉及到计算、数据的转换处理时,通常是执行到对应的语句或者表达式时,就会完成计算或者数据处理。大多数场景下,这样立即计算的方式是没有问题的,但是当涉及到大数据场景时,可能会存在性能上的问题。

本文介绍的函数式编程中的另一个关键特性:惰性求值,可以用来涉及到大数据的计算、处理场景。

本文的主要内容有:

1、什么是惰性求值

2、惰性求值的适用场景

3、基于生成器实现惰性求值


什么是惰性求值

所谓“惰性求值(Lazy Evaluation)”是一种计算的策略,即在真正需要时才进行计算,而不是立即计算。

在惰性求值中,表达式的计算被推迟,直到结果确实需要的时候才进行真正的计算。

与之相对的是“及早计算(Eager Evaluation)”,这种策略是我们之前已经广泛使用到的,执行到表达式时,就会立即完成计算,并获取结果。

在不同的教材中,有时也会用另一种表述方式:“严格求值”与“非严格求值”。从字面意思就可以理解,所谓严格求值就是及早计算,所谓非严格求值就是惰性求值的意思。

需要说明的是,前面的其他特性更多的体现了函数式编程范式的简洁性、状态管理比较清晰、易于调试、测试等。而函数式编程之所以高效,原因之一就在于这种惰性求值的特性。

其实,Python或者其他语言中,经常用到的“短路运算”,也可以算作是惰性求值的一种形式。

比如:

age = 19
age >= 18 and print('成年人可以进网吧')
print('=' * 20)
age = 12
# 短路,后两行的print()均不会执行
age >= 18 and print('成年人可以进网吧')
age < 18 or print('未成年人等几年再来吧,如果网吧还在的话')

上面代码中,只有第一个print()会被执行,最后两个print()都不会被执行,由于短路运算的操作,没有执行的必要了。

在Python中,运算符and、or和if-else等都是非严格的,因为它们不需要计算全部参数就能提前得到整个表达式的最终结果了。

在其他语言中,也有同样的短路运算的实现。


惰性求值的适用场景

惰性求值的出发点在于进行性能优化,提升效率。所以,只要涉及到有性能优化的需要,都可以试着考虑能否通过惰性求值来实现。

惰性求值的典型场景主要有:

1、处理大数据集:当需要处理无法一次性装入内存的大数据集时,比如较大的文件、大型数据库的查询结果等,都可以使用惰性求值来优化内存的使用。

2、生成无限序列:如果需要一个无限的序列或者序列比较大,很可能导致内存溢出,这时,也可以考虑使用惰性求值来实现。

3、延迟计算以提高性能:当某些计算开销较大时,但是,并不总是需要用到其计算结果,那么就可以使用惰性求值,从而避免不必要的计算,从而提高性能。

4、流处理(Stream Processing):在大数据计算中,除了离线的批量计算外,还有一类场景的使用越来越频繁,就是实时大数据处理,也可以理解为实时流式数据处理,数据像流水一样,是持续的流转的,比如用户行为日志、传感器的监测数据等。这些场景也适合惰性求值。


基于生成器实现惰性求值

在Python中,要实现惰性求值,除了前面提到的“短路运算”外,其实更常用的是使用“生成器”。

生成器(Generator)是Python中一种特殊的迭代器,允许我们以惰性(lazy)的方式来生成序列的元素。

生成器主要是使用yield关键字来返回值,而不是像普通函数那样使用return返回。生成器函数在每次被调用时会暂停,并在下次调用时继续执行当前的位置,从而节省内存和提高效率。

Python中有两种方式来使用生成器:

1、使用生成器表达式来获得生成器,类似于列表推导式,只需要把[]换为(),既可以快速得到一个生成器。

2、通过定义函数的方式定义一个生成器,主要是使用yield关键字。


生成器表达式

首先来看生成器表达式的使用,直接看代码:

nums_list = [x * x for x in range(10)]
nums_generator = (x * x for x in range(10))
print(type(nums_list))
print(nums_list)
print('=' * 20)
print(type(nums_generator))
print(nums_generator)
print(list(nums_generator))
# 生成器可以使用for进行遍历
for num in nums_generator:
    print(num, end=' ')

执行结果:

从上述程序的执行可以得出:

1、列表推导式得到的是一个真实的列表对象,会直接占用对应的内存。

2、生成器表达式得到的是一个生成器对象,并不会直接分配同样大小的内存,只有在对生成器进行遍历时,才会真正计算每一个需要的元素。

3、两者在定义语法上的区别,只有[]与()的区别。

需要说明的是,列表可以进行多次遍历,但是,生成器只能进行一次遍历,所有的元素遍历完成了,不会从头来过。

此外,可以使用list(生成器对象)的方式将生成器对象转换为一个列表对象,本质上是对生成器对象进行遍历,用获得到的所有元素构建一个新的列表对象。当然构建之后,生成器对象本身如果使用for进行遍历,是获取不到任何元素的,因为已经被遍历一趟了。小数据集时,可以进行这种操作,数据量比较大时,需要注意性能。


使用yield定义生成器

直接看一个定义生成器函数的代码实例:

# 定义生成器函数
def square_num():
    for i in range(10):
        print(f'开始遍历,此时i={i}')
        yield i * i
        print(f'一次遍历完成')


print(type(square_num))
# 当进行函数调用时,则会获得生成器对象
generator = square_num()
print(type(generator))
print('=' * 20)
print(generator.__next__())
print('=' * 20)
print(next(generator))
print('=' * 30)
for num in generator:
    print(num)

执行结果:比较多,没有截全图

从这个生成器函数的定义及执行,可以得到如下结论:

1、在函数中使用了yield关键字,则该函数自动变为生成器函数,进行函数调用时,会获得一个生成器对象。

2、生成器对象是惰性求值的,每次手动调用next(生成器对象)或者调用生成器对象.__next__()方法,可以进行一次求值计算,返回内容为yield表达式后面的值。

3、每次求值计算,执行到yield表达式,就会阻塞,同时返回对应的值。下一次求值计算,从上次的阻塞点开始,继续执行。所以,能看到“一次遍历完成”出现在下一次求值计算的开头,而不是上一次求值计算的结尾。


此外,虽然代码演示中,没有涉及到,但是,还是有两点需要补充的:

1、生成器其实是一种特殊的迭代器,从定义中可以看到,生成器继承自迭代器

2、当一个生成器已经完成所有元素的遍历时,继续手动进行next()函数的调用,则会抛出“StopIteration”异常。使用for循环进行遍历则不会抛异常。


前面的文章中,我们已经通过多种方式进行斐波那契数列的计算了,比如自定义装饰器缓存、内置装饰器、一行流等。接下来,我们以生成器的方式来实现斐波那契数列的计算。

直接看代码:

# 定义斐波那契生成器函数
def fibonacci():
    a, b = 0, 1
    while True:
        yield a
        a, b = b, a + b


fib = fibonacci()
print(type(fib))
for i in range(10):
    print(next(fib), end=' ')

执行结果:

以上,就是本文的全部内容了。


总结

本文主要介绍了惰性求值的概念及适用场景,然后重点介绍了Python中进行惰性求值的一种重要的方式——生成器,介绍了两种获得生成器的方法。

感谢您的拨冗阅读,希望对您有所帮助。

相关推荐

3分钟让你的项目支持AI问答模块,完全开源!

hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...

干货|程序员的副业挂,12个平台分享

1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...

Github标星超200K,这10个可视化面板你知道几个

在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...

开箱即用的炫酷中后台前端开源框架第二篇

#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...

搭建React+AntDeign的开发环境和框架

搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...

基于.NET 5实现的开源通用权限管理平台

??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...

StreamPark - 大数据流计算引擎

使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...

教你使用UmiJS框架开发React

1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...

简单在线流程图工具在用例设计中的运用

敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...

【开源分享】神奇的大数据实时平台框架,让Flink&amp;Spark开发更简单

这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...

聊聊规则引擎的调研及实现全过程

摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...

【开源推荐】Diboot 2.0.5 发布,自动化开发助理

一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...

微软推出Copilot Actions,使用人工智能自动执行重复性任务

IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...

Electron 使用Selenium和WebDriver

本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...

Quick &#39;n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具

一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...