一、简介
当今的复杂SoC由多个子模块协同工作组成。在执行各种用例的操作系统中,并非SoC中的所有模块都需要始终保持最高性能。为方便起见,将SoC中的子模块分组为域,从而允许某些域以较低的电压和频率运行,而其他域以较高的电压/频率对运行。
对于这些设备支持的频率和电压对,我们称之为OPP(Operating Performance Point)。对于具有OPP功能的非CPU设备,本文称之为OPP device,需要通过devfreq进行动态的调频调压。
devfreq:Generic Dynamic Voltage and Frequency Scaling (DVFS) Framework for Non-CPU Devices。是由三星电子MyungJoo Ham <myungjoo.ham@samsung.com>,提交到社区。原理和/deivers/cpufreq 非常近似。但是cpufreq驱动并不允许多个设备来注册,而且也不适合不同的设备具有不同的governor。devfreq则支持多个设备,并且允许每个设备有自己对应的governor。
如下图,devfreq framework是功耗子系统的一部分,与cpufreq,cpuidle,powermanager相互配合协作,已达到节省系统功耗的目的。
二、核心数据结构
devfreq framework作为Linux Kernel一个子系统,需要为user space和其他子系统提供接口,已完成功能交互。本章从Kernel空间和user空间的角度,介绍devfreq framework的相关接口。
(1) devfreq_dev_profile 结构体,是OPP device注册到devfreq framework的数据结构,主要包含OPP设备的频率相关信息和相关的回调函数,是devfreq framework和OPP device driver的交互接口。类似设备驱动模型,将OPP device driver对devfreq使用,简化为devfreq profile结构体的填充。
struct devfreq_dev_profile { /*devfreq初始化频率*/ unsigned long initial_freq; /*governor轮询的时间间隔,单位ms,0禁止*/ unsigned int polling_ms; /*devfreq framework设置OPP device频率的回掉函数*/ int (*target)(struct device *dev, unsigned long *freq, u32 flags); /*devfreq framework获取OPP device负载状态的回掉函数*/ int (*get_dev_status)(struct device *dev, struct devfreq_dev_status *stat); /*devfreq framework获取OPP device当前频率的回掉函数*/ int (*get_cur_freq)(struct device *dev, unsigned long *freq); /*devfreq framework退出时对OPP device的回掉函数*/ void (*exit)(struct device *dev); /*OPP device支持的频率表*/ unsigned long *freq_table; /*freq_table表的大小*/ unsigned int max_state; };
(2) devfreq_governor 结构体,是governor注册到devfreq framework的数据结构,主要包含governor的相关属性和具体的函数实现。是devfreq framework和governor交互接口。
struct devfreq_governor { struct list_head node; /*该governor的名称*/ const char name[DEVFREQ_NAME_LEN]; /*governor是否可以切换的标志,若为1表示不可切换*/ const unsigned int immutable; /*governor注册到devfreq framework的算法实现函数,返回调整后的频率*/ int (*get_target_freq)(struct devfreq *this, unsigned long *freq); /*governor注册到devfreq framework的event处理函数,处理start,stop,suspend,resume等event*/ int (*event_handler)(struct devfreq *devfreq, unsigned int event, void *data); };
(3) devfreq 设备结构体,这个是devfreq设备的核心数据结构。将上述的OPP device driver的 devfreq_dev_profile 和governor的 devfreq_governor 连接到一起,并通过设备驱动模型中device类,为user空间提供接口。
struct devfreq { struct list_head node; struct mutex lock; struct mutex event_lock; /*其class属于devfreq_class,父节点指向使用devfreq的device*/ struct device dev; /*OPP device注册到devfreq framework的配置信息*/ struct devfreq_dev_profile *profile; /*governor注册到devfreq framework的配置信息*/ const struct devfreq_governor *governor; /*devfreq的governor的名字*/ char governor_name[DEVFREQ_NAME_LEN]; struct notifier_block nb; /*负载监控使用的delayed_work*/ struct delayed_work work; unsigned long previous_freq; struct devfreq_dev_status last_status; /*OPP device传递给governor的私有数据*/ void *data; /* private data for governors */ ...... };
三、工作流程
本章节主要介绍devfreq framework在系统中的工作流程,从初始化,频率调整,退出机制几个方便介绍devfreq framework的运行机制和函数调用逻辑。
1.初始化
(1) evfreq framework 初始化。
(2) governor初始化,然后add_governor。//int devfreq_add_governor(struct devfreq_governor *governor)。
(3) OPP device创建devfreq,然后add_device。//struct devfreq *devfreq_add_device(struct device *dev, struct devfreq_dev_profile *profile, const char *governor_name, void *data)
(1) evfreq framework 初始化
逻辑非常简单清晰,主要完成以下的任务,然后为governor的初始化和OPP device 创建devfreq device做好准备。代码实现:kernel/drivers/devfreq/
a.创建devfreq设备类。
b.创建工作队列,用于负载监控work调用运行。
c.加入到subsys_initcall,系统启动时初始化。
static int __init devfreq_init(void) //drivers/devfreq/devfreq.c { /*创建devfreq设备类*/ devfreq_class = class_create(THIS_MODULE, "devfreq"); /*创建名为"devfreq"的工作队列,用于负载监控work的调度运行*/ devfreq_wq = create_freezable_workqueue("devfreq_wq"); devfreq_class->dev_groups = devfreq_groups; } subsys_initcall(devfreq_init);
(2) governors初始化
系统中可支持多个governors,在系统启动时进行初始化,并注册到devfreq framework中, 后续OPP device创建devfreq设备,会根据governor名字从已经初始化好的governor 列表中,查找对应的governor实例。
a.填充governor的结构体,不同类型的governor,会有不同的实现。
b.将governor加入到devfreq framework的governor列表中。
c.加入到subsys_initcall,系统启动时初始化。
下面这个是以 simple_ondemand 这个governor来介绍governor的初始化和注册。
static struct devfreq_governor devfreq_simple_ondemand = { .name = DEVFREQ_GOV_SIMPLE_ONDEMAND, //"simple_ondemand" .get_target_freq = devfreq_simple_ondemand_func, .event_handler = devfreq_simple_ondemand_handler, }; static int __init devfreq_simple_ondemand_init(void) { return devfreq_add_governor(&devfreq_simple_ondemand); } subsys_initcall(devfreq_simple_ondemand_init);
目前系统默认支持下面几种governor:
simple_ondemand:按需调整模式;根据系统负载动态频率,平衡性能和功耗
Performance:性能优先模式,调整到最大频率
Powersave:功耗优先模式,调整到最小频率
Userspace:用户指定模式,调整到用户设置的频率.
Passive:被动模式,使用设备指定方法做调整或跟随父devfreq设备的governor
可以根据自己的设备特性,通过填充 devfreq_governor 结构体和实现 get_target_freq 方法和 event_handler,完成的自己的governor。devfreq framework的架构设计对governor扩展,支持极好。
(3) OPP device通过devfreq framework创建devfreq device。
以UFS设备为例,介绍OPP device用devfreq framework来添加devfreq设备的过程。代码位置:kernel/drivers/scsi/ufs/ufshcd.c
首先,OPP device driver通过devfreq framework创建devfreq设备。
a.将ufs设备的core clk的添加到opp子系统中,devfreq_add_device 函数中,会从opp子系统中获取clk信息。
b.将OPP device相关频率信息和回调函数,并填充devfreq profile数据结构。
c.调用devfreq_add_device函数,将devfreq profile数据结构,governor名字,添加到devfreq framework。
static int ufshcd_devfreq_init(struct ufs_hba *hba) { struct devfreq *devfreq; struct ufs_clk_scaling *scaling = &hba->clk_scaling; ...... /*将可用最大最小频率添加到OPP子系统*/ clki = list_first_entry(clk_list, struct ufs_clk_info, list); dev_pm_opp_add(hba->dev, clki->min_freq, 0); dev_pm_opp_add(hba->dev, clki->max_freq, 0); /*初始化devfreq配置结构体*/ scaling->profile.polling_ms = 60; scaling->profile.target = ufshcd_devfreq_target; scaling->profile.get_dev_status = ufshcd_devfreq_get_dev_status; /*通过devfreq_add_device函数,配置文件和governor,创建devfreq设备*/ devfreq = devfreq_add_device(hba->dev, &scaling->profile, DEVFREQ_GOV_SIMPLE_ONDEMAND, gov_data); ...... }
devfreq_add_device 创建devfreq设备的流程如下:
a. 根据传入的governor名字,从governor列表中,获取对应的governor实例。
b.发送 DEVFREQ_GOV_START 到governor,开始管理OPP device的频率。
struct devfreq *devfreq_add_device(struct device *dev, struct devfreq_dev_profile *profile, const char *governor_name, void *data) { ...... /*通过governor的名字找到governor实例*/ governor = find_devfreq_governor(devfreq->governor_name); ...... /*发送DEVFREQ_GOV_START事件,governor开始管理频率*/ devfreq->governor->event_handler(devfreq, DEVFREQ_GOV_START, NULL); ...... }
2. 频率调整过程
如上图所示,频率调整过程中,分工非常明确,devfreq framework是大管家负责监控程序的运行,governor提供管理算法,OPP device提供自身的负载状态和频率设置的方法实现。系统中有不同的governor,而且不同的governor有不同的管理算法,但是频率调整过程是一样的。本小节,以 simple_ondemand governor 为例,讲述governor的管理过程。
(1) governor 的 event_handler 收到 DEVFREQ_GOV_START 事件,调用对应的函数,调度工作队列,运行负载监控程序。
static int devfreq_simple_ondemand_handler(struct devfreq *devfreq, unsigned int event, void *data) { switch (event) { case DEVFREQ_GOV_START: devfreq_monitor_start(devfreq); /*对应的DEVFREQ_GOV_START事件的处理函数*/ break; case DEVFREQ_GOV_STOP: devfreq_monitor_stop(devfreq); break; case DEVFREQ_GOV_INTERVAL: devfreq_interval_update(devfreq, (unsigned int *)data); break; case DEVFREQ_GOV_SUSPEND: devfreq_monitor_suspend(devfreq); break; case DEVFREQ_GOV_RESUME: devfreq_monitor_resume(devfreq); break; default: break; } return 0; } void devfreq_monitor_start(struct devfreq *devfreq) { /*开始提交“内核工作线程”监控负载状态*/ INIT_DEFERRABLE_WORK(&devfreq->work, devfreq_monitor); if (devfreq->profile->polling_ms) { queue_delayed_work(devfreq_wq, &devfreq->work, msecs_to_jiffies(devfreq->profile->polling_ms)); } }
(2) 负载监控程序。
a.调用 governor 的 get_target_freq 方法,获取下一次的调频目标值。
b.调用OPP device注册到 devfreq framework 的target函数,设置新的频率信息。
c.调度延迟工作队列,延迟OPP device 设置的轮询间隔后,再次运行。
int update_devfreq(struct devfreq *devfreq) { /*获取要调频到的结果频率*/ devfreq->governor->get_target_freq(devfreq, &freq); /*在调频前后都有通知发出来*/ devfreq_notify_transition(devfreq, &freqs, DEVFREQ_PRECHANGE); /*调用OPP devices的target函数设置目标频率*/ devfreq->profile->target(devfreq->dev.parent, &freq, flags); devfreq_notify_transition(devfreq, &freqs, DEVFREQ_POSTCHANGE); } static void devfreq_monitor(struct work_struct *work) { err = update_devfreq(devfreq); /*进行以polling_ms为周期的周期监控*/ queue_delayed_work(devfreq_wq, &devfreq->work, msecs_to_jiffies(devfreq->profile->polling_ms)); }
(3) governor 的 get_target_freq 方法,调用opp device注册到devfreq framework的回调函数,获取当前device负载信息,根据算法,返回调整频率。
static inline int devfreq_update_stats(struct devfreq *df) { if (df->profile->get_dev_status) /*调用OPP device注册到devfreq framework的回调函数,获取负载状态*/ return df->profile->get_dev_status(df->dev.parent, &df->last_status); else return -ENODEV; } static int devfreq_simple_ondemand_func(struct devfreq *df, unsigned long *freq) /*.get_target_freq = devfreq_simple_ondemand_func*/ { /*获取设备当前状态*/ err = devfreq_update_stats(df); stat = &df->last_status; /*然后使用stat与df->data指定的阈值比较,进行目标频率的设定*/ if (data && data->simple_scaling) { if (stat->busy_time * 100 > stat->total_time * dfso_upthreshold) /*如果忙的时间大于70%,就给最大频率*/ *freq = max; else if (stat->busy_time * 100 < stat->total_time * (dfso_upthreshold - dfso_downdifferential)) /*如果忙的时间小于5%,就给最小频率*/ *freq = min; else *freq = df->previous_freq; /*否则还是之前频率*/ return 0; } }
3. 删除devfreq设备
(1) 直接调用device_unregister函数注销devfreq设备。
int devfreq_remove_device(struct devfreq *devfreq) { ... device_unregister(&devfreq->dev); ... }
(2) device_unregister 注销过程中会调用 devfreq_dev_release 函数,完成下面的事务。
a.发送 DEVFREQ_GOV_STOP event,governor停止运行;
b.回调OPP device注册到devfreq framework的exit函数;
c.释放devfreq device申请的资源。
static void devfreq_dev_release(struct device *dev) //devfreq_add_device()中初始化赋值的 { /*如果governor存在,发送DEVFREQ_GOV_STOP事件,停止governor运行*/ if (devfreq->governor) devfreq->governor->event_handler(devfreq, DEVFREQ_GOV_STOP, NULL); /*如果OPP device注册的有exit(),调用它*/ if (devfreq->profile->exit) devfreq->profile->exit(devfreq->dev.parent); }
四、架构设计
1.devfreq framework将多种OPP device和多种governor进行抽象,对OPP device提供了统一的接口,来满足其对devfreq的需求。对governor提供统一的实现格式,为后续扩展不同governor,提供很好的架构支持。是一个典型的子系统实现模式。为后续在我们自己做子系统架构设计,提供了一个很好的参考。
2. 用户空间文件节点
devfreq framework不仅为Kernel空间的设备驱动提供了标准化接口,也为user空间提供了标准化的文件节点,方便user空间的程序,更好的监控和修改。相关文件节点介绍内核文档:kernel/Documentation/ABI/testing/sysfs-class-devfreq(-event)。
/sys/class/devfreq/xxx.ufshc # ls -l -r--r--r-- 1 root root 4096 2020-06-07 18:15 available_frequencies -r--r--r-- 1 root root 4096 2020-06-07 18:15 available_governors -r--r--r-- 1 root root 4096 2020-06-07 18:15 cur_freq lrwxrwxrwx 1 root root 0 2020-06-01 10:57 device -> ../../../xxx.ufshc -rw-r--r-- 1 root root 4096 2020-06-07 18:15 governor -rw-rw-r-- 1 root root 4096 2020-06-07 18:15 max_freq -rw-rw-r-- 1 root root 4096 2020-06-07 18:15 min_freq -rw-r--r-- 1 root root 4096 2020-06-07 18:15 polling_interval drwxr-xr-x 2 root root 0 2020-06-07 18:15 power lrwxrwxrwx 1 root root 0 2020-06-01 10:57 subsystem -> ../../../../../../class/devfreq -r--r--r-- 1 root root 4096 2020-06-07 18:15 target_freq -r--r--r-- 1 root root 4096 2020-06-07 18:15 trans_stat -rw-r--r-- 1 root root 4096 1970-02-25 01:42 uevent
available_frequencies: 可用的频率列表
available_governors:可用的governor
cur_freq:当前频率
governor: 当前governor
max_freq:最大频率
min_freq :最小频率
polling_interval:governor调度的时间间隔,单位是ms.
target_freq:目标频率
trans_stat:状态调整表记录
代码实现位置:kernel/drivers/devfreq/devfreq.c //struct attribute *devfreq_attrs[]
五、调试笔记和总结
1.可以cat trans_stat来查看频率转移表。
/sys/class/devfreq/xxx.ufshc # cat trans_stat From : To : 37500000 300000000 time(ms) * 37500000: 0 133 3343228 300000000: 133 0 162660 Total transition : 266
2.TODO: 解释每一个governor的算法
/sys/class/devfreq/xxx.ufshc # cat available_governors
cdspl3 compute mem_latency bw_hwmon vidc-ar50-llcc vidc-ar50-ddr msm-vidc-llcc msm-vidc-ddr gpubw_mon bw_vbif msm-adreno-tz userspace powersave performance simple_ondemand
参考: https://blog.csdn.net/feelabclihu/article/details/105592301
本文参考链接:https://www.cnblogs.com/hellokitty2/p/13061707.html