From 2a06689987ea894318e8a874128695587598c3b7 Mon Sep 17 00:00:00 2001 From: gatieme Date: Sat, 13 Aug 2016 17:15:40 +0800 Subject: [PATCH] ... --- .../03-initialize/00-initialize/README.md | 1351 ++++++++--------- .../03-initialize/01-bootinit/README.md | 979 ------------ .../03-initialize/04-bootmem_init/README.md | 1245 +++++++++++++++ .../README.md | 97 +- .../03-initialize/images/arch_do_somethig.png | Bin 0 -> 39644 bytes .../04-buddy/01-buddy_system/README.md | 52 +- .../04-buddy/02-initialization/README.md | 113 ++ .../README.md | 0 .../04-buddy/03-initialization/README.md | 46 - .../04-buddy/images/order_free_list.png | Bin 0 -> 42533 bytes 10 files changed, 2157 insertions(+), 1726 deletions(-) delete mode 100644 study/kernel/02-memory/03-initialize/01-bootinit/README.md create mode 100644 study/kernel/02-memory/03-initialize/04-bootmem_init/README.md rename study/kernel/02-memory/03-initialize/{04-init_buddy => 05-build_zonelists}/README.md (92%) create mode 100644 study/kernel/02-memory/03-initialize/images/arch_do_somethig.png create mode 100644 study/kernel/02-memory/04-buddy/02-initialization/README.md rename study/kernel/02-memory/04-buddy/{02-fragmentation => 03-fragmentation}/README.md (100%) delete mode 100644 study/kernel/02-memory/04-buddy/03-initialization/README.md create mode 100644 study/kernel/02-memory/04-buddy/images/order_free_list.png diff --git a/study/kernel/02-memory/03-initialize/00-initialize/README.md b/study/kernel/02-memory/03-initialize/00-initialize/README.md index e03a0c9..7216bef 100644 --- a/study/kernel/02-memory/03-initialize/00-initialize/README.md +++ b/study/kernel/02-memory/03-initialize/00-initialize/README.md @@ -1,677 +1,674 @@ -启动过程期间的内存管理--bootmem分配器 -======= - - - -| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | -| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| -| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | - - - -在内存管理的上下文中, 初始化(initialization)可以有多种含义. 在许多CPU上, 必须显式设置适用于Linux内核的内存模型. 例如在x86_32上需要切换到保护模式, 然后内核才能检测到可用内存和寄存器. - - -而我们今天要讲的boot阶段就是系统初始化阶段使用的内存分配器. - - - - -#1 前景回顾 -------- - - -##1.1 Linux内存管理的层次结构 -------- - - -Linux把物理内存划分为三个层次来管理 - -| 层次 | 描述 | -|:----:|:----:| -| 存储节点(Node) | CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点 | -| 管理区(Zone) | 每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存 | -| 页面(Page) | 内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜ - -为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点 - - -* 首先, 内存被划分为**结点**. 每个节点关联到系统中的一个处理器, 内核中表示为`pg_data_t`的实例. 系统中每个节点被链接到一个以NULL结尾的`pgdat_list`链表中<而其中的每个节点利用`pg_data_tnode_next`字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig_page_data的静态pg_data_t结构. - -* 接着各个节点又被划分为内存管理区域, 一个**管理区域**通过struct zone_struct描述, 其被定义为zone_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE_NORMAL,最后是超出了内核段的物理地址域ZONE_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射. - - -* 最后**页帧(page frame)**代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号. - - -##1.2 内存结点pg_data_t -------- - - -在LINUX中引入一个数据结构`struct pglist_data` ，来描述一个node，定义在[`include/linux/mmzone.h`](http://lxr.free-electrons.com/source/include/linux/mmzone.h#L630) 文件中。（这个结构被typedef pg_data_t）。 - - -* 对于NUMA系统来讲， 整个系统的内存由一个[node_data](http://lxr.free-electrons.com/source/arch/s390/numa/numa.c?v=4.7#L23)的pg_data_t指针数组来管理 - -* 对于PC这样的UMA系统，使用struct pglist_data contig_page_data ，作为系统唯一的node管理所有的内存区域。（UMA系统中中只有一个node） - -可以使用NODE_DATA(node_id)来查找系统中编号为node_id的结点, 而UMA结构下由于只有一个结点, 因此该宏总是返回全局的contig_page_data, 而与参数node_id无关. - -**NODE_DATA(node_id)查找编号node_id的结点pg_data_t信息** 参见[NODE_DATA的定义](http://lxr.free-electrons.com/ident?v=4.7;i=NODE_DATA) - -```cpp -extern struct pglist_data *node_data[]; -#define NODE_DATA(nid) (node_data[(nid)]) -``` - - -在UMA结构的机器中, 只有一个node结点即contig_page_data, 此时NODE_DATA直接指向了全局的contig_page_data, 而与node的编号nid无关, 参照[include/linux/mmzone.h?v=4.7, line 858](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L858) - - -```cpp -extern struct pglist_data contig_page_data; -#define NODE_DATA(nid) (&contig_page_data) - -``` - -##1.2 物理内存区域 -------- - -因为实际的计算机体系结构有硬件的诸多限制, 这限制了页框可以使用的方式. 尤其是, Linux内核必须处理80x86体系结构的两种硬件约束. - -* ISA总线的直接内存存储DMA处理器有一个严格的限制 : 他们只能对RAM的前16MB进行寻址 - -* 在具有大容量RAM的现代32位计算机中, CPU不能直接访问所有的物理地址, 因为线性地址空间太小, 内核不可能直接映射所有物理内存到线性地址空间, 我们会在后面典型架构(x86)上内存区域划分详细讲解x86_32上的内存区域划分 - - -因此Linux内核对不同区域的内存需要采用不同的管理方式和映射方式, 因此内核将物理地址或者成用zone_t表示的不同地址区域 - -对于x86_32的机器，管理区(内存区域)类型如下分布 - - -| 类型 | 区域 | -| :------- | ----: | -| ZONE_DMA | 0~15MB | -| ZONE_NORMAL | 16MB~895MB | -| ZONE_HIGHMEM | 896MB~物理内存结束 | - - -##1.3 物理页帧 -------- - -内核把物理页作为内存管理的基本单位. 尽管处理器的最小可寻址单位通常是字, 但是, 内存管理单元MMU通常以页为单位进行处理. 因此，从虚拟内存的上来看，页就是最小单位. - -页帧代表了系统内存的最小单位, 对内存中的每个页都会创建struct page的一个实例. 内核必须要保证page结构体足够的小，否则仅struct page就要占用大量的内存. - - - 内核用[struct page(include/linux/mm_types.h?v=4.7, line 45)](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v4.7#L45)结构表示系统中的每个物理页. - -出于节省内存的考虑，struct page中使用了大量的联合体union. - - -`mem_map`是一个struct page的数组，管理着系统中所有的物理内存页面。在系统启动的过程中，创建和分配mem_map的内存区域, mem_map定义在[mm/page_alloc.c?v=4.7, line 6691](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6691) - - -UMA体系结构中，free_area_init函数在系统唯一的struct node对象contig_page_data中node_mem_map成员赋值给全局的mem_map变量 - - -#1.6 今日内容(启动过程中的内存初始化) -------- - - - - -在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉. - - -因此我们可以把linux内核的内存管理分三个阶段。 - -| 阶段 | 起点 | 终点 | 描述 | -|:-----:|:-----:|:-----:| -| 第一阶段 | 系统启动 | bootmem或者memblock初始化完成 | 此阶段只能使用memblock_reserve函数分配内存， 早期内核中使用init_bootmem_done = 1标识此阶段结束 | -| 第二阶段 | bootmem或者memblock初始化完 | buddy完成前 | 引导内存分配器bootmem或者memblock接受内存的管理工作, 早期内核中使用mem_init_done = 1标记此阶段的结束 | -| 第三阶段 | buddy初始化完成 | 系统停止运行 | 可以用cache和buddy分配内存 | - - - -**系统启动过程中的内存管理** - - -首先我们来看看start_kernel是如何初始化系统的, start_kerne定义在[init/main.c?v=4.7, line 479](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L479) - -其代码很复杂, 我们只截取出其中与内存管理初始化相关的部分, 如下所示 - - -```cpp -asmlinkage __visible void __init start_kernel(void) -{ - - /* 设置特定架构的信息 - * 同时初始化memblock */ - setup_arch(&command_line); - mm_init_cpumask(&init_mm); - - setup_per_cpu_areas(); - - /* 初始化内存结点和内段区域 */ - build_all_zonelists(NULL, NULL); - page_alloc_init(); - - - /* - * These use large bootmem allocations and must precede - * mem_init(); - * kmem_cache_init(); - */ - mm_init(); - - kmem_cache_init_late(); - - kmemleak_init(); - setup_per_cpu_pageset(); - - rest_init(); -} -``` - - -| 函数 | 功能 | -|:----:|:----:| -| [setup_arch](http://lxr.free-electrons.com/ident?v=4.7;i=setup_arch) | 是一个特定于体系结构的设置函数, 其中一项任务是负责初始化自举分配器 | -| [mm_init_cpumask](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v=4.7#L522) | 初始化CPU屏蔽字 | -| [setup_per_cpu_areas](http://lxr.free-electrons.com/ident?v=4.7;i=setup_per_cpu_areas) | 函数[(查看定义)](http://lxr.free-electrons.com/source/mm/percpu.c?v4.7#L2205])给每个CPU分配内存，并拷贝.data.percpu段的数据. 为系统中的每个CPU的per_cpu变量申请空间.
在SMP系统中, setup_per_cpu_areas初始化源代码中(使用[per_cpu宏](http://lxr.free-electrons.com/source/include/linux/percpu-defs.h#L256))定义的静态per-cpu变量, 这种变量对系统中每个CPU都有一个独立的副本.
此类变量保存在内核二进制影像的一个独立的段中, setup_per_cpu_areas的目的就是为系统中各个CPU分别创建一份这些数据的副本
在非SMP系统中这是一个空操作 | -| [build_all_zonelists](http://lxr.free-electrons.com/source/mm/page_alloc.c?v4.7#L5029) | 建立并初始化结点和内存域的数据结构 | -| [mm_init](http://lxr.free-electrons.com/source/init/main.c?v4.7#L464) | 建立了内核的内存分配器,
其中通过[mem_init](http://lxr.free-electrons.com/ident?v=4.7&i=mem_init)停用bootmem分配器并迁移到实际的内存管理器(比如伙伴系统)
然后调用kmem_cache_init函数初始化内核内部用于小块内存区的分配器 | -| [kmem_cache_init_late](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378) | 在kmem_cache_init之后, 完善分配器的缓存机制,　当前3个可用的内核内存分配器[slab](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378), [slob](http://lxr.free-electrons.com/source/mm/slob.c?v4.7#L655), [slub](http://lxr.free-electrons.com/source/mm/slub.c?v=4.7#L3960)都会定义此函数　| -| [kmemleak_init](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1857) | Kmemleak工作于内核态，Kmemleak 提供了一种可选的内核泄漏检测，其方法类似于跟踪内存收集器。当独立的对象没有被释放时，其报告记录在 [/sys/kernel/debug/kmemleak](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1467)中, Kmemcheck能够帮助定位大多数内存错误的上下文 | -| [setup_per_cpu_pageset](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5392) | 初始化CPU高速缓存行, 为pagesets的第一个数组元素分配内存, 换句话说, 其实就是第一个系统处理器分配
由于在分页情况下，每次存储器访问都要存取多级页表，这就大大降低了访问速度。所以，为了提高速度，在CPU中设置一个最近存取页面的高速缓存硬件机制，当进行存储器访问时，先检查要访问的页面是否在高速缓存中. | - - - -#2 第一阶段(启动过程中的内存管理) -------- - - -内存管理是操作系统资源管理的重点, 但是在操作系统初始化的初期, 操作系统只是获取到了内存的基本信息, 但是内存管理的数据结构都没有建立, 而我们这些数据结构创建的过程本身就是一个内存分配的过程, 那么就出现一个问题 - - -我们还没有一个内存管理器去负责分配和回收内存, 而我们又不可能将所有的内存信息都静态创建并初始化, 那么我们怎么分配内存管理器所需要的内存呢? 现在我们进入了一个先有鸡还是先有蛋的怪圈, 这种问题的一般解决方法是, 我们先实现一个满足要求的但是可能效率不高的笨家伙(内存管理器), 用它来负责系统初始化初期的内存管理, 最重要的, 用它来初始化我们内存的数据结构, 直到我们真正的内存管理器被初始化完成并能投入使用, 我们将旧的内存管理器丢掉 - -即因此在系统启动过程期间, 内核使用了一个额外的简化形式的内存管理模块早期的**引导内存分配器(boot memory allocator--bootmem分配器)**或者**memblock**, 用于在启动阶段早期分配内存, 而在系统初始化完成后, 该分配器被内核抛弃, 然后初始化了一套新的更加完善的内存分配器. - - - -##2.1 引导内存分配器bootmem -------- - -在启动过程期间, 尽管内存管理尚未初始化, 但是内核仍然需要分配内存以创建各种数据结构, 早期的内核中负责初始化阶段的内存分配器称为**引导内存分配器(boot memory allocator--bootmem分配器)**, 在耳熟能详的伙伴系统建立前内存都是利用分配器来分配的，伙伴系统框架建立起来后，bootmem会过度到伙伴系统. 显然, 对该内存分配器的需求集中于简单性方面,　而不是性能和通用性, 它仅用于初始化阶段. 因此内核开发者决定实现一个最先适配(first-first)分配器用于在启动阶段管理内存. 这是可能想到的最简单的方式. - - -**引导内存分配器(boot memory allocator--bootmem分配器)**基于最先适配(first-first)分配器的原理(这儿是很多系统的内存分配所使用的原理), 使用一个位图来管理页, 以位图代替原来的空闲链表结构来表示存储空间, 位图的比特位的数目与系统中物理内存页面数目相同. 若位图中某一位是1, 则标识该页面已经被分配(已用页), 否则表示未被占有(未用页). - -在需要分配内存时, 分配器逐位的扫描位图, 直至找到一个能提供足够连续页的位置, 即所谓的最先最佳(first-best)或最先适配位置.该分配机制通过记录上一次分配的页面帧号(PFN)结束时的偏移量来实现分配大小小于一页的空间, 连续的小的空闲空间将被合并存储在一页上. - - - -即使是初始化用的最先适配分配器也必须使用一些数据结构存, 内核为系统中每一个结点都提供了一个struct bootmem_data结构的实例, 用于bootmem的内存管理. 它含有引导内存分配器给结点分配内存时所需的信息. 当然, 这时候内存管理还没有初始化, 因而该结构所需的内存是无法动态分配的, 必须在编译时分配给内核. - -在UMA系统上该分配的实现与CPU无关, 而NUMA系统内存结点与CPU相关联, 因此采用了特定体系结构的解决方法. - -bootmem_data的结构定义在[include/linux/bootmem.h?v=4.7, line 28](http://lxr.free-electrons.com/source/include/linux/bootmem.h?v=4.7#L28), 其定义如下所示 - - -关于引导内存分配器的具体内容, 请参见另外一篇博文 - -| CSDN | GitHub | -|:-----:|:------:| -| [引导内存分配器bootmem](带添加链接) | [study/kernel/02-memory/03-initialize/02-bootmem](https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/03-initialize/02-bootmem) | - - -##2.2 memblock内存分配器 -------- - - -但是bootmem也有很多问题. 最明显的就是外碎片的问题, 因此内核维护了**memblock内存分配器**, 同时用memblock实现了一份bootmem相同的兼容API, 即nobootmem, Memblock以前被定义为Logical Memory Block( 逻辑内存块), 但根据[Yinghai Lu的补丁](https://lkml.org/lkml/2010/7/13/68), 它被重命名为memblock. 并最终替代bootmem成为初始化阶段的内存管理器 - -关于引导内存分配器的具体内容, 请参见另外一篇博文 - - -| CSDN | GitHub | -|:-----:|:------:| -| [memblock内存分配器](带添加链接) | [study/kernel/02-memory/03-initialize/03-memblock](https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/03-initialize/03-memblock) | - - - - -##2.3 两者的区别与联系 - -bootmem是通过位图来管理，位图存在地地址段, 而memblock是在高地址管理内存, 维护两个链表, 即memory和reserved - -memory链表维护系统的内存信息(在初始化阶段通过bios获取的), 对于任何内存分配, 先去查找memory链表, 然后在reserve链表上记录(新增一个节点，或者合并) - - -1. 两者都可以分配小于一页的内存； - -2. 两者都是就近查找可用的内存， bootmem是从低到高找， memblock是从高往低找； - - -在boot传递给kernel memory bank相关信息后，kernel这边会以memblcok的方式保存这些信息，当buddy system 没有起来之前，在kernel中也是要有一套机制来管理memory的申请和释放. - - -Kernel可以选择nobootmem 或者bootmem 来在buddy system起来之前管理memory. -这两种机制对提供的API是一致的，因此对用户是透明的 - -参见[mm/Makefile](http://lxr.free-electrons.com/source/mm/Makefile#L44) - - -```cpp -ifdef CONFIG_NO_BOOTMEM - obj-y += nobootmem.o -else - obj-y += bootmem.o -endif -``` - - -由于接口是一致的, 那么他们共同使用一份 - -| 头文件 | bootmem接口 | nobootmem接口 | -|:-----:|:-----------:|:------------:| -| [include/linux/bootmem.h](http://lxr.free-electrons.com/source/include/linux/bootmem.h) | [mm/bootmem.c](http://lxr.free-electrons.com/source/mm/bootmem.c) | [mm/nobootmem.c](http://lxr.free-electrons.com/source/mm/nobootmem.c) | - -##2.4 memblock的初始化(arm64架构) -------- - - -前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作. - -```cpp -void __init setup_arch(char **cmdline_p) -{ - /* 初始化memblock */ - arm64_memblock_init( ); - - /* 分页机制初始化 */ - paging_init(); - - bootmem_init(); -} -``` - -| 流程 | 描述 | -|:---:|:----:| -| [arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) | 初始化memblock内存分配器 | -| [paging_init](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | 初始化分页机制 | -| [bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | 初始化内存管理 | - - - - -其中arm64_memblock_init就完成了arm64架构下的memblock的初始化 - - - - -#3 第二阶段(初始化buddy内存管理) -------- - - -在arm64架构下, 内核在start_kernel()->setup_arch()函数中依次完成了如下工作 - - -前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作. - -```cpp -void __init setup_arch(char **cmdline_p) -{ - /* 初始化memblock */ - arm64_memblock_init( ); - - /* 分页机制初始化 */ - paging_init(); - - bootmem_init(); -} -``` - -| 流程 | 描述 | -|:---:|:----:| -| [arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) | 初始化memblock内存分配器 | -| [paging_init](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | 初始化分页机制 | -| [bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | 初始化内存管理 | - - -其中arm64_memblock_init就完成了arm64架构下的memblock的初始化. - - -而setup_arch则主要完成如下工作 - - -* 调用arm64_memblock_init来完成了memblock的初始化 - -* paging_init初始化内存的分页机制 - -* bootmem_init初始化内存管理 - - -##3.1 初始化流程 -------- - -下面我们就以arm64架构来分析bootmem初始化内存结点和内存域的过程, 在讲解的过程中我们会兼顾的考虑arm64架构下的异同 - -* 首先内核从[start_kernel](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L505)开始启动 - - -* 然后进入体系结构相关的设置部分[setup_arch](http://lxr.free-electrons.com/source/arch/arm/kernel/setup.c?v=4.7#L1073), 开始获取并设置指定体系结构的一些物理信息, 而arm64架构下则对应着[rch/arm64/kernel/setup.c](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) - - -* 在setup_arch函数内, 通过paging_init函数初始化了分页机制和页表的信息 - - -* 接着paging_init函数通过[bootmem_init](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c#L1642)开始进行初始化工作 - - -arm64在整个初始化的流程上并没有什么不同, 但是有细微的差别 - - -* 由于arm是在后期才开始加入了MMU内存管理单元的, 因此内核必须实现mmu和nonmmu两套不同的代码, 这主要是提现在分页机制的不同上, 因而paging_init分别定义了[arch/arm/mm/nommu.c](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)和[arch/arm/mm/mmu.c](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L1623)两个版本, 但是它们均调用了bootmem_init来完成初始化 - - -* 也是因为上面的原因, arm上paging_init有两份代码([mmu](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L162)和[nonmmu](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)), 为了降低代码的耦合性, arm通过setup_arch调用paging_init函数, 后者进一步调用了bootmem_init来完成, 而arm64上不存在这样的问题, 则在[setup_arch中顺序的先用paging_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L266)初始化了页表, 然后[setup_arch又调用bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v4.7#L271)来完成了bootmem的初始化 - - - -##3.2 paging_init初始化分页机制 -------- - - -paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响 - -因此在仔细考察其实现之前，很重要的一点是解释该函数的目的。 - -在x86_32系统上内核通常将总的4GB可用虚拟地址空间按3:1的比例划分给用户空间和内核空间, 虚拟地址空间的低端3GB -用于用户状态应用程序, 而高端的1GB则专用于内核. 尽管在分配内核的虚拟地址空间时, 当前系统上下文是不相干的, 但每个进程都有自身特定的地址空间. - -这些划分主要的动机如下所示 - -* 在用户应用程序的执行切换到核心态时（这总是会发生，例如在使用系统调用或发生周期性的时钟中断时），内核必须装载在一个可靠的环境中。因此有必要将地址空间的一部分分配给内核专用. - -* 物理内存页则映射到内核地址空间的起始处，以便内核直接访问，而无需复杂的页表操作. - -如果所有物理内存页都映射到用户空间进程能访问的地址空间中, 如果在系统上有几个应用程序在运行, 将导致严重的安全问题. 每个应用程序都能够读取和修改其他进程在物理内存中的内存区. 显然必须不惜任何代价防止这种情况出现. - -虽然用于用户层进程的虚拟地址部分随进程切换而改变，但是内核部分总是相同的 - - -##3.3 虚拟地址空间(以x86_32位系统为例) -------- - - - -出于内存保护等一系列的考虑, 内核将整个进程的虚拟运行空间划分为内核虚拟运行空间和内核虚拟运行空间 - - - -![虚拟地址空间](../images/vmarea_space.jpg) - -按3:1的比例划分地址空间, 只是约略反映了内核中的情况，内核地址空间作为内核的常驻虚拟地址空间, 自身又分为各个段 - -![内核空间](../images/kernel_space.jpg) - -地址空间的第一段用于将系统的所有物理内存页映射到内核的虚拟地址空间中。由于内核地址空间从偏移量0xC0000000开始，即经常提到的3 GiB，每个虚拟地址x都对应于物理地址x—0xC0000000，因此这是一个简单的线性平移。 - -直接映射区域从0xC0000000到high_memory地址，high_memory准确的数值稍后讨论。第1章提到过，这种方案有一问题。由于内核的虚拟地址空间只有1 GiB，最多只能映射1 GiB物理内存。IA-32系统（没有PAE）最大的内存配置可以达到4 GiB，引出的一个问题是，如何处理剩下的内存？ - - -这里有个坏消息。如果物理内存超过896 MiB，则内核无法直接映射全部物理内存。该值甚至比此前提到的最大限制1 GiB还小，因为内核必须保留地址空间最后的128 MiB用于其他目的，我会稍后解释。将这128 MiB加上直接映射的896 MiB内存，则得到内核虚拟地址空间的总数为1 024 MiB = 1GiB。内核使用两个经常使用的缩写normal和highmem，来区分是否可以直接映射的页帧。 - -内核地址空间的最后128 MiB用于何种用途呢？如图3-15所示，该部分有3个用途。 - -* 虚拟内存中连续、但物理内存中不连续的内存区，可以在vmalloc区域分配。该机制通常用于用户过程，内核自身会试图尽力避免非连续的物理地址。内核通常会成功，因为大部分大的内存块都在启动时分配给内核，那时内存的碎片尚不严重。但在已经运行了很长时间的系统上，在内核需要物理内存时，就可能出现可用空间不连续的情况。此类情况，主要出现在动态加载模块时 - -* 持久映射用于将高端内存域中的非持久页映射到内核中 - -* 固定映射是与物理地址空间中的固定页关联的虚拟地址空间项，但具体关联的页帧可以自由 -选择。它与通过固定公式与物理内存关联的直接映射页相反，虚拟固定映射地址与物理内存位置之间 -的关联可以自行定义，关联建立后内核总是会注意到的 - - -同样我们的[用户空间](http://www.360doc.com/content/14/1020/21/19947352_418512226.shtml), 也被划分为几个段, 包括从高地址到低地址分别为 : - - - -![进程的虚拟地址空间](../images/user_space.jpg) - -
- -| 区域 | 存储内容 | -|:---:|:------:| -| 栈 | 局部变量, 函数参数, 返回地址等 | -| 堆 | 动态分配的内存 | -| BSS段 | 未初始化或初值为0的全局变量和静态局部变量| -| 数据段 | 一初始化且初值非0的全局变量和静态局部变量| -| 代码段 | 可执行代码, 字符串面值, 只读变量 | - - -##3.4 bootmem_init初始化内存的基础数据结构(结点pg_data, 内存域zone, 页面page) -------- - -在paging_init之后, 系统的页帧已经建立起来, 然后通过bootmem_init中, 系统开始完成bootmem的初始化工作. - - -不同的体系结构bootmem_init的实现, 没有很大的区别, 但是在初始化的过程中, 其中的很多函数, 依据系统是NUMA还是UMA结构则有不同的定义 - - -bootmem_init函数的实现如下 - -| 函数实现 | arm | arm64 | -|:---:|:---:|:-----:| -| bootmem_init | [arch/arm/mm/init.c, line 282](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L282) | [arch/arm64/mm/init.c, line 306](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | - - - - -##3.5 build_all_zonelists初始化每个内存节点的zonelists -------- - -内核setup_arch的最后通过bootmem_init中完成了内存数据结构的初始化(包括内存结点pg_data_t, 内存管理域zone和页面信息page), 数据结构已经基本准备好了, 在后面为内存管理做得一个准备工作就是将所有节点的管理区都链入到zonelist中，便于后面内存分配工作的进行. - - -内存节点pg_data_t中将内存节点中的内存区域zone按照某种组织层次存储在一个zonelist中, 即pglist_data->node_zonelists成员信息 - -```cpp -// http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L626 -typedef struct pglist_data -{ - struct zone node_zones[MAX_NR_ZONES]; - struct zonelist node_zonelists[MAX_ZONELISTS]; -} -``` - - -内核定义了内存的一个层次结构关系, 首先试图分配廉价的内存，如果失败，则根据访问速度和容量，逐渐尝试分配更昂贵的内存. - -高端内存最廉价, 因为内核没有任何部分依赖于从该内存域分配的内存, 如果高端内存用尽, 对内核没有副作用, 所以优先分配高端内存 - -普通内存域的情况有所不同, 许多内核数据结构必须保存在该内存域, 而不能放置到高端内存域, 因此如果普通内存域用尽, 那么内核会面临内存紧张的情况 - -DMA内存域最昂贵，因为它用于外设和系统之间的数据传输。 -举例来讲，如果内核指定想要分配高端内存域。它首先在当前结点的高端内存域寻找适当的空闲内存段，如果失败，则查看该结点的普通内存域，如果还失败，则试图在该结点的DMA内存域分配。如果在3个本地内存域都无法找到空闲内存，则查看其他结点。这种情况下，备选结点应该尽可能靠近主结点，以最小化访问非本地内存引起的性能损失。 - - - -#4 总结 -------- - - - -##4.1 start_kernel启动流程 -------- - - -```cpp -start_kernel() - |---->page_address_init() - | 考虑支持高端内存 - | 业务：初始化page_address_pool链表； - | 将page_address_maps数组元素按索引降序插入 - | page_address_pool链表; - | 初始化page_address_htable数组. - | - |---->setup_arch(&command_line); - | 初始化特定体系结构的内容 - |---->arm64_memblock_init( ); [参见memblock和bootmem] - | 初始化引导阶段的内存分配器memblock - | - |---->paging_init(); [参见分页机制初始化paging_init] - | 分页机制初始化 - | - |---->bootmem_init(); [与build_all_zonelist共同完成内存数据结构的初始化] - | 初始化内存数据结构包括内存节点和内存域 - | - |---->setup_per_cpu_areas(); - | 为per-CPU变量分配空间 - | - |---->build_all_zonelist() [bootmem_init初始化数据结构, 该函数初始化zonelists] - | 为系统中的zone建立后备zone的列表. - | 所有zone的后备列表都在 - | pglist_data->node_zonelists[0]中; - | - | 期间也对per-CPU变量boot_pageset做了初始化. - | - |---->page_alloc_init() - |---->hotcpu_notifier(page_alloc_cpu_notifier, 0); - | 不考虑热插拔CPU - | - |---->pidhash_init() - | 详见下文. - | 根据低端内存页数和散列度，分配hash空间，并赋予pid_hash - | - |---->vfs_caches_init_early() - |---->dcache_init_early() - | dentry_hashtable空间，d_hash_shift, h_hash_mask赋值； - | 同pidhash_init(); - | 区别: - | 散列度变化了（13 - PAGE_SHIFT）; - | 传入alloc_large_system_hash的最后参数值为0; - | - |---->inode_init_early() - | inode_hashtable空间，i_hash_shift, i_hash_mask赋值； - | 同pidhash_init(); - | 区别: - | 散列度变化了（14 - PAGE_SHIFT）; - | 传入alloc_large_system_hash的最后参数值为0; - | -``` - - -##4.2 体系结构相关的初始化工作setup_arch -------- - - -```cpp -setup_arch(char **cmdline_p) - |---->arm64_memblock_init( ); - | 初始化引导阶段的内存分配器memblock - | - | - |---->paging_init(); - | 分页机制初始化 - | - | - |---->bootmem_init(); - | 初始化内存数据结构包括内存节点和内存域 -} -``` - -##4.3 bootmem_init初始化内存的基础数据结构(结点pg_data, 内存域zone, 页面page) -------- - -```cpp -bootmem_init(void) - |---->arm64_memblock_init( ); - | 初始化引导阶段的内存分配器memblock - | - |---->min = PFN_UP(memblock_start_of_DRAM()); - |---->max = PFN_DOWN(memblock_end_of_DRAM()); - | - | - |---->arm64_numa_init(); - | 支持numa架构 - |---->arm64_numa_init(); - 支持numa架构 - | - | - |---->zone_sizes_init(min, max); - 来初始化节点和管理区的一些数据项 - | - |---->free_area_init_node - | 初始化内存节点 - | - | - |---->free_area_init_core初始化zone - | - | - |---->memmap_init初始化page页面 - | - | - | - |---->memblock_dump_all(); - | 初始化完成, 显示memblock的保留的所有内存信息 -``` - - -##4.4 build_all_zonelists初始化每个内存节点的zonelists -------- - - -```cpp -void build_all_zonelists(void) - |---->set_zonelist_order() - |---->current_zonelist_order = ZONELIST_ORDER_ZONE; - | - |---->__build_all_zonelists(NULL); - | Memory不支持热插拔, 为每个zone建立后备的zone, - | 每个zone及自己后备的zone，形成zonelist - | - |---->pg_data_t *pgdat = NULL; - | pgdat = &contig_page_data;(单node) - | - |---->build_zonelists(pgdat); - | 为每个zone建立后备zone的列表 - | - |---->struct zonelist *zonelist = NULL; - | enum zone_type j; - | zonelist = &pgdat->node_zonelists[0]; - | - |---->j = build_zonelists_node(pddat, zonelist, 0, MAX_NR_ZONES - 1); - | 为pgdat->node_zones[0]建立后备的zone，node_zones[0]后备的zone - | 存储在node_zonelist[0]内，对于node_zone[0]的后备zone，其后备的zone - | 链表如下(只考虑UMA体系，而且不考虑ZONE_DMA)： - | node_zonelist[0]._zonerefs[0].zone = &node_zones[2]; - | node_zonelist[0]._zonerefs[0].zone_idx = 2; - | node_zonelist[0]._zonerefs[1].zone = &node_zones[1]; - | node_zonelist[0]._zonerefs[1].zone_idx = 1; - | node_zonelist[0]._zonerefs[2].zone = &node_zones[0]; - | node_zonelist[0]._zonerefs[2].zone_idx = 0; - | - | zonelist->_zonerefs[3].zone = NULL; - | zonelist->_zonerefs[3].zone_idx = 0; - | - |---->build_zonelist_cache(pgdat); - |---->pdat->node_zonelists[0].zlcache_ptr = NULL; - | UMA体系结构 - | - |---->for_each_possible_cpu(cpu) - | setup_pageset(&per_cpu(boot_pageset, cpu), 0); - |详见下文 - |---->vm_total_pages = nr_free_pagecache_pages(); - | 业务：获得所有zone中的present_pages总和. - | - |---->page_group_by_mobility_disabled = 0; - | 对于代码中的判断条件一般不会成立，因为页数会最够多（内存较大） -``` - - -版权声明知识共享许可协议
本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。 - +启动过程期间的内存管理--bootmem分配器 +======= + + + +| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | +| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| +| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | + + + +在内存管理的上下文中, 初始化(initialization)可以有多种含义. 在许多CPU上, 必须显式设置适用于Linux内核的内存模型. 例如在x86_32上需要切换到保护模式, 然后内核才能检测到可用内存和寄存器. + + +而我们今天要讲的boot阶段就是系统初始化阶段使用的内存分配器. + + + + +#1 前景回顾 +------- + + +##1.1 Linux内存管理的层次结构 +------- + + +Linux把物理内存划分为三个层次来管理 + +| 层次 | 描述 | +|:----:|:----:| +| 存储节点(Node) | CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点 | +| 管理区(Zone) | 每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存 | +| 页面(Page) | 内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜ + +为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点 + + +* 首先, 内存被划分为**结点**. 每个节点关联到系统中的一个处理器, 内核中表示为`pg_data_t`的实例. 系统中每个节点被链接到一个以NULL结尾的`pgdat_list`链表中<而其中的每个节点利用`pg_data_tnode_next`字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig_page_data的静态pg_data_t结构. + +* 接着各个节点又被划分为内存管理区域, 一个**管理区域**通过struct zone_struct描述, 其被定义为zone_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE_NORMAL,最后是超出了内核段的物理地址域ZONE_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射. + + +* 最后**页帧(page frame)**代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号. + + +##1.2 内存结点pg_data_t +------- + + +在LINUX中引入一个数据结构`struct pglist_data` ，来描述一个node，定义在[`include/linux/mmzone.h`](http://lxr.free-electrons.com/source/include/linux/mmzone.h#L630) 文件中。（这个结构被typedef pg_data_t）。 + + +* 对于NUMA系统来讲， 整个系统的内存由一个[node_data](http://lxr.free-electrons.com/source/arch/s390/numa/numa.c?v=4.7#L23)的pg_data_t指针数组来管理 + +* 对于PC这样的UMA系统，使用struct pglist_data contig_page_data ，作为系统唯一的node管理所有的内存区域。（UMA系统中中只有一个node） + +可以使用NODE_DATA(node_id)来查找系统中编号为node_id的结点, 而UMA结构下由于只有一个结点, 因此该宏总是返回全局的contig_page_data, 而与参数node_id无关. + +**NODE_DATA(node_id)查找编号node_id的结点pg_data_t信息** 参见[NODE_DATA的定义](http://lxr.free-electrons.com/ident?v=4.7;i=NODE_DATA) + +```cpp +extern struct pglist_data *node_data[]; +#define NODE_DATA(nid) (node_data[(nid)]) +``` + + +在UMA结构的机器中, 只有一个node结点即contig_page_data, 此时NODE_DATA直接指向了全局的contig_page_data, 而与node的编号nid无关, 参照[include/linux/mmzone.h?v=4.7, line 858](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L858) + + +```cpp +extern struct pglist_data contig_page_data; +#define NODE_DATA(nid) (&contig_page_data) + +``` + +##1.2 物理内存区域 +------- + +因为实际的计算机体系结构有硬件的诸多限制, 这限制了页框可以使用的方式. 尤其是, Linux内核必须处理80x86体系结构的两种硬件约束. + +* ISA总线的直接内存存储DMA处理器有一个严格的限制 : 他们只能对RAM的前16MB进行寻址 + +* 在具有大容量RAM的现代32位计算机中, CPU不能直接访问所有的物理地址, 因为线性地址空间太小, 内核不可能直接映射所有物理内存到线性地址空间, 我们会在后面典型架构(x86)上内存区域划分详细讲解x86_32上的内存区域划分 + + +因此Linux内核对不同区域的内存需要采用不同的管理方式和映射方式, 因此内核将物理地址或者成用zone_t表示的不同地址区域 + +对于x86_32的机器，管理区(内存区域)类型如下分布 + + +| 类型 | 区域 | +| :------- | ----: | +| ZONE_DMA | 0~15MB | +| ZONE_NORMAL | 16MB~895MB | +| ZONE_HIGHMEM | 896MB~物理内存结束 | + + +##1.3 物理页帧 +------- + +内核把物理页作为内存管理的基本单位. 尽管处理器的最小可寻址单位通常是字, 但是, 内存管理单元MMU通常以页为单位进行处理. 因此，从虚拟内存的上来看，页就是最小单位. + +页帧代表了系统内存的最小单位, 对内存中的每个页都会创建struct page的一个实例. 内核必须要保证page结构体足够的小，否则仅struct page就要占用大量的内存. + + + 内核用[struct page(include/linux/mm_types.h?v=4.7, line 45)](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v4.7#L45)结构表示系统中的每个物理页. + +出于节省内存的考虑，struct page中使用了大量的联合体union. + + +`mem_map`是一个struct page的数组，管理着系统中所有的物理内存页面。在系统启动的过程中，创建和分配mem_map的内存区域, mem_map定义在[mm/page_alloc.c?v=4.7, line 6691](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6691) + + +UMA体系结构中，free_area_init函数在系统唯一的struct node对象contig_page_data中node_mem_map成员赋值给全局的mem_map变量 + + +#1.6 今日内容(启动过程中的内存初始化) +------- + + + + +在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉. + + +因此我们可以把linux内核的内存管理分三个阶段。 + +| 阶段 | 起点 | 终点 | 描述 | +|:-----:|:-----:|:-----:| +| 第一阶段 | 系统启动 | bootmem或者memblock初始化完成 | 此阶段只能使用memblock_reserve函数分配内存， 早期内核中使用init_bootmem_done = 1标识此阶段结束 | +| 第二阶段 | bootmem或者memblock初始化完 | buddy完成前 | 引导内存分配器bootmem或者memblock接受内存的管理工作, 早期内核中使用mem_init_done = 1标记此阶段的结束 | +| 第三阶段 | buddy初始化完成 | 系统停止运行 | 可以用cache和buddy分配内存 | + + + +**系统启动过程中的内存管理** + + +首先我们来看看start_kernel是如何初始化系统的, start_kerne定义在[init/main.c?v=4.7, line 479](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L479) + +其代码很复杂, 我们只截取出其中与内存管理初始化相关的部分, 如下所示 + + +```cpp +asmlinkage __visible void __init start_kernel(void) +{ + + /* 设置特定架构的信息 + * 同时初始化memblock */ + setup_arch(&command_line); + mm_init_cpumask(&init_mm); + + setup_per_cpu_areas(); + + /* 初始化内存结点和内段区域 */ + build_all_zonelists(NULL, NULL); + page_alloc_init(); + + + /* + * These use large bootmem allocations and must precede + * mem_init(); + * kmem_cache_init(); + */ + mm_init(); + + kmem_cache_init_late(); + + kmemleak_init(); + setup_per_cpu_pageset(); + + rest_init(); +} +``` + + +| 函数 | 功能 | +|:----:|:----:| +| [setup_arch](http://lxr.free-electrons.com/ident?v=4.7;i=setup_arch) | 是一个特定于体系结构的设置函数, 其中一项任务是负责初始化自举分配器 | +| [mm_init_cpumask](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v=4.7#L522) | 初始化CPU屏蔽字 | +| [setup_per_cpu_areas](http://lxr.free-electrons.com/ident?v=4.7;i=setup_per_cpu_areas) | 函数[(查看定义)](http://lxr.free-electrons.com/source/mm/percpu.c?v4.7#L2205])给每个CPU分配内存，并拷贝.data.percpu段的数据. 为系统中的每个CPU的per_cpu变量申请空间.
在SMP系统中, setup_per_cpu_areas初始化源代码中(使用[per_cpu宏](http://lxr.free-electrons.com/source/include/linux/percpu-defs.h#L256))定义的静态per-cpu变量, 这种变量对系统中每个CPU都有一个独立的副本.
此类变量保存在内核二进制影像的一个独立的段中, setup_per_cpu_areas的目的就是为系统中各个CPU分别创建一份这些数据的副本
在非SMP系统中这是一个空操作 | +| [build_all_zonelists](http://lxr.free-electrons.com/source/mm/page_alloc.c?v4.7#L5029) | 建立并初始化结点和内存域的数据结构 | +| [mm_init](http://lxr.free-electrons.com/source/init/main.c?v4.7#L464) | 建立了内核的内存分配器,
其中通过[mem_init](http://lxr.free-electrons.com/ident?v=4.7&i=mem_init)停用bootmem分配器并迁移到实际的内存管理器(比如伙伴系统)
然后调用kmem_cache_init函数初始化内核内部用于小块内存区的分配器 | +| [kmem_cache_init_late](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378) | 在kmem_cache_init之后, 完善分配器的缓存机制,　当前3个可用的内核内存分配器[slab](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378), [slob](http://lxr.free-electrons.com/source/mm/slob.c?v4.7#L655), [slub](http://lxr.free-electrons.com/source/mm/slub.c?v=4.7#L3960)都会定义此函数　| +| [kmemleak_init](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1857) | Kmemleak工作于内核态，Kmemleak 提供了一种可选的内核泄漏检测，其方法类似于跟踪内存收集器。当独立的对象没有被释放时，其报告记录在 [/sys/kernel/debug/kmemleak](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1467)中, Kmemcheck能够帮助定位大多数内存错误的上下文 | +| [setup_per_cpu_pageset](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5392) | 初始化CPU高速缓存行, 为pagesets的第一个数组元素分配内存, 换句话说, 其实就是第一个系统处理器分配
由于在分页情况下，每次存储器访问都要存取多级页表，这就大大降低了访问速度。所以，为了提高速度，在CPU中设置一个最近存取页面的高速缓存硬件机制，当进行存储器访问时，先检查要访问的页面是否在高速缓存中. | + + + +#2 第一阶段(启动过程中的内存管理) +------- + + +内存管理是操作系统资源管理的重点, 但是在操作系统初始化的初期, 操作系统只是获取到了内存的基本信息, 但是内存管理的数据结构都没有建立, 而我们这些数据结构创建的过程本身就是一个内存分配的过程, 那么就出现一个问题 + + +我们还没有一个内存管理器去负责分配和回收内存, 而我们又不可能将所有的内存信息都静态创建并初始化, 那么我们怎么分配内存管理器所需要的内存呢? 现在我们进入了一个先有鸡还是先有蛋的怪圈, 这种问题的一般解决方法是, 我们先实现一个满足要求的但是可能效率不高的笨家伙(内存管理器), 用它来负责系统初始化初期的内存管理, 最重要的, 用它来初始化我们内存的数据结构, 直到我们真正的内存管理器被初始化完成并能投入使用, 我们将旧的内存管理器丢掉 + +即因此在系统启动过程期间, 内核使用了一个额外的简化形式的内存管理模块早期的**引导内存分配器(boot memory allocator--bootmem分配器)**或者**memblock**, 用于在启动阶段早期分配内存, 而在系统初始化完成后, 该分配器被内核抛弃, 然后初始化了一套新的更加完善的内存分配器. + + + +##2.1 引导内存分配器bootmem +------- + +在启动过程期间, 尽管内存管理尚未初始化, 但是内核仍然需要分配内存以创建各种数据结构, 早期的内核中负责初始化阶段的内存分配器称为**引导内存分配器(boot memory allocator--bootmem分配器)**, 在耳熟能详的伙伴系统建立前内存都是利用分配器来分配的，伙伴系统框架建立起来后，bootmem会过度到伙伴系统. 显然, 对该内存分配器的需求集中于简单性方面,　而不是性能和通用性, 它仅用于初始化阶段. 因此内核开发者决定实现一个最先适配(first-first)分配器用于在启动阶段管理内存. 这是可能想到的最简单的方式. + + +**引导内存分配器(boot memory allocator--bootmem分配器)**基于最先适配(first-first)分配器的原理(这儿是很多系统的内存分配所使用的原理), 使用一个位图来管理页, 以位图代替原来的空闲链表结构来表示存储空间, 位图的比特位的数目与系统中物理内存页面数目相同. 若位图中某一位是1, 则标识该页面已经被分配(已用页), 否则表示未被占有(未用页). + +在需要分配内存时, 分配器逐位的扫描位图, 直至找到一个能提供足够连续页的位置, 即所谓的最先最佳(first-best)或最先适配位置.该分配机制通过记录上一次分配的页面帧号(PFN)结束时的偏移量来实现分配大小小于一页的空间, 连续的小的空闲空间将被合并存储在一页上. + + + +即使是初始化用的最先适配分配器也必须使用一些数据结构存, 内核为系统中每一个结点都提供了一个struct bootmem_data结构的实例, 用于bootmem的内存管理. 它含有引导内存分配器给结点分配内存时所需的信息. 当然, 这时候内存管理还没有初始化, 因而该结构所需的内存是无法动态分配的, 必须在编译时分配给内核. + +在UMA系统上该分配的实现与CPU无关, 而NUMA系统内存结点与CPU相关联, 因此采用了特定体系结构的解决方法. + +bootmem_data的结构定义在[include/linux/bootmem.h?v=4.7, line 28](http://lxr.free-electrons.com/source/include/linux/bootmem.h?v=4.7#L28), 其定义如下所示 + + +关于引导内存分配器的具体内容, 请参见另外一篇博文 + +| CSDN | GitHub | +|:-----:|:------:| +| [引导内存分配器bootmem](带添加链接) | [study/kernel/02-memory/03-initialize/02-bootmem](https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/03-initialize/02-bootmem) | + + +##2.2 memblock内存分配器 +------- + + +但是bootmem也有很多问题. 最明显的就是外碎片的问题, 因此内核维护了**memblock内存分配器**, 同时用memblock实现了一份bootmem相同的兼容API, 即nobootmem, Memblock以前被定义为Logical Memory Block( 逻辑内存块), 但根据[Yinghai Lu的补丁](https://lkml.org/lkml/2010/7/13/68), 它被重命名为memblock. 并最终替代bootmem成为初始化阶段的内存管理器 + +关于引导内存分配器的具体内容, 请参见另外一篇博文 + + +| CSDN | GitHub | +|:-----:|:------:| +| [memblock内存分配器](带添加链接) | [study/kernel/02-memory/03-initialize/03-memblock](https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/03-initialize/03-memblock) | + + + + +##2.3 两者的区别与联系 + +bootmem是通过位图来管理，位图存在地地址段, 而memblock是在高地址管理内存, 维护两个链表, 即memory和reserved + +memory链表维护系统的内存信息(在初始化阶段通过bios获取的), 对于任何内存分配, 先去查找memory链表, 然后在reserve链表上记录(新增一个节点，或者合并) + + +1. 两者都可以分配小于一页的内存； + +2. 两者都是就近查找可用的内存， bootmem是从低到高找， memblock是从高往低找； + + +在boot传递给kernel memory bank相关信息后，kernel这边会以memblcok的方式保存这些信息，当buddy system 没有起来之前，在kernel中也是要有一套机制来管理memory的申请和释放. + + +Kernel可以选择nobootmem 或者bootmem 来在buddy system起来之前管理memory. +这两种机制对提供的API是一致的，因此对用户是透明的 + +参见[mm/Makefile](http://lxr.free-electrons.com/source/mm/Makefile#L44) + + +```cpp +ifdef CONFIG_NO_BOOTMEM + obj-y += nobootmem.o +else + obj-y += bootmem.o +endif +``` + + +由于接口是一致的, 那么他们共同使用一份 + +| 头文件 | bootmem接口 | nobootmem接口 | +|:-----:|:-----------:|:------------:| +| [include/linux/bootmem.h](http://lxr.free-electrons.com/source/include/linux/bootmem.h) | [mm/bootmem.c](http://lxr.free-electrons.com/source/mm/bootmem.c) | [mm/nobootmem.c](http://lxr.free-electrons.com/source/mm/nobootmem.c) | + +##2.4 memblock的初始化(arm64架构) +------- + + +前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作. + +```cpp +void __init setup_arch(char **cmdline_p) +{ + /* 初始化memblock */ + arm64_memblock_init( ); + + /* 分页机制初始化 */ + paging_init(); + + bootmem_init(); +} +``` + +| 流程 | 描述 | +|:---:|:----:| +| [arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) | 初始化memblock内存分配器 | +| [paging_init](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | 初始化分页机制 | +| [bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | 初始化内存管理 | + + + + +其中arm64_memblock_init就完成了arm64架构下的memblock的初始化 + + + + +#3 第二阶段(初始化buddy内存管理) +------- + + +在arm64架构下, 内核在start_kernel()->setup_arch()函数中依次完成了如下工作 + + +前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作. + +```cpp +void __init setup_arch(char **cmdline_p) +{ + /* 初始化memblock */ + arm64_memblock_init( ); + + /* 分页机制初始化 */ + paging_init(); + + bootmem_init(); +} +``` + +| 流程 | 描述 | +|:---:|:----:| +| [arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) | 初始化memblock内存分配器 | +| [paging_init](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | 初始化分页机制 | +| [bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | 初始化内存管理 | + + +其中arm64_memblock_init就完成了arm64架构下的memblock的初始化. + + +而setup_arch则主要完成如下工作 + + +* 调用arm64_memblock_init来完成了memblock的初始化 + +* paging_init初始化内存的分页机制 + +* bootmem_init初始化内存管理 + + +##3.1 初始化流程 +------- + +下面我们就以arm64架构来分析bootmem初始化内存结点和内存域的过程, 在讲解的过程中我们会兼顾的考虑arm64架构下的异同 + +* 首先内核从[start_kernel](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L505)开始启动 + + +* 然后进入体系结构相关的设置部分[setup_arch](http://lxr.free-electrons.com/source/arch/arm/kernel/setup.c?v=4.7#L1073), 开始获取并设置指定体系结构的一些物理信息, 而arm64架构下则对应着[rch/arm64/kernel/setup.c](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) + + +* 在setup_arch函数内, 通过paging_init函数初始化了分页机制和页表的信息 + + +* 接着paging_init函数通过[bootmem_init](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c#L1642)开始进行初始化工作 + + +arm64在整个初始化的流程上并没有什么不同, 但是有细微的差别 + + +* 由于arm是在后期才开始加入了MMU内存管理单元的, 因此内核必须实现mmu和nonmmu两套不同的代码, 这主要是提现在分页机制的不同上, 因而paging_init分别定义了[arch/arm/mm/nommu.c](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)和[arch/arm/mm/mmu.c](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L1623)两个版本, 但是它们均调用了bootmem_init来完成初始化 + + +* 也是因为上面的原因, arm上paging_init有两份代码([mmu](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L162)和[nonmmu](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)), 为了降低代码的耦合性, arm通过setup_arch调用paging_init函数, 后者进一步调用了bootmem_init来完成, 而arm64上不存在这样的问题, 则在[setup_arch中顺序的先用paging_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L266)初始化了页表, 然后[setup_arch又调用bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v4.7#L271)来完成了bootmem的初始化 + + + +##3.2 paging_init初始化分页机制 +------- + + +paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响 + +因此在仔细考察其实现之前，很重要的一点是解释该函数的目的。 + +在x86_32系统上内核通常将总的4GB可用虚拟地址空间按3:1的比例划分给用户空间和内核空间, 虚拟地址空间的低端3GB +用于用户状态应用程序, 而高端的1GB则专用于内核. 尽管在分配内核的虚拟地址空间时, 当前系统上下文是不相干的, 但每个进程都有自身特定的地址空间. + +这些划分主要的动机如下所示 + +* 在用户应用程序的执行切换到核心态时（这总是会发生，例如在使用系统调用或发生周期性的时钟中断时），内核必须装载在一个可靠的环境中。因此有必要将地址空间的一部分分配给内核专用. + +* 物理内存页则映射到内核地址空间的起始处，以便内核直接访问，而无需复杂的页表操作. + +如果所有物理内存页都映射到用户空间进程能访问的地址空间中, 如果在系统上有几个应用程序在运行, 将导致严重的安全问题. 每个应用程序都能够读取和修改其他进程在物理内存中的内存区. 显然必须不惜任何代价防止这种情况出现. + +虽然用于用户层进程的虚拟地址部分随进程切换而改变，但是内核部分总是相同的 + + +##3.3 虚拟地址空间(以x86_32位系统为例) +------- + + + +出于内存保护等一系列的考虑, 内核将整个进程的虚拟运行空间划分为内核虚拟运行空间和内核虚拟运行空间 + + + +![虚拟地址空间](../images/vmarea_space.jpg) + +按3:1的比例划分地址空间, 只是约略反映了内核中的情况，内核地址空间作为内核的常驻虚拟地址空间, 自身又分为各个段 + +![内核空间](../images/kernel_space.jpg) + +地址空间的第一段用于将系统的所有物理内存页映射到内核的虚拟地址空间中。由于内核地址空间从偏移量0xC0000000开始，即经常提到的3 GiB，每个虚拟地址x都对应于物理地址x—0xC0000000，因此这是一个简单的线性平移。 + +直接映射区域从0xC0000000到high_memory地址，high_memory准确的数值稍后讨论。第1章提到过，这种方案有一问题。由于内核的虚拟地址空间只有1 GiB，最多只能映射1 GiB物理内存。IA-32系统（没有PAE）最大的内存配置可以达到4 GiB，引出的一个问题是，如何处理剩下的内存？ + + +这里有个坏消息。如果物理内存超过896 MiB，则内核无法直接映射全部物理内存。该值甚至比此前提到的最大限制1 GiB还小，因为内核必须保留地址空间最后的128 MiB用于其他目的，我会稍后解释。将这128 MiB加上直接映射的896 MiB内存，则得到内核虚拟地址空间的总数为1 024 MiB = 1GiB。内核使用两个经常使用的缩写normal和highmem，来区分是否可以直接映射的页帧。 + +内核地址空间的最后128 MiB用于何种用途呢？如图3-15所示，该部分有3个用途。 + +* 虚拟内存中连续、但物理内存中不连续的内存区，可以在vmalloc区域分配。该机制通常用于用户过程，内核自身会试图尽力避免非连续的物理地址。内核通常会成功，因为大部分大的内存块都在启动时分配给内核，那时内存的碎片尚不严重。但在已经运行了很长时间的系统上，在内核需要物理内存时，就可能出现可用空间不连续的情况。此类情况，主要出现在动态加载模块时 + +* 持久映射用于将高端内存域中的非持久页映射到内核中 + +* 固定映射是与物理地址空间中的固定页关联的虚拟地址空间项，但具体关联的页帧可以自由 +选择。它与通过固定公式与物理内存关联的直接映射页相反，虚拟固定映射地址与物理内存位置之间 +的关联可以自行定义，关联建立后内核总是会注意到的 + + +同样我们的[用户空间](http://www.360doc.com/content/14/1020/21/19947352_418512226.shtml), 也被划分为几个段, 包括从高地址到低地址分别为 : + + + +![进程的虚拟地址空间](../images/user_space.jpg) + +
+ +| 区域 | 存储内容 | +|:---:|:------:| +| 栈 | 局部变量, 函数参数, 返回地址等 | +| 堆 | 动态分配的内存 | +| BSS段 | 未初始化或初值为0的全局变量和静态局部变量| +| 数据段 | 一初始化且初值非0的全局变量和静态局部变量| +| 代码段 | 可执行代码, 字符串面值, 只读变量 | + + +##3.4 bootmem_init初始化内存的基础数据结构(结点pg_data, 内存域zone, 页面page) +------- + +在paging_init之后, 系统的页帧已经建立起来, 然后通过bootmem_init中, 系统开始完成bootmem的初始化工作. + + +不同的体系结构bootmem_init的实现, 没有很大的区别, 但是在初始化的过程中, 其中的很多函数, 依据系统是NUMA还是UMA结构则有不同的定义 + + +bootmem_init函数的实现如下 + +| 函数实现 | arm | arm64 | +|:---:|:---:|:-----:| +| bootmem_init | [arch/arm/mm/init.c, line 282](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L282) | [arch/arm64/mm/init.c, line 306](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | + + + + +##3.5 build_all_zonelists初始化每个内存节点的zonelists +------- + +内核setup_arch的最后通过bootmem_init中完成了内存数据结构的初始化(包括内存结点pg_data_t, 内存管理域zone和页面信息page), 数据结构已经基本准备好了, 在后面为内存管理做得一个准备工作就是将所有节点的管理区都链入到zonelist中，便于后面内存分配工作的进行. + + +内存节点pg_data_t中将内存节点中的内存区域zone按照某种组织层次存储在一个zonelist中, 即pglist_data->node_zonelists成员信息 + +```cpp +// http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L626 +typedef struct pglist_data +{ + struct zone node_zones[MAX_NR_ZONES]; + struct zonelist node_zonelists[MAX_ZONELISTS]; +} +``` + + +内核定义了内存的一个层次结构关系, 首先试图分配廉价的内存，如果失败，则根据访问速度和容量，逐渐尝试分配更昂贵的内存. + +高端内存最廉价, 因为内核没有任何部分依赖于从该内存域分配的内存, 如果高端内存用尽, 对内核没有副作用, 所以优先分配高端内存 + +普通内存域的情况有所不同, 许多内核数据结构必须保存在该内存域, 而不能放置到高端内存域, 因此如果普通内存域用尽, 那么内核会面临内存紧张的情况 + +DMA内存域最昂贵，因为它用于外设和系统之间的数据传输。 +举例来讲，如果内核指定想要分配高端内存域。它首先在当前结点的高端内存域寻找适当的空闲内存段，如果失败，则查看该结点的普通内存域，如果还失败，则试图在该结点的DMA内存域分配。如果在3个本地内存域都无法找到空闲内存，则查看其他结点。这种情况下，备选结点应该尽可能靠近主结点，以最小化访问非本地内存引起的性能损失。 + + + +#4 总结 +------- + + + +##4.1 start_kernel启动流程 +------- + + +```cpp +start_kernel() + |---->page_address_init() + | 考虑支持高端内存 + | 业务：初始化page_address_pool链表； + | 将page_address_maps数组元素按索引降序插入 + | page_address_pool链表; + | 初始化page_address_htable数组. + | + |---->setup_arch(&command_line); + | 初始化特定体系结构的内容 + |---->arm64_memblock_init( ); [参见memblock和bootmem] + | 初始化引导阶段的内存分配器memblock + | + |---->paging_init(); [参见分页机制初始化paging_init] + | 分页机制初始化 + | + |---->bootmem_init(); [与build_all_zonelist共同完成内存数据结构的初始化] + | 初始化内存数据结构包括内存节点和内存域 + | + |---->setup_per_cpu_areas(); + | 为per-CPU变量分配空间 + | + |---->build_all_zonelist() [bootmem_init初始化数据结构, 该函数初始化zonelists] + | 为系统中的zone建立后备zone的列表. + | 所有zone的后备列表都在 + | pglist_data->node_zonelists[0]中; + | + | 期间也对per-CPU变量boot_pageset做了初始化. + | + |---->page_alloc_init() + |---->hotcpu_notifier(page_alloc_cpu_notifier, 0); + | 不考虑热插拔CPU + | + |---->pidhash_init() + | 详见下文. + | 根据低端内存页数和散列度，分配hash空间，并赋予pid_hash + | + |---->vfs_caches_init_early() + |---->dcache_init_early() + | dentry_hashtable空间，d_hash_shift, h_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（13 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + | + |---->inode_init_early() + | inode_hashtable空间，i_hash_shift, i_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（14 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + | +``` + + +##4.2 体系结构相关的初始化工作setup_arch +------- + + +```cpp +setup_arch(char **cmdline_p) + |---->arm64_memblock_init( ); + | 初始化引导阶段的内存分配器memblock + | + | + |---->paging_init(); + | 分页机制初始化 + | + | + |---->bootmem_init(); + | 初始化内存数据结构包括内存节点和内存域 +} +``` + +##4.3 bootmem_init初始化内存的基础数据结构(结点pg_data, 内存域zone, 页面page) +------- + +```cpp +bootmem_init(void) + |---->min = PFN_UP(memblock_start_of_DRAM()); + |---->max = PFN_DOWN(memblock_end_of_DRAM()); + | + | + |---->arm64_numa_init(); + | 支持numa架构 + |---->arm64_numa_init(); + | 支持numa架构 + | + | + |---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + | + |---->free_area_init_core初始化zone + | + | + |---->memmap_init初始化page页面 + | + | + | + |---->memblock_dump_all(); + | 初始化完成, 显示memblock的保留的所有内存信息 +``` + + +##4.4 build_all_zonelists初始化每个内存节点的zonelists +------- + + +```cpp +void build_all_zonelists(void) + |---->set_zonelist_order() + |---->current_zonelist_order = ZONELIST_ORDER_ZONE; + | + |---->__build_all_zonelists(NULL); + | Memory不支持热插拔, 为每个zone建立后备的zone, + | 每个zone及自己后备的zone，形成zonelist + | + |---->pg_data_t *pgdat = NULL; + | pgdat = &contig_page_data;(单node) + | + |---->build_zonelists(pgdat); + | 为每个zone建立后备zone的列表 + | + |---->struct zonelist *zonelist = NULL; + | enum zone_type j; + | zonelist = &pgdat->node_zonelists[0]; + | + |---->j = build_zonelists_node(pddat, zonelist, 0, MAX_NR_ZONES - 1); + | 为pgdat->node_zones[0]建立后备的zone，node_zones[0]后备的zone + | 存储在node_zonelist[0]内，对于node_zone[0]的后备zone，其后备的zone + | 链表如下(只考虑UMA体系，而且不考虑ZONE_DMA)： + | node_zonelist[0]._zonerefs[0].zone = &node_zones[2]; + | node_zonelist[0]._zonerefs[0].zone_idx = 2; + | node_zonelist[0]._zonerefs[1].zone = &node_zones[1]; + | node_zonelist[0]._zonerefs[1].zone_idx = 1; + | node_zonelist[0]._zonerefs[2].zone = &node_zones[0]; + | node_zonelist[0]._zonerefs[2].zone_idx = 0; + | + | zonelist->_zonerefs[3].zone = NULL; + | zonelist->_zonerefs[3].zone_idx = 0; + | + |---->build_zonelist_cache(pgdat); + |---->pdat->node_zonelists[0].zlcache_ptr = NULL; + | UMA体系结构 + | + |---->for_each_possible_cpu(cpu) + | setup_pageset(&per_cpu(boot_pageset, cpu), 0); + |详见下文 + |---->vm_total_pages = nr_free_pagecache_pages(); + | 业务：获得所有zone中的present_pages总和. + | + |---->page_group_by_mobility_disabled = 0; + | 对于代码中的判断条件一般不会成立，因为页数会最够多（内存较大） +``` + + +版权声明知识共享许可协议
本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。 + diff --git a/study/kernel/02-memory/03-initialize/01-bootinit/README.md b/study/kernel/02-memory/03-initialize/01-bootinit/README.md deleted file mode 100644 index 649a76b..0000000 --- a/study/kernel/02-memory/03-initialize/01-bootinit/README.md +++ /dev/null @@ -1,979 +0,0 @@ -启动过程期间的内存管理--bootmem分配器 -======= - - - -| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | -| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| -| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | - - - -在内存管理的上下文中, 初始化(initialization)可以有多种含义. 在许多CPU上, 必须显式设置适用于Linux内核的内存模型. 例如在x86_32上需要切换到保护模式, 然后内核才能检测到可用内存和寄存器. - - -而我们今天要讲的boot阶段就是系统初始化阶段使用的内存分配器. - - - - -#1 前景回顾 -------- - - -##1.1 Linux内存管理的层次结构 -------- - - -Linux把物理内存划分为三个层次来管理 - -| 层次 | 描述 | -|:----:|:----:| -| 存储节点(Node) | CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点 | -| 管理区(Zone) | 每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存 | -| 页面(Page) | 内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜ - -为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点 - - -* 首先, 内存被划分为**结点**. 每个节点关联到系统中的一个处理器, 内核中表示为`pg_data_t`的实例. 系统中每个节点被链接到一个以NULL结尾的`pgdat_list`链表中<而其中的每个节点利用`pg_data_tnode_next`字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig_page_data的静态pg_data_t结构. - -* 接着各个节点又被划分为内存管理区域, 一个**管理区域**通过struct zone_struct描述, 其被定义为zone_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE_NORMAL,最后是超出了内核段的物理地址域ZONE_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射. - - -* 最后**页帧(page frame)**代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号. - - -##1.2 内存结点pg_data_t -------- - -在LINUX中引入一个数据结构`struct pglist_data` ，来描述一个node，定义在[`include/linux/mmzone.h`](http://lxr.free-electrons.com/source/include/linux/mmzone.h#L630) 文件中。（这个结构被typedef pg_data_t）。 - - -* 对于NUMA系统来讲， 整个系统的内存由一个[node_data](http://lxr.free-electrons.com/source/arch/s390/numa/numa.c?v=4.7#L23)的pg_data_t指针数组来管理 - -* 对于PC这样的UMA系统，使用struct pglist_data contig_page_data ，作为系统唯一的node管理所有的内存区域。（UMA系统中中只有一个node） - -可以使用NODE_DATA(node_id)来查找系统中编号为node_id的结点, 而UMA结构下由于只有一个结点, 因此该宏总是返回全局的contig_page_data, 而与参数node_id无关. - -**NODE_DATA(node_id)查找编号node_id的结点pg_data_t信息** 参见[NODE_DATA的定义](http://lxr.free-electrons.com/ident?v=4.7;i=NODE_DATA) - -```cpp -extern struct pglist_data *node_data[]; -#define NODE_DATA(nid) (node_data[(nid)]) -``` - - -在UMA结构的机器中, 只有一个node结点即contig_page_data, 此时NODE_DATA直接指向了全局的contig_page_data, 而与node的编号nid无关, 参照[include/linux/mmzone.h?v=4.7, line 858](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L858) - - -```cpp -extern struct pglist_data contig_page_data; -#define NODE_DATA(nid) (&contig_page_data) - -``` - -##1.2 物理内存区域 -------- - -因为实际的计算机体系结构有硬件的诸多限制, 这限制了页框可以使用的方式. 尤其是, Linux内核必须处理80x86体系结构的两种硬件约束. - -* ISA总线的直接内存存储DMA处理器有一个严格的限制 : 他们只能对RAM的前16MB进行寻址 - -* 在具有大容量RAM的现代32位计算机中, CPU不能直接访问所有的物理地址, 因为线性地址空间太小, 内核不可能直接映射所有物理内存到线性地址空间, 我们会在后面典型架构(x86)上内存区域划分详细讲解x86_32上的内存区域划分 - - -因此Linux内核对不同区域的内存需要采用不同的管理方式和映射方式, 因此内核将物理地址或者成用zone_t表示的不同地址区域 - -对于x86_32的机器，管理区(内存区域)类型如下分布 - - -| 类型 | 区域 | -| :------- | ----: | -| ZONE_DMA | 0~15MB | -| ZONE_NORMAL | 16MB~895MB | -| ZONE_HIGHMEM | 896MB~物理内存结束 | - - -##1.3 物理页帧 -------- - -内核把物理页作为内存管理的基本单位. 尽管处理器的最小可寻址单位通常是字, 但是, 内存管理单元MMU通常以页为单位进行处理. 因此，从虚拟内存的上来看，页就是最小单位. - -页帧代表了系统内存的最小单位, 对内存中的每个页都会创建struct page的一个实例. 内核必须要保证page结构体足够的小，否则仅struct page就要占用大量的内存. - - - 内核用[struct page(include/linux/mm_types.h?v=4.7, line 45)](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v4.7#L45)结构表示系统中的每个物理页. - -出于节省内存的考虑，struct page中使用了大量的联合体union. - - -`mem_map`是一个struct page的数组，管理着系统中所有的物理内存页面。在系统启动的过程中，创建和分配mem_map的内存区域, mem_map定义在[mm/page_alloc.c?v=4.7, line 6691](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6691) - - -UMA体系结构中，free_area_init函数在系统唯一的struct node对象contig_page_data中node_mem_map成员赋值给全局的mem_map变量 - - -#1.6 今日内容(启动过程中的内存初始化) -------- - - - - -在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉. - - -因此我们可以把linux内核的内存管理分三个阶段。 - -| 阶段 | 起点 | 终点 | 描述 | -|:-----:|:-----:|:-----:| -| 第一阶段 | 系统启动 | bootmem或者memblock初始化完成 | 此阶段只能使用memblock_reserve函数分配内存， 早期内核中使用init_bootmem_done = 1标识此阶段结束 | -| 第二阶段 | bootmem或者memblock初始化完 | buddy完成前 | 引导内存分配器bootmem或者memblock接受内存的管理工作, 早期内核中使用mem_init_done = 1标记此阶段的结束 | -| 第三阶段 | buddy开始初始化 | 全部内存以及buddy初始化完毕 | 可以用cache和buddy分配内存 | - - -#2 第一阶段 -------- - - -#3 第二阶段 -------- - - - - -#4 第四阶段 -------- - - - - -##2.1 系统启动过程中的内存管理 -------- - -首先我们来看看start_kernel是如何初始化系统的, start_kerne定义在[init/main.c?v=4.7, line 479](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L479) - -其代码很复杂, 我们只截取出其中与内存管理初始化相关的部分, 如下所示 - - -```cpp -asmlinkage __visible void __init start_kernel(void) -{ - - setup_arch(&command_line); - mm_init_cpumask(&init_mm); - - setup_per_cpu_areas(); - - - build_all_zonelists(NULL, NULL); - page_alloc_init(); - - - /* - * These use large bootmem allocations and must precede - * mem_init(); - * kmem_cache_init(); - */ - mm_init(); - - kmem_cache_init_late(); - - kmemleak_init(); - setup_per_cpu_pageset(); - - rest_init(); -} -``` - - -| 函数 | 功能 | -|:----:|:----:| -| [setup_arch](http://lxr.free-electrons.com/ident?v=4.7;i=setup_arch) | 是一个特定于体系结构的设置函数, 其中一项任务是负责初始化自举分配器 | -| [mm_init_cpumask](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v=4.7#L522) | 初始化CPU屏蔽字 | -| [setup_per_cpu_areas](http://lxr.free-electrons.com/ident?v=4.7;i=setup_per_cpu_areas) | 函数[(查看定义)](http://lxr.free-electrons.com/source/mm/percpu.c?v4.7#L2205])给每个CPU分配内存，并拷贝.data.percpu段的数据. 为系统中的每个CPU的per_cpu变量申请空间.
在SMP系统中, setup_per_cpu_areas初始化源代码中(使用[per_cpu宏](http://lxr.free-electrons.com/source/include/linux/percpu-defs.h#L256))定义的静态per-cpu变量, 这种变量对系统中每个CPU都有一个独立的副本.
此类变量保存在内核二进制影像的一个独立的段中, setup_per_cpu_areas的目的就是为系统中各个CPU分别创建一份这些数据的副本
在非SMP系统中这是一个空操作 | -| [build_all_zonelists](http://lxr.free-electrons.com/source/mm/page_alloc.c?v4.7#L5029) | 建立并初始化结点和内存域的数据结构 | -| [mm_init](http://lxr.free-electrons.com/source/init/main.c?v4.7#L464) | 建立了内核的内存分配器,
其中通过[mem_init](http://lxr.free-electrons.com/ident?v=4.7&i=mem_init)停用bootmem分配器并迁移到实际的内存管理器(比如伙伴系统)
然后调用kmem_cache_init函数初始化内核内部用于小块内存区的分配器 | -| [kmem_cache_init_late](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378) | 在kmem_cache_init之后, 完善分配器的缓存机制,　当前3个可用的内核内存分配器[slab](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378), [slob](http://lxr.free-electrons.com/source/mm/slob.c?v4.7#L655), [slub](http://lxr.free-electrons.com/source/mm/slub.c?v=4.7#L3960)都会定义此函数　| -| [kmemleak_init](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1857) | Kmemleak工作于内核态，Kmemleak 提供了一种可选的内核泄漏检测，其方法类似于跟踪内存收集器。当独立的对象没有被释放时，其报告记录在 [/sys/kernel/debug/kmemleak](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1467)中, Kmemcheck能够帮助定位大多数内存错误的上下文 | -| [setup_per_cpu_pageset](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5392) | 初始化CPU高速缓存行, 为pagesets的第一个数组元素分配内存, 换句话说, 其实就是第一个系统处理器分配
由于在分页情况下，每次存储器访问都要存取多级页表，这就大大降低了访问速度。所以，为了提高速度，在CPU中设置一个最近存取页面的高速缓存硬件机制，当进行存储器访问时，先检查要访问的页面是否在高速缓存中. | - - - - - - -##2.2 引导过程中的内存初始化(bootmem和nobootmem) -------- - - - -由于硬件配置多种多样, 所以在编译时就静态初始化所有的内核存储结构是不现实的. 在boot传递给kernel memory bank相关信息后，kernel这边会以memblcok的方式保存这些信息，当buddy system 没有起来之前，在kernel中也是要有一套机制来管理memory的申请和释放. - - -Kernel可以选择nobootmem 或者bootmem 来在buddy system起来之前管理memory. -这两种机制对提供的API是一致的，因此对用户是透明的 - -参见[mm/Makefile](http://lxr.free-electrons.com/source/mm/Makefile#L44) - - -```cpp -ifdef CONFIG_NO_BOOTMEM - obj-y += nobootmem.o -else - obj-y += bootmem.o -endif -``` - - -由于接口是一致的, 那么他们共同使用一份 - -| 头文件 | bootmem接口 | nobootmem接口 | -|:-------:|:----------------:|:-------------------:| -| [include/linux/bootmem.h](http://lxr.free-electrons.com/source/include/linux/bootmem.h) | [mm/bootmem.c](http://lxr.free-electrons.com/source/mm/bootmem.c) | [mm/nobootmem.c](http://lxr.free-electrons.com/source/mm/nobootmem.c) | - - - - - - - -##2.2.1 初始化阶段的引导内存分配器bootmem -------- - - -不管是否使用bootmem分配器是系统启动初期的内存分配方式，在耳熟能详的伙伴系统建立前内存都是利用bootmem分配器来分配的，伙伴系统框架建立起来后，bootmem会过度到伙伴系统. - - -在启动过程期间, 尽管内存管理尚未初始化, 但是内核仍然需要分配内存以创建各种数据结构. 因此在系统启动过程期间, 内核使用了一个额外的简化形式的内存管理模块**引导内存分配器(boot memory allocator--bootmem分配器)**, 用于在启动阶段早期分配内存, 而在系统初始化完成后, 该分配器被内核抛弃, 然后初始化了一套新的更加完善的内存分配器. - -显然, 对该内存分配器的需求集中于简单性方面,　而不是性能和通用性, 它仅用于初始化阶段. 因此内核开发者决定实现一个最先适配(first-first)分配器用于在启动阶段管理内存. 这是可能想到的最简单的方式. - - -**引导内存分配器(boot memory allocator--bootmem分配器)**基于最先适配(first-first)分配器的原理(这儿是很多系统的内存分配所使用的原理), 使用一个位图来管理页, 以位图代替原来的空闲链表结构来表示存储空间, 位图的比特位的数目与系统中物理内存页面数目相同. 若位图中某一位是1, 则标识该页面已经被分配(已用页), 否则表示未被占有(未用页). - -在需要分配内存时, 分配器逐位的扫描位图, 直至找到一个能提供足够连续页的位置, 即所谓的最先最佳(first-best)或最先适配位置. - -该分配机制通过记录上一次分配的页面帧号(PFN)结束时的偏移量来实现分配大小小于一页的空间, 连续的小的空闲空间将被合并存储在一页上. - - - -**为什么在系统运行时抛弃bootmem** - -当系统运行时, 为何不继续使用bootmem分配机制呢? - -* 其中一个关键原因在于 : 但它每次分配都必须从头扫描位图, 每次通过对内存域进行线性搜索来实现分配. - -＊ 其次首先适应算法容易在内存的起始断留下许多小的空闲碎片, 在需要分配较大的空间页时,　检查位图的成本将是非常高的. - - - -引导内存分配器bootmem分配器简单却非常低效,　因此在内核完全初始化之后,　不能将该分配器继续欧诺个与内存管理,　而伙伴系统(连同slab, slub或者slob分配器)是一个好很多的备选方案． - - - -如果使用bootmem机制, 那么在初始化的初期内核首先初始化了bootmem自身, 然后接着又用bootmem分配和初始化了内存结点和管理域, 因此初始化bootmem的工作主要分成两步 - -* 初始化bootmem自身的数据结构 - -* 用bootmem初始化内存结点管理域 - - -##2.2.2 初始化阶段的nonbootmem(memblock) -------- - -但是bootmem也有很多问题. 最明显的就是外碎片的问题, 因此内核同时维护了memblock内存管理器, 同时用memblock实现了一份bootmem相同的兼容API, 即nobootmem - -bootmem是通过位图来管理，位图存在地地址段, 而memblock是在高地址管理内存, 维护两个链表, 即memory和reserved - -memory链表维护系统的内存信息(在初始化阶段通过bios获取的), 对于任何内存分配, 先去查找memory链表, 然后在reserve链表上记录(新增一个节点，或者合并) - - -1. 两者都可以分配小于一页的内存； - -2. 两者都是就近查找可用的内存， bootmem是从低到高找， memblock是从高往低找； - - - -##2.3 bootmem的初始化过程 -------- - - -目前大多数架构下, 都已经不再使用bootmem来进行内存的初始化了, 但是由于历史的影子, 即使是nobootmem的系统中我们仍然能够看到bootmem的一些影子, 因此我们首先来讲解一下bootmem下的系统初始化 - - - - - -##2.3.1 bootmem_data描述内存引导区 -------- - -内核用bootmem_data表示引导内存区域 - -即使是初始化用的最先适配分配器也必须使用一些数据结构存, 内核为系统中每一个结点都提供了一个struct bootmem_data结构的实例, 用于bootmem的内存管理. 它含有引导内存分配器给结点分配内存时所需的信息. 当然, 这时候内存管理还没有初始化, 因而该结构所需的内存是无法动态分配的, 必须在编译时分配给内核. - -在UMA系统上该分配的实现与CPU无关, 而NUMA系统内存结点与CPU相关联, 因此采用了特定体系结构的解决方法. - -bootmem_data的结构定义在[include/linux/bootmem.h?v=4.7, line 28](http://lxr.free-electrons.com/source/include/linux/bootmem.h?v=4.7#L28), 其定义如下所示 - -```cpp -#ifndef CONFIG_NO_BOOTMEM -/* -* node_bootmem_map is a map pointer - the bits represent all physical -* memory pages (including holes) on the node. -*/ -typedef struct bootmem_data { - unsigned long node_min_pfn; - unsigned long node_low_pfn; - void *node_bootmem_map; - unsigned long last_end_off; - unsigned long hint_idx; - struct list_head list; -} bootmem_data_t; - -extern bootmem_data_t bootmem_node_data[]; - -#endif -``` - -##2.3.2 初始化bootmem -------- - - -bootmem分配器的初始化是一个特定于体系结构的过程, 此外还取决于系统的内存布局 - -系统是从start_kernel开始启动的, 在启动过程中通过调用体系结构相关的setup_arch函数, 来获取初始化引导内存分配器所需的参数信息, 各种体系结构都有对应的函数来获取这些信息. - - -下面我们查看一下子早期内核中i386架构下的bootmem初始化流程 - -![i386上的初始化过程](../images/i386-setup_memory.jpg) - - -##2.4 memblcok(nonbootmem)的初始化流程 -------- - - - -目前大多数架构下都已经开始使用memblock来管理引导阶段的内存, 只有少数架构使用着早期的引导内存分配器bootmem - - - - - -#3 初始化buddy内存管理 -------- - - - - -系统是从start_kernel开始启动的, 在启动过程中通过调用体系结构相关的setup_arch函数, 来获取初始化引导内存分配器所需的参数信息, 各种体系结构都有对应的函数来获取这些信息, 在获取信息完成后 - - -| 调用层次 | 描述 | x86(已经不使用bootmem初始化) | arm | arm64 | -|:-------:|:---:|:---:|:---:|:-----:| -| setup_arch | 设置特定体系的信息 | [arch/x86/kernel/setup.c](http://lxr.free-electrons.com/source/arch/x86/kernel/setup.c?v=4.7#L857), 但是不再调用paging_init | [arch/arm/kernel/setup.c](http://lxr.free-electrons.com/source/arch/arm/kernel/setup.c?v=4.7#L1073), 调用了[paging_init](http://lxr.free-electrons.com/source/arch/arm/kernel/setup.c?v=4.7#L1073) | [arch/arm64/kernel/setup.c](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L266), 调用了[paging_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L266)和[bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L271) | -| paging_init | 初始化分页机制 | 定义了[arch/x86/mm/init_32.c](http://lxr.free-electrons.com/source/arch/x86/mm/init_32.c?v=4.7#L695)和[arch/x86/mm/init_64.c](http://lxr.free-electrons.com/source/arch/x86/mm/init_64.c?v=4.7#L579)两个版本 | 分别定义了[arch/arm/mm/nommu.c](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)和[arch/arm/mm/mmu.c](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L1623)两个版本, 均调用了bootmem_init | [arch/arm64/mm/mmu.c](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | -| bootmem_init | 初始化bootmem分配器 | 无定义 | [arch/arm/mm/init.c](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L282), 调用了zone_sizes_init | [arch/arm64/mm/init.c](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306),调用了zone_sizes_init | -| zone_sizes_init　| 初始化节点和管理区
一般来说NUMA结构下会调用free_area_init_nodes完成所有内存结点的初始化, 而UMA结构下则会调用free_area_init_node完成唯一一个结点的初始化 | [arch/x86/mm/init.c](http://lxr.free-electrons.com/source/arch/x86/mm/init.c?v=4.7#L718), zone_sizes_init依据系统是NUMA还是UMA会有不同的定义 | [arch/arm/mm/init.c](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L137), 注意arm是非numa结构, 因此直接调用free_area_init_node完成初始化 | [arch/arm64/mm/init.c](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L92) | -| [free_area_init_nodes](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6460) | 初始化结点中所有内存区 | [mm/page_alloc.c](http://lxr.free-electrons.com/ident?i=free_area_init_nodes), 体系结构无关 | [mm/page_alloc.c](http://lxr.free-electrons.com/ident?i=free_area_init_nodes), 体系结构无关 | [mm/page_alloc.c](http://lxr.free-electrons.com/ident?i=free_area_init_nodes), 体系结构无关 | -| free_area_init_node | 初始化单个节点域 | | | | - - - - - - -下面我们就以标准的arm架构来分析bootmem初始化内存结点和内存域的过程, 在讲解的过程中我们会兼顾的考虑arm64架构下的异同 - -* 首先内核从[start_kernel](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L505)开始启动 - - -* 然后进入体系结构相关的设置部分[setup_arch](http://lxr.free-electrons.com/source/arch/arm/kernel/setup.c?v=4.7#L1073), 开始获取并设置指定体系结构的一些物理信息, 而arm64架构下则对应着[rch/arm64/kernel/setup.c](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) - - -* 在setup_arch函数内, 通过paging_init函数初始化了分页机制和页表的信息 - - -* 接着paging_init函数通过[bootmem_init](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c#L1642)开始进行初始化工作 - - -arm64在整个初始化的流程上并没有什么不同, 但是有细微的差别 - - -* 由于arm是在后期才开始加入了MMU内存管理单元的, 因此内核必须实现mmu和nonmmu两套不同的代码, 这主要是提现在分页机制的不同上, 因而paging_init分别定义了[arch/arm/mm/nommu.c](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)和[arch/arm/mm/mmu.c](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L1623)两个版本, 但是它们均调用了bootmem_init来完成初始化 - - -* 也是因为上面的原因, arm上paging_init有两份代码([mmu](http://lxr.free-electrons.com/source/arch/arm/mm/mmu.c?v=4.7#L162)和[nonmmu](http://lxr.free-electrons.com/source/arch/arm/mm/nommu.c?v=4.7#L311)), 为了降低代码的耦合性, arm通过setup_arch调用paging_init函数, 后者进一步调用了bootmem_init来完成, 而arm64上不存在这样的问题, 则在[setup_arch中顺序的先用paging_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L266)初始化了页表, 然后[setup_arch又调用bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v4.7#L271)来完成了bootmem的初始化 - - - -##4.2 bootmem_init -------- - -在paging_init之后, 系统的页帧已经建立起来, 然后通过bootmem_init中, 系统开始完成bootmem的初始化工作. - - -不同的体系结构bootmem_init的实现, 没有很大的区别, 但是在初始化的过程中, 其中的很多函数, 依据系统是NUMA还是UMA结构则有不同的定义 - - - -###4.2.1 bootmem_init函数 - -| 函数实现 | arm | arm64 | -|:---:|:---:|:-----:| -| bootmem_init | [arch/arm/mm/init.c, line 282](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L282) | [arch/arm64/mm/init.c, line 306](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | - - -```cpp -// http://lxr.free-electrons.com/source/arch/arm/mm/init.c#L282 -void __init bootmem_init(void) -{ - unsigned long min, max_low, max_high; - - memblock_allow_resize(); - max_low = max_high = 0; - - /* 找到内存区域大小， - * max_low低端内存上界限 - * max_high 总内存上界 - */ - find_limits(&min, &max_low, &max_high); - - early_memtest((phys_addr_t)min << PAGE_SHIFT, - (phys_addr_t)max_low << PAGE_SHIFT); - - /* - * Sparsemem tries to allocate bootmem in memory_present(), - * so must be done after the fixed reservations - */ - arm_memory_present(); - - /* - * sparse_init() needs the bootmem allocator up and running. - */ - sparse_init(); - - /* - * Now free the memory - free_area_init_node needs - * the sparse mem_map arrays initialized by sparse_init() - * for memmap_init_zone(), otherwise all PFNs are invalid. - */ - zone_sizes_init(min, max_low, max_high); - - /* - * This doesn't seem to be used by the Linux memory manager any - * more, but is used by ll_rw_block. If we can get rid of it, we - * also get rid of some of the stuff above as well. - */ - min_low_pfn = min; - max_low_pfn = max_low; - max_pfn = max_high; -} - -// http://lxr.free-electrons.com/source/arch/arm64/mm/init.c#L306 -void __init bootmem_init(void) -{ - unsigned long min, max; - - min = PFN_UP(memblock_start_of_DRAM()); - max = PFN_DOWN(memblock_end_of_DRAM()); - - early_memtest(min << PAGE_SHIFT, max << PAGE_SHIFT); - - max_pfn = max_low_pfn = max; - - arm64_numa_init(); - /* - * Sparsemem tries to allocate bootmem in memory_present(), so must be - * done after the fixed reservations. - */ - arm64_memory_present(); - - sparse_init(); - zone_sizes_init(min, max); - - high_memory = __va((max << PAGE_SHIFT) - 1) + 1; - memblock_dump_all(); -``` - - - -###4.2.2 函数设置内存区域大小 -------- - - - -要想初始化内存区域, 首先要先获取内存域的大小(起始和结束), 内核通过min_low_pfn, max_low_pfn, max_pfn三个全局变量标识了内存页面的开始和结束. 这几个变量我们在之前的[struct zone详解中](https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/01-description/03-zone)中提到过, 内核也通过这些全局变量标记了物理内存所在页面的偏移, 这些变量定义在[mm/nobootmem.c?v4.7, line 31](http://lxr.free-electrons.com/source/mm/nobootmem.c?v4.7#L31) - -| 变量 | 描述 | -|:----:|:---:| -| max_low_pfn | max_low_pfn变量是由find_max_low_pfn函数计算并且初始化的，它被初始化成ZONE_NORMAL的最后一个page的位置。这个位置是kernel直接访问的物理内存, 也是关系到kernel/userspace通过“PAGE_OFFSET宏”把线性地址内存空间分开的内存地址位置 | -| min_low_pfn | 系统可用的第一个pfn是[min_low_pfn变量](http://lxr.free-electrons.com/source/include/linux/bootmem.h?v4.7#L16), 开始与_end标号的后面, 也就是kernel结束的地方.在文件mm/bootmem.c中对这个变量作初始化 -| max_pfn | 系统可用的最后一个PFN是[max_pfn变量](http://lxr.free-electrons.com/source/include/linux/bootmem.h?v4.7#L21), 这个变量的初始化完全依赖与硬件的体系结构. | - -**arm架构**下通过find_limits函数用来查找系统中可用内存区域的大小, 该函数定义在[arch/arm/mm/init.c?v=4.7, line 90](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L90) - -```cpp -static void __init find_limits(unsigned long *min, unsigned long *max_low, - unsigned long *max_high) -{ - *max_low = PFN_DOWN(memblock_get_current_limit()); - *min = PFN_UP(memblock_start_of_DRAM()); - *max_high = PFN_DOWN(memblock_end_of_DRAM()); -} -``` - -而**arm64架构**下, 则直接通过如下代码获取 - -```cpp -void __init bootmem_init(void) -{ - /* ...... */ - min = PFN_UP(memblock_start_of_DRAM()); - max = PFN_DOWN(memblock_end_of_DRAM()); - - early_memtest(min << PAGE_SHIFT, max << PAGE_SHIFT); - - max_pfn = max_low_pfn = max; - /* ...... */ -``` - - - - -###4.2.3 zone_sizes_init初始化节点和内存域 -------- - - -内核通过zone_sizes_init函数来初始化节点和管理区的一些数据项 - - -| 函数实现 | arm | arm64 | -|:---:|:---:|:-----:| -| zone_sizes_init | [arch/arm/mm/init.c?v=4.7#L137](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L137) | [arch/arm64/mm/init.c?v=4.7, line 90](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L90) | - -**arm架构**下该函数定义在[arch/arm/mm/init.c?v=4.7#L137](http://lxr.free-electrons.com/source/arch/arm/mm/init.c?v=4.7#L137)中. 如下所示 - - -```cpp -static void __init zone_sizes_init(unsigned long min, unsigned long max_low, - unsigned long max_high) -{ - unsigned long zone_size[MAX_NR_ZONES], zhole_size[MAX_NR_ZONES]; - struct memblock_region *reg; - - /* - * initialise the zones. - */ - memset(zone_size, 0, sizeof(zone_size)); - - /* - * The memory size has already been determined. If we need - * to do anything fancy with the allocation of this memory - * to the zones, now is the time to do it. - */ - zone_size[0] = max_low - min; -#ifdef CONFIG_HIGHMEM - zone_size[ZONE_HIGHMEM] = max_high - max_low; -#endif - - /* - * Calculate the size of the holes. - * holes = node_size - sum(bank_sizes) - */ - memcpy(zhole_size, zone_size, sizeof(zhole_size)); - for_each_memblock(memory, reg) { - unsigned long start = memblock_region_memory_base_pfn(reg); - unsigned long end = memblock_region_memory_end_pfn(reg); - - if (start < max_low) { - unsigned long low_end = min(end, max_low); - zhole_size[0] -= low_end - start; - } -#ifdef CONFIG_HIGHMEM - if (end > max_low) { - unsigned long high_start = max(start, max_low); - zhole_size[ZONE_HIGHMEM] -= end - high_start; - } -#endif - } - -#ifdef CONFIG_ZONE_DMA - /* - * Adjust the sizes according to any special requirements for - * this machine type. - */ - if (arm_dma_zone_size) - arm_adjust_dma_zone(zone_size, zhole_size, - arm_dma_zone_size >> PAGE_SHIFT); -#endif - - free_area_init_node(0, zone_size, min, zhole_size); -} -``` - - -内核在zone_sizes_init函数来中获取了三个管理区的页面数(即大小), 然后通过free_area_init_node函数来设置和初始化内存域 - - -由于arm是非numa结构, 因为只需要通过 -```cpp -free_area_init_node(0, zone_size, min, zhole_size); -``` -设置唯一一个内存节点即可. - - -而**arm64架构**下则需要一句系统是NUMA还是UMA结构分别进行处理 - -* 如果是UMA结构则直接通过free_area_init_node初始化全局唯一的内存结点即可 - -```cpp -free_area_init_node(0, zone_size, min, zhole_size); - -``` - -* 如果是NUMA结构则需要free_area_init_nodes使用初始化所有结点, 而该函数会进一步遍历所有的结点, 依次通过free_area_init_node完成内存结点的初始化 - -```cpp -free_area_init_nodes(max_zone_pfns); -``` - - -arm64架构下zone_sizes_init的定义在[arch/arm64/mm/init.c?v=4.7, line 90](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L90) - - -```cpp -#ifdef CONFIG_NUMA - -static void __init zone_sizes_init(unsigned long min, unsigned long max) -{ - unsigned long max_zone_pfns[MAX_NR_ZONES] = {0}; - - if (IS_ENABLED(CONFIG_ZONE_DMA)) - max_zone_pfns[ZONE_DMA] = PFN_DOWN(max_zone_dma_phys()); - max_zone_pfns[ZONE_NORMAL] = max; - - free_area_init_nodes(max_zone_pfns); -} - -#else - -static void __init zone_sizes_init(unsigned long min, unsigned long max) -{ - struct memblock_region *reg; - unsigned long zone_size[MAX_NR_ZONES], zhole_size[MAX_NR_ZONES]; - unsigned long max_dma = min; - - memset(zone_size, 0, sizeof(zone_size)); - - /* 4GB maximum for 32-bit only capable devices */ -#ifdef CONFIG_ZONE_DMA - max_dma = PFN_DOWN(arm64_dma_phys_limit); - zone_size[ZONE_DMA] = max_dma - min; -#endif - zone_size[ZONE_NORMAL] = max - max_dma; - - memcpy(zhole_size, zone_size, sizeof(zhole_size)); - - for_each_memblock(memory, reg) { - unsigned long start = memblock_region_memory_base_pfn(reg); - unsigned long end = memblock_region_memory_end_pfn(reg); - - if (start >= max) - continue; - -#ifdef CONFIG_ZONE_DMA - if (start < max_dma) { - unsigned long dma_end = min(end, max_dma); - zhole_size[ZONE_DMA] -= dma_end - start; - } -#endif - if (end > max_dma) { - unsigned long normal_end = min(end, max); - unsigned long normal_start = max(start, max_dma); - zhole_size[ZONE_NORMAL] -= normal_end - normal_start; - } - } - - free_area_init_node(0, zone_size, min, zhole_size); -} - -#endif /* CONFIG_NUMA */ -``` - - -###4.2.4 free_area_init_nodes初始化内存节点 -------- - - -内核通过zone_sizes_init函数来初始化节点和管理区的一些数据项 - - -| 函数实现 | 体系结构无关 | -|:---:|:---:|:-----:| -| free_area_init_nodes | [mm/page_alloc.c?v=4.7, line 6460](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6460) | -| free_area_init_node | [mm/page_alloc.c?v4.7, line 6076](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6076) | - - - -```cpp - -/** - * free_area_init_nodes - Initialise all pg_data_t and zone data - * @max_zone_pfn: an array of max PFNs for each zone - * - * This will call free_area_init_node() for each active node in the system. - * Using the page ranges provided by memblock_set_node(), the size of each - * zone in each node and their holes is calculated. If the maximum PFN - * between two adjacent zones match, it is assumed that the zone is empty. - * For example, if arch_max_dma_pfn == arch_max_dma32_pfn, it is assumed - * that arch_max_dma32_pfn has no pages. It is also assumed that a zone - * starts where the previous one ended. For example, ZONE_DMA32 starts - * at arch_max_dma_pfn. - */ -void __init free_area_init_nodes(unsigned long *max_zone_pfn) -{ - unsigned long start_pfn, end_pfn; - int i, nid; - - /* Record where the zone boundaries are */ - memset(arch_zone_lowest_possible_pfn, 0, - sizeof(arch_zone_lowest_possible_pfn)); - memset(arch_zone_highest_possible_pfn, 0, - sizeof(arch_zone_highest_possible_pfn)); - arch_zone_lowest_possible_pfn[0] = find_min_pfn_with_active_regions(); - arch_zone_highest_possible_pfn[0] = max_zone_pfn[0]; - for (i = 1; i < MAX_NR_ZONES; i++) { - if (i == ZONE_MOVABLE) - continue; - arch_zone_lowest_possible_pfn[i] = - arch_zone_highest_possible_pfn[i-1]; - arch_zone_highest_possible_pfn[i] = - max(max_zone_pfn[i], arch_zone_lowest_possible_pfn[i]); - } - arch_zone_lowest_possible_pfn[ZONE_MOVABLE] = 0; - arch_zone_highest_possible_pfn[ZONE_MOVABLE] = 0; - - /* Find the PFNs that ZONE_MOVABLE begins at in each node */ - memset(zone_movable_pfn, 0, sizeof(zone_movable_pfn)); - find_zone_movable_pfns_for_nodes(); - - /* Print out the zone ranges */ - pr_info("Zone ranges:\n"); - for (i = 0; i < MAX_NR_ZONES; i++) { - if (i == ZONE_MOVABLE) - continue; - pr_info(" %-8s ", zone_names[i]); - if (arch_zone_lowest_possible_pfn[i] == - arch_zone_highest_possible_pfn[i]) - pr_cont("empty\n"); - else - pr_cont("[mem %#018Lx-%#018Lx]\n", - (u64)arch_zone_lowest_possible_pfn[i] - << PAGE_SHIFT, - ((u64)arch_zone_highest_possible_pfn[i] - << PAGE_SHIFT) - 1); - } - - /* Print out the PFNs ZONE_MOVABLE begins at in each node */ - pr_info("Movable zone start for each node\n"); - for (i = 0; i < MAX_NUMNODES; i++) { - if (zone_movable_pfn[i]) - pr_info(" Node %d: %#018Lx\n", i, - (u64)zone_movable_pfn[i] << PAGE_SHIFT); - } - - /* Print out the early node map */ - pr_info("Early memory node ranges\n"); - for_each_mem_pfn_range(i, MAX_NUMNODES, &start_pfn, &end_pfn, &nid) - pr_info(" node %3d: [mem %#018Lx-%#018Lx]\n", nid, - (u64)start_pfn << PAGE_SHIFT, - ((u64)end_pfn << PAGE_SHIFT) - 1); - - /* Initialise every node */ - mminit_verify_pageflags_layout(); - setup_nr_node_ids(); - for_each_online_node(nid) { - pg_data_t *pgdat = NODE_DATA(nid); - free_area_init_node(nid, NULL, - find_min_pfn_for_node(nid), NULL); - - /* Any memory on that node */ - if (pgdat->node_present_pages) - node_set_state(nid, N_MEMORY); - check_for_memory(pgdat, nid); - } -} -``` - - -###4.2.5 free_area_init_node初始化内存节点 -------- - -| 函数实现 | 体系结构无关 | -|:---:|:---:|:-----:| -| free_area_init_nodes | [mm/page_alloc.c?v=4.7, line 6460](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6460) | -| free_area_init_node | [mm/page_alloc.c?v4.7, line 6076](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6076) | - - -```cpp -void __paginginit free_area_init_node(int nid, unsigned long *zones_size, - unsigned long node_start_pfn, unsigned long *zholes_size) -{ - pg_data_t *pgdat = NODE_DATA(nid); - unsigned long start_pfn = 0; - unsigned long end_pfn = 0; - - /* pg_data_t should be reset to zero when it's allocated */ - WARN_ON(pgdat->nr_zones || pgdat->classzone_idx); - - reset_deferred_meminit(pgdat); - pgdat->node_id = nid; - pgdat->node_start_pfn = node_start_pfn; -#ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP - get_pfn_range_for_nid(nid, &start_pfn, &end_pfn); - pr_info("Initmem setup node %d [mem %#018Lx-%#018Lx]\n", nid, - (u64)start_pfn << PAGE_SHIFT, - end_pfn ? ((u64)end_pfn << PAGE_SHIFT) - 1 : 0); -#else - start_pfn = node_start_pfn; -#endif - calculate_node_totalpages(pgdat, start_pfn, end_pfn, - zones_size, zholes_size); - - alloc_node_mem_map(pgdat); -#ifdef CONFIG_FLAT_NODE_MEM_MAP - printk(KERN_DEBUG "free_area_init_node: node %d, pgdat %08lx, node_mem_map %08lx\n", - nid, (unsigned long)pgdat, - (unsigned long)pgdat->node_mem_map); -#endif - - free_area_init_core(pgdat); -} -``` - - -###4.2.6 free_area_init_core -------- - - -| 函数实现 | 体系结构无关 | -|:---:|:---:|:-----:| -| free_area_init_core | [mm/page_alloc.c?v=4.7#L5932](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5932) | - - -```cpp -/* - * Set up the zone data structures: - * - mark all pages reserved - * - mark all memory queues empty - * - clear the memory bitmaps - * - * NOTE: pgdat should get zeroed by caller. - */ -static void __paginginit free_area_init_core(struct pglist_data *pgdat) -{ - enum zone_type j; - int nid = pgdat->node_id; - int ret; - - pgdat_resize_init(pgdat); -#ifdef CONFIG_NUMA_BALANCING - spin_lock_init(&pgdat->numabalancing_migrate_lock); - pgdat->numabalancing_migrate_nr_pages = 0; - pgdat->numabalancing_migrate_next_window = jiffies; -#endif -#ifdef CONFIG_TRANSPARENT_HUGEPAGE - spin_lock_init(&pgdat->split_queue_lock); - INIT_LIST_HEAD(&pgdat->split_queue); - pgdat->split_queue_len = 0; -#endif - init_waitqueue_head(&pgdat->kswapd_wait); - init_waitqueue_head(&pgdat->pfmemalloc_wait); -#ifdef CONFIG_COMPACTION - init_waitqueue_head(&pgdat->kcompactd_wait); -#endif - pgdat_page_ext_init(pgdat); - - for (j = 0; j < MAX_NR_ZONES; j++) { - struct zone *zone = pgdat->node_zones + j; - unsigned long size, realsize, freesize, memmap_pages; - unsigned long zone_start_pfn = zone->zone_start_pfn; - - size = zone->spanned_pages; - realsize = freesize = zone->present_pages; - - /* - * Adjust freesize so that it accounts for how much memory - * is used by this zone for memmap. This affects the watermark - * and per-cpu initialisations - */ - memmap_pages = calc_memmap_size(size, realsize); - if (!is_highmem_idx(j)) { - if (freesize >= memmap_pages) { - freesize -= memmap_pages; - if (memmap_pages) - printk(KERN_DEBUG - " %s zone: %lu pages used for memmap\n", - zone_names[j], memmap_pages); - } else - pr_warn(" %s zone: %lu pages exceeds freesize %lu\n", - zone_names[j], memmap_pages, freesize); - } - - /* Account for reserved pages */ - if (j == 0 && freesize > dma_reserve) { - freesize -= dma_reserve; - printk(KERN_DEBUG " %s zone: %lu pages reserved\n", - zone_names[0], dma_reserve); - } - - if (!is_highmem_idx(j)) - nr_kernel_pages += freesize; - /* Charge for highmem memmap if there are enough kernel pages */ - else if (nr_kernel_pages > memmap_pages * 2) - nr_kernel_pages -= memmap_pages; - nr_all_pages += freesize; - - /* - * Set an approximate value for lowmem here, it will be adjusted - * when the bootmem allocator frees pages into the buddy system. - * And all highmem pages will be managed by the buddy system. - */ - zone->managed_pages = is_highmem_idx(j) ? realsize : freesize; -#ifdef CONFIG_NUMA - zone->node = nid; - zone->min_unmapped_pages = (freesize*sysctl_min_unmapped_ratio) - / 100; - zone->min_slab_pages = (freesize * sysctl_min_slab_ratio) / 100; -#endif - zone->name = zone_names[j]; - spin_lock_init(&zone->lock); - spin_lock_init(&zone->lru_lock); - zone_seqlock_init(zone); - zone->zone_pgdat = pgdat; - zone_pcp_init(zone); - - /* For bootup, initialized properly in watermark setup */ - mod_zone_page_state(zone, NR_ALLOC_BATCH, zone->managed_pages); - - lruvec_init(&zone->lruvec); - if (!size) - continue; - - set_pageblock_order(); - setup_usemap(pgdat, zone, zone_start_pfn, size); - ret = init_currently_empty_zone(zone, zone_start_pfn, size); - BUG_ON(ret); - memmap_init(size, nid, j, zone_start_pfn); - } -} -``` - - -#总结 -------- - -版权声明知识共享许可协议
本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。 - diff --git a/study/kernel/02-memory/03-initialize/04-bootmem_init/README.md b/study/kernel/02-memory/03-initialize/04-bootmem_init/README.md new file mode 100644 index 0000000..1c66c60 --- /dev/null +++ b/study/kernel/02-memory/03-initialize/04-bootmem_init/README.md @@ -0,0 +1,1245 @@ +初始化内存管理 +======= + + + +| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | +| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| +| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | + + +在内存管理的上下文中, 初始化(initialization)可以有多种含义. 在许多CPU上, 必须显式设置适用于Linux内核的内存模型. 例如在x86_32上需要切换到保护模式, 然后奇偶内核才能检测到可用内存和寄存器. + + + +#1 前景回顾 +------- + + +##1.1 Linux内存管理的层次结构 +------- + + +Linux把物理内存划分为三个层次来管理 + +| 层次 | 描述 | +|:----:|:----:| +| 存储节点(Node) | CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点 | +| 管理区(Zone) | 每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存 | +| 页面(Page) | 内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜ + +为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点 + + +* 首先, 内存被划分为**结点**. 每个节点关联到系统中的一个处理器, 内核中表示为`pg_data_t`的实例. 系统中每个节点被链接到一个以NULL结尾的`pgdat_list`链表中<而其中的每个节点利用`pg_data_tnode_next`字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig_page_data的静态pg_data_t结构. + +* 接着各个节点又被划分为内存管理区域, 一个**管理区域**通过struct zone_struct描述, 其被定义为zone_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE_NORMAL,最后是超出了内核段的物理地址域ZONE_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射. + + +* 最后**页帧(page frame)**代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号. + + +##1.2 今日内容(启动过程中的内存初始化) +------- + + +在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉. + + +因此我们可以把linux内核的内存管理分三个阶段。 + +| 阶段 | 起点 | 终点 | 描述 | +|:-----:|:-----:|:-----:| +| 第一阶段 | 系统启动 | bootmem或者memblock初始化完成 | 此阶段只能使用memblock_reserve函数分配内存， 早期内核中使用init_bootmem_done = 1标识此阶段结束 | +| 第二阶段 | bootmem或者memblock初始化完 | buddy完成前 | 引导内存分配器bootmem或者memblock接受内存的管理工作, 早期内核中使用mem_init_done = 1标记此阶段的结束 | +| 第三阶段 | buddy初始化完成 | 系统停止运行 | 可以用cache和buddy分配内存 | + + + +##1.3 start_kernel系统启动阶段的内存初始化过程 +------- + +首先我们来看看start_kernel是如何初始化系统的, start_kerne定义在[init/main.c?v=4.7, line 479](http://lxr.free-electrons.com/source/init/main.c?v=4.7#L479) + +其代码很复杂, 我们只截取出其中与内存管理初始化相关的部分, 如下所示 + + +```cpp +asmlinkage __visible void __init start_kernel(void) +{ + + setup_arch(&command_line); + mm_init_cpumask(&init_mm); + + setup_per_cpu_areas(); + + + build_all_zonelists(NULL, NULL); + page_alloc_init(); + + + /* + * These use large bootmem allocations and must precede + * mem_init(); + * kmem_cache_init(); + */ + mm_init(); + + kmem_cache_init_late(); + + kmemleak_init(); + setup_per_cpu_pageset(); + + rest_init(); +} +``` + + +| 函数 | 功能 | +|:----:|:----:| +| [setup_arch](http://lxr.free-electrons.com/ident?v=4.7;i=setup_arch) | 是一个特定于体系结构的设置函数, 其中一项任务是负责初始化自举分配器 | +| [mm_init_cpumask](http://lxr.free-electrons.com/source/include/linux/mm_types.h?v=4.7#L522) | 初始化CPU屏蔽字 | +| [setup_per_cpu_areas](http://lxr.free-electrons.com/ident?v=4.7;i=setup_per_cpu_areas) | 函数[(查看定义)](http://lxr.free-electrons.com/source/mm/percpu.c?v4.7#L2205])给每个CPU分配内存，并拷贝.data.percpu段的数据. 为系统中的每个CPU的per_cpu变量申请空间.
在SMP系统中, setup_per_cpu_areas初始化源代码中(使用[per_cpu宏](http://lxr.free-electrons.com/source/include/linux/percpu-defs.h#L256))定义的静态per-cpu变量, 这种变量对系统中每个CPU都有一个独立的副本.
此类变量保存在内核二进制影像的一个独立的段中, setup_per_cpu_areas的目的就是为系统中各个CPU分别创建一份这些数据的副本
在非SMP系统中这是一个空操作 | +| [build_all_zonelists](http://lxr.free-electrons.com/source/mm/page_alloc.c?v4.7#L5029) | 建立并初始化结点和内存域的数据结构 | +| [mm_init](http://lxr.free-electrons.com/source/init/main.c?v4.7#L464) | 建立了内核的内存分配器,
其中通过[mem_init](http://lxr.free-electrons.com/ident?v=4.7&i=mem_init)停用bootmem分配器并迁移到实际的内存管理器(比如伙伴系统)
然后调用kmem_cache_init函数初始化内核内部用于小块内存区的分配器 | +| [kmem_cache_init_late](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378) | 在kmem_cache_init之后, 完善分配器的缓存机制,　当前3个可用的内核内存分配器[slab](http://lxr.free-electrons.com/source/mm/slab.c?v4.7#L1378), [slob](http://lxr.free-electrons.com/source/mm/slob.c?v4.7#L655), [slub](http://lxr.free-electrons.com/source/mm/slub.c?v=4.7#L3960)都会定义此函数　| +| [kmemleak_init](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1857) | Kmemleak工作于内核态，Kmemleak 提供了一种可选的内核泄漏检测，其方法类似于跟踪内存收集器。当独立的对象没有被释放时，其报告记录在 [/sys/kernel/debug/kmemleak](http://lxr.free-electrons.com/source/mm/kmemleak.c?v=4.7#L1467)中, Kmemcheck能够帮助定位大多数内存错误的上下文 | +| [setup_per_cpu_pageset](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5392) | 初始化CPU高速缓存行, 为pagesets的第一个数组元素分配内存, 换句话说, 其实就是第一个系统处理器分配
由于在分页情况下，每次存储器访问都要存取多级页表，这就大大降低了访问速度。所以，为了提高速度，在CPU中设置一个最近存取页面的高速缓存硬件机制，当进行存储器访问时，先检查要访问的页面是否在高速缓存中. | + + + + +##1.4 setup_arch函数初始化内存流程 +------- + + +前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作. + +```cpp +void __init setup_arch(char **cmdline_p) +{ + /* 初始化memblock */ + arm64_memblock_init( ); + + /* 分页机制初始化 */ + paging_init(); + + bootmem_init(); +} +``` + +| 流程 | 描述 | +|:---:|:----:| +| [arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229) | 初始化memblock内存分配器 | +| [paging_init](http://lxr.free-electrons.com/source/arch/arm64/mm/mmu.c?v=4.7#L538) | 初始化分页机制 | +| [bootmem_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) | 初始化内存管理 | + + +该函数主要执行了如下操作 + + +1. 使用arm64_memblock_init来完成memblock机制的初始化工作, 至此memblock分配器接受系统中系统中内存的分配工作 + +2. 调用paging_init来完成系统分页机制的初始化工作, 建立页表, 从而内核可以完成虚拟内存的映射和转换工作 + +3. 最后调用bootmem_init来完成实现buddy内存管理所需要的工作 + + + +##1.5 (第一阶段)启动过程中的内存分配器 +------- + + +在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉. + +这个阶段的内存分配其实很简单, 因此我们往往称之为内存分配器(而不是内存管理器), 早期的内核中内存分配器使用的**bootmem引导分配器**, 它基于一个内存位图bitmap, 使用最优适配算法来查找内存, 但是这个分配器有很大的缺陷, 最严重的就是内存碎片的问题, 因此在后来的内核中将其舍弃《而使用了**新的memblock机制**. memblock机制的初始化在arm64上是通过[arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229)函数来实现的 + +```cpp +```cpp +start_kernel() + |---->page_address_init() + | 考虑支持高端内存 + | 业务：初始化page_address_pool链表； + | 将page_address_maps数组元素按索引降序插入 + | page_address_pool链表; + | 初始化page_address_htable数组. + | + |---->setup_arch(&command_line); + | 初始化特定体系结构的内容 + | + |---->arm64_memblock_init( ); + | 初始化引导阶段的内存分配器memblock + | + |---->paging_init(); + | 分页机制初始化 + | + |---->bootmem_init(); [当前位置] + | 始化内存数据结构包括内存节点, 内存域和页帧page + | + |---->arm64_numa_init(); + | 支持numa架构 + | + |---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + |---->free_area_init_core + | 初始化zone + | + |---->memmap_init + | 初始化page页面 + | + |---->memblock_dump_all(); + | 初始化完成, 显示memblock的保留的所有内存信息 + | + |---->build_all_zonelist() + | 为系统中的zone建立后备zone的列表. + | 所有zone的后备列表都在 + | pglist_data->node_zonelists[0]中; + | + | 期间也对per-CPU变量boot_pageset做了初始化. + | +``` + + +##1.6 今日内容(第二阶段(一)--初始化内存管理数据结构) +------- + + +我们之前讲了在memblock完成之后, 内存初始化开始进入第二阶段, 第二阶段是一个漫长的过程, 它执行了一系列复杂的操作, 从体系结构相关信息的初始化慢慢向上层展开, 其主要执行了如下操作 + + + +**特定于体系结构的设置** + + +在完成了基础的内存结点和内存域的初始化工作以后, 我们必须克服一些硬件的特殊设置 + +* 在初始化内存的结点和内存区域之前, 内核先通过pagging_init初始化了内核的分页机制, 这样我们的虚拟运行空间就初步建立, 并可以完成物理地址到虚拟地址空间的映射工作. + +在arm64架构下, 内核在start_kernel()->setup_arch()中通过arm64_memblock_init( )完成了memblock的初始化之后, 接着通过setup_arch()->paging_init()开始初始化分页机制 + + +paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响 + + +* 在分页机制完成后, 内核通过setup_arch()->bootmem_init开始进行内存基本数据结构(内存结点pg_data_t, 内存域zone和页帧)的初始化工作, 就是在这个函数中, 内核开始从体系结构相关的部分逐渐展开到体系结构无关的部分, 在zone_sizes_init->free_area_init_node中开始, 内核开始进行内存基本数据结构的初始化, 也不再依赖于特定体系结构无关的层次 + +```cpp +bootmem_init() +始化内存数据结构包括内存节点, 内存域和页帧page +| +|---->arm64_numa_init(); +| 支持numa架构 +| +|---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + |---->free_area_init_core + | 初始化zone + | + |---->memmap_init + | 初始化page页面 +| +|---->memblock_dump_all(); +| 初始化完成, 显示memblock的保留的所有内存信息 +``` + + + + +**建立内存管理的数据结构** + + +对相关数据结构的初始化是从全局启动函数start_kernel中开始的, 该函数在加载内核并激活各个子系统之后执行. 由于内存管理是内核一个非常重要的部分, 因此在特定体系结构的设置步骤中检测并确定系统中内存的分配情况后, 会立即执行内存管理的初始化. + + + +**移交早期的分配器到内存管理器** + + + +最后我们的内存管理器已经初始化并设置完成, 可以投入运行了, 因此内核将内存管理的工作从早期的内存分配器(bootmem或者memblock)移交到我们的buddy伙伴系统. + + + + +#2 初始化前的准备工作 +------- + + +##2.1 回到setup_arch函数(当前已经完成的工作) +------- + + +现在我们回到start_kernel()->setup_arch()函数 + + +```cpp +void __init setup_arch(char **cmdline_p) +{ + /* 初始化memblock */ + arm64_memblock_init( ); + + /* 分页机制初始化 */ + paging_init(); + + bootmem_init(); +} +``` + + +到目前位置我们已经完成了如下工作 + +* memblock已经通过arm64_memblock_init完成了初始化, 至此系统中的内存可以通过memblock分配了 + +* paging_init完成了分页机制的初始化, 至此内核已经布局了一套完整的虚拟内存空间 + + +至此我们所有的内存都可以通过memblock机制来分配和释放, 尽管它实现的笨拙而简易, 但是已经足够我们初始化阶段使用了, 反正内核页不可能指着它过一辈子, 而我们也通过pagging_init创建了页表, 为内核提供了一套可供内核和进程运行的虚拟运行空间, 我们可以安全的进行内存的分配了 + +因此该是时候初始化我们强大的buddy系统了. + +内核接着setup_arch()->bootmem_init()函数开始执行 + +体系结构相关的代码需要在启动期间建立如下信息 + +* 系统中各个内存域的页帧边界，保存在max_zone_pfn数组 + +早期的内核还需记录各结点页帧的分配情况，保存在全局变量early_node_map中 + +![zone_sizes_init函数](../images/arch_do_somethig.png) + +内核提供了一个通用的框架, 用于将上述信息转换为伙伴系统预期的节点和内存域数据结构, 但是在此之前各个体系结构必须自行建立相关结构. + + +##2.2 bootmem_init函数初始化内存结点和管理域 +------- + + +arm64架构下, 在setup_arch中通过paging_init函数初始化内核分页机制之后, 内核通过`bootmem_init()`开始完成内存结点和内存区域的初始化工作, 该函数定义在[arch/arm64/mm/init.c, line 306](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L306) + +```cpp +void __init bootmem_init(void) +{ + unsigned long min, max; + + min = PFN_UP(memblock_start_of_DRAM()); + max = PFN_DOWN(memblock_end_of_DRAM()); + + early_memtest(min << PAGE_SHIFT, max << PAGE_SHIFT); + + max_pfn = max_low_pfn = max; + + arm64_numa_init(); + /* + * Sparsemem tries to allocate bootmem in memory_present(), so must be + * done after the fixed reservations. + */ + arm64_memory_present(); + + sparse_init(); + zone_sizes_init(min, max); + + high_memory = __va((max << PAGE_SHIFT) - 1) + 1; + memblock_dump_all(); +} +``` + + +##2.3 zone_sizes_init函数 +------- + + +在初始化内存结点和内存域之前, 内核首先通过setup_arch()-->bootmem_init()-->zone_sizes_init()来初始化节点和管理区的一些数据项, 其中关键的是初始化了系统中各个内存域的页帧边界，保存在max_zone_pfn数组. + + + +[zone_sizes_init](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L92)函数定义在[arch/arm64/mm/init.c?v=4.7, line 92](http://lxr.free-electrons.com/source/arch/arm64/mm/init.c?v=4.7#L92), 由于arm64支持NUMA和UMA两种存储器架构, 因此该函数依照NUMA和UMA, 有两种不同的实现. + +```cpp +#ifdef CONFIG_NUMA + +static void __init zone_sizes_init(unsigned long min, unsigned long max) +{ + unsigned long max_zone_pfns[MAX_NR_ZONES] = {0}; + + if (IS_ENABLED(CONFIG_ZONE_DMA)) + max_zone_pfns[ZONE_DMA] = PFN_DOWN(max_zone_dma_phys()); + max_zone_pfns[ZONE_NORMAL] = max; + + free_area_init_nodes(max_zone_pfns); +} + +#else + +static void __init zone_sizes_init(unsigned long min, unsigned long max) +{ + struct memblock_region *reg; + unsigned long zone_size[MAX_NR_ZONES], zhole_size[MAX_NR_ZONES]; + unsigned long max_dma = min; + + memset(zone_size, 0, sizeof(zone_size)); + + /* 4GB maximum for 32-bit only capable devices */ +#ifdef CONFIG_ZONE_DMA + max_dma = PFN_DOWN(arm64_dma_phys_limit); + zone_size[ZONE_DMA] = max_dma - min; +#endif + zone_size[ZONE_NORMAL] = max - max_dma; + + memcpy(zhole_size, zone_size, sizeof(zhole_size)); + + for_each_memblock(memory, reg) { + unsigned long start = memblock_region_memory_base_pfn(reg); + unsigned long end = memblock_region_memory_end_pfn(reg); + + if (start >= max) + continue; + +#ifdef CONFIG_ZONE_DMA + if (start < max_dma) { + unsigned long dma_end = min(end, max_dma); + zhole_size[ZONE_DMA] -= dma_end - start; + } +#endif + if (end > max_dma) { + unsigned long normal_end = min(end, max); + unsigned long normal_start = max(start, max_dma); + zhole_size[ZONE_NORMAL] -= normal_end - normal_start; + } + } + + free_area_init_node(0, zone_size, min, zhole_size); +} + +#endif /* CONFIG_NUMA */ +``` + +在获取了三个管理区的页面数后, NUMA架构下通过free_area_init_nodes()来完成后续工作, 其中核心函数为free_area_init_node(),用来针对特定的节点进行初始化, 由于UMA架构下只有一个内存结点, 因此直接通过free_area_init_node来完成内存结点的初始化 + + +截至到目前为止, 体系结构相关的部分已经结束了, 各个体系结构已经自行建立了自己所需的一些底层数据结构, 这些结构建立好以后, 内核将繁重的内存数据结构创建和初始化的工作交给free_area_init_node(s)函数来完成, + +#3 free_area_init_nodes初始化NUMA管理数据结构 +------- + +>注意 +> +>此部分内容参照 +> +>[Linux内存管理伙伴算法](http://www.linuxidc.com/Linux/2012-09/70711p3.htm) +> +>[linux 内存管理 - paging_init 函数](http://blog.csdn.net/decload/article/details/8080126) + + +[free_area_init_nodes](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6460)初始化了NUMA系统中所有结点的pg_data_t和zone、page的数据, 并打印了管理区信息, 该函数定义在[mm/page_alloc.c?v=4.7, line 6460](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6460) + +##3.1 代码注释 +------- + +```cpp +// 初始化各个节点的所有pg_data_t和zone、page的数据 +void __init free_area_init_nodes(unsigned long *max_zone_pfn) +{ + unsigned long start_pfn, end_pfn; + int i, nid; + + /* Record where the zone boundaries are + * 全局数组arch_zone_lowest_possible_pfn + * 用来存储各个内存域可使用的最低内存页帧编号 */ + memset(arch_zone_lowest_possible_pfn, 0, + sizeof(arch_zone_lowest_possible_pfn)); + + /* 全局数组arch_zone_highest_possible_pfn + * 用来存储各个内存域可使用的最高内存页帧编号 */ + memset(arch_zone_highest_possible_pfn, 0, + sizeof(arch_zone_highest_possible_pfn)); + + /* 辅助函数find_min_pfn_with_active_regions + * 用于找到注册的最低内存域中可用的编号最小的页帧 */ + arch_zone_lowest_possible_pfn[0] = find_min_pfn_with_active_regions(); + + /* max_zone_pfn记录了各个内存域包含的最大页帧号 */ + arch_zone_highest_possible_pfn[0] = max_zone_pfn[0]; + + /* 依次遍历，确定各个内存域的边界 */ + for (i = 1; i < MAX_NR_ZONES; i++) { + /* 由于ZONE_MOVABLE是一个虚拟内存域 + * 不与真正的硬件内存域关联 + * 该内存域的边界总是设置为0 */ + if (i == ZONE_MOVABLE) + continue; + /* 第n个内存域的最小页帧 + * 即前一个（第n-1个）内存域的最大页帧 */ + arch_zone_lowest_possible_pfn[i] = + arch_zone_highest_possible_pfn[i-1]; + /* 不出意外，当前内存域的最大页帧 + * 由max_zone_pfn给出 */ + arch_zone_highest_possible_pfn[i] = + max(max_zone_pfn[i], arch_zone_lowest_possible_pfn[i]); + } + arch_zone_lowest_possible_pfn[ZONE_MOVABLE] = 0; + arch_zone_highest_possible_pfn[ZONE_MOVABLE] = 0; + + /* Find the PFNs that ZONE_MOVABLE begins at in each node */ + memset(zone_movable_pfn, 0, sizeof(zone_movable_pfn)); + /* 用于计算进入ZONE_MOVABLE的内存数量 */ + find_zone_movable_pfns_for_nodes(); + + /* Print out the zone ranges + * 将各个内存域的最大、最小页帧号显示出来 */ + pr_info("Zone ranges:\n"); + for (i = 0; i < MAX_NR_ZONES; i++) { + if (i == ZONE_MOVABLE) + continue; + pr_info(" %-8s ", zone_names[i]); + if (arch_zone_lowest_possible_pfn[i] == + arch_zone_highest_possible_pfn[i]) + pr_cont("empty\n"); + else + pr_cont("[mem %#018Lx-%#018Lx]\n", + (u64)arch_zone_lowest_possible_pfn[i] + << PAGE_SHIFT, + ((u64)arch_zone_highest_possible_pfn[i] + << PAGE_SHIFT) - 1); + } + + /* Print out the PFNs ZONE_MOVABLE begins at in each node */ + pr_info("Movable zone start for each node\n"); + for (i = 0; i < MAX_NUMNODES; i++) { + /* 对每个结点来说，zone_movable_pfn[node_id] + * 表示ZONE_MOVABLE在movable_zone内存域中所取得内存的起始地址 + * 内核确保这些页将用于满足符合ZONE_MOVABLE职责的内存分配 */ + if (zone_movable_pfn[i]) + { + /* 显示各个内存域的分配情况 */ + pr_info(" Node %d: %#018Lx\n", i, + (u64)zone_movable_pfn[i] << PAGE_SHIFT); + } + } + + /* Print out the early node map */ + pr_info("Early memory node ranges\n"); + for_each_mem_pfn_range(i, MAX_NUMNODES, &start_pfn, &end_pfn, &nid) + pr_info(" node %3d: [mem %#018Lx-%#018Lx]\n", nid, + (u64)start_pfn << PAGE_SHIFT, + ((u64)end_pfn << PAGE_SHIFT) - 1); + + /* Initialise every node */ + mminit_verify_pageflags_layout(); + setup_nr_node_ids(); + + /* 代码遍历所有的活动结点， + * 并分别对各个结点调用free_area_init_node建立数据结构， + * 该函数需要结点第一个可用的页帧作为一个参数， + * 而find_min_pfn_for_node则从early_node_map数组提取该信息 */ + for_each_online_node(nid) { + pg_data_t *pgdat = NODE_DATA(nid); + free_area_init_node(nid, NULL, + find_min_pfn_for_node(nid), NULL); + + /* Any memory on that node + * 根据node_present_pages字段判断结点具有内存 + * 则在结点位图中设置N_HIGH_MEMORY标志 + * 该标志只表示结点上存在普通或高端内存 + * 因此check_for_regular_memory + * 进一步检查低于ZONE_HIGHMEM的内存域中是否有内存 + * 并据此在结点位图中相应地设置N_NORMAL_MEMORY */ + if (pgdat->node_present_pages) + node_set_state(nid, N_MEMORY); + check_for_memory(pgdat, nid); + } +} +``` + +free_area_init_nodes函数中通过循环遍历各个节点，循环中调用了free_area_init_node函数初始化该节点对应的pg_data_t和zone、page的数据. + + +##3.2 设置可使用的页帧编号 +------- + + +free_area_init_nodes首先必须分析并改写特定于体系结构的代码提供的信息。其中，需要对照在zone_max_pfn和zone_min_pfn中指定的内存域的边界，计算各个内存域可使用的最低和最高的页帧编号。使用了两个全局数组来存储这些信息： + +参见[mm/page_alloc.c?v=4.7, line 259)](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L259) + +```cpp +static unsigned long __meminitdata arch_zone_lowest_possible_pfn[MAX_NR_ZONES]; + +static unsigned long __meminitdata arch_zone_highest_possible_pfn[MAX_NR_ZONES]; +``` + +通过max_zone_pfn传递给free_area_init_nodes的信息记录了各个内存域包含的最大页帧号。 +free_area_init_nodes将该信息转换为一种更方便的表示形式，即以［low, high］形式描述各个内 +存域的页帧区间，存储在前述的全局变量中（我省去了对这些变量填充字节0的初始化过程）： + + +```cpp +void __init free_area_init_nodes(unsigned long *max_zone_pfn) +{ + /* ...... */ + arch_zone_lowest_possible_pfn[ZONE_MOVABLE] = 0; + arch_zone_highest_possible_pfn[ZONE_MOVABLE] = 0; + + /* Find the PFNs that ZONE_MOVABLE begins at in each node */ + memset(zone_movable_pfn, 0, sizeof(zone_movable_pfn)); + /* 用于计算进入ZONE_MOVABLE的内存数量 */ + find_zone_movable_pfns_for_nodes(); + /* 依次遍历，确定各个内存域的边界 */ + for (i = 1; i < MAX_NR_ZONES; i++) { + /* 由于ZONE_MOVABLE是一个虚拟内存域 + * 不与真正的硬件内存域关联 + * 该内存域的边界总是设置为0 */ + if (i == ZONE_MOVABLE) + continue; + /* 第n个内存域的最小页帧 + * 即前一个（第n-1个）内存域的最大页帧 */ + arch_zone_lowest_possible_pfn[i] = + arch_zone_highest_possible_pfn[i-1]; + /* 不出意外，当前内存域的最大页帧 + * 由max_zone_pfn给出 */ + arch_zone_highest_possible_pfn[i] = + max(max_zone_pfn[i], arch_zone_lowest_possible_pfn[i]); + } + + /* ...... */ +} +``` +辅助函数find_min_pfn_with_active_regions用于找到注册的最低内存域中可用的编号最小的页帧。该内存域不必一定是ZONE_DMA，例如，在计算机不需要DMA内存的情况下也可以是ZONE_NORMAL。最低内存域的最大页帧号可以从max_zone_pfn提供的信息直接获得。 + +##3.3 构建其他内存域的页帧区间 +------- + +接下来构建其他内存域的页帧区间，方法很直接：第n个内存域的最小页帧，即前一个（第n-1个）内存域的最大页帧。当前内存域的最大页帧由max_zone_pfn给出 + +```cpp +void __init free_area_init_nodes(unsigned long *max_zone_pfn) +{ + /* ...... */ + + arch_zone_lowest_possible_pfn[ZONE_MOVABLE] = 0; + arch_zone_highest_possible_pfn[ZONE_MOVABLE] = 0; + + /* Find the PFNs that ZONE_MOVABLE begins at in each node */ + memset(zone_movable_pfn, 0, sizeof(zone_movable_pfn)); + /* 用于计算进入ZONE_MOVABLE的内存数量 */ + find_zone_movable_pfns_for_nodes(); + + /* ...... */ +} +``` +由于ZONE_MOVABLE是一个虚拟内存域，不与真正的硬件内存域关联，该内存域的边界总是设置为0。回忆前文，可知只有在指定了内核命令行参数kernelcore或movablecore之一时，该内存域才会存在. +该内存域一般开始于各个结点的某个特定内存域的某一页帧号。相应的编号在find_zone_movable_pfns_for_nodes里计算。 + +现在可以向用户提供一些有关已确定的页帧区间的信息。举例来说，其中可能包括下列内容（输出取自AMD64系统，有4 GiB物理内存）： + + +```cpp +> dmesg + +Zone PFN ranges: +DMA 0 0 -> 4096 +DMA32 4096 -> 1048576 +Normal 1048576 -> 1245184 +``` + + +##3.4 建立结点数据结构 +------- + + +free_area_init_nodes剩余的部分遍历所有结点，分别建立其数据结构 + +```cpp +void __init free_area_init_nodes(unsigned long *max_zone_pfn) +{ + /* 输出有关内存域的信息 */ + /* ...... */ + + /* 代码遍历所有的活动结点， + * 并分别对各个结点调用free_area_init_node建立数据结构， + * 该函数需要结点第一个可用的页帧作为一个参数， + * 而find_min_pfn_for_node则从early_node_map数组提取该信息 */ + for_each_online_node(nid) { + pg_data_t *pgdat = NODE_DATA(nid); + free_area_init_node(nid, NULL, + find_min_pfn_for_node(nid), NULL); + + /* Any memory on that node + * 根据node_present_pages字段判断结点具有内存 + * 则在结点位图中设置N_HIGH_MEMORY标志 + * 该标志只表示结点上存在普通或高端内存 + * 因此check_for_regular_memory + * 进一步检查低于ZONE_HIGHMEM的内存域中是否有内存 + * 并据此在结点位图中相应地设置N_NORMAL_MEMORY */ + if (pgdat->node_present_pages) + node_set_state(nid, N_MEMORY); + check_for_memory(pgdat, nid); + } + + /* ...... */ +} +``` + + +代码遍历所有活动结点，并分别对各个结点调用free_area_init_node建立数据结构。该函数需要结点第一个可用的页帧作为一个参数，而find_min_pfn_for_node则从early_node_map数组提取该信息。 + +如果根据node_present_pages字段判断结点具有内存，则在结点位图中设置N_HIGH_MEMORY标志。我们知道该标志只表示结点上存在普通或高端内存，因此check_for_regular_memory进一步检查低于ZONE_HIGHMEM的内存域中是否有内存，并据此在结点位图中相应地设置N_NORMAL_MEMORY标志 + + +#4 free_area_init_node初始化UMA内存结点 +------- + +[free_area_init_nodes](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6076)函数初始化所有结点的pg_data_t和zone、page的数据，并打印了管理区信息. + + +##4.1 free_area_init_node函数注释 +------- + +该函数定义在[mm/page_alloc.c?v=4.7, line 6076](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6076) + +```cpp +void __paginginit free_area_init_node(int nid, unsigned long *zones_size, + unsigned long node_start_pfn, unsigned long *zholes_size) +{ + pg_data_t *pgdat = NODE_DATA(nid); + unsigned long start_pfn = 0; + unsigned long end_pfn = 0; + + /* pg_data_t should be reset to zero when it's allocated */ + WARN_ON(pgdat->nr_zones || pgdat->classzone_idx); + + reset_deferred_meminit(pgdat); + pgdat->node_id = nid; + pgdat->node_start_pfn = node_start_pfn; +#ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP + get_pfn_range_for_nid(nid, &start_pfn, &end_pfn); + pr_info("Initmem setup node %d [mem %#018Lx-%#018Lx]\n", nid, + (u64)start_pfn << PAGE_SHIFT, + end_pfn ? ((u64)end_pfn << PAGE_SHIFT) - 1 : 0); +#else + start_pfn = node_start_pfn; +#endif + /* 首先累计各个内存域的页数 + * 计算结点中页的总数 + * 对连续内存模型而言 + * 这可以通过zone_sizes_init完成 + * 但calculate_node_totalpages还考虑了内存空洞 */ + calculate_node_totalpages(pgdat, start_pfn, end_pfn, + zones_size, zholes_size); + /* 分配了该节点的页面描述符数组 + * [pgdat->node_mem_map数组的内存分配 */ + alloc_node_mem_map(pgdat); +#ifdef CONFIG_FLAT_NODE_MEM_MAP + printk(KERN_DEBUG "free_area_init_node: node %d, pgdat %08lx, node_mem_map %08lx\n", + nid, (unsigned long)pgdat, + (unsigned long)pgdat->node_mem_map); +#endif + + /* 对该节点的每个区[DMA,NORMAL,HIGH]的的结构进行初始化 */ + free_area_init_core(pgdat); +} +``` +##4.2 流程分析 +------- + +* [calculate_node_totalpages](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5789)函数累计各个内存域的页数，计算结点中页的总数。对连续内存模型而言，这可以通过zone_sizes_init完成，但calculate_node_totalpages还考虑了内存空洞,该函数定义在[mm/page_alloc.c, line 5789](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5789) + + 以下例子取自一个UMA系统, 具有512 MiB物理内存。 +```cpp +> dmesg +... +On node 0 totalpages: 131056 +``` + + +* [alloc_node_mem_map(pgdat)](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L6030)函数分配了该节点的页面描述符数组[pgdat->node_mem_map数组的内存分配. + + +* 继续调用[free_area_init_core](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5932)函数，继续初始化该节点的pg_data_t结构，初始化zone以及page结构 ，##2.6 free_area_init_core函数是初始化zone的核心 + + + +##4.3 alloc_node_mem_map函数 +------- + + +alloc_node_mem_map负责初始化一个简单但非常重要的数据结构。如上所述，系统中的各个物理内存页，都对应着一个struct page实例。该结构的初始化由alloc_node_mem_map执行 + + +```cpp +static void __init_refok alloc_node_mem_map(struct pglist_data *pgdat) +{ + unsigned long __maybe_unused start = 0; + unsigned long __maybe_unused offset = 0; + + /* Skip empty nodes */ + if (!pgdat->node_spanned_pages) + return; + +#ifdef CONFIG_FLAT_NODE_MEM_MAP + start = pgdat->node_start_pfn & ~(MAX_ORDER_NR_PAGES - 1); + offset = pgdat->node_start_pfn - start; + /* ia64 gets its own node_mem_map, before this, without bootmem */ + if (!pgdat->node_mem_map) { + unsigned long size, end; + struct page *map; + + /* + * The zone's endpoints aren't required to be MAX_ORDER + * aligned but the node_mem_map endpoints must be in order + * for the buddy allocator to function correctly. + */ + end = pgdat_end_pfn(pgdat); + end = ALIGN(end, MAX_ORDER_NR_PAGES); + size = (end - start) * sizeof(struct page); + map = alloc_remap(pgdat->node_id, size); + if (!map) + map = memblock_virt_alloc_node_nopanic(size, + pgdat->node_id); + pgdat->node_mem_map = map + offset; + } +#ifndef CONFIG_NEED_MULTIPLE_NODES + /* + * With no DISCONTIG, the global mem_map is just set as node 0's + */ + if (pgdat == NODE_DATA(0)) { + mem_map = NODE_DATA(0)->node_mem_map; +#if defined(CONFIG_HAVE_MEMBLOCK_NODE_MAP) || defined(CONFIG_FLATMEM) + if (page_to_pfn(mem_map) != pgdat->node_start_pfn) + mem_map -= offset; +#endif /* CONFIG_HAVE_MEMBLOCK_NODE_MAP */ + } +#endif +#endif /* CONFIG_FLAT_NODE_MEM_MAP */ +} +``` +没有页的空结点显然可以跳过。如果特定于体系结构的代码尚未建立内存映射（这是可能的，例如，在IA-64系统上），则必须分配与该结点关联的所有struct page实例所需的内存。各个体系结构可以为此提供一个特定的函数。但目前只有在IA-32系统上使用不连续内存配置时是这样。在所有其他的配置上，则使用普通的自举内存分配器进行分配。请注意，代码将内存映射对齐到伙伴系统的最大分配阶，因为要使所有的计算都工作正常，这是必需的。 + + +指向该空间的指针不仅保存在pglist_data实例中，还保存在全局变量mem_map中，前提是当前考察的结点是系统的第0个结点（如果系统只有一个内存结点，则总是这样）。mem_map是一个全局数组，在讲解内存管理时，我们会经常遇到, 定义在[mm/memory.c?v=4.7, line 85](http://lxr.free-electrons.com/source/mm/memory.c?v=4.7#L85) + +```cpp +struct page *mem_map; +``` + + + +然后在free_area_init_node函数的最后, 通过free_area_init_core来完成内存域zone的初始化 + + + +#5 free_area_init_core初始化内存域zone +------- + +初始化内存域数据结构涉及的繁重工作由free_area_init_core执行，它会依次遍历结点的所有内存域, 该函数定义在[mm/page_alloc.c?v=4.7, line 5932](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5932) + + +##5.1 free_area_init_core函数代码注释 +------- + +```cpp +/* + * Set up the zone data structures: + * - mark all pages reserved + * - mark all memory queues empty + * - clear the memory bitmaps + * + * NOTE: pgdat should get zeroed by caller. + */ +static void __paginginit free_area_init_core(struct pglist_data *pgdat) +{ + enum zone_type j; + int nid = pgdat->node_id; + int ret; + + /* 初始化pgdat->node_size_lock自旋锁 */ + pgdat_resize_init(pgdat); +#ifdef CONFIG_NUMA_BALANCING + spin_lock_init(&pgdat->numabalancing_migrate_lock); + pgdat->numabalancing_migrate_nr_pages = 0; + pgdat->numabalancing_migrate_next_window = jiffies; +#endif +#ifdef CONFIG_TRANSPARENT_HUGEPAGE + spin_lock_init(&pgdat->split_queue_lock); + INIT_LIST_HEAD(&pgdat->split_queue); + pgdat->split_queue_len = 0; +#endif + + /* 初始化pgdat->kswapd_wait等待队列 */ + init_waitqueue_head(&pgdat->kswapd_wait); + /* 初始化页换出守护进程创建空闲块的大小 + * 为2^kswapd_max_order */ + init_waitqueue_head(&pgdat->pfmemalloc_wait); +#ifdef CONFIG_COMPACTION + init_waitqueue_head(&pgdat->kcompactd_wait); +#endif + pgdat_page_ext_init(pgdat); + + /* 遍历每个管理区 */ + for (j = 0; j < MAX_NR_ZONES; j++) { + struct zone *zone = pgdat->node_zones + j; + unsigned long size, realsize, freesize, memmap_pages; + unsigned long zone_start_pfn = zone->zone_start_pfn; + + /* size为该管理区中的页框数，包括洞 */ + size = zone->spanned_pages; + /* realsize为管理区中的页框数，不包括洞 / + realsize = freesize = zone->present_pages; + + /* + * Adjust freesize so that it accounts for how much memory + * is used by this zone for memmap. This affects the watermark + * and per-cpu initialisations + * 调整realsize的大小，即减去page结构体占用的内存大小 */ + /* memmap_pags为包括洞的所有页框的page结构体所占的大小 */ + memmap_pages = calc_memmap_size(size, realsize); + if (!is_highmem_idx(j)) { + if (freesize >= memmap_pages) { + freesize -= memmap_pages; + if (memmap_pages) + printk(KERN_DEBUG + " %s zone: %lu pages used for memmap\n", + zone_names[j], memmap_pages); + } else /* 内存不够存放page结构体 */ + pr_warn(" %s zone: %lu pages exceeds freesize %lu\n", + zone_names[j], memmap_pages, freesize); + } + + /* Account for reserved pages + * 调整realsize的大小，即减去DMA保留页的大小 */ + if (j == 0 && freesize > dma_reserve) { + freesize -= dma_reserve; + printk(KERN_DEBUG " %s zone: %lu pages reserved\n", + zone_names[0], dma_reserve); + } + + if (!is_highmem_idx(j)) + nr_kernel_pages += freesize; + /* Charge for highmem memmap if there are enough kernel pages */ + else if (nr_kernel_pages > memmap_pages * 2) + nr_kernel_pages -= memmap_pages; + nr_all_pages += freesize; + + /* + * Set an approximate value for lowmem here, it will be adjusted + * when the bootmem allocator frees pages into the buddy system. + * And all highmem pages will be managed by the buddy system. + */ + /* 设置zone->spanned_pages为包括洞的页框数 */ + zone->managed_pages = is_highmem_idx(j) ? realsize : freesize; +#ifdef CONFIG_NUMA + /* 设置zone中的节点标识符 */ + zone->node = nid; + /* 设置可回收页面比率 */ + zone->min_unmapped_pages = (freesize*sysctl_min_unmapped_ratio) + / 100; + /* 设置slab回收缓存页的比率 */ + zone->min_slab_pages = (freesize * sysctl_min_slab_ratio) / 100; +#endif + /* 设置zone的名称 */ + zone->name = zone_names[j]; + + /* 初始化各种锁 */ + spin_lock_init(&zone->lock); + spin_lock_init(&zone->lru_lock); + zone_seqlock_init(zone); + /* 设置管理区属于的节点对应的pg_data_t结构 */ + zone->zone_pgdat = pgdat; + /* 初始化cpu的页面缓存 */ + zone_pcp_init(zone); + + /* For bootup, initialized properly in watermark setup */ + mod_zone_page_state(zone, NR_ALLOC_BATCH, zone->managed_pages); + + /* 初始化lru相关成员 */ + lruvec_init(&zone->lruvec); + if (!size) + continue; + + set_pageblock_order(); + /* 定义了CONFIG_SPARSEMEM该函数为空 */ + setup_usemap(pgdat, zone, zone_start_pfn, size); + /* 设置pgdat->nr_zones和zone->zone_start_pfn成员 + * 初始化zone->free_area成员 + * 初始化zone->wait_table相关成员 + */ + ret = init_currently_empty_zone(zone, zone_start_pfn, size); + BUG_ON(ret); + /* 初始化该zone对应的page结构 */ + memmap_init(size, nid, j, zone_start_pfn); + } + /* ...... */ +} +``` + + +##5.2 流程讲解 +------- + + +初始化内存域数据结构涉及的繁重工作由free_area_init_core执行，它会依次遍历结点的所有内存域 + + +```cpp +static void __paginginit free_area_init_core(struct pglist_data *pgdat) +{ + enum zone_type j; + int nid = pgdat->node_id; + int ret; + + /* ...... */ + /* 遍历每个管理区 */ + for (j = 0; j < MAX_NR_ZONES; j++) { + struct zone *zone = pgdat->node_zones + j; + unsigned long size, realsize, freesize, memmap_pages; + unsigned long zone_start_pfn = zone->zone_start_pfn; + + /* size为该管理区中的页框数，包括洞 */ + size = zone->spanned_pages; + /* realsize为管理区中的页框数，不包括洞 / + realsize = freesize = zone->present_pages; + + /* ...... */ +} +``` + + +内存域的真实长度，可通过跨越的页数减去空洞覆盖的页数而得到。这两个值是通过两个辅助函数计算的，我不会更详细地讨论了。其复杂性实质上取决于内存模型和所选定的配置选项，但所有变体最终都没有什么意外之处 + + +```cpp +static void __paginginit free_area_init_core(struct pglist_data *pgdat) +{ + /* ...... */ + if (!is_highmem_idx(j)) + nr_kernel_pages += freesize; + /* Charge for highmem memmap if there are enough kernel pages */ + else if (nr_kernel_pages > memmap_pages * 2) + nr_kernel_pages -= memmap_pages; + nr_all_pages += freesize; + + /* + * Set an approximate value for lowmem here, it will be adjusted + * when the bootmem allocator frees pages into the buddy system. + * And all highmem pages will be managed by the buddy system. + */ + /* 设置zone->spanned_pages为包括洞的页框数 */ + zone->managed_pages = is_highmem_idx(j) ? realsize : freesize; +#ifdef CONFIG_NUMA + /* 设置zone中的节点标识符 */ + zone->node = nid; + /* 设置可回收页面比率 */ + zone->min_unmapped_pages = (freesize*sysctl_min_unmapped_ratio) + / 100; + /* 设置slab回收缓存页的比率 */ + zone->min_slab_pages = (freesize * sysctl_min_slab_ratio) / 100; +#endif + /* 设置zone的名称 */ + zone->name = zone_names[j]; + + /* 初始化各种锁 */ + spin_lock_init(&zone->lock); + spin_lock_init(&zone->lru_lock); + zone_seqlock_init(zone); + /* 设置管理区属于的节点对应的pg_data_t结构 */ + zone->zone_pgdat = pgdat; + /* ...... */ +} +``` + + +内核使用两个全局变量跟踪系统中的页数。nr_kernel_pages统计所有一致映射的页，而nr_all_pages还包括高端内存页在内free_area_init_core始化为0 + +我们比较感兴趣的是调用的两个辅助函数 + +* zone_pcp_init尝试初始化该内存域的per-CPU缓存, 定义在[mm/page_alloc.c?v=4.7, line 5443](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5443) + +* init_currently_empty_zone初始化free_area列表，并将属于该内存域的所有page实例都设置为初始默认值。正如前文的讨论，调用了memmap_init_zone来初始化内存域的页, 定义在[mm/page_alloc.c?v=4.7, line 5458](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5458) + +我们还可以回想前文提到的，所有页属性起初都设置MIGRATE_MOVABLE。 +此外，空闲列表是在zone_init_free_lists中初始化的 + + +```cpp +static void __paginginit free_area_init_core(struct pglist_data *pgdat) +{ + /* ...... */ + { + /* 初始化cpu的页面缓存 */ + zone_pcp_init(zone); + + /* 设置pgdat->nr_zones和zone->zone_start_pfn成员 + * 初始化zone->free_area成员 + * 初始化zone->wait_table相关成员 + */ + ret = init_currently_empty_zone(zone, zone_start_pfn, size); + BUG_ON(ret); + /* 初始化该zone对应的page结构 */ + memmap_init(size, nid, j, zone_start_pfn); + } + /* ...... */ +} +``` + + + +#6 memmap_init初始化page页面 +------- + +在free_area_init_core初始化内存管理区zone的过程中, 通过memmap_init函数对每个内存管理区zone的page内存进行了初始化 + + +memmap_init函数定义在[mm/page_alloc.c?v=4.7, line ](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5241) + +```cpp +#ifndef __HAVE_ARCH_MEMMAP_INIT +#define memmap_init(size, nid, zone, start_pfn) \ + memmap_init_zone((size), (nid), (zone), (start_pfn), MEMMAP_EARLY) +#endif +``` +memmap_init_zone函数完成了page的初始化工作, 该函数定义在[mm/page_alloc.c?v=4.7, line 5139](http://lxr.free-electrons.com/source/mm/page_alloc.c?v=4.7#L5139) + + +至此，节点和管理区的关键数据已完成初始化，内核在后面为内存管理做得一个准备工作就是将所有节点的管理区都链入到zonelist中，便于后面内存分配工作的进行 + +内核在start_kernel()-->build_all_zonelist()中完成zonelist的初始化 + + + + +#7 总结 +------- + + + +##7.1 start_kernel启动流程 +------- + + +```cpp +start_kernel() + |---->page_address_init() + | 考虑支持高端内存 + | 业务：初始化page_address_pool链表； + | 将page_address_maps数组元素按索引降序插入 + | page_address_pool链表; + | 初始化page_address_htable数组. + | + |---->setup_arch(&command_line); + | + |---->setup_per_cpu_areas(); + | 为per-CPU变量分配空间 + | + |---->build_all_zonelist() + | 为系统中的zone建立后备zone的列表. + | 所有zone的后备列表都在 + | pglist_data->node_zonelists[0]中; + | + | 期间也对per-CPU变量boot_pageset做了初始化. + | + |---->page_alloc_init() + |---->hotcpu_notifier(page_alloc_cpu_notifier, 0); + | 不考虑热插拔CPU + | + |---->pidhash_init() + | 详见下文. + | 根据低端内存页数和散列度，分配hash空间，并赋予pid_hash + | + |---->vfs_caches_init_early() + |---->dcache_init_early() + | dentry_hashtable空间，d_hash_shift, h_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（13 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + | + |---->inode_init_early() + | inode_hashtable空间，i_hash_shift, i_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（14 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + | +``` + +##7.2 pidhash_init配置高端内存 +------- + + +```cpp +void pidhash_init(void) + |---->pid_hash = alloc_large_system_hash("PID", sizeof(*pid_hash), + | 0, 18, HASH_EARLY|HASH_SMALL, &pidhash_shift, NULL, 4096); + | 根据nr_kernel_pages(低端内存的页数)，分配哈希数组，以及各个哈希 + | 数组元素下的哈希链表的空间，原理如下： + | number = nr_kernel_pages; + | number >= (18 - PAGE_SHIFT) 根据散列度获得数组元素个数 + | number = roundup_pow_of_two(number); + | pidhash_shift = max{x | 2**x <= number} + | size = number * sizeof(*pid_hash); + | 使用位图分配器分配size空间，将返回值付给pid_hash; + | + |---->pidhash_size = 1 << pidhash_shift; + | + |---->for(i = 0; i < pidhash_size; i++) + | INIT_HLIST_HEAD(&pid_hash[i]); +``` + +##7.3 build_all_zonelists初始化每个内存节点的zonelists +------- + + + +```cpp +void build_all_zonelists(void) + |---->set_zonelist_order() + |---->current_zonelist_order = ZONELIST_ORDER_ZONE; + | + |---->__build_all_zonelists(NULL); + | Memory不支持热插拔, 为每个zone建立后备的zone, + | 每个zone及自己后备的zone，形成zonelist + | + |---->pg_data_t *pgdat = NULL; + | pgdat = &contig_page_data;(单node) + | + |---->build_zonelists(pgdat); + | 为每个zone建立后备zone的列表 + | + |---->struct zonelist *zonelist = NULL; + | enum zone_type j; + | zonelist = &pgdat->node_zonelists[0]; + | + |---->j = build_zonelists_node(pddat, zonelist, 0, MAX_NR_ZONES - 1); + | 为pgdat->node_zones[0]建立后备的zone，node_zones[0]后备的zone + | 存储在node_zonelist[0]内，对于node_zone[0]的后备zone，其后备的zone + | 链表如下(只考虑UMA体系，而且不考虑ZONE_DMA)： + | node_zonelist[0]._zonerefs[0].zone = &node_zones[2]; + | node_zonelist[0]._zonerefs[0].zone_idx = 2; + | node_zonelist[0]._zonerefs[1].zone = &node_zones[1]; + | node_zonelist[0]._zonerefs[1].zone_idx = 1; + | node_zonelist[0]._zonerefs[2].zone = &node_zones[0]; + | node_zonelist[0]._zonerefs[2].zone_idx = 0; + | + | zonelist->_zonerefs[3].zone = NULL; + | zonelist->_zonerefs[3].zone_idx = 0; + | + |---->build_zonelist_cache(pgdat); + |---->pdat->node_zonelists[0].zlcache_ptr = NULL; + | UMA体系结构 + | + |---->for_each_possible_cpu(cpu) + | setup_pageset(&per_cpu(boot_pageset, cpu), 0); + |详见下文 + |---->vm_total_pages = nr_free_pagecache_pages(); + | 业务：获得所有zone中的present_pages总和. + | + |---->page_group_by_mobility_disabled = 0; + | 对于代码中的判断条件一般不会成立，因为页数会最够多（内存较大） +``` \ No newline at end of file diff --git a/study/kernel/02-memory/03-initialize/04-init_buddy/README.md b/study/kernel/02-memory/03-initialize/05-build_zonelists/README.md similarity index 92% rename from study/kernel/02-memory/03-initialize/04-init_buddy/README.md rename to study/kernel/02-memory/03-initialize/05-build_zonelists/README.md index 71ba230..842eee6 100644 --- a/study/kernel/02-memory/03-initialize/04-init_buddy/README.md +++ b/study/kernel/02-memory/03-initialize/05-build_zonelists/README.md @@ -154,23 +154,61 @@ void __init setup_arch(char **cmdline_p) 这个阶段的内存分配其实很简单, 因此我们往往称之为内存分配器(而不是内存管理器), 早期的内核中内存分配器使用的**bootmem引导分配器**, 它基于一个内存位图bitmap, 使用最优适配算法来查找内存, 但是这个分配器有很大的缺陷, 最严重的就是内存碎片的问题, 因此在后来的内核中将其舍弃《而使用了**新的memblock机制**. memblock机制的初始化在arm64上是通过[arm64_memblock_init](http://lxr.free-electrons.com/source/arch/arm64/kernel/setup.c?v=4.7#L229)函数来实现的 +```cpp +```cpp +start_kernel() + |---->page_address_init() + | 考虑支持高端内存 + | 业务：初始化page_address_pool链表； + | 将page_address_maps数组元素按索引降序插入 + | page_address_pool链表; + | 初始化page_address_htable数组. + | + |---->setup_arch(&command_line); + | 初始化特定体系结构的内容 + | + |---->arm64_memblock_init( ); + | 初始化引导阶段的内存分配器memblock + | + |---->paging_init(); + | 分页机制初始化 + | + |---->bootmem_init(); + | 始化内存数据结构包括内存节点, 内存域和页帧page + | + |---->arm64_numa_init(); + | 支持numa架构 + | + |---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + |---->free_area_init_core + | 初始化zone + | + |---->memmap_init + | 初始化page页面 + | + |---->memblock_dump_all(); + | 初始化完成, 显示memblock的保留的所有内存信息 + | + |---->build_all_zonelist() [当前位置] + | 为系统中的zone建立后备zone的列表. + | 所有zone的后备列表都在 + | pglist_data->node_zonelists[0]中; + | + | 期间也对per-CPU变量boot_pageset做了初始化. + | +``` - -##1.6 今日内容(第二阶段--初始化buddy内存管理) +##1.6 今日内容(第二阶段(二)--初始化备用内存域列表zonelists) ------- -**初始化内存分页机制** - - -在初始化内存的结点和内存区域之前, 内核先通过pagging_init初始化了内核的分页机制, 这样我们的虚拟运行空间就初步建立, 并可以完成物理地址到虚拟地址空间的映射工作. - - -在arm64架构下, 内核在start_kernel()->setup_arch()中通过arm64_memblock_init( )完成了memblock的初始化之后, 接着通过setup_arch()->paging_init()开始初始化分页机制 - - -paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响 +我们之前讲了在memblock完成之后, 内存初始化开始进入第二阶段, 第二阶段是一个漫长的过程, 它执行了一系列复杂的操作, 从体系结构相关信息的初始化慢慢向上层展开, 其主要执行了如下操作 @@ -179,6 +217,41 @@ paging_init负责建立只能用于内核的页表, 用户空间是无法访问 在完成了基础的内存结点和内存域的初始化工作以后, 我们必须克服一些硬件的特殊设置 +* 在初始化内存的结点和内存区域之前, 内核先通过pagging_init初始化了内核的分页机制, 这样我们的虚拟运行空间就初步建立, 并可以完成物理地址到虚拟地址空间的映射工作. + +在arm64架构下, 内核在start_kernel()->setup_arch()中通过arm64_memblock_init( )完成了memblock的初始化之后, 接着通过setup_arch()->paging_init()开始初始化分页机制 + + +paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响 + + +* 在分页机制完成后, 内核通过setup_arch()->bootmem_init开始进行内存基本数据结构(内存结点pg_data_t, 内存域zone和页帧)的初始化工作, 就是在这个函数中, 内核开始从体系结构相关的部分逐渐展开到体系结构无关的部分, 在zone_sizes_init->free_area_init_node中开始, 内核开始进行内存基本数据结构的初始化, 也不再依赖于特定体系结构无关的层次 + +```cpp +bootmem_init +始化内存数据结构包括内存节点, 内存域和页帧page +| +|---->arm64_numa_init(); +| 支持numa架构 +| +|---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + |---->free_area_init_core + | 初始化zone + | + |---->memmap_init + | 初始化page页面 +| +|---->memblock_dump_all(); +| 初始化完成, 显示memblock的保留的所有内存信息 +``` + + + **建立内存管理的数据结构** diff --git a/study/kernel/02-memory/03-initialize/images/arch_do_somethig.png b/study/kernel/02-memory/03-initialize/images/arch_do_somethig.png new file mode 100644 index 0000000000000000000000000000000000000000..6a9280ca836dc464cbc6a8aed6b137e00670dc40 GIT binary patch literal 39644 zcma%jV|Zjuv~FzMwmGpiu{CirnbAP}wr$&XCbpfNp6}lC|NQ8udso%2+O=G3 zy}QGe6r>R0@Zdl|KoF(Bi>rWufbD>QfYQT20b8iL_w;i2u^?(5N0Cs zA|N2OvGDIkkictL`|sLLARtHs|308e^ho$1AZZTL;v#D9`WKt9x=}C0(ASD1xW<66 z3Y`kArP_8!9j-Gix67mt*<{D<+8AS6*<=D!LfOi6mvP+2zc8dS&`B5oXa27jL4kgb z$%Vw2(yl8X0jsQSxoQ683GeLfyN?fF-arH#lPK09921_r-}lV_?C5&00u% zAQ}I9qiP8TK)L__$S`pGe@(1IjwsMO|J@vQK!VhR`(O9C2!TKQf8EJJ+#qKEbu&Oa z{2wR$9YaDc@GGitf2mR@EFuDnc)7$V>U6O@GWNhag(0B&N08v%s1P2_m-9x8K==i1F+T9erE2<5!qVc(~i2pr0gBNiBa2-88!n)nQgk35qGN8^+ zwwo-*1NIJCN+j#0PG&gx`1v8$WQT``wEAK+G~Y^u1FFK+$l&`h12;2@aCF~ZU&;8% z_|-wGa0-MFVTApyPq({;Trb{b8OUd6XH$jz0vN)oNv6^{%>8*?PVH;{(c2UZdWXRv zA7r6_zvJ0GJH7q+3WJ`$!FpBHTkbFCD2DUcWHuKz;!hDOS;;qtI_vJy*4EZhFc0<& zeh*PP>2E)eS=2aKo^f{QFIE3>fN~!s zEH>H-Cz5jo{HF*h^s;vBC55${1FF>wcor0ijH~tic(OcZL3`V!@Mt{c&*4%sIeGm2 zigQjNN3}%yK)J{3OPZ1_jSoti)LUKCEwZOF+jlyoZYAO}9DVtKqL7>oWO~C~u2`u3 z{IFETW)Yq`@v2Gn*|N%C0##e~Ldn0sVmQb7UpC?Myb;b8Dya|GQWlr7twz&R)ABT{ z_2=sUt+X`+T!|AySjhAKJ3<4s&X1z+5;aXtagYY4rXpI1tTw?x=YfDZ?JU70J@?I9 z5jC~MRLO#jG0_tVjMU{Sy>!(GASDiH3H<8`iZ^_S3S;c^rIM9@*{tuKsw-MBz3{7? zw*r77KCb~BVx7CvnC&REvH%nNntqrjn~Yh4FCn8E5fKx3P#~>h!S>R+RHlB05$yyN z_Sy}gN{p*4u-pcQLiZH}n73%eA5aa3v@LM)>0RHvi~uF68At;*0G^P3rzfR)KR2AK zsHoVWV4lZstRlveFO& zS4||x4-b!x_yw;E>*^R>p-gh$TB8;B^DnuOHMWU#KIqz7yIH>;VKq)RwD!55z?;}2 zt$N@|%4XR)D&q67V)62n-E21O<5?dTqPL`@LT(AfRzXl5oaTRhoZCDA5 z4-6ZO#Om!c4!mbDId__YJogU(9}LOZZnBM5$mG2xqyUn`(g98eR5*J4c!}p>Qo!a^ zEx6Nts+Y?|JIu2G#EH{&0%xPeL+rg{^o{tRsY!G|bQcsuq|MLEQz?vBs&reeGcDv9 z(sIq4HVQ|hR4wpO#@*$>1Wv3Ao~5W{ldiqqWGpsjIFx&omQfn%gM5nbl5trR8 zJX`TKLuCvO$mc-d{_eQT)ZZT0uaxqBN;`m{;=N|R9siQ!qiq_TSzaD~u*#Za2d)o? zhSYP11J{ydXS5A8D+Ds>tjTUlcH(2D#$|%rzyY_!3L>NA7^-qKI~oJPeR#w=Udv}& zDJUBOmk9v3XOs$f;$r+^yvO_{Hcut*0JL66Ex6;M$4>IucCQ(#DIxc*M_Fn>$@1I7 zz+gN&@j#?j$m;26bt;S}Afq57Ek%jISc-%D3qjHG1%kmGLZ%|!mFLfh z1uKMkxFr^yE(b40+k}N6ysbPlvolnF}*@6+7_=iS& zX(Xwxc8L2bbW5`Cpo-11Vc$3;2hn7%((J*@-`4iCjBFMvm5C(gS1e$;mh$cr`=6Cs z6~-Q7JA);JssCY%W1D$56A@)*5j`)M<^kN=^={A^b)Jp@XSnPbG%38AXIr5XA0dM zxH<44rLvb*j9!CN%~}pF5U=iw=-+DG&83`cdHj1IT)5mIyj%QWnaXwTk8Lr~3RRT< zFe}|?aE~pqB-&W;q8X#0;=u?J+vy58L0oz@_4L{b7DW;HKQ>zBZI=AeI`qVPGDz~5 zPJz`D9EG^*HyGa%;M`s1sUQ@9r~m2#&>Uc6&;f35uy-HISR#t+$6X>YB=5JVX;ex@ zBOVkHS|Zu8!BJ_=KjX0VpLg$@tY9RS3*qBvHri{TBhQg{mdf2r

2h2v|W3DhObl zQlM#{TqGr+_R{VQxQX>?9(>)s@I$}&V@L8Z4V83*YzpABI{o@~d(`=p?1E5YNBa5f zZ*SKBdNAH|kbsDVB4Ktj>*~3MZ4>_^D-lwU6Y7V%1}9seWO1}s*Etsiq(BhRp3l{{ zlA=~ueL@ZkVBh>j1jtAz$!TJF!d{_1@MGlWasc*SIv8F(umLO%pR^rKD|^lT$fyZ) zbx~5sFOlx4WT$fhwjWJ6?>?m7VVX$8XsG*MuvxhdbMMr=gOS4S#RTV_J*$xYwL9nV z7Wzfz^7pmtp?dqLqDMaQY9$Oz_` zV*3;Bq#V57?P}gyaqp81NZ@-O=rzR|_u+__lja!JAnO72c)RpvAIy4cbfi}|&!@N> zgxnZnI_e6oor#VKC8zPiu1wD_WVR=AQJjm4ty9%@y9Ud7&x@{PZ8%s7aPvxaOcTD= zfpo8cL1zpK@gBv+!31uPy@q*?_qv1RxfcqO%i41vS-0UHg~g<~Y&2Al2O8JqjF@d- z+W<$rf>oGlCgUR{@`)@~xJp%Pu~v*X?e&=_a396g^w^#X?fQW$WT1)hKtA$6VmrO) zS!k$DMo7HF>QWG!o$18Cw5{^T96GyBS|-&>m)!4*F>(LV#xHY1K|1DyKBR92W;UKY zlk$m16ZuNG)+>(n(}x10&nE*@!TW{Lvbdy9uIKD}ndX-g5p5qADZ=tMo1w`o-(jJc z{#hkOT1@gJGkf9}a-{ng==C@CgfWimN4Vss28mjmcEe3Mi*9Q7{;p4|g^n7e4+L5S z^xr6+n4!d)Qqx!EWyll3S`b-U(GK)^tj4R=I4gOUj*OKkuvb1Q${jjf59@c2yytv; zIqyr+II7J!#s*z|>nlev2q^|(Gk_sB2*g)Jaygl?fOJtvaS|!a_)C{tP*|pyMd^O)^E6r*#eTzahlxChImtrIsl0adgrQq|Bp3bB_+_j;9z&JrBGj_w&jCfjXzIKUrE79c_`axsuOQ1r-tS#Tyd&>mk9x z_W9OBIOD(r#Wbnfx{a9`G(LX18u?#~*zdZjU*yRPD`6&^-mGmA`3xZ2p+;9#yAG8| z&-xX#a=!=N6O;~wv4gFzp!@#{sgWY(7GJPf>w;lzYWsgHoP#&`DU!bJ8kO;h;d2xt z@lfIyxcC^@$SxH1Dq{M2;*6_7;j)4ntNABoLb~R@hH)WOs1b%?HQL~1=iEQ^E@)|p0uD&d&x;;rwt~2MPZah z*m*VxbMlA0fl+TTXyO)UbS4VK&uaaWO}16J^1>a6B?00K4D-?4*{+SYCYOmnWBgR;8Z52XDXuJ$(Ac0 z$P7V~n_1kx=B&Oz=TLYaNI~|@7@=A9+nWGj#{J$cqNVG}>pFc#c|ndjtmqygAojX@ ztOz~8wwuJ|%9|}wa_$Ys+l(tM@;DF z*3>W;_m;2%48`yo`4a$T_AgW-zwhy#H2N?O=_EZH@-Wh$^nW0BCpXdi;@XwLIzjjxHDKPfQj^{Kg1W!K7aLH0ze|I`*qBI%J+uv&>&T-ZB^BJAe;x5@q33=o zB|UD;W^57oU3vB9*5`F1Ar0CNAoZ*Z!^;E&h^4?4=c6ZND^Z^S>{pHQX1bEIa+Yla z4Xv8xQq4FeS-7}T$&J1r2aKUk@QBhq58Mmk=2b2GQ)00FffaD%xS~S0FxKNx4vW z7f-0(`gcFQPVVz_R6;jF7h(CyCLTcu%Tlr=0{N}}M7iAL7p=^>&uS5jTGYg=+6_xqac zF=mJVSC&1EmV@7@w>wD-f<@Wh`x^;FyFA8NZr9BEWgSZCbH?-5MZw3r0*rk<+UWu= zGxv6s(hBz4#k&XcjaNvQ-LY3_m*2nh0`U~+wB&*b=z;lIplt@P2N;*#d+}!eh6Lo! zBQ{oz9zXgL`*6Ngp{2Q*Z9uOC4fR1znlp}>Q!YxH~DX4SpqzzwnrF5TUn{%WC33Bf?Ok{gP|_RR49_!_DUzd&hpA>Vo@~I!vF3uBjNI@y z$-dD#K#d9>Fb{r7@vjx3JxOvLR4OXq5ACG6M?_S9eIX=}g6Aj|X}q+%KKF&`dU*v` zh$cp$&;F`0TbiD0;H{-XJq>dSUL=*XJ@w}_nkgpZ^tG&5*WB5#?wn+9ZGfG#YnUkx1j#~ z{PZXwHUO=~K4+!(q*;2bfFlH~-^}A-_F3h^jL|$CWE|g7OWMc|92-dGi@5+6U|NHf zo^=t0MPUm;IQAH@oI3+uhl}%lAP;7WaOjq-{4I?m0{z|nxF%A4z}gHJ14JAPDt0h! zuUrQ=L&#a4%N;@-o?9eIpz(cW_WYTS%y zYab@9o3>rxe?$u!(o)hbFW&ff_pNme(#r`}gmX>nAZO+sIOU`Jyo0 zP0(lLA-lorY7I=qzcoL1sR-8G{1*>ik7wJ-%0|I9iC#@-E1uj+2yVGTI32{w(a&yV zojl0J)M@!gX(esmhxfZ&*a6Fk0IyNoV}1*iQxE-~P+Kv>#~U(IsIA9N7MMpkKXPgJ z5Wl0e{Idv8dwA_|$>9o?(Q4@Pq6hJPN4MItPhAX`_0Z8G6_n3cgkKBIfPnKo^{i0F z>95brDVz<1Sy0ox4#Vv^xN5>D!{_NyWQqNJbIZ2iQ@cv2VEW)Y5pTd)NeK(rA662!s3%ToZ*R|Q_TDs(;0DIa~V?MZ!-u{mnZyZfEz!9O^Y;WTMN z$v*)*PZYc^W1(^?&jP!rK`Ggvf&=m_nsNyv9GJ8SrxXDAlnX!fNB$V~o6p)l@FQhW z?DlfehL+8H-QXQlF8$Oi)FQ|9zwuk0D3@8=lobs)%oFy4^v~VWIikDj=3yvkqVsyY z&vT!mmAqnr!q7`tJ2j^BP84tR`F?_Xnm-j?~!r;FffxK<)Zpfu+{# zkDJ^y??1ZZSk@SYA1AzaYsYDFAKsm4RhiT-yZ>S&T52%$sWUV8%4WpCxC*qv$W|*w zD957^*GS=PO0ddP@jz0Vu0_bHB-#&qq_ND7iqw?OifPr|AsY?#p^Jv``v78svI^~K zfAGGZf;Ud$f;LY}4#B=91!#gTunKFo$Ur!aNJL6wW@Hue(b_ zgLj@m7LTIc&rLObTqNO*zK$ADRxSfsZ%$`)@GIpOKQ8SEpoCPS{H;>;3vhKQ26x;$~B7y($Hg zZ>w*wDOF7FI*^>-6vk(+m(aPP?}}TJAS~OsL+N*T#p$ZdYj&P(P3WTuns(&w9NZ) z^+&6FpZUG~IQc;-i>UW5OC9oDi?)2$x7OQVbaW zqC7LXXhv6eDDE1UxkL>4g;wW1F!x_4St}IJx#95CV&2Q1fZ5sg`V3>I+RWk=+Ftdh z&5L~h{+W+J6P(uu$R&TP{@!>sQ++5Xx3&}hH*3Rybmx)%W>!j+w$XJvHaoi(=!msObA}ma3rV9SC*|mvFk|LXa$&{zhxe znO?UDc-hBt_<+Y5F{|a)EyhvNNBroq&K)&FJ6fFg6zsI=I8AVPWLs`T*-&RgS9{a` z7527a$UK~!r5>f?vUj=D=>n}>Qyp4&bxAMPzpQ01=(Aai%NZ80+ht&Q_d7B=169x0 zO+NnyWvYL07<7yKv*HB)0_b+k4}fZJ;7l6AABXjNf!~Gf0lKc6e45_@3stl#b*Pl3SK7!|OzOenbv~Nd9{2zQn4{zYC z1{=Mv;r-Y1JEdA)J9JqcF;WvBlPnkfNOzdvvTrY`Y`fI=Sxyk7aGLC*1=OEiv#2J# z>M4Q?riQQGh+34mH1)P{8e`z9oDq0`a)5e0caLf5n_FY& zOqa9UjB!|w4&L3V<4`n2Q9-ncGa62jWH{$T_nE3m$OrWW8oOL))9pfdqbIK{W;7da zG`*u<$%Y_E1P@v(NVK9}jDjR$1`2_!d(1*;{vN}c9p`R)9-M8=l4~sGsU~jsUO`;aIGhHH}+qY-aK|a#e$X6yM50)?da^-Tf%`?U4Qv-tdMsC zF3BhUbRj?O_3ijcw@T`x4=U{st8?>x@B#RsD3!`Pyq_OcN>-=Qk_i*vcA26aw{?t% zw{p#OPjQ*rh7EseqI<8AgQ4vUk<^wD$@ubXIxF3#8`yjQqJ0<0WQhEhYzyZJjoHPI*ln@MW5V>}P|9a2sb=^tdvjEJ*fwnFPt&8rvnxgoJvyEBYcLiY$?ML`NvoHFUJS38@^-iBF5qbqcb;~gpu zAKHI>s_T5p2d^_FsL|#=D{>QJQu8(;xq@&BGH+=*&;Y&bLy;wjFoZA9>@3J1sHwsn zW&KV|pimTqwuqOfeHKzDTn@?mL=@a|7_BLf&49mG#1;bd6Cl=GD;|ihqZ-xT^V!2(!Q9dAj(G07&~>d*AXeqej=T0sk1TM)PS z@iT`yCfwup_Jo@s^G-LBLb9ue@WjEg?g7a&ih4T#TK{|B89ovBZ37)$l49l~y2lh| zxzJ%I-)_%l@ilxL^eWhvP;1!7m%e|>6X8auJ5(|8l4$*pgTkXEnoHGFPlrvs4K{-? z2Skg8QJ81_4mdkI1Af?>{^+wbe+QmluR@l_MC z-Mliaxd=5^r0Pymso64CD^wvQ#v%I0k3dDm#DwG(eRez^S-$ZasI<9{`5jm3LxO`l zpKfTsZ~d#b3UGrcf-gcfTCc*P?(VwZ&me0gP|HqZsDbT)O&iY#8n8SU@8WbCa_Qro z<_4FosD=f`&i~>kss~d|OTh-$BkX)VZvF}XP5WMaok%csWdkSVKqlvR43e{;f+WkE z3;qo;` zUju)mNxIxHYx(Wh&*)WEs=cE)^cuq_lSJAd6sGpoCSft(WDUD(=+o4GTV}xH<|)@- zvD_Z(ZSXYUC4crq(&2FS& zWKN9GX^&WxFKC)=TZp2f5x(k>vDe$>lblo|y@f>|f5N5B*^*7Qj1z7YJ^6(V+_z!kuMf2wbZ{?BnW&v^;U)v{0aE59a&t9UBwEApkV>1&e;%l}DmR z6LVsH;HS;}fTzCtax*}>QN(yGx;{Xvd}Vr}`4P6ach^3x{{lV^8-OV52Dj|Z52$xr zKsd|7VA9=uE#7gxlZZGj#e?EZ8LSO{(RhQsXJ{(0y<@@8)C1uPF}$4d46{F4|K94tx`uW<@#vKlij_Fvhc zIOn@L2%)9-K(h{~dTJ0+5#%%fgmjZ^vSCk8HVP3DX%Y*N4+_5PbcTh+`~w0$6867JuUhVv zJhYS)H*b~La17y~WIFJq#8%V;y>l?Gz21R@9r!1k2(Dm`5a*q<&~lm-J) z5E`s3CI0@!pwGYx^v;QgJRPw3UnCO%(^GoJfT!URI0#Xp*Dm?5H91Kki$9=hvn?*kl2q8hnG1@q%Pd? zU!9&0eUQk=K&*>@P(FDX9&R}2UQ}UdSN7AzX5`KeiT5)Ka}wK-R&RoxWzWfYhSe_4 zIM01+K8SbzyksySw0~s5ngp=5PDf1dJf9T7*DJ*r%hU%w zhA?JZMWem!Hd=ZwJb-n1{VdoX+ULuyd}tt6$K?MCa=DmMht5?FUM}xtD^xHzBn;!S-9GdC)En#h7*ku?n zG4z`?*}&Ws#P{VEv(^j(C}WbP(B&G{SXKiM4-d8Ovt$UkY^mT5|7;Q7Q(zy?yeG%+ z>7VrUH>`_c)q3qA^YcJ~I?x7E0*EX@Z6kj?&LyV$p|vCC-I0pE(dvX9?J1qtZpq*m zhrH4coFqvDVrO9;G}?I-$K+J4T3@f?rKk$NbQl9~txNT2>cmygeP>66)zIt(obaqn zQgTBU$%H|1`~ifYmlv<|?H)7q4^STOl@xKP6|+#hq*cz_X4cjuZ6;|R3VQWc50DY@ zI8b8SUq+PwqnSV}k-uVnlO&>v$>mKjYcgpfxI#e7^d!Eq@Zrue%~F&~EN(zRz+5@W zn{O%Ur!4q~63Nu9An)aX>nPfd0gz!&fj_sY2c~Q(E2tE) z?gnVpB`$#ukOi0to~-SV@zu?K7Lo)Cb0H8|GLG-a31T;QZ*_mQ9c$H%YoZ;ZB7Z#f zLro1MDmr?$*v+oiRX1kL{IC4w7|Ru(^D!{3e@Z#|4<**SiNZE?OE?DETwmXx)@W52 zpGe~aa2)v$rlsVb8+D%wL;?U*3T5)x3p0&669PysOr*OvI zXgC8@Hmq$Hx#seZ%tySEh3uKRfEqzDtg7_46Xlx56=>)TO*tX)GcpQV?;Y|dI$~8~ zN}vg3==Zjoul3`hdL@0>xH5^-j2Asy@ zmd^pBWe(x`=d&U#WJQI#Aa^WF|&77L`%7`1&9abAY3I;(GPzMXqb^_0xh_Q&6 zCRvl4adB~TO~;ex2v~Cbgi=#eb3}rmRKi_>V8mMQD9aW-T|N8j9a4=lkZE5y~GOOL7sPx5l|rrB;j7BRIQlgrE4yQrhsiKx4%dmXXoP9$HIXA8CD zKoecm=r#bfRSd*G&UXBP>5OoL?;I-=9UgZrPzgR*Z9#QTM+&u(Qe_@v@X>^&M!$To zHbX4iY>K9Zm6U!zYhSIFQ->hoj&;7)fXVtcr}%=OIElDj7inn&cZ@Yh-yqfmz2mH| zpt+|zKBV=Sk9SqOKeW5K-kfU43JU(yfZyZ5m0%pdB*c5UYE!Gxv(Y_kGL=V+zCDSM z<(m2iNzwNL6#zw)XM%!{A9=aiW^}&7YQE7@3q;68ja-4vZ<4kN7uwb|9yrBUf^u_q z6h!+TKM4c9w<%}a$c2z0iA)k5WN4#RYf<_EjpaSJ>p6FAaXF9~7V4fdnQad>-m7*m zzwC)#q$of$N->8=>cK`Sti%;_J?9qvPOLl56ORK#}&@$Zb_7K zWb(P8t~<_*RK7iaP6EMhe`d-xnQxlw+^+QZ?5ICN4wJ3RL5n*YNX0@)xoN_jW^u-$ zZr50deA6x9;V{y_*+hK%^=r@L&w7c*XE1}|*M z>y1y64Jh{}mf!O=DKu1+Dfrk|!I~t|N`wXe>*du}Cv==$o{VpnneR?^264#TS>5^^PQyV}}qKp%31DVzodj2Uh18H}JUNsAb@68t6% zXA2eTI@V!>&H38;Y(B3DwKs-JGwh`lN6H|At79_fAHwUSsuNkyLReQ6=6q#1*Vo)% z4l7>h2~fHszlUdez7Ho!s!^`Z}V3`Dm?nflIRV!3L|jT4zbE6;b37=y(DITEfn*r8_pV%dXPR-NkpEGfh9$l106Kb z!}aWYJI*9)Hz3nIkIUbGHV{E#5-Osjqu;m-0-?QhlLRuwV;4TsXE`TkeszVWw@qKS zk!tZib^IX3MiCZjOhZ~r+O^)0)}}1nz=jt2vsdsB>(mei!&;^ zaPFt}>SxFvrH+oy4J%`cW9;U}#^8m574htuxwu-{pQ2?T{9My@;z5;xp544P;zVo+ z2nGjYa^YXsOmX@^QQauc!6G~!5M#uGrkUmj7vA- zJ5$J0^u5`fwHFw3r>Vy3o2?a;K5yoj_d`+VsuoYpWsn2|0PqG&6_m;2%D9B!o|`Xs zL@E|Tv)lCDLX-2Jv{m4_Ps&?N5$MN_WeiP?@{QK&YK$p|i;P_4#~&5~j$jweyb5Di z)Z5w46Mv6aW(&du71bVj&dN`nq~B7OWM7`BX=uJ5+~h9PR+SSlN+r0AA3L%KE{S+_ zTLgXs7|jABM2Hf`B2N3nu3Bv*)xL}k&rDF|D;@)6HruC zgty!fO~^;JNHdRxg|4JwU{E1Vp@5&s;(1R~s~h9#l0(Fp1?634IzjV8a507sxC_f!9U-IjH`nY5A$q1I;XjkhU9Wl_gbc@g%_?F3n7UeZAxa&T#Qmyd}7ci^QxO z)7=?#qd%{ghJi4huetLi$IGQAAFzDWoX>Yz)NWfkTlv?`Zo6;(E={cuh7;*xQ|E5| z{1ndu377x-IZS{OZ$R56$mFEd_gJ==WIMq=-85Ngb)mCFC^3O{3`ULjeQ|+3Z(F58 z%T^9|Wm`zAY%#s&$slONpQK+C*@i=gH zq-1UQ!*;2uGF9-d)x33K(^i9-tNxg5U}S`59WTxiWGXc|kAENn3hK|aHlsSE!Slob zaxx!gV4-_QOAXF;luJ)7y{7%a7$t#I)9^}Zx;@=a<~<(gmhNz!#$k=V1+tfyS4GAg z`ayc^fcL72*IQxgTs>%7YzDcYnO!#;d`0Dq+o^`GN0M(2Rd7ac_9GYSgT_fCY;Q}8 z&_^Wr0|dpuv*7`e5Je&lS(53J7k`&K1YZ@uRIX#8k`~bVaIfHAc4t6RQsRc7;OYVH%Y>kspCaSg&!*RBGV3 z7#P8Ve>!J0gg1w2^GGELBJb9>Xa`eK6UF>V`a4 zL-iLKd7@7erN(#3mAr=0xU;-SF{#+CZ@{7M&q94aUh{OunFDUASXh~81zlG7!hP_-5#^NHbx)NzAxY7) z*1s8lHUBcdJ_Kv3)~1BK8D}vuM{anTMQa)k`k8xgR-!?uem|!j8@shP+U+NEmczYj zeDbO~Q%(@X=Vyn4-%;r98;%*`dK%G{@YE}$zqpnx3YqUnqdkvu;8H-Qe*d8SLz5U$ zN-jWt^{nNYhBw+KHgMaoO{>kFTTa#508QU3Gtg=^+la3b9U-#dA!N+iNa@O|AsKRv zuK3r3p??$0)jW(vHfx!3j&!HbUo5zo$E+Aims2R| zn7#pnGY5yHLpEFCFJEJ9n=+beY(ldi#AUUb2vqcHEGYPgrpavwD&Py#+P1dJPaZiR z(xuYDf?NvtTt&QY7FjBo?B$i(I@~-qiH9nAPJ>cd>!YKw%$yh+*5BoaN$BYAvS|ko z=!!6XE* zACwu4^z}xeqV1tRk-~IsZCw|Qa={SmzwRe<`+;|f%(|cW@xAb@I*$vPUglVayI))c zLLNo2cKjf8em70S=+QA*n`fdPDpHFFb;|1QKC2@?=_$Qn z&IgmvSmdpXZFOexeBdSUj{U~|c%dEIN<5BP)T+S!c8K`igdi%v>Aduf6wLSbqlB9l z7%SA4eC(%icNl_C1=AI#P;B)jpWxfSZy22;TZgsXAn*E^GGj$)$IRdVAVttb$`p;> z&72`&)s-RkfUE9aGCA680P{qPy@viOt@2%z-1Uds3_CalWI{oPBCmfn8q@nU;6btQG>(kCM8*GdYBY$7 z#}oMnvqWMM3IQ6~BxU}-!kKVmW*N>%pp!bSj2e}Y8PGp&`Sth*Sf-?-Hh3FsFB}!` z@&2StKVet9oCdzuWjqvxyT`AWGwU(er1utkCj2$`jsB?54B}&Gz$Z-B#Vl+J=u;(J zTngj=`ajopcXOmf=}R4@wnehN;;X;KFX{Pau-9)yl_zopVK-cDhFA`9aEcl?6$(4ugV^ihT zUPJBL$>iIDi(zO+kfL{7%#LaF^zjfHKHtoJ5E6ZK5>)XD8J+rv(7fH)p`p60LdIM{ z8VW2OO4T=dPDC)^xlxE-6?-35fSuE#llio<`QMOXg+Wj+LOD z#>Ck)Bc8L7#AzH&okuEQOzD5TEje~XYU{0`UGdT{w%V=wfm_{sZ`rb~))X#(AI z@Mg2ZHw2OG8~+y#^^OCCRnj1@Zf)%l$9?^&kAz|PVe86a>q(%CrOZDbj#=^AWw1v; za;2d}0K-o3Ors*Sy6nWK4JIyT|07$|FgU#75!I~La0Jua?WaHyzCqtJF;eeO1;qsh zx)1euAtbp^L^tR!fLM83uhM~~V9?u$;L4^e`jV@v6TQ$mPDPq-|ITlhW3$xO1|r^O z#Z3N}RqWJ1tcE*^#x{9n-Ul1k@{!4V!V+m)7kNHXdOQm0zZjvQFbhCJnN~8n>}1pv z6x@mql1$XnWk3lzXA07$CocWk_61xw+-vFi>zhWgIoj%kquVCW7Fr{@kK=$D$d=er z9icLj0s=QrLKpn+dZc6Rlld+xQTQd2DS%ojHjNcph<&q=*NK*r*FG6r7gof{K{! z1_eIiAL>HDEO1wyp^Dy=pC`>q;ZyNb;fM5>N+BJi&I`A4g_Iur9DqR&V%C?K?-xQJ zdEcNTFLh$OXn_wd{+q_eH&I%`1;f;sl=nT6t_?e#X36t)t((-M=6~Wk|2Fp`qgDx& z)=Xgff_wf=Gm`w)+~!NW?el zUbTq#c(6^Du6Y`34;=C-F*^j;?M;7?#Yn1Ya@ebUvTHgjBv?QsiRs7#R`a)1lb%Xc z?)EO^GCC+1JKG+MIVzY0O=Hhk-WgfcYvpSnJXhDJ>&(e%7Ip?Idbr;1B`5pBY2)|! z8e9R!Jl4Af$NTb6R%-=($Q^Zs9L0zp7CgkuCwE5m70Ev|$M zoJKU%H#Rh7F2WfX35N-yPf#K^7v*u1176tb4}0q)X~UK5XDj`&MCAWPdpoo4#4kWx z5NGyY5b-%!xM$DlKIl|~bO8=S8W!Ejk6 z^`)X5#-xL4@RMc`(s;jYDwFSM>JA$Lk9Vt?FCBV z=f|$iqR0t2oq58AoOSNav9MuWgb57|Eo`;Mkeu>Vuk{GWQn=?@IBe9jaIsB#itK85{ z-TUft9A_1=L8WKNF0od}!W^A8FuG&fkW~km&Yh4T#mK&#M8~ByS$AIBfjc7A+2W!$ z;Z}xIH*;uopFx5H2q1t3L)u^|Fu=G5&lj#9dU9x#MC^Y3GD^FWz98F^te6f2o2d6; znAqXx2%iZ zN{*lW0k5YE=(C9yK}pyoADvP71v0Hu_o7WbN|0GIF$shIBR4I^vLc}G*h>{BSuKJ6 zYZsEJna-a*41h)HxZ~tQdH(8g2e-;iq)jLM2$d#Lx8?V55rAGcPu*z{6c=Q=o=vi6PB- zhw<}ro<%P&!~wCg6}&Q<}ixr-gq$NO@f(eJ1ABy)D^BA9f-kVt%nDm6r@%-U;TWai4CWz#OcdA56ig2{3 z1^OYmkT>ohLwkQ4u=LzVIyY%%1(HGT?D1BJcr=?H-@Yq0Xd8eJUql#6KCw)+3&9rZ zP0XJ5foyDWpe(8`vXsO2=v<1A8bBG&!I-#Te)-#?PY6QpS~hFD1|0YxZOuwtpY9+` z1YkbKu%I?e$c6s_XV~Neqq5|xVv)h;65fQf$mF6u_ytlWf9#|{E;AOi+dvZ&T>5>} z4WiKTe63NZ1EARGhN|K>|A zP1CX&j`BZ@omEtvOSEor2<|iv!QCxbfZ%SyJ-7#VcMCy-ySuwfaCe8`?hf~7pL5>t z7(CL@bT?JCR(*4>`v5C4s8-EWDBeo0Z8}vCCMe<>w4)i-kmgj>&k5e-jJYY3-iOen zO1aivWUfo~7#2%zG-V=JPvOt;>trXtn6uOJ?G7HTyPKsw3^K$6ACiip;cfO#q3Cd8 z@2>R8VMeb?dw8L#ExNH3>{^IOM;j@8D7MVn|Du1g{k6v~66sRu3m8?%h!*u$$-`sXyDN<#9IGlyC(OEhlJVjiedHCHK97b}~Z zohl9g!q7430{#~Il*5XMgk+#j3gaTr*Za#nj%9lGYi)eYexv>2iAI_%hfdGw{*#%R zrU=cx7RQzsbK6>y(F4l0UHO>|!4eCS;4D3)PQV_h+FkJFE>dhMmu<3oD2ZAxM_~D# z9Y%StGN|?3()`mAoCF*Xw0NP?gV$M%+0+uATw+jl#TeXT2C@v z4!1g$0x1T^_v}x@k}I@*tAjl9varNT*`6H9v#!y;7_eI}1+Y)-%5kOTiHwf@c<0+i z^KY=Tj@pq(YMH0r8*1#w=d4f84G^n4ZL<; zZkRI0IH+S!DB`wptkX3r7=|{z#%DJ18hpybnT#;K$esGTCpqeCF5s&WGc5_!EAlSy zJvUML%!Azo1-nHoB_AB$X3^sLy@gs@glDirg=Kz?aWany^Ri2dZ-UzAA3m|cfgnB< zudw^3AV~c0M)k)$p$0#9FAfGmwzn5S`MS}NI4BuEh$qLC_a4}O!`!r9q0zGHc(rb7^azn(1Z`rVD z_${S*Uh)C;C)%-9!)NCgDFC6oIjsM(J7pC~@n(t{re-@kr#J#({hqt%T8zEN6Zy3_ z1_{9_ODmUfKuhkm&PG{0OXtzTjH^eAHZ= v@pkJ*HdizoqlHQU=|3;za&$(gB3 z9iJ-ALmMQU_#VA`ZLQCC?vmDU>OV}45;q@p`C!eZepB@41v(uym`bR6+mQ8}bM|fS z46@9-E(<-^*T?BU2+0U@HbIqgr~UnEEUqUFpYS_zL$dYu$2bM!13nVFG{8aPC@!9* zAS&nL;Xq1;SN&73_mh+i(iF={s9vkiVDedz2Y#`r!?5p82_6VT@C#M%8xqM3y2#R4QD2>gePU=}7YtoRoRFA|{hY^ilkcuw zip67QX~MVrS>F;Qk%Xwe(?`*+C2h$Ch;r|DV2pQa8QHZ)AMj*BBd!Y$_GaO@+8Yof zyXy1~`7lD*zSyk@x^<;}>+F5lNr@NxO&XM~)|{h6tKfD}h~bOF!75py$W;!z6K<^V zaB7|Qx`KO0XOrb#X;!AojDq0v>>I?^nj@7+EC{3sK-|zl)t>Z+vX~i0DA?yTA;q;{ zd=P1alJ!?TK>mM=B=|fwA&KABa7VQ61W_70-+J_lDP7X;CmdlMvCV=q#qNWP{aT24 z!n1#-A4%kH#L*WTO~NGF;9PWBGJTgh@H3f1-*owbPmnm?HNoFG*l0Ar`SAKp<@|!- z2HCo+pRuB;y&NX3uyXLvm=q8%Oj7q`EM^s1U{^^`~0S-*qD9eagzuyJl*^z*u+ z;|1LxI>~9)GCZN+2OAU@c$;Y{>-I_ooIY$PUNIk)kavjnIp8tsn8Qc(@E%fR%DTo- zKYBm~eb!#jU=9cjg!)mmlr5)`T=)K_>=OQkA{*x(m1_#BSB`iN&r6de62w^~I%_PwlT@k}N**=Gn~Gz;D9~jM(yw1pS>j72VHg z4BC8$ej&253Z*$pNUln#$Xd>#_dM?;C#8DTUb~-1UA~0(%;3dKONf*SrXx`=>+Inx9Crf3fgUc|5qp$csXI`)XBTL7FYOc zYP)0o0O<a6Ofvqc)qqy@}8%VXihd2HgO<=1XC5CS6D5%jWq4E;v z;a?%`NgvJ+kjp?D;Hn)bK?#)>IVpagb@H+lq<3c<$*;-?@$=TmsiQZv{@X?Cwloc+ zxDd51PZF-qM8_sPTSF)fcAzP49^-F?tfPB2J#R!on{JGFl^e7=4CH~`?@H!DFAhuW z)hKxLj}TA9*X~kXRYFJyPp837bjo$LmtupG>H0bGqshuQ$+s6T*r|N3e3{_yLCrCjnDn-r7MtkcoiT;6z11 zLjRQ{reY|QYP|H7&ozSTy+yxpfmefh9&=2qu}dwOLUrGRs?ERiUKx|s+8>YRckK?^ z?LU^D@OaU^<#Q~tu%B2z{IW}qU&-49EMvm<@r@o|DvAnTeqY1^lmMnqc}R|id%JZY zQCDTHo?$%MZQ^gSHQ^qNlgxWqh}PF|z0s0_sjRrZoj=b~R*YZZYTf4(gT~QG@mv}i z`=C>8F@(Dupj&V zy&L_|9`j|4p?Y}0eqcVNGP36SIGe;S5U(;ra!j=PJZfOnzXuKFLE%6^79wZ!= zNgD-{mT6mIwufo}|5c(>4I>y6@YyFP#}bb1`SU4w4((U+uRvi@c+;|2T4}(sGsODD zQ+O-jbd|@R)T*tmgNpx*4Wzv&5~@bCB4}HFWoKVFq)sppSBoH7KUkSz0Jbc;uRsvt z5%=S<7`~R$c0XEwgmL%r!)|7VK-d8>LjdRKRQc^uLpM2kTw~d32W+B19!^xtA{N&O z8fU?mtstlgCT-WWSqHL$0bUBp)zvl7N^3&e!F;BUGWkx&)is&DFe6rx<3k{oG9%zt z55q?`I6GR#fQU#d;c&DD2x^?=9;F=2M}}S#bT~GFoq9$RumSNcMca@8JvY_}NV^Y- zQ$|@9)aDgfLHVCQDmlw;C@4{lF^17a2WAIJs)BgOGrnNJgS1O$eq33ARUES1Haj6a z-<{1-bLKf%SpAh1Ky(UF&Sa0=?(r;?VN; z)r5+YL<>b0T)eT_+z^1M;*G&wp^>gUKt`IIYaAz69wEQ+oENCtS|A4XObv@Y`$U6= zY~C;=i z!Ye%acP?HGNDOD83neG)yK7JeDtOY|zY^Pj@sDb7sJ7aW{br)!n;HswXIu189Q(?? zRmf7l1SX@nDCq1!nJu0a#EnjiFpA-|$^KKIp=k*A%QC|L66B=U){s@lSK6k%F+CDq zrglJ!1mt@(5+UVyyq-Z?avZPZu(q#)vWXpzONY z$Y|PGMNws)Rdj|BUZct$_G5%wT1N?1I;0w!;96B8U|Ru_n9#yE)+et!6i-A;!5=M% zvn1Yb{JUG&t-Imc#r4V*l_F}oMjf%x;0;0iDvAdWb=eoWTYbLlGmyqE)Kg%Yh+ywO z7nzF&aj#Yj?p90G5{l_B@&m_$+RWAVl1sI=_Lc!W13p##r^bW|oFdQc=YPit?5r&+ z1s3E*iJG|i`47@ft~EU=!}un zia0F@6#8BebS9(t=At=B*LqbwlXJ_n>DUGMuIMv!yKT^S7fz;JU2{R+sq+-Z7wH#x ziq#fZqj4EqJsm#wb1V3bFTH+AZ-8_sY)0#?YrJ);*dlhM5#O(PTH%>-0=*@(?9|ljYGKs+{KNOH{Cgv9CDqinv*OGA3Awlo`M@q)e(gZL|V)$8Tb-# zASjx2z0V&A2(+XfG-wp;*eXBhfAsDA-}37Sq=nu%CN{Td>*SK6!@_T9lsCzYR*UWO zb}Nly$&<$6RR)= z@WE+8UL)mu`ZW(f6xj4>uZXM;pIaMHAK(;j@uz%p-?I^h<7cXH;O!nij(YehyC~Nf1!S4dMN@w5m&vg-T0+ z2S7X|zGXP{AE`|6Y**rcdicCe%gFCV#~>{k`?>2e0&dFIe}3aF5PGE`ccQU;s-@oZ z2~Vs)2TiL3ujH_F_>>asLiJhqVE#%v%U#;>cma!{R834IZa9?RHsTysrd#QGqq<)i z*4iI=(`Bh;X^bF-Xl$VO%&_TcARM*6 zUSO}VFdveB!KNSJqWjH{bGnPj`Fnq2&n?=hzlX370%b!8pk=&D|6R1?f``3CUTBk- zTo5IGzih17W?-vMEqHJLge&M-ymx2ABQjf&_ls4L1rfHOviHv~VP*xH>>^EEy&voh zBIKKwIH$}5?z9Dq^uf8WpBMkmA1-8Sk`#Y;xv{a%5^!ZyL1VCf_pg2R#9H|_V?}Sz z6N4e>6V&tHB{Lg;H=OG+Lo4;gBg_UDEm=Z!TaLwCiDs;&mVzRqwWhMz2v%r;#r$)HRj ziLavxWKEz8IoiLp=XO3TB<#2sRG#Z4D8H3&CTrYL_yW$i|7Bhqu>7Pi7}cv#f$RYH zh$iZ4a4I!uTtps!xAN=l9#l9YXC@@R*xu4vWhq73F-+0b=kwdIepOVV%#Q0B)Z|txIyNtgbJD-U1~{W z;H#uypF|}pe#mfU9K*u8)*B*+N;yNqNI~owTtbGyiG!j@LtQ~+3g?*S?$3X55fP;~ zQi(b$r!M_rFk?e-7P;9LJXc}SZr-u^;I3M=4NdNI7*n`y+Xj)lh+BV{7zKy|=h)(^ zo>dgS91`G#dPFP`4`(OZ2Th!-l4C6`du>DxMv&)>B2d7JSW1@G1HK| zZ5eRCphZ*qQ#Dj7$p~f-Axrykh&P(-ssH4pkE?$dRV7 z)V*p#l9S{1e5m?wp`jarya>a_o}3$7l+^*`in*IN)SOn8un`$ZKMax>OB@OP?%vD# zC^MzPvp`j@ZtNztV;aZO}oj zMt>U%H_onLN|<%b(sBW%z3~PG;9K<%q|zwM7j(7V;<&z?>LWf1L=B{wPYVqVq%*T# zBJvUSNg3n)M*{8}SR9@n@K|Au2M$QeD@=MqiodsmF`citVkUO)7F-}co67Yk%&(yR zmN=xkIz(zaIg+kaEP&0m)ylo9(1EkMW581x_UY#0@p@txiy`_iU4Axv1(r6gP*f1c zQXq<+u|0XNb?LlSd7!6UQqE`|4utu3s>WI{yY*9~7WyZBxb)M^X-L*lLbx(TR<_0z zPXYqU4D<&~(lA=}@b6JNc4{)Fl<3mq3^>gymwnCz_rg~yjf z{qe%fvC3m&Oe+g(;LzLZ;Sv1Siz;H$7-Ziv<;tQ`p-kvbn|sXV>V7YP*l8Qe6k)>n zf}LO$9y^k{{m|lrR-`EFjK00W7cimW!u{Srp!FFq%kl*VQQaOncA5@ewJ5BTc5wTt z;1Fbr6NWuEY`WPaqQRnKt4kalzH!DPzvb|pz#gZhbYT8s;sohcu@UI?Xr0`AI$k)C z@(7im0i?IF#Fqe8$oiMD$P~~wMutYz;KcM2hH9Ia?+L|kx6|)cm}RH{c@A_<%;9+v zAaq;I$wWSNd{N>n2det>YB7}k7P~dmusvgVQqmX7)dhxrsq-Tcj|~XM(Hg#Y`>5h_ z1{AIv>Ob)X0nvvQzEG`Rd>hw8ox5+l@bNonwoGXc--B{(Fwv&n-tIy1g)PUK(z1)< z!?=(hkzbvAv7cvR0pSg9zg{|7(~RV)K+IpTqJOm5!Cb0^T{%JD{lMG4`4r)MdkdJy zLIAy+vm&|!thgLSmZ-ckh}wClh%c|b$MgIbN0FdJL+JCo+4n$qmP6#hlG17iNmC8f zH}LHBkjtcAh{dM1fM%^>gC`mt<1=cmS>0B2qobr)EU2B)RlVx=JI@!Eg4lSGjN6~? z)b2ou`At;Z;DgNxbN&mQVOD~3795lB0ogEM-;Ldy7DKvZ-#Ti6l!wfaaya_)m$9X; z`B>7LAY3=jfu3y8F|V1YM6Hr>tXTZqXMLxQJ&99xBChOL?CWnd4P5|Xm?07#6(P_C zz)rH@ozNZq{LR#Z?6V83MblW{Ig@gI&H*ADwHMS&fhb0J4BZ~nd*Mij3V){+s$qZI zlF~ULw19#K^DXBWwp{GCf<_UYS{gf5mNw6nzAk4<%C`liRvZ^G(R4%R6EmbjJ$NJQ z)+zPvOYNQAPZRC-H+5Vu8KNYVTacfbUIWIcWG3r15+)Ej!jk1`Fr_>AqK6PrdIiN) zd!mrTInDx>YESGgx+zZdSYQZ`5|ebkVv0Q?BW!X$TILVLvARc1=GtNeZE76_S4sIa z>61OF701M$P2}zW-Vgbr4N0_;)m#C+DuOiS@@P@l!HTX5uYBgh!tQV(J~m`?QCA9+ z^fs5Ryh618X=n`zyJ8x8M9!*j(YUbh3Jn z-9nfb0e0(Q2Xy$UnVj@Z)_2osQ8HP;u86sRtICe*D&QuKb;(jh?vu2~0?y>1=!M$j z`jE(&hyZ!(FX}dgHWF@m794ucG#rTjtpnf*p~_7>eDAu)4{ZIUq~UHx?0SlBQdcR) z(rQ&g`Jc#4+E(v}g#X3Bd)viC0_xItQ{j^A1BBpJyl~x>$^BJ;g*0dM;^BvK(R8JL zD(e=R^63$oGK~ckA^rdv1{}t!39jdHY(^G#6uyxyT4}+S5?ho?#wuhfV^ansZfCCG zR4v$}dlzX)xeH@AceI3csxb^oEkwY*=kQx;YhSh+qp;H#R#ev`hl8B^$~y0M0#%RM zTUO}8*2hY+>*zVXk3Ha0BN|Ld6FgV!;udV$30Bzh3O(dclsnJ(#Z2+J@!jo7G+<*?u(Z8Ir1 zcWwYLfFMb!sHilsZ;m&JC9~rd0A-HddK)g87-AB@aHjm77E6va|C44BD4Cgialu?} z6L=4#bdrG_yx4J(brdt#aCA1MpJY5eQ5NaYjF!uCM}vvUwDz*6%~}sY1I-W^vydT) zIz(`C_RRhRnYqiDKOfXT8IMR&9PtB&av*U&!>7A6N5aYg3G)V}JTsuNe!-^YA(S1L zi6>--+O0kSSkbR))8M-RS$BxJa$z`lbORojH=m)=h6N_Mg%+4x=Q;3G;-qGCwH{^) zG%PWFGrzbgrAV)^TUwUYH131(Aq)j*$wvDX48}K9x@4|1TU*g46zy*x{XR1#<$|~f zPoORIs7|86^fjfDDlrAP6pp7&F$?<6;V`k}8zR+GJV}RTOCa+dh3~rSxKmqaM>bm4 z9mOm-H6WI(R_SiC@@%Yy+@vjcHwVzSk+DXDF-HE_3!WoR=j*aB_kdIW!)SDB4-ie& z_%kQJPXANdC(abT8$^7JRLz8}hl`*#T@w^bc!3i_sqa2ZVf;+cRm&jY#JcHb`4a z*i`y6)O|oHcU{x@Y?%SzLw?S*d)(Wt_d?DTu1HX5Fb$r?+Bp71x8yg=1z=&1_TbEC zt2#9T`n?c_3+dk(&D&?B0v_tMZz-^-Gt7C+*f6yIQI8YW@OL{-+^Bi)}2W%IW&iy;wU@1y9 z+HmbxY+o>Yab3qQ9S`<1x=3TOxG^i!tk+B#(K?X3{M8*`0Fa42y=?P#Q9yf_kH0c3 zswwHUL56mSh-X>KtpCcG`g@&vMtL^SScH}g{p23FlFpmuG?$~K!AQLXmJXXVkO^zM znV`~FgR)ER6B^MAU>Nzo+e|OFMYlQ2)T@O7C~KG8qE;fIKaPRHKwm+Kc8rJz&sP~z z#=@}|i3N8=_tW}aQF*d=HuGG=y_o;am*1G~=(Q_ql9ws8WQ{xCk@1zWn@G>g(;JK~ zgQ_kbk!7EKPSrroyU2#W^=QZtyw7dbTm^PjjLUfa*?z%Xne%q^Mlzf&vhKhJ?b38M zYNH$Genz7mqj|0yy;DE)hB><-Y3Z^GrbTEmQe62dx_Q*% zJ|3%M@~~Ih38Nm4pJhBQ}H z2D%6gVL2wuWdr|BZ1l{Rn*Y3%WZkQe4JS-WQr=8U4mN&DVFeJ-T-Ta4_h+AFHuh-B z3t!q3*69EhT;Us-vTVIlM`crn3gfd!>rM~k@^~M~)=e2BgwhF@`?(m+eGDoCA9uAT zb0vo~H{olw0>vfwYz;R1CNwwlE0v5Pj*^{s0@5e zO!9;ul?3HL3vM^^^H|xXnTH@K+(CuzH2i(cI|^{PXLV$}7`^{*1%h7%93nx(5w~~- zqr|OMPN0@8l^KCo9_8z%x-_?&^zCNwYZah_30;Bu3tll z1$qZxMUlG8okfzeA7v`quxLRN08s7AL~h`}S`qT>5dmAjH~4mG`9euivy*5k+@|sm zfN_5iW77XuJ~WI9!-@d*MnkFY{BM;oGM!TC@84_uSZMQ~%k7al$E4}GjKl-Q0X??^L(;yysLqPfhe(|1$o02L<`5HWKL)Tv{Idv8ju%}x95YWLB z61*aLQ}aMy4G@&5R3d#t8$a<5^lMMat%+6{_;wRus@D^UqcG>Bk%k*GUw!N69~W^_G{49aRf2Ld3Cgg zLuN4L2^-s9y565Z9#wzitPBv%vt{-ZoZGEYKToj^DEsC01KhsK>c7J6h| zeCx~`%=AU+jy30x3%4nm*4}wi-fcX?`6w&mX%os^I-$Xo49^ZOb7H%A*QCC0S zB;oG`jYMv4>R(n&Um6Ww_Pw)+MS>Xl<9Y+Nv9YiyxVgW4G#AlYl{m%K6qFVhm8faFI;RHGS1Vv?ITOpR48_?F4ZuoaF z({rP_=f7sdn|}(ls#$D=e_b_@_rrk~F2G~>IHB2ydH;g{!wO7)5IpwCbmudFlSR0^ z&n4k;y~tXWhP)-&+1Vij^cL)*8@yK&sITLDl!Q;2Cxd}31;#~s^CUl)&ge-=-iF*xd^C~PmgoG5)I3W?_wS11sQO#8aCiUJp~aP#vA*6vg5ToH z65`6lo_^T1t%#WetJ|W*8uMZo$$EMX*w$eF6AJyy(3TZ4h%7d>uqbh6MlOhQ%z8HF zMYIAOa+?3#MmboQ;Nk=@kS!Om7dKNCq~LXY`4HfRd&Q#qd|xKBMLwpwpc4^+|EJ)R z#Ajps7(bH4q&FSDnQEqk#C=+(Ju+w@6QKYZySUi69b^3_%&~krwLuYAPGz~&ecZv3 zVoc4GZjNyDIK1SBV6*-pPiv4FAO^m6whe)UqgFj}5lzUuy<)4?TUTxF*CAm5jpBt3 z5chVO?5}q8$XNvYH+WLyOdFH_y%pbv?y-kPV?}3 z%LNIF$X%VAHJjES=E2kQ4{{3KB5QpbD>CAukdSX@MvsZ#IeYR}VB>2Yb_S4&1FQYb z!%oppmfN+;#ti8zSL!`tPM+H{*^>lX$fUaOOH}WaK8;NLL)z;o(~xevz~gm}yg@X2 zL~#-Mo1B7)hyLo?H=tns;Co$-Cce@CPxo}bU zM=v)kpfHAab8Q9Z(sz!qacr_b^!y@C@o{5I%$zOOLRo8d+VPY~q*Ao#UbNr206^Q1 zPDla(Z|m*}I?4cIfqolmERS*p3ceF)VxPpy-7v7U7AmWy5-f|kvZ2O2bw6_3(8Q^A zGSCc+nAlvM$qi2;Z;=6T&@ES*b1W4m^Zdz`@ISvAGtdQq&P10XKM zV~Dn%IOKuD@M%))b>fvDM>(mf8^-P(F}JJ2$>+)ttH+5eD4-2=vfi!*l(6MpDIF`Yh#+c#J%?8Ptgmez_e8}I zb`IBQ+Cu~IfqZjtaaY}Ur)zYaQbuJYKbJa?0CkK$kQGqrNp{W=b4HGiHhfZXuV2RW z6ubl4@#(zz=!uz%U&8qwGPszG$+WJ~_5dLDs*!I2A^eX9z763RJpJ%H5LF=mINBkt zfM&!nJpl+_fnbWeynD82FSTVU^7rep+bwM&Atsp0HNymS;by9PGYba?Rwf$&3;XQg z(!n+13lCg@p8Rrng=R~k<``KEWT_v{W}9mlgEl|BFG_R5!oqzi=egq1b{9Heq1Mfq z79G1fGTtjK^$$$9H+||tvHOsACC~)G=JU{PQU-KR(kyU_{qPHOnXT;)CP}OJv{;&? z5Z0zHeO^KX&LO_8$NB@)a#8>>%^R=vvI?LZf%o@hL8q)wBj$BZbH%@&9l}_3p{7$f zNIU~RAZWzID1Zy$5u0&D@#8lp4!6RWl?o?=jfPjEG zXH_0pIur1;elsa46#1dlrxj*f^7HWl0uT7$fhhb4oQ&7!dkjlrSitgw7z`Sb!*tcs zkVO+`%_CUH=d#Je^`t5+a71hUZ43)&c`;zfb;)z_S}rXMO6%|KeD* zs0`2Xy#SnH+5&1&U2Lj<4JaS0OindHxVT#YjDCoWENZUQ&>+n&Cu`tF?1eK0<}M^8 z<1W{5@Qq?(ASW1GL!(i2gxmuU_hm2sT(+AlKmEeql)m0m2U1QDdrDE!&Ut+_x3n4} z0&igIuft#rArAgm#gfFZuursq{crIGIQl9&L2(Fha9uOLg*E5nW-Lx!;@F;Xz;YYj zu5xp>7O}F#T#pI6xRqi%FgvmU-t>aK7}CTINOwd(1TUr_y5s}4tu1>Zppn-9h(JWN zjY47c6AKBkkC*BP02VSc7yU)@_#<}koNqo;K;X$%;0F;4DYu3>&7ja?oTA%V2Z)tI zo|FqQ5r|-3uN6D)#g;k{;oT_{s{FrZIDfXa8v-N~=5(k$o3mFbKMfzh17paHQQ*7G zR7L<2`|{TnG-7_b!Wb9yhRRew@U4e*%u&pT*t8pBfTgNT9Lcj3P)WrAwyU=a2JXHT z+n_Ytj*-!16L>2oYIbh0s2sq-b8>xfoP-rn`5}<-8HWz#I}LOIoK#H^_`c5%lLvk~ zec5e?(jU&Qy-9rqOi%lBYG~M38zm~(wCgeTJpYMTX;t>MpGX1-=NTIeSSdZg||lW0?5Mp250+8xa#O#xlaSD%X-0^ z@McRgZE68$le8S~9~K9g`vl#uL-^W1mp>V41VGwxAQSP0esMYu6Z}E|*h%5Pz_%UR zkkYwgK0odO=7|~@*iDPYl@){DCqZUlI2h1!z`?ith(!ZdvMBrlwpjJ+^2rIV1y8m_ z4nRmK^8WUUMt~W(H zjp#csd`@CMVPo_WWph6;E;eP_4%86CZvMGp-=wivD5i_f8}b9{l}fEvXCzonnX<<{ zZ{SVyCh#>ye^q!~ZSw=HVJxWoFw%hPrw1?@RbTnCh+frUob9Jpp9})NWV6XEaK7=( zkd==1BIUy94}aQnh(8^CTU2Dp)@HXzvY7!XfA3-;Oj4S2kNWr~(CYedx)RLmqM`ij z1Vw>tU_x&hJVf4~kxH1yjm-uTrM$Q1dtI{jr47KT92AEZCu0^>_nc;7<8=S26w z)(28XVo`L(NjOKk2`oI-d%TdZo(NkDRp);R+mz7EsaCZ^Iy!9zmZ&OYx48LU;0kX3 zzz?#4hbD!yGJZN2X|MKqM`|1PNAUZWDac|tAVzTcNyJ|z(f%CJv7;NE-1k!P$s~8_M-=dFskjc+ z=wx*hBla=3Aj8UwXuYSm?yf$#3BSimxPAlJ!xj(f&?ux5`;Jua3}tzYWS;*u+Q1bj zQGPhe(tD@L<$0(0_Magk?q$C9y7|89^1fJU5`CFwBOkIwXsK@v`?PR6S!uyitRhm4 z!`#_zh57u*`eY?m9q` zw!4nWC@R_>>%Y~~CKA8D6=^$mL|jya#J`sb`6GmOh?NN^uYGB>BXZz+DKEo1r?!{~ zm-c50i*UlZ_Y%_KG9Wu;C-DODeVj1FZEA1Pf(t}>xlm;@z5(}M10U`a8e&tOGtIh# z=53Ag{p=R}Xrlj68euBi)8O(?40@Y^o)7ByEkTsCSmrtt%>hB8-U~z=j871&5-#+$ z(0+sA=?-a0QbPENe-FUOTG{%++T&r)DxGEDyE@;pSA>|^`Q2=> zAdl(=(`~#)`w)cWX6w2i=Muqg^7vjcBGH1nfH8f5!f=N2kpisn6wttnjP9%f`$@&A zi3PBHm=tAxIR8%t!MW(2_2*Djm0lNk~Wt$9~3xqA^t9#I1a{ z>+Tz%$QSD|EESb8SQqW>lNF&fuQ)gz^pC(O=NRms~Uf(0;OcAkX`tE_q*>TuaW>7CZ07Vfn3+I;i# zT^S-(Hh1Qkd5c8FGOyke-{Q}C(wZyNj#2}uCuBh$<)6|Rw1o9&^A|d=R{d#?otT~8 zGn13HA4bM!_U|`eYoJP!m>3iC3#p~>@inj`3 z4(bYG$bhERi@(2dcs9Hsqr|-%DA9R+6Zj;YZ81Qt_776{UB_QQCq3JAAEuF}T%qE^ zlCKR7ytkk}K9Mwz0=(%&q7Q0EvFT)1!d{IO&0x?Zd+746sks54Rw_T-Q7T@9;&t0x z*Xkb>FvErd=o@Am<_}lZr1X4Dxe!3$fN)W7#RmHSp)Sin)bL1Q%%$Mz5j$h+;VBhV zX9fnClj;La#r4;`5xsd`31c82P`@hMaT{XjZuQsxd+a)pIxt@cvxVqkA3d({tz5nr z>-2tAlGmAq-YEW5Jr$Z*`0lNU5tYgz!e;*j&(TR8V8MZu;NK&mt;Grk>0KYx-u^mh z4sbu;jvluHug~FkI}P?Kdne8RWnQ?Is{3fb_1`Mbhr*MZUhESGS5-4B6M7<4UfvkE zKkj~V-SNTcnE3o_`&5Z0Pzfod+g^hUMBX>Th!Kh$?%5P=JlH#Fx5`wrncB0k;JWPv z&Q-zRUD~Igwz3m6{u+t4>jbSp=&|{9IW^c&8-bQx4zb&(hDYd;?o>c4zpYIL^22nQKzGXQa;6OekuMyx z6okp-r-!0n9`(RS3fvMlFj__YgzNpI5m24CNdLl7iGjE)WLkoWc^jCF11Cp~LgrPx ztg2dGgj!yJt;+Md$^U{v-)j*WC_*g4$6rMxZaLaL4D)h5ud5_@;AAdQ)8s9U>++={#uVd(V)M*yc!+ z0$&(y3=ooA;_!q-?Zc&eI@5$iLI)%Ui=$tyP%( zyy+jn9)1gAHYefT3zHg2WO8x2y3BRR24>GG{^^Ko>uijFR@@=D=smqFTHJs@7iKaT z?53i&CPC?&%g_2HJXvZRJWffo!uTT?)d8WEQ^5By(EHCg)RA5wMF*qA+4u${ex*LF6jE@$ za)1|vcZ-LE@u9KEL!uhpP|%kCjl;r+c3uy`%k2z7gD&W?gnER5oIC0&io`Stdz^8Z z+MX1A$Th9U6pBN|2=pM8q*l|!?xK3!s?7B6BPMj&>ggL8Y99L1;_740XhC%HdkBmV zSzdcEXD?P4Zj}RWPN1V12E3`M?GA+d<&){XMvfcqE?AWN-J;)6r*7a-Aj`p81I>}j zuZ3Ys5=vU+{#)n=>JIt;Z${cJ(FG5@sh=-?!xKU^Nk+}WwYbfzCW7g_-A(|Xymj0y zkcyiJ0pGv6!cZgVA`bWNk7=3MLCMm z_Q3mh7{$S#RSCSc3HduKX|;f?P3ubccrCL9ZjppXIKm)VCmbf%cWx@tnuuCEp9g-Q znBQYQ1GaIRx!Om{d^&0VInYIg5WAbHKl=z5$}ueIK}OK{IwX;VT*yE-4USHHr^*VXkJ- zxt6&=S{zZwP0~2Y_e;NY_KA^5a?~T%{QP`XgGMBWR(iF`<>)`R6v{gx5q2@Hnc-p! zdZ(L6eWk`Ph)8s~Ck{+adfq`zRr_%A)XE@z=;D1#rhLqhxdUTBg=BT8 zRKogiG~3I68-iHV{+NYxi*}pXcK2YMdG0o7lt_eu#I3Sj!*pmhMw;jx&kS9`SPp{e z4$1>Yv#zE828}eg(<1~UpJbkH+PIhW$HS2pJG|&P)lC>5C<%Nmix(<4^!u-{iY$JR zBjd_~^B9%s=d8;B5qQQ~p3^|%K)%y&*A+0zGc+^kGjC5A4r8*HPX`-y7LdiYm6`wT%d6 z{Zl)gQX8E)4^Nz<^BLYcpGUVSh5G^S`fmqiTE-;)TU0{;i}$oje%FIq#p zqqtjO+R}h`A3{iIqOYP4Xv=&8n)m%$labXgVM4z>dPabL9Oxvm#`vGpJ)Vub-+U^!w-FHDEzTP)-Hxc z3NL`4*!5a^xX8z6d}j}zu)Gyw`wv_nxJhB^W*gHq;}}*8kc`@g8+3xp44p(_beziF3%|ps?We~WB2XD*_i(yCmn26B7Y)nPa^bFe9&gcE?$o0)V z%EA`)pNGg+&sWYzn5|xEpH(IL>kjY@lHE7G17s=Oc-g7vFyDLcRu-pGx4NZgF6Z~( zzH9sbaRCQ`Bx$;=xJJks-PO|Oh&MNPl+MeUUta|vCrh)HI?pMNfwgFm*=@=ms(?jb zQOpjkVz+27!UkvB+LY)^O7)BR(+w_jk-B8t@m#)xsg-)Cu6uCxsAAb80OdaG^1r(ubMR zb-n1_)Y@8_5$*PQOrQstpE2@cWY*w}9XyxY?ePOV-+*d#?Znq!w&d#!QM&Rk9kW#@ zjj%CeN(1xvlhCGeT=a$jTTFj&S;SyY1cZd|mI^o@!o?LcdYyL|_=P9=ehwc&iS zA;Z+Fg|=#rczeEdm9vo*)UAtdL{I4F_6V??WpcVO2{;vz?j~;!UQ>)JX^Z%>(ghVW z6rxcwdAj=l_`9j|`VUmT_S$y-Hes#sY(-0^ooCg`lJC_t;}VwIK%EJhbtUx6k}v|P zzPw~8{8p5Em3#T}g3`6ewdh#nCuQxPb4F>JhU7tu(1D|`XKd+8tO_pBpG;Pw1P|$hG&hcGtwd=LqiF0yP zwV+dQF*wI2T~M$Wy};U860Cmxz_w3&X1Qw>gm*}vEv0~BJ5cVTi!&hjGDVh_nuxs{nMFHQ=ejhaXN{vG=9XM%6FF$x+MOdl z_Rs6r|03Y*%7`4^+CjB5oyrGpc~BM!On|R82bD0m&|NQk_nrZh5%EV{7+QG20q5_6 z0%jIkhSz-f8icR!K0bp@#0;B`?JVw2Y?ABm6sbL)QUq@c^WbPAC!5^WkR2*3T4DbU zOWQh!Sv=vUH16HT49|Uvai}VZ=3Tzm%YE~g6d~~4Hy9sJooXomv*-aim!bF-h>6Nw zVPZU`(cZtx>-_pqE2kLIUkg-r=YMfG;~vK~?LpW!3qr#s+=j>`c8#r ztDDffNhf`wyc15X)`5;#yhSbxW31Sc#=cP{IIr9Iwf*xjsV#x9{7cxWp>^$*KFd!@ zR~(G;Sy0S0IY6{k+8e*~1g4Dn=kDIacQ<|;1T#@?=y7Ta3(w$|$}!o{yKp$BEzXz$ zhHTQf6U&64I)gCi62%hEM(hf^Kc_iteA?eAXKB(Azaf}}fH}_`xqC$Te{G#*Sd>lM z$3dmjo25%YVv!K(79^x4r8`}u1SCbeyB4GyBwVCjLQ>cpDQW5MMgfs`mgjjtyvOnK zX*rI$X6Bl?uASLAf9L-Xq!USSkkw18(v*S1@0#`)xf#O$laH=1UCl?|8da9XyvYUp zKn5_qBnlWLI|>^S5fSg$eQWL^BejmCI(_9NN#yPIA@fS|P}ZfvWZ%QBNg5&*8}q&* zX7QUGlkPM#MXPNaEB%_xFvC&){-`|5J~Q*lGrqW-LwPTn@)w;uFnyRmR<r? zRtgt*Jp*A?E}|mLL~tdN6Y-35YC+`Z!&my}qD7EB4E&|~E5ef>y%=&MaaZ>OexD54 z3&0!*TSFA5LRhrKGbv=$M1cP5Y+FuW^n{2}5mIWSD-C*^vcwTh@PV3<~pq ztZDj)w?s)N87n<%ZofZOW+ykSFxNqz98+jSCUHPelO@?-3Z~qbN5nP9vluvOS_vP% zJ6OTmaqvw@gex1U1HFrP?yLNIbQM`PzhtyYKl47?#Msr>h)6`kES^8V=Kkhh^g!=g zQE_=P@E{VbZ;VXDZOP6e`l~7XSc2}I%&-2p!%jdf=*XqJg&_X$&l(O~Z!~$|1)_i$ zI5XE_#>Sk#LRb#S?p8VD25Svitiyhr;&n&-9n61Xb?r&oIr>rm-3?VAJ%!~+&VwI+ zZO8zyAHk+8;T&V;!Q(Fegtd{$f=AZ1Ag zgjAdMW>HW!u33)KY-^ASc-l>`?fWj+t$4Q6?S#nBewcOwwTJLJ*04We#o~6wJ(Z}o z_pT>+Wp19ly$3$GB2iL(`Dcg;ExP3(Pk9|F3pb})at|J6-@YrUG(<_9% z@%;}zfv(|w4@l5~zTCamBnH&h(?%rqZWw%7Tf~rj?q({!m|lnIMGggxtrTH?ets?V zUj7ob($Rz3_m5?|o~xB|sm=t%w;W@FV+dK^eI};@ys#Rn5L7_TdmBb8iP@$*`}L(= z7Vatn+rnhDgFIG?F9`l!NNU+yDGf_H{(_;gM9EB2i-inuyMJ|?JR#oXdqk)%T^VXy zzq)h;`(2qE!azG5e_WUf$2b<3eBIn3c~1Jz;b=UKja1^^0cAu& zYVnIoni)0y2%Cvu3%y2UCzdv0=YDn|DhZFOZL?t4g*Gq5)GB8F6Pe1kaYs>D{czdJ z5WL-!;GFJECghN&(MHBy^1}rc6GOd8DmB;o;&kc5!tjza*jJ$dW!_ zN_~>Xzxf9SxC|MPfoOrKs?x~}mHJ8M$u-5{b*~p!No#~XFzAD~wng6ObkcwRId*8- z;v%d>=rkRh9`VlOk{Gk$)+QKzI*CdexX0ALAir5?2c^STA>ANzswU5zFyru&V~;wK z-L21RobhEV=l&$NWPa$7f#!5K7 zS7T}R4a$3v>M~}N_V`l<(|9|6nGL&_%`17b(6@mb_rjt4Aw=oH+D*a*J{l>3Gxb%k)#SRq4~Kmukk+ty14RgGum>C>fc5|0L3A zZdDoyYVYIu>NG%_Z^GTWx~C#7b*S^%SOTOKWhxw%s*XQ(|M;M-GA0xhV3W>T_C8?W7 z_~SxF{`~70lg_jE_TwAMesD*#U5H-XrI5Eb6^Dql7rSIey$DFpuQok{{Fn4Lw!Q0u z@3(otahM;;;~5+jRAdLDJ?_Ns3_k0fV=Zjq-;d)p;B1ogVi{EFRLA!`w+l`1>UqA| zO6q3QxOh60or0;Q)#NhCzN-Bc!pJ1yeXhW?n0%d`UV69~+d|4^+_Ze0?$RqQ7Mmx+ z9oQ+YT^TYcY^HRwjU>DC*MLLS*jL@*OUgsZ`#)`Y$cQE567iE*TaWH%arfe>Xh@^F zLuHdlec!e(F1jgr9c~BflmHu9&lC8kU&;}6jPnFT)j8x&VXc%KNj-Qqow``LO0s?( zXk#Ui7N9kEJRV6o9}-@I#7Ndya+Yd)xtx5`87Qv#DlT#Nnk6X2&KWYvB@=Nz!}Uij zpvL9p9zr7x;%(rf|H-5&$I?jmxiaZ8nSh9j)KBs(#rS{L_nNcC;6uz35PwX?Ehufa zP=W5w#OBx+;TF%mfyO?Az~t%tO=vv|crMV<bKVgB>P z%7Fv*6z-Y?NAFB)$mgJ_Hys2b17t;ug|AXM;Xpn};DsqF*&Z&3R)}|exlO2y8yiHN095#y1TpafiDdh zP-NLq)0kdujbUW{5{cg|vq!jQGUJE1dwBH71OwW@{r>aDO@HeRx?&wcAkr}SK>Rb% z=t?6iTQ{1Y#Y0D2r2(MtMmU~;(p0;A|M$8(fEvZ6?2k`EqT<0YGJN3vE&~p?cmLXl zDKe&q4paUGT2?5{6#T`twQOT?=!cZM4BP8fK&SUdnZ>_E^Kj)KxKn)_X4X<6#DoO=Pr8ctG%yd>ZK!_jshP-G|-O>?! z=bmUgnkSPsFNrS8@=E*7d{=Ng4!~i7`h}rVj^W|?o_Gw{e{!lRT(oMAXljAHnIp6P zKvw7c2jT((a&+Gm;$}#HRBONVQYz`5In8O&-|TjP+hEfjk%J+L6FbBu% zVCHk4#fol)LpeE>Rpo~#c|UC9L}3&A&>TX5KZs^SWg8sl-)FlU3}Ut*L4ier`3^`Z zx16?CLFo{AKpzjqu7DvKqlhBnL5G-cmNBx{R8mS7cYHMnD_5nuThkd>3n4f(*JB-d z%#(Qm*fa5HUm`}-uf}8UH{OPL{R2M|D?33I*r%e2!cD6nWPU6RdKH-WD(?aQsN{Fw zMTe&tcdW_srSi#X14b7#8>1e!Pn3+sw;^*K!E+8(kS*S8tgla9f8e=e=O7A|Hx;_x zlY$tCRB%V3L}Z`1V4+&{$WRF9HV_E?JodiFSkL8;2eNB2nGzJnftD zoSd9xZu^35A%RwfjEYG(T!0i-v{uJ=_RI+VL`GZA;NdL9kkbKepI&?kFdR;cU|{g8 zWk=Ee(o`rJ;Ln7$;Qlr$*tr*<0!X8v4btQU7mj5-0gdDWnuntEA z#e!USkX8`x0=R`3&gm(xSe*p^)E7jhqDSf(&WJIN`1G_*cE7k&dJE*kLN^dd!fKQ|gCt*xm z2c-AU#U#EG;!>cD2af@67=V}w0*FSkvcBm<=gn_aV^UdRXLvy4iI0s8=t_VM#qxix zj#6upVYi|#%OsLks=iY^26xOBeCgh+0L3fNEr7Ab=~Wqa4i2gTWEqgtIJcD;Sbn+p z#q)rIb_m?N)pRKOo|9i}M>?$Zy12Nf05_kRb#Q`iDfUbcRlWA41T8PcS7JVo^!`+D z5(Mbi@{qNcKlX|YW*aOS4+Tc7_M^0}E-o*laz`rDOi<$#?yh{+n~$leb;*X_woQFA zK~E6;P6gJ%+!tY=)7_qOj*FilcgGRrap0I2L^6EH6iUkhR^$rRuVJ=qgEsVP={vyW z%_pT1Z7b}EK@B;Lp_P4wiJn5${;;#1qsudxzUm)&09qx!o2~^EMW6uAk*k3L^_Y`; zq92+M)rAca`$GXzGC`Gdl~Yrtk#hhVjB87ASCYzuvL``&?m{$sPw$CH}-K0d2`vSjYN zg8q`(IHzJ4Eu$@m+0O=Dq|pO~ecc4?GvyuO&CUy^)%1gR1-5XqOrQB#_oc^GWf>Up z9|^T))z`<0B&`9B8xiMuuC(cyna-v#KIK#{)^);16L75uvP52IXQ)o#C^w=xvb>=E z<<45$8vn7O+Q<`jBZIGbvRJN05%ELZXlosZu1m;9P0Q<#=H~A!bSol;%4dWO(;}6E z<9A?API32H!c=Moro^lvCWI(h?$%Ujs~3-y-opSQ$pfS}8PIKc50Z1D%jKP%_BVl@ z(eB<}(M$F*>*kP#*z?3=?`J8$f=eKiZ-HOZ@-b?ACwgbcb^h6TjYGv*@c}@pDtk^6 zzGvf3hhk+%f7F{UM2z~3xJr3k*6p4QYh;z$j4lW|PtYyhUxI#rYq(##_K1{`@rI8) z+O+0R^Mm8FlCwvT#KZ4eZ)kRmVenzJ`&}eWRegN2k7JC77UJyHNxuGshj!r5se1KL z%66s-_;Pf%`Ck<^*Nwmg5mOU-aEWPU36k%*zY>(S@d*ehb4vrr`%&aKJS;VXWdQ%% z8etC(CnOhgbV*v*y3BgbQb&?{!&A7EK)ppT?vul|=8-?-YA7JeF5s=EF!IEK@lilu znV}gtY}I~ENl(l9Qts+QT+Ne9zfB76v~5w{tLR~b_L-s0R(5+Gp&^AzFO&m_uwf4n zoFje60THG!>$zuPBgi^u)Wvnv?6(%>#ZdM!+Z17m1&E`ECA`oAZ_c-_*D1nTiIcWE zfMJs^VH=i<$2mPdo_r3F+*w)@gDEij+-RtEf2aleLH!`GrTMsnq`-K(XprsR=Gc6%-U|7oUC`GIRP? zNsWGexad#2WE%swC|vcunnbK6JvQW}4J*y{ZJcYKV5Anh$AF(K-KP|5kpo-jNMi-l z5BF1Khl{o*;bMa{0EmxH4i08O+LdqY{mg>J+FD1dmM;I~cqS$fa!+?w-KIk8{&PKN zBQQq%qeko=Lw4r}5F6_Nd*!h+wH+_bX3MB>H{~eiwUzvS?>zkC?BUu~ly<5Di{j85 z`~mh`!^|g2eOSIqrtEvv`c`AFxff(2-Y!(Nq}LdU{!aVL?Ob*y30T;$$?E&G5#?JdM7>xsi&QCDHDtbA_%fszfO^1coY;I+9h?4M&fp280^~<>EGXq zO|I>HL=yjagk20Pt|!h&oJWiaqddZOc#&Gp!uZf{)_ zYYN$Xz|#QNRvrJp0N{(fU1u+_v9L2epOvXLhw07j=y(t*a$va5Y^GFvrQvSWIGBgN zVn%=EX%0U0VA)t(!}9m{M_jc=)^+>S6g`x=Qxb_Ej;a2vgpQg9hal8?+Gfe=!` z%No;Vq+do|WyGNd5v=^Gn<*Hl{CXE)GXJ1g%-&-n{E|@u@Y0FK-#tueqJ)6eR+WI9 zThDj}TBBJ{v|WN!7#Ax0p#QZ8y+HAmgo3T$q}KpU=XG$)e@d|Fxwzi$LIC(ljNXEP zD!?YDJN7Zy%&gJ=z)kjP%d0*ED|T1UI2Hoo+#o2mKGb!hY8P literal 0 HcmV?d00001 diff --git a/study/kernel/02-memory/04-buddy/01-buddy_system/README.md b/study/kernel/02-memory/04-buddy/01-buddy_system/README.md index 06ed87e..21ff471 100644 --- a/study/kernel/02-memory/04-buddy/01-buddy_system/README.md +++ b/study/kernel/02-memory/04-buddy/01-buddy_system/README.md @@ -10,6 +10,16 @@ 在内核初始化完成之后, 内存管理的责任就由伙伴系统来承担. 伙伴系统基于一种相对简单然而令人吃惊的强大算法. +Linux内核使用二进制伙伴算法来管理和分配物理内存页面, 该算法由Knowlton设计, 后来Knuth又进行了更深刻的描述. + +伙伴系统是一个结合了2的方幂个分配器和空闲缓冲区合并计技术的内存分配方案, 其基本思想很简单. 内存被分成含有很多页面的大块, 每一块都是2个页面大小的方幂. 如果找不到想要的块, 一个大块会被分成两部分, 这两部分彼此就成为伙伴. 其中一半被用来分配, 而另一半则空闲. 这些块在以后分配的过程中会继续被二分直至产生一个所需大小的块. 当一个块被最终释放时, 其伙伴将被检测出来, 如果伙伴也空闲则合并两者. + +* 内核如何记住哪些内存块是空闲的 +* 分配空闲页面的方法 +* 影响分配器行为的众多标识位 +* 内存碎片的问题和分配器如何处理碎片 + + #2 伙伴系统的结构 @@ -28,7 +38,7 @@ struct zone }; ``` -struct free_area是一个辅助数据结构, 它定义在[include/linux/mmzone.h?v=4.7, line 88](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L88) +struct free_area是一个伙伴系统的辅助数据结构, 它定义在[include/linux/mmzone.h?v=4.7, line 88](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L88) ```cpp struct free_area { @@ -43,7 +53,30 @@ unsigned long nr_free; | nr_free | 指定了当前内存区中空闲页块的数目（对0阶内存区逐页计算，对1阶内存区计算页对的数目，对2阶内存区计算4页集合的数目，依次类推 | -阶是伙伴系统中一个非常重要的术语. 它描述了内存分配的数量单位. 内存块的长度是2order，其中order的范围从0到MAX_ORDER, 参见[include/linux/mmzone.h?v=4.7, line 22](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L22) + +伙伴系统的分配器维护空闲页面所组成的块, 这里每一块都是2的方幂个页面, 方幂的指数称为**阶**. + + +阶是伙伴系统中一个非常重要的术语. 它描述了内存分配的数量单位. 内存块的长度是$2^order$, 其中order的范围从0到MAX_ORDER + + +zone->free_area[MAX_ORDER]数组中阶作为各个元素的索引, 用于指定对应链表中的连续内存区包含多少个页帧. + +* 数组中第0个元素的阶为0, 它的free_list链表域指向具有包含区为单页($2^0=1$)的内存页面链表 + +* 数组中第1个元素的free_list域管理的内存区为两页($2^1=2$) + +* 第3个管理的内存区为4页, 依次类推. + +* 直到$2^{MAX_ORDER-1}$个页面大小的块 + +![空闲页快](../images/order_free_list.png) + + +##MAX_ORDER与FORCE_MAX_ZONEORDER配置选项 +------- + +一般来说`MAX_ORDER`默认定义为11, 这意味着一次分配可以请求的页数最大是2^11=2048, 参见[include/linux/mmzone.h?v=4.7, line 22](http://lxr.free-electrons.com/source/include/linux/mmzone.h?v=4.7#L22) ```cpp /* Free memory management - zoned buddy allocator. */ @@ -55,7 +88,7 @@ unsigned long nr_free; #define MAX_ORDER_NR_PAGES (1 << (MAX_ORDER - 1)) ``` -该常数通常设置为11，这意味着一次分配可以请求的页数最大是2^11=2048 + 但如果特定于体系结构的代码设置了`FORCE_MAX_ZONEORDER`配置选项, 该值也可以手工改变 @@ -82,16 +115,10 @@ default "11"` -free_area[]数组中各个元素的索引也解释为阶, 用于指定对应链表中的连续内存区包含多少个页帧. - -* 第0个链表包含的内存区为单页($2^0=1$) - -* 第1个链表管理的内存区为两页($2^1=2$) - -* 第3个管理的内存区为4页, 依次类推. -内存区是如何连接的? +##内存区是如何连接的 +------- 内存区中第1页内的链表元素, 可用于将内存区维持在链表中。因此，也不必引入新的数据结构来管理物理上连续的页，否则这些页不可能在同一内存区中. 如下图所示 @@ -112,7 +139,8 @@ free_area[]数组中各个元素的索引也解释为阶, 用于指定对应链 最后要注意, 有关伙伴系统和当前状态的信息可以在/proc/buddyinfo中获取 -![伙伴系统和当前状态的信息](../imaes) +![伙伴系统和当前状态的信息](../images/buddy_info.png) + 上述输出给出了各个内存域中每个分配阶中空闲项的数目, 从左至右, 阶依次升高. 上面给出的信息取自4 GiB物理内存的AMD64系统. diff --git a/study/kernel/02-memory/04-buddy/02-initialization/README.md b/study/kernel/02-memory/04-buddy/02-initialization/README.md new file mode 100644 index 0000000..b08e4f0 --- /dev/null +++ b/study/kernel/02-memory/04-buddy/02-initialization/README.md @@ -0,0 +1,113 @@ +服务器体系与共享存储器架构 +======= + +| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | +| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| +| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | + + + +#1 前景回顾 +------ + + +##1.1 启动阶段的内存初始化 +------- + +之前我们讲解了系统内存管理初始化的第二阶段(buddy的初始化), 但是我们讲解的很粗糙, 我们仅仅讲解了内存管理的主要流程创建 + + +```cpp +start_kernel() + |---->page_address_init() + | 考虑支持高端内存 + | 业务：初始化page_address_pool链表； + | 将page_address_maps数组元素按索引降序插入 + | page_address_pool链表; + | 初始化page_address_htable数组. + | + |---->setup_arch(&command_line); + | 初始化特定体系结构的内容 + | + |---->arm64_memblock_init( ); + | 初始化引导阶段的内存分配器memblock + | + |---->paging_init(); + | 分页机制初始化 + | + |---->bootmem_init(); + | 始化内存数据结构包括内存节点, 内存域和页帧page + | + |---->arm64_numa_init(); + | 支持numa架构 + | + |---->zone_sizes_init(min, max); + 来初始化节点和管理区的一些数据项 + | + |---->free_area_init_node + | 初始化内存节点 + | + |---->free_area_init_core + | 初始化zone + | + |---->memmap_init + | 初始化page页面 + | + |---->memblock_dump_all(); + | 初始化完成, 显示memblock的保留的所有内存信息 + | + |---->build_all_zonelist() + | 为系统中的zone建立后备zone的列表. + | 所有zone的后备列表都在 + | pglist_data->node_zonelists[0]中; + | + | 期间也对per-CPU变量boot_pageset做了初始化. + | +``` + + +```cpp + |---->page_alloc_init() + |---->hotcpu_notifier(page_alloc_cpu_notifier, 0); + | 不考虑热插拔CPU + | + |---->pidhash_init() + | 详见下文. + | 根据低端内存页数和散列度，分配hash空间，并赋予pid_hash + | + |---->vfs_caches_init_early() + |---->dcache_init_early() + | dentry_hashtable空间，d_hash_shift, h_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（13 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + | + |---->inode_init_early() + | inode_hashtable空间，i_hash_shift, i_hash_mask赋值； + | 同pidhash_init(); + | 区别: + | 散列度变化了（14 - PAGE_SHIFT）; + | 传入alloc_large_system_hash的最后参数值为0; + |解buddy的内部机理, + +``` + + + +我们只在特定于体系结构的代码中看到了内核如何检测系统中的可用内存。与高层数据结构(如内存域和结点)的关联, 则需要根据该信息构建。我们知道，体系结构相关代码需要在启动期间建立以下信息: + +* 系统中各个内存域的页帧边界，保存在max_zone_pfn数组 + +* 各结点页帧的分配情况，保存在全局变量early_node_map中 + + +##1.2 内存节点的初始化 +------- + + + +##1.3 今日内容(buddy的初始化) +------- + + diff --git a/study/kernel/02-memory/04-buddy/02-fragmentation/README.md b/study/kernel/02-memory/04-buddy/03-fragmentation/README.md similarity index 100% rename from study/kernel/02-memory/04-buddy/02-fragmentation/README.md rename to study/kernel/02-memory/04-buddy/03-fragmentation/README.md diff --git a/study/kernel/02-memory/04-buddy/03-initialization/README.md b/study/kernel/02-memory/04-buddy/03-initialization/README.md deleted file mode 100644 index 1a3d0ec..0000000 --- a/study/kernel/02-memory/04-buddy/03-initialization/README.md +++ /dev/null @@ -1,46 +0,0 @@ -服务器体系与共享存储器架构 -======= - -| 日期 | 内核版本 | 架构| 作者 | GitHub| CSDN | -| ------- |:-------:|:-------:|:-------:|:-------:|:-------:| -| 2016-06-14 | [Linux-4.7](http://lxr.free-electrons.com/source/?v=4.7) | X86 & arm | [gatieme](http://blog.csdn.net/gatieme) | [LinuxDeviceDrivers](https://github.com/gatieme/LDD-LinuxDeviceDrivers) | [Linux内存管理](http://blog.csdn.net/gatieme/article/category/6225543) | - - -#1 目录 -------- - -| CSDN | GitHub | -|:-------:|:-------:| -| 描述物理内存 | -| 页表管理 | -| 初始化内存挂历 | -| 物理内存的管理 | -| slab分配器 | - -| 非连续内存分配 | -| 高端内存管理 | -| 页面帧回收 | -| 交换管理 | -| 进程虚拟地址空间 | -| 共享内存虚拟文件系统 | -| 内存溢出管理 | - - -#2 参考内容 -------- - -| 链接 | -|:-------:| -| [内存管理（一）内存模型之Node](http://biancheng.dnbcw.info/linux/387391.html) | -| [Linux 内存管理 重要结构体](http://blog.chinaunix.net/uid-26009500-id-3078986.html) | -| [Bootmem机制](http://blog.csdn.net/samssm/article/details/25064897) | -| [Linux-2.6.32 NUMA架构之内存和调度](http://www.cnblogs.com/zhenjing/archive/2012/03/21/linux_numa.html) | -| [Linux 用户空间与内核空间——高端内存详解](http://blog.csdn.net/tommy_wxie/article/details/17122923) | -| [探索 Linux 内存模型](http://www.ibm.com/developerworks/cn/linux/l-memmod/) | -| [Linux内存管理](http://blog.chinaunix.net/uid/21718047/cid-151509-list-2.html) | -| [内存管理-之内核内存管理-基于linux3.10](http://blog.csdn.net/shichaog/article/details/45509917) | -| [内存管理(一)](http://www.cnblogs.com/openix/p/3334026.html) | -| [Linux内存管理原理](http://www.cnblogs.com/zhaoyl/p/3695517.html) | -| [第 15 章 内存映射和 DMA](http://www.embeddedlinux.org.cn/ldd3/ch15.html) | -| [ 内存管理（二）struct page ](http://blog.chinaunix.net/uid-30282771-id-5176971.html) | - diff --git a/study/kernel/02-memory/04-buddy/images/order_free_list.png b/study/kernel/02-memory/04-buddy/images/order_free_list.png new file mode 100644 index 0000000000000000000000000000000000000000..84e186a49f25c38ae8bbd1b4cc08aa8677114220 GIT binary patch literal 42533 zcmb@ubyQT}8#k(gg!CZY!yq6n-QfU3gLDa^be9MSD1tJiBi({@N;ilOAxH~IcMC{M zzkB@t-gWOk_rJTAF6D4y?|t@uo@amJAhk7>iSE$expCtLkqQF-=*Ep($Qw6q`rzS! zBj59fM!`QfJs&A6+$ig(-vB>g+sbRm-?&i`LvZorHuxFe4Poqg;|B3J%-@?`t_9C- z+{kTIfy?W?c)UGxyFNhi=-S;x0;c$W2a=)J8Wf53QmEqQIW>O{tWx9aJtpkt}Apyr)mW<1OvS_K%6 zJSjH#^OOuK@b3^abp$E$zhmu2Aqc|%&g_K3t^S=S&rit$dGp`Z6?iCW%(e2Qk&0pH z|BhL5|NnK%j`#4zpzHIw!!_A!@yi90AjI|6Nt=HHaYozqEU z7znzGCD1WivA8}nY&__f9Emr4oUAx2S2#0JH6W83Ew$g>oLM&)*krqLUEuQ@wAb?4 zkg2Hv>7;%a$x;2#z1uVJOz7U!+|~25vAWjyz_XFeytd12S7|lfvtEm<56@?P*Mz>q zVsj#R8#!7|X8old{nk#}t^@qGYsM=_Klj+m93%^Ee?!9&@^}_@Tl0r+SPyu{_$A( z32EUzxJFp|bUD_SL5ChYT@$o#NSR5am$%8u#5Ub~Sa{qlb~fN-Mu6{-yXwaWN)x-R z!(UHhh}Ny2_)hz6m5!{*oHSIgB$!5XGM)eG8m?c8PL;XZi?MAtN|4O6e#hu%=eH0_ z<#!ChyhS0GhLwcsAtkz83PUpiI%1q2rt805)#p1+`OdWy_v!>(TaFAwR4@K^$ubsC z2cB@104!%HvKH2LF`)@>|>hG8W zUq~GM5UjFGb^D5cP-$_oNF{9=^v7f4Nz37|nzY(gSCr^%l7U6QQFS*oB4x5llq)M&|_dTv_$`pL>) zRuQ?rYw4nOEOoPfThvSFha}Q*n$kx<4@b)by-O;4?iViykY`y>%=+)9w_dF9*?z(% zq0})69d~Nlu2lnV4LCa+Z_5ZgNS#|=fiGf_NWH(8WEngy(sF%u?(0kH_281&Z0OUZ zdly5M+mz)SqG4m(^!VGeVoQ;+q0=r++XVuZ!{Gc) zsaFka8NCz>f&)?`RYG{dACC&gcU#YQek+<-A=xSiO&m*Wh8>Da6DZBSh7N~f0);dL zI_~D>6?XTo@_& zVl~;ee-CM!8StDk(z9ROc1LH79NGHmk$`qbZ@HBY*^9jZ+m@p-HNhYJ4^wP2d@DaL ze`WsA7!T$(^yJx*pXl7n1G9+@`7XpCX1vLp17rfq9PWGvLVW^V^!DwyseUj7&a!-U zJD#u|$kt5H4P?I`VB^b8ima__qjRZe8TY}SI2e%4%uBXO5!x!LTD7*CrMTsMeR-m_ zRo)ipV&R~}*Sgn9*AVce=Gl)V$Fhd~tDrw`m~xaEePQ6Wnj43BupY#X62wCxG?HOx z0^WLNQ(9LrgQh#TL0|2g_d0vGN9^;{6QrNqSx|@L$mb80BbF7$&PQS;kAFR_ig>*- zr`Ao&k*8hWBf=g2n3vCr2M$$(6~pRj!{o}4AUyB}ED%_9pPPF236J2jr@f!~p`pE%GX*=^ePEjD5wf9$`_EktuKOfp&MMNwXgLy=jg2dkmv^rpVRi7a?v z<%%wXVyL%9olr2kAfjVX(8X>b%mQkBZglA^KgfB=1qnKznpN;9g`=a6qPq$YcE}`_*%(P z2VLw{kqRX#y3E{Hgl+zXcw61B;e)fWD8q^ls-;U}Hy^$YnT2QH zm~5D^NnN?D`im5P#saf)RMvBJq~`VN_eG~kjyH&@t^N7Lbje{#&f`IJ?WjMEhE^=$v;LwR-} zBwy3go)wStR*5PZvc#K^c#LScuGcjZ{dyU%X@Sa<9Ydhd@^(84{a|i$yK}$ZVE7GLTN59xAZzwHc27z^>|W zBhOE|MUAgTXzd-OOJ__=bjIscaZGZ_Z=HxQ_LqdTJZp~ex1x>+b(n`_qV?lPe3ImC zV$Cj#ak`q{+x$U}>EEEN_XxA8$b#40l%2k(_{{UP;E$fAb#nFzH}}Vn9(7FdB}c;q zg+jOypKrZhT@mwJFTwp|<~9)b%Jcf%G^Di?{a~&t212J-ztgx?d0zN?s!H2@j;VxB zfl5kp`T)HM7VK=52ww2Qmk;ZgJWx&ZT=N$z@rE*bVLaX%6?h&aV|NOnkZmm`LhrE4 z_+1Vu4z{s@3gi8^P)Ll-**f?BPah@a2%XHE6@pK#14UiAoJA0R=y&!^sirV|TKTV!Q~dBG?jh=7=+ro! zC%L3qevu(D&PR`Od9_(cscKxpHM?A&Yp|y}RdS<|jAeo2%8`9&a;-FTaizqFHqM>E z7N-Q|2DF|BcHU2tMPEJ3k}qXkhGahPQ9*RB&F*FVxWWGA5Gum5cN%{pdUZBTh_ipV zcig4OQo3;D$BsMa-CIlRxJ}kPY*@c*hNdM-z?$0Hj`)6;Sw>rL{l4>fx44_3J%2DW zwTwjiCh?K9XqlhQlyhC*QIlUdn;RIh{xLD{D2X`SLPToF|P3RkOYY=U%J6 zqanI8LD!ek{`kTDAIlIhoF875U5x(AH>_Dxia&h`6Cn~uW&0Gci0m7i1pBSu3}2Yn zEa+3Y9W1}A6OL`5%2&vk^P<~DooD`J>-0|8z0Z0t%UjPJ7-#r?oA;dsa!V2{ z1CEpBSoiVd)(|%;RV96bhh6uLU%tQL`8CNgsXjLFtE)b~q=9Rcg0vAXp5ZOiH>|j} zqA~ADf|arbZ7p$i*3yq27oYgvKwod5i&6>Y7AE+!jhw_?U!8sWn6VZBv3lkf5kNhi z9XP_sFGq@;wN}tI&yFpTp({b?jTf4R!JTRLx+F(Z-(}y2)Hs%eY?|0l{w(fS^Un>q zo9X&7w=LTF*>h4aNI)kn!@ZNn80N4XVgL9uUtPYQuvxd6@0A}?`07aMMY3}TfhKm* zGl#-(^gNcTdUkyyBzAqWusKZj1g_Wz>6JJ?9SD-i&t-RA%r$ z{rx?tvRG>DzIS5x6NI;wf=H28*xqIx>HcfJ)J7cMq}~s_--mu$ zS1)?{qGs8Oz5ua&xoFM;8GUUw8N&6XNOQwk+f*M`^zf%jNH+H3rk1x+VWJT+jow|Q zsP>Rf>~_14S}3Cu!D5Y6{S$zMw@37GwBhm(M{I9cc zs3;_a{WERBUt_+b#@;=Owfx{U$hhfA32F3KhQsNHFr4;orKyiC?}=@hp=50LD!lH7 zw)0DTmMY>3lRS!A*~C6y-PzWFK>{Rx%m!sgdB-yUG(e^r?k1hZ+)$T zs?8DYIUmKJopL_CtIM8q4_Vpiz`qV_O^#;~+B;4xlxb+!t$dLCR6mnqOBu;-oH{S5@_!~9QT#EPRRHi_m~{vzcPo?sd1bzdUkE=(tlFx9oP`)dX6L!|3RFgQXb8H75U6tIL4l6%=B;P3Tp{Krm0HOplUg4hYS( zi>T(@l+L)rps^Ps(Z&72s?ZzW(C*t(t#kY6gM@N`l39^*wfUw%n~HMU5c)R{&XyhB zsQ%{KXJ(vq)l4WVHOY;9r1ST{;#x;VGbQUt7>>=0s?RSfkaq+erU(7JYpDNz$^CL` zHFwzo?~1)sU3N4T@spL;w-xQ$$QP^rKqXp(oAq{X-hAhi_EGLoHNs$k>=FWze2BE-hF(2p~=m9Y^R zRb*C}$?-(oo#eZjcQxp46SA%WEAq#a?b0C$S6jWu`$T;67S_Ux(w|R5@+E$rd?C$_ zBBv^B8Sy=q&UoOBdZ9L38Em~N^Hn$1NMcTYQ00&lvT!@TX|S8;Yi>DX>`&ZU0VDa_ z^Px}J_OnmkGA2{SP#5JnZrGSfW=B|m7DaV?togn9xJb;&daJ?B$fh9?318Is!BiK0 zRN`&D$qhB1|0`#S&mlh*k~-npBZK_9=tpL&#|24mO8WG`Lx(R@>@HK`yD~CPD9W+h zS5maCT>vNcow}wbFH75iufYH-UU1f@ryDaRJQ5KhiJIv;eWTtXtV6aoWe)F3!{A3+ z!WA{w_{yx=qvjIvR%D}e&15Y|xHGv=Rc%l0CJ|%gt=C%@zTZj=37>5gldBk=NlX0x z>h$x|Z7YLcQ9tN$evw6u&XHlK%e6ttrf-)ZE{{GOLY#GH$|gNa-W~Y`hG+&&Jtx3s z7LB}~5j&fMXf^tyOB^6Uc4s9#P-1rAI4jWoep>QUh;3ljI1^=zz@ z75>Jns@={TUb&S(9vOjtc53zd<8Td0p%+Yv>Z3E0S*yMdD2Be`u-jAr{^ou`G4N@8 zw>iqB+Lgl2`L@&N*e`Bbx8W>gTmFIXI$wPm8T^(1xJ?NW+Gj1K{d?e)bV%u`p}8^W zb9zzJ#QElBf>jasR`CnIVo(W02uIs(5zM)BA2IJD{mSpS##2AsZT5299C(!f^V3gZ zLh}B$+AFR_txNRnK7vP!yN)azQNJkzzmXekPBE|FRRTyAEpCNIcl>LXBkhgCBwSYF z;sQ&CZ!+}d7YrQt-QPIi{haJcR2<^4J^vY2@cZ3|HEnC>YgJP0^au$B+szqy7xDETPVt$40@i+{eXlg0w^HqrF9DhWmhY<$3Hv_ixqD5 z9ycoNR8Un*v%*jDW!A?(&*cu?ukoU(bd7f}R2Q<#5(lOKL2K;*W9xPg-se^2_g_XS zkMX>rnIE>RPj3js?(Lnyocx4hnFca?fWGxv^))dgY# zy4+^4S6;~(g-joJU@$WFPSKWh&cYwH%=opO`*_{|Fg=MxQY4XFIOQjYzCTYyP!60` z;c?qAl!$M$vCc9BY+CiJ!KW9cCk(gxe&5VnY`QwzI!MbJ{mBdInp_2dNpDqn5>`|B zPd>Ksc?<#|GVS)Qx=&;(=TnS~#K2w4F)aMbVrmU_!j!t7QiG<>HTp74$TE#j>(jZZ z6+cdjtC;_qjZL+Rd@pr&UTRG0?5V(sK-ZMTFEt(4WXIp&#cyJm6M=Xo8dIAQ@Orj| zs%fA&!r5&qGyVZ~RVj$DS+z2~JN)co zO*V6lTez-LTm%39t@3&w%wD#7tE?&S@?=g{%RsAu0c=x!&p1g1R_WRHMF1r5vKh<< zHiFL9;WpCnylf8{|KAnLGBE&`6d%y=1GvDmEY3b67H#6k%9enY|pp86X_*wlE|JI0i{hCg2k4&qF) zI!d^YeJ}R9^52lih~;+(T{&DZZ@UkkFJ(J|#2t-qJy#R77HR6zz*gG0Sv0Y&G2IUa+CD3kvPZCxPzYb7xXAMyfR-6;j@f~0 ztck3SSq-`7T>y09!vKE1*;g1~Knv|!X21BnPk3A%>{ZOqzEZWmSNwcnYyM0g_G(7$ zq~E<{{N}nd?=Q@%ScfaXL~a=HXNQMIZ6yguy@0B#`*f{*w^mp01H)?^`FS(BJ;W&4 zI>ES7F`8oF&U-{|c+J=Dpm3 zX&2~5^`t|wHCOt<`MR=fN(a4Kh9~p$L@+c?=?4r}?!ox?y1UlS7{W-;cYNAX6;s=V zxIcVwn!@FBA@jrLTM+A__sjvQ2%scmI##m}49sFrEc`ZdPt(jjZyi^3G4=*0{dwkG z{li;-dWtk01OC^MLMvW>4w2sPW;GtHup)C(B9E|NB4+y?mVIlSOSB?M_G^UN@%h|! zAf;4D)C+0eN0gHw8Nyd=p$`j=Nc?O~!^7*w>(j-%rpJSRFk}#Dy6rcnzvjw>MfRlR1G;LigXc%E z2?f%!lno*ZaOR7KFZ-KU^?_H7?EUSRi+*e2_xwU{ey%=?T9Gnl!FAaFM{f*ihM{q+ zKB5y$U6Oe`toHFZ#u}jzB#S}2l?r_s;;vfPXdkVeMeBfxGG4_YnaZ6+z7yAWONxqD z)14&_*!0DD2hiYfZMsOrvldS?s~!)l-mAOWBlDyNkJ|cNt(|$cdQVAys-6I_+?L>; zVapb0tp`6;CykwKJB^_!4L5?zu;s6MLJxp|c$(7j5eaatn16xV6a;GKFt)D|{_)mo zFIn1^&=oIfnB|?qT&p7IsX@!GIb=wVIr~ur<0pg)3s)j36BW+vW7_mN)Y8!I)0C>@ z)H*`$LaSE<su{X6emYb2ZyDfVmcgeF9i3!M zR#Rb=tj@?!Ph+G-VyfAW(X0@il5iYfsl&mC;{EUAwTkF&p=*yT035xXB)<2$#8)51 zF{}0a<6oI62G1V?zS>A?`A=?Ystnohw~|9+IlMDMa^<0HrNmFh=*${%s>7&YG6W?# zR=f?iYJN=ToO=Ny8lvWp*Tk$yFqrRe$^_dX-zpElKKwlEIK&A4l*}ziyyeAmZ4hHxF|m)PUvfGq{{ee~TY2^R9T!Iq`l1Y%A}2yAxvAD?Sdsi(?cb>w>O+iSf82e8tAWCVv7u^^GooJ>y_j= zUZG-M!Xn^Pm14(iCI7mn3ntkOqYjAL1HC(RX{ux^qj!5|(Geo5P|xLkUH_^rw+W ztVzbo4e7bReCJ=|b{fqQCM;~O;MC66hOAnac$So*g)6#>x^p${?w?G1YSr3R!b}F( z`YKJ`=nX6kMj}HH~nV{()asMb&Ay8GdhkYdcO?EwQNYmYo;Uk&x-hvzd`%mzHMCu@)(tEWg z*ur1!2>RGXl__g{k#KX(5x+H&LFmA}i06{;VHOH!eruzKs2f*1O}m=1fZRJcnG$w< zf6i;@n2h7e(J^0xkf*>d{j>lb;?O4wpMW?2oDM5hxV>1fLu(5ADl%$u${i4O$e+M< z#V6Q}SS@9#Gz+Ke@F0p;YAi{leYf@Nx@L<)a14>fYVpZS=+R&^DDlL%wTyQ?Ct7tQ zdplGOPY@zx|EQu^B_Jw`zDv5UEE^TO6@^iqb8PZi_(CtpvTX^Hq#y@I_EfY&BTEZ zs^{v|^_n&bD4{8d18KEp=Z3|2ZqN$=L3PjNnqF;Hu7g4~XoU zY|(iO~lHQe|}K2$gafcMvGs+rmSL49_=EO zu|YWCg3#q(_C}pte7kyNOnRU-Jo&vkptl`xJz^Q%zTC72E3a<=<@vz#1E+{>(v!DR zO|gX6rpA)Z`KE|Yis|&XN1LUt z1{g5k<6#NQmU9c|^$)6TV_oj5exJBXk}0CRznb3H*hH^qT*48D#K~uaKSWf?KF|7> zJ)^YfW%ISY8LB4fP*MsVa#8{;@ym?i4~hWA zJ=PEVhGK?D&*imxY1*KM@r6Fc5u<+J4x9oEnCNPAU(&M{@!#IsB_yw@u}ia-;Mtw= zHS_JbOh0zicvY(W+-6Q4cNQPjOYtOrOyGSMEF>hX&OGIj_RAV0lE^$m}>8N>if_l#0>`z~@-_k_-<6*t1DQ{TYY8Xg8; z^aXE&j=nst)EJcCGQWM zPOgGo%D~jdE5d5AvH%)-cQ9u{5l+n9+SmbM=plAU3tfJOpF=I|jw430QJTf72tBF5 zk-+mFT}gDM`Sg3#{|4LoYHq?2vB=P`{|dSocaF0=g%H@~|PO@5?DTt3EvW?z`S8bSi%m)WxvHVflH@%p$6wF2F+ZoNGDMjsam1 z(zMga6+_zwq#XVUgbW$vSrVA-j7;L|Y^-_OuydaA&tE<*(h~)5yJkvhWfXIjH}5~B zxl5Qs;qWzYdWTQf~b8f*e}NVE}9-xG8z(_ZODHi_O{9Q zZ-Ev@qCubCt|~*lya5Xfd0wpw>lwg^TvkugJ_`;{S}Fy1-w@gGum56PfTy^&CJAQ} zP@X6CKxazmO68JGj;WC-@fYbLrA}6}BY0__^61tz&T)HA>Rywl1U3oDDTS%MgUgAx zHtc}ZKX75}Znieb1TXUmCI}KE9Sm%GKIcmehuxuJe%oR?<=Pf-Wxk2Omyd3ccs~!j zxG)&FVfLx0ra~K@z2!9T&_1u*79(OA@AczBC-Zt{G&%AyBVP_K3$+Bi_HkagHlMN9 ztQ;e6oeF!pkfFo0@=RpsLt;_)M^T+M_t3^%nDipzMff?f4(#HJW{$* zWWn%F!gGv@%bEiEmj6TO!^f+7ptAcR& zK;gkQ$@sg}AA7~W&dRTPXLfxX98)_OX9Na zZzQs5o(B-*@xY>eHqJIx3*=Cv3km0|UjD%XdG{`(ayC`&8lWsrk%+^}?+k@LPN^=6 z4;RJPh{rr#h58ul7cbOk@V-$Xr!BzwU3OH+M{sALDG+D9;m%JT#*=PfkZltIcg8;{ zM$b-9VH1+v!NSh!Qe6%Bv$J(kpTQkc@=o7~W;C6vtlsLXFN8tuzGDJSp}O3>e@URt zNTFi-mgsKH_+w+s2qIhKky?mm2JS$v0>8sGp22ykpKtThrb~9w-Asz3dY@qHDkt4B zvd?G(i!4QSfwOs45n@@Su9>ewwSa6fT8sICOj32QX%dGQNrI6T^5wSl$(a2VQri1z zMO=bkB;p>#2Y@V6SV?}W1#!~_lia?xz1;A9DEYBMesJrC7^?f3^Q+Lu+WcPO2tAdA zo&kdL%HdQh|HW$;#YMZ|bx%=IZe5C*mWM`N1XGz1jw?5O4wa}QTH_6VJt$l}EK@;en)vN$xGg5S{eFB2x%08x+;95px8Bc68gNl6q}gj?QWHw1W9Peh~HSHl|Acm z2m$`L{oi8j0)dk%g7+wf?B8-hf9zv+RGEBRg>$oX3RXs}#zw_Z)KT=5v6GE^*7zeh zbngVC4)CF0zdgXgqMSp;QYQV#LR@s$ZSR=?&MEO$_HpJfy_Yc@w)n?Q$gf3+xLS(nD1JEjXU?^NDG-~_hOH*2HyQmx-6YZ zE@zsp`vf_2UALV{^Nz}t2Spj!A!-BM+{kZBSLeF}Ej=cvf~-A=PZL7#`woCr!M;gQ z5z2K-=VM~2N3qQKeLVrSMW;Ko2@e!1`Sh-6orppn3-5K+e5#ngf_&!F&J;ttDME{1 zJ!Jq=s)n01yn#)f?Wd%}{TfRJIuNug=_{P99t1fOurKXLK3BB7M0sRirY)@=6$>fA zHsPM9#8gp&5viwBKp{BhWbJvGF6&s4{2|Wamlhe)Ecl9v&@4j2y2PfB5?K&M<~1l zQ+rce1_f3~m|TbFiZNR>zQUIA6K@e?iU_XM)CuVY4|by(Q+UoLdFJE;&uenzVc2t z8|}$*1;5SV*5#Be-*2egpvXY_#DfdwbMO=y8_PYJz5)#k=w__^znDQG};k zK=X-&aY;zH=ez+Qr<+l5L*|T@_ok)tqz@efCnSoQ03{~19C~o8SSng8#=2qxhqV+YYwENT3>8BEaI7ijG|Hms$L|fJ?Sku^7)zbv=*(3fzTNJ*h5~a%!X{E&YsgLSsg1SlBiIeI8v*=55edP;k)0+knk$U zrF3c+_e*Kn{-z6@HRTWq;;nc7@@c;^+&mfHu|gOk=*o}H-kOA|t(o?>UEmP4WXBeI zJ~WdE>Q#zGEI**g`yw%F>SQjBN6D)>-YpXbA2$zhV4&jUqDTFj3iKyO_A9Cj)wL!q zW`)6d4R;|r_r`RmHfC%zyaK2DYK-#CtzT0b$UXB|``X|k+jI@6^}YV+hlB=zO15M@ zGb0};(8Mo>{k#cJ_x!B}lMr1T6~2epVkmKM^Ny9-yNaI_o43ZBe+roO3y8yay>bxG z7VuGGFVPh%Odk4j{;q>uCl3}%q3245O7UI;2$RpFG?*O`fPE1;RS(mEC2 zJWO&Q(R+%krk<^8elcXZH%%%-oAny4evG?yTa;>unb`Q-*T#Y&HmQ}z?x8-buSTy_dF4;W1DJ7)8Ys%77du?v z8|tw?6AFW$bP9xGlX8~4p7p)uz&s|hOZ+595Dit*KHV;fn3ZO5N~hW-Coq%VM8eaV z6v93a-L%qRDnWS7p+nAE=kB$}*rL5_T(gvpCbcqPomc`fvr9#&FIRY#e$b)a6B!5P zqMw~GpnvV}@ch(Y$PT%roIA+yRPo30#*tov*GF@xWu45HJlSMffOx6$^Gm40D&6e( zrR-QBbZ-)MtULX(hdrGeNU_Cy1n;xCyco+E;(!RNbGzeUeO`>O&z|LgR(Mh4MD!$+ zvQ5*z_EX9q6fD$%O`}zgtjVYgu?+9-`RAE%QO5g4!hp13iN>4PY&;N4U}^GDgoM91 z%2~M)0h6jW<=*HYb@gcNmtRw98e^(Gc}Y8euPw{5pH)te+%E*RwPJEKW?#e(85NbX z-n3X86cndM8SSJlk%yExuqBHQ-9vx7LbjWP!RJa14G-BM3ojiiLXk?2Z*hU`a;VU9}ufiDW z{`oUrVcH5e7jItsm&JDB2@aIlU8NKRJvVFL2Rxzx*X&x#Y~+@2P6Ryo?cjciT^FIp zAPvi7Y8Lb&(OrXw?wLEuuVv9mBB+n|U3A_A8yz@=nu9HJ%%KPz>e%2p^4*gG_%?XW zw7NW;!SaAJZZT=S-&z+RbD^X*Kxc0ak{#ryd8pRjA`ZENTSl-}%hjYE0|_OVA4hU7 zP#%@aX$pMWYXrGj**)|vf)HgCDy+98NviY)0gE%b#^bRXyn(mNbRuggFw|~7K~>`Y z6+2{;`fd)xvw(3C6J-ui9h6iulk-?n!`*ZQ+JfP&| z-Sj|!S(Rf^j8?c}WCL(J2v5*-`vvWQXPh_r+K_9$y$P zWJht`_uge-!XxN}rAly`_Pecnk!U-IiV?3+u>l7o{H!gh3&!0%0sIWI9h-!Qds(A% zJvBU7;kG*I=yX}_2z$|CcPv8yz?8~q8QuveMPhv#5nb5D=`)ef_lRu z&5yDiM&FS=sZUeu@%X7VZv_3=NkJhjUvK znG>@gS8}-NWRF5pw~Mj#Hs#&In_$npv8kQH`mWqsq`KhubX0!t4N?<5hS$uo$UKtD zBJ0P=Cf$TT;o+{X6sf-o^_!wlOT>0Q=l?duVT`+~A{CNMvhun~a9aIK4= z3iheiXSbm!)ADqvV*ym>vO63-BN+$ecygEA&$4tCp{R#{^-5oS3*~?X;@slmcx@1| zYuI5e_-AU1p-DDvO0Fb2(6php1z&qAOdrON3%S)U-PiN$x1-=Bc;HRY0zg%X&V(5L~cR8V<21D<+bZZ1efqztQU{d+mQ^-D`~-3wr1>4;E|rUPv#6=WeF;pE$_3j z{!p*do9SE^KIor(_Y?cLi$QvhQ6 zB%0G7IZxgzbg5%Q4j;R<-}cR1(^3M3J^Q*Jp ze&6la{8?3Cs#GkI=z=c44ksyEuMM7}-pd3O6w)Wz+slI8(Qr1mu5=K4Uh=tFe;_mL zBsvNkWhb-NPMq=NRD|eL&bQTH&bSy6X)jICmGU1*uHx???XpxY{U&e0}ho( z*2U#@8l1y4b{{WYD}BfKiI}JWF%ftnJ81Qsu1oL7lCf**Bcr~a3W?nA`Epiha;Z}J ztjIUcML*-uD|;T7lTq?^IAx^W+y!XW7U)npy51(afY-Kx36wo@Yn=QuIc9EB*d8@x zIx>mYqX+Ci@Sa;4hohc@ZFO-;bm^JP#}3zFPOshNQAgawBLG8}M-}*Fv`~0A659iE z$&QDJ3hB2*8)py!m$ojGPM|vwuHCHPhSTTFeTNQP(B6FG(4!qx5&H-~Y~UpTLp{P? zUH%RF*x|FS#d*F_8is2vUQp*!O-VlBNtIgE&rNt#OQVT0dVVtFGmy}Mfhy+eo@bA+ z!QSxi6n{pL^K*~aY~k^x$3K6P;V>4s_Vp9<1==>WeuaV~)0fm?zyeiVT7H_9`W={A zGRTF=!^`*x4&(^93L1x6?8l`oFYl&geUmF7FOeYbxHD%cuoX5)JSEDCBZe1z2H1|C zF?KXV&$mUo1sU&sK2<)DuJTPfVANulG7PG@5$1pO^t9^CpR;^d;p85 zBz#*{{x0?mCQkff+<2e>drn-&=J-^S?k`HISV`1#Pj&k)_P5Z{HhqD`mMmVBuvLLI z2R>%WN`Mg$K|h~zrh-;r&3B3%krTXazk{(w4WxY3hYrbM?PX&)!9fRFUP#|dC_)0h zxc<&GJk_ZXsmw1DsIxTv#ED%}s zD#dL4^$scC&tGo&zE{W4kku)9Ver#=1z2>T*~0~_;2Df5fD}mqAS@zne#oehLo@}( z!&!O{gh}?{-(kveti15WYr9&6P_V8^!hc@SCJ@aIdx2Jk7FzKZz=8u+LM;E;K%WCm z+d7~!pN=@8?BJ)baT%%q>DKJ%!0!V=y)6Pz2Bicw5#aOyEw`h>9A<&!14oY(-}65= zF~1c`Ef@J`FCF9svE)(#mh$ig0GoG=A^-VLCDK7FGMg`tr^J&Fz^hDT|3xD65x{j} z`zwhSGXGsF0xoUYUrlw*17<5(p1Ns|(?CuBcI;D$RIJ)5`&vXZpzcN<^m6~FtFxm6 zpbgMtPX1;T-gV=bQYW&Vod>u+FF_V?@d;sUnH#|Ts60S9qxO%I{W!A0fvN{qsXVQh zi{z*Ez`YpcH-`OC5xNb~N70u39ju6l?|Y-hRP|x-hmn zq3er-d|>`8v9({qBpC31Q^DBqW4pATu2ut(!KU{J$h3Y{RlEN;bdwsO@zl3~w#p{3 zAH!Z@)Lh5h&h-C#dzis^`vv12TOz|~1f{f#hW_uB08Tz2aIKqpzEM)uuZp23C?h>C z&4VtFHh^106RdZO{|sC}_y)X~e7Q}#t&#!2b=5!h*lS49_p%(AS-rX#d~$%N?Vj}2 z-=$L@DPUzituxM_1}?x2Fj){77ibrEaRPvmpcG~CaA(3@57bM#P-X+EX{GE0GpUvwiqf0ArKlZ;))egBs-GNkYz+MI8 zhy8uW%y%Vz1Y_LvUMbk_+ZX00^h_ljVG4kM&RX!) zjpp>5cRcu0)W#bt17kHrP6sO;o;(4FMrozx(YU~N{%oy|lEt1GMz>`TT!xIp0W)AO zi~yNbs;2l#+&|;&(`fN~B(E?6y@RuwF%zynVBY+HwG*subqvpA5^yv+LhD!}P(-lj za0Tq77^M3`QX^UU1|J~$>@$22;l&=j@NJU@|Xa0{7W>DaR_%W&2g+v$TrQA;sJlmM) z+cHz~Y*=_pH%t=r7vpgSBD&u)*X<;M?`P7dm)J93?!T+8*zun`f84l{mpY8$9?E-x zZ*)cK!MKOJH!i)K++#{>x6l{t%jhqaXQNX#Vxg8o9nbz-IOblJqF_?UKRC?nw``+dN%y8-5H*lFmSJg|eP*MFl$izImw(z%Gwv(tw*iB+wCQv9|C;mfOsWl^9pDf@ z#3)1t_*(y3r2qri~ti^Mxqbb|IW^T3SR{5Z6?MmM~c)~1a{_b&bP1_k(C8t zMVY9|lLSFNj@kUfHdw@YU;r?SK02BVnP}#rk^)}eLzoDD0{lcj*fu+NO8I@A0xTRi zzIw{6|G$(1HhLLBSEu$LRPF%{6ZREQy5?i_pWrz!d|ei<&)crIj7M5Rn#4hPUiSh~ zG+_Uo>;;QCSTz3>ln2t}VW1c z%@O!w2)SmGGWrS#4R?%3%rJ8p$db=OjQE-{CIG)dC|60jY(iL8+l9T zB4#iFGWrNGaWjnU*T})j>KDVs4Hp3kJ&Z9KNIPQWL?7e-Z?by}?2uj)CG^wJcAF102U1o+khWt32?E?yBK>VR z{Ec1)aLWo!IaTEXh7a%#@?FE~KuUK2BrR$fa(5CW$q~$4&k+7M2_$HDTmpd#YZ&v5 z0L)hm4#6n3+G-qtH&Fcnpos@om@wLpRZ$BfPe$&)i%e+mLyU>r&S!S>Fh+4u9t;VY z!UESM=f0m4|Cf6rKvRKfR5~3r#~w&a?II9qKr%86_{%iiYQ2cGK-bn&n|{%?DzaZ7 zTJUwfEHjM!k-(=tY!?I^`=iYlK=u2*O;@0N4`?&ubvu8x1(?`eLmrv#G}YFWH3sz} z9Rw4TNG48t0{fg6|Bgi*EW1QLsO$k;Zk%Fvz5GeZtjI$io0>hwWG*n!m>P-~KvpR$ z){98?eoryO2pWY}V2#MCV3HlQ%f#rU~*uYpeVdv6Q?zne?FM=z(=PFhb| zyf$(Z^Ds$l28{jFW5>xRjIhMidKZLKFThSJ(md(#6aZf`SkpwF8@i@uC4kQeux?lO z@?t{!e=DIn3Q!z6*!=dX|3DY??4Q)&2&~)2|WFI zm`^&G{xmZ0>wMJI=hg$(MEr9g9BJHAQb-2xZ8#@ZGbPll<>(s^Wcb~GX+s5s>$26{ z1e5z+d)^*o-#Bn{tp?#OM+w*9V;4P{9g?k>BCV`44g?ogK5{kAvdWj^wF&W;Kd0SjJgP2ld731&=yO6C4GSmXbNlGBi(2wkkybO~2TGrB4_d2vsCWLhk$*O`zb~$G$*yeqiT3ZVda^pw{}?abyOfMis)$E-Q4uhQYOYZy50NBg5wsk60jyAX}#m`~lUB7AW4BlWWP= zFrRn$FV8q*@{9+FSouH(#6NIjKQ{9M<_uD)G3=~&cyyZ-39(m8o3-;1lp4r9`L)CW&QvJ8@e_AMoPDn=S zSeYezheJjbvS(yvuQEbtoMT1VJA3afl&r{J*^xa%$o}1LeV*s{eE%)yocDOWUiW=p z_jO%&?hsJpcCR}1D!Cl}eP+k`_$3FKs?uzel`OX*v+V`5|E9!=h4#;lGfJ=9MCAF9uZ7qi|F-oHX zVBMOR^r^L?Gom?@0=yU?H+A}ZpGL5Ze}6?Xy5CDh9WxbC2p^pr4$~=a{!#x7LSlib zAa2-DvtF!t+uZN|eIE%)n90ZQ6~Yh?k2nT#I+vA-Sqb{BU*NcM+X`qq=KY$cZIe5| zoO#v})kt!@Ehx@HRzNye3kmxc+u7H?!EMstf%xe8O|9_Q9A>TQS_j$=92ew3NuUK$ z9EbU-ztf`L=qRT_P9=MMxd!wkD>DXcaS%csL5(xx<_x=RsvI+^9fxU!hg}`VUUkWZ zj&H~;DQ3xaK=;|Q<`DniS3~C&NP=S%Ld;1@?PY0D=iegKvK)v2=Dy6S&2?^w<-{p& z9qq6NBmqHkgYJ_B^zCpYn1d2y_5XemSgeS3!^?>^st*K_cwEZo2X^Dukexb$h-7Nf z6-Z0Rt_eGbc+3Y®BZR;8LzPlwEVKrS)-E9B1KHy?cGZbh^vs&=<84|yg&{6f$$ zqGHzfK2jQKQ&AK!R!N;EJl-Szr{RoLL~ zSR{Rt<~r(VJ-jv<;WjmOxOPIMF_FGf#9ee3_G*S~NMQOkvji(^T&ymgV z4WuIJ=XEC=4b1qYxyC=Cw4KW+O2{tt&=WXd>zwDLQQ92K7x!~g6F6Ch9n5M= zSyTM)l(z4Lt$ta{9FDR}y?NF7hgUHG?N49HI9{^`zl~x@na%oZ1pn9k6EXvJxOIJMc!4Fn}l?x-VLGkkcWj~t7BqI~7q3NRszVIA%( z4(6}O)S8drv8|iK%f4z6U31QhL9>i`8T^Dgl0ibkcy#koS=T%zUeX&rkWYQ|0E-$q zP_C#5F6DpehCC!(lJF@+nV4oR<;B9>>@u724flqvEz^T2i`+vGAiBdjPy;C1?^>>&>^NQL9&4Z=LWeM4fA8@=RB1~@7eD`=5ktUe~s3L>t zu#Uw$RPPGitvJbOy^>B8+86_tl2v7;-yks9p)AiH+HkkpN>0-#fM@;bW_@Fk z-S#%!jR%dx+s2FH{;)_iZ6n?#AKwg5HpSw)fo zZFOIVvT@+MwoSN0T$m+_*luxqy3xj0mJF}=!aO|goGNSDX?T0G$GOO1*%HE9+->Bm z2^Jwf9IBlZczR#q?pIeqEn6`HW?&R#^gG2qaKr!RF*9^K=+z90e>r;h`3C;{#SRVYi2zOHUPxX4SJ zEzW%Xw8vXp{8yp9hh+VB+YZIPnErJrn+_$NbeTe+9=-i+1UZS_5S)2@70J16EY*{2 z**I?jUSf8JSZv>xoa~+XHE??pk;lgq?;dws17(}>r!b=n`jVmNjvL>&Sk_u)Z2#hR zWsTmW67pHrneE)Fm6pBIYnnVrBy_C5c=xv!Rs}C|;r8ARBGFV)yMS?~Tw?xM_o-vz z4%?y*0^RJ4=*D}Yqp=pWn=$@3&a5U_o>T501@kiz`NbrKcV1KS`n$@9%PH^g8dNGC z=l^;mNOkApa*H2ooXvD$XK6k$$V*%pL)1QXmq1Mg9gbTp0_f%&dIBeK^^h?#q0n}Z zyNQBjrXuE#ecW^-g&6sCnE&`%@QLNLSP7!}Qdx-mb z({ra)K(pqzNmy$et4*fjAH)Mq>VlWiYdRMLhGiyO0x{h5bZ}^rs-9+I&<%%uWqSWI zMRIR1jV}sMXfOW)G_tqov6+m@W3f2NSy77M8`I(Yb?X!7%vne;TGJGK2TgPJJJH;a z_zd6L+)?*+8K2+!qJGO6?rgf`9mWk*!fn-=YML=<#)7qGy0kj3Q@$@e`X@+m*E(5( z=Umjpc`3I`OD7fstVwW`#Amzy0>pIw&>sl<2u3W-ezy$oEA}F~Q|$vRaR=UFxGYuu z*kZG}L-DgAvEhPt^Ywpe)Dv$Ot1a zO1qtpBgP6z+}EAnWi8p;J_J!|#g2z%;aA2TJ<<{4g2r_$`2^d*qFIz`#wa%fBPW38 z(q|m@mdj?(VTd)R)kfOHH>3=|zE6K70CEl2FkYhENE`P>?TYoy+WIvX#Za?lq2UWa zYcwvU;Y?tPv6ax4N?ep*l3fHZzJn*t*1?5jZ=T->yH60G#BSr<^ie8+Fy|RCM*F4vs*5JL^D!l`6zydYD8(TX_nF z3uHdZ98A*?)0EPECguLPlzZz2E)1)`TsBC@*+5R~sd~ zX8xyP(aae^u$E?&=AXpyJRPM)9Y_c8`@L;UjYY5Fi~SLQ>K-lkj;GbV0+4S9Nw&ZM z?IIQm0HcV)gku?d{&8i}K#dYk@OD?u-=aD_;Q{@jZL4x-tc7BhSI#;(=rs;AAHXWS=*btJD|4#VuctN4gh92j%D zERDuzDLa5VE2^QI^ZaSIPO%Hnebvy6g?@_O?~@A5GQtrOiVQzeSkX#1d)#ScYzkDM z)zIrO^Mn(>1h1I~%z+>;Da?|6rNh2b@bet`?8>8g+oNY7P~?WZ*C|`37rQ%3$+#kT z!Mu7=Esw-fuG+~xbgYJsL!M1-**y{gcil;<8oMpE_kP&JDx}cZEPr=4_hc7Fr<{0f zhh^bz0S==I460$brt;`lw?pQIG{1hlJI2KMhD~piq)O&{`YDY)0>y$uOow{Sdg#*A zr|0*`H)Jd?2K71MZ}Xl|%XZ3+Y>)h<8vhnbJI&|jLh@ZM^uA|D!LqLuEc{+a=z;BH zw>Umc2;dy60T*!|RIId|mUql;C|}4-$vsuT%ErGJjK zlYJZb8)%#+?nHv zl%Yr_T1n?arMH=KILenn!EZZ?V6r>s?nRt58&}O-x|@k3>76Oy147wi`G}XYGEU|+ zYueWL61IGP*M0)=S#x)*46SSn&IchB4j&0`e!NB8vbOK-)U%P{@mMq4G?EFW$=aaf zo%Iomk-D3)E9{WASiklp#8Ch<2_33;Io|c_&PV!pV6W(2IG;%9m`GqY5OB3?$4NI2 z8WAS~{vn1)Plm;iQBV8?z_XCsTTe%X=S1VAq@3|U0KjqJla(@P|07CW%J51`+U0MX zs*^5QqHU=L)@Hql7JFh%@%pgc8V9xDOJpgxf#qU^m0aN_2LIWKZGy`&ZkdL+*A-*r z^{c-rrVYX&@S3*x2&rbo#(fR!S1wx{Y|mt*#kG(XCp_Jj@=-fEc(8iax2m9eRbD;? zMfQ!oKaE8gOS5uAjW|Qd@$}NL4cV+D)-hA2m&E*q4t}nXUHNoWStTsm-K=eCpZUYN zYymM&Gh;V&+$Y$g)a4d9@-X&gZO>j`%t@?m&xfDn?B}KEQL1XM1bP ztp%+n`J7%DyZqYolPRt#k0xvf0oQfsv(l?ri@NFTWt1pGV2_)GnNX=~fRH<_k3(f7 z04=rYcOHi5)g|npm0o2|GLqs-r0MQcJq!NvJe2bpWvh3Krg3&Rd+a|K^wNlRn9)k3 zDJQJe@ntN@2WZMDy>0>2Y@Edz9=qoN?`f8zbb+9sqP$zUo)YzD#p^RmgLmKM5_FeH z*P61YoRSKKuS|$a*9+cQku`s54RvsQm_Ar0?B`q2&((`N>Dgz@W_^(I>N<%oeiNs& zv}x~Z-&(H=JQCaa_2<7ZbIxklQKKr`ThMiEiKPp>GZ4VgE%f!={H~wp?e;UeXT23o{S$n)zaALdW#I?U3E^q|AqsA$l%CT_UAb8L z01WE%R-fvVI0^b7{(UR7_O+mwu1!#sv5{Fbk|y=m#Jfa8w&!j1gbK`hHc(p<<$Ys9 zC)>8NvklKX`5#>6ur&;6{cg9fws}3+jE2>Or&Re(`wP-xl#eideesr@dxM<0zzI1= zw_3;IUU%PBX_lB81bXw6meYzkbj=u*03N^}>d+4@sy{oSMN�P+nVT9q@MKC{++8Ba3(nnuU@%v-l4Ki*PmWNA!fOubLw72GKCY(bnpQ~$aC zLDtm=*KGM5KHHNKa)D$i%(SkUk3fUQWAcGeTleg)oI8U@WCGgON}cL$`XL_y=1?s$ zcc_%g#qzXMj?7DoPlgK`s@VD=!2LXNG*gG0`{BhR9-bF*^=22H7SJ6ZpM9#xN-CeI zC}Vd}IKRcI93}N$CZwHxq}2yNP?GcSfO24Nw(M{cb(XD8TBji5(JIkIot5RSH@`V_IwWKXn7n(RJ%M!{;bn2>ft-NK zj5DJzfz%>SeMJk6eUXj7)+(|@jpgi@tRn`4ftxgMg~DiAU5NZN=(9CM7B6U!CVpPf zyibpE-o#u9ZYIlCye`a{N>&h<0ps+0*RiA0iLuDSj|ByC^hT&aaXr#UQ&Kp+#geC0BMLKn%f0Fo$ zJqsmmKcH}IUiAr6z1feXyZz3RrfJ;dD8OR8-?%;e<7N6Vh7OBKipEKB7?~T?FBY8Z z_hATeD%Kc&!XANl!?(vl?`7yu;)nNK@HBZAarI+2IB_Eb?c>#()K$Cw}>&+xR(=0k3yMFV9wF8-LB1)Iru_%54*6Qe}f7?lOESxM)O%4lsV;OSe~G^)(=! z#6k5$)^A>0sXB9V{;#d{BzX<|6Oo8!yKSjRqrS{Oxh~P5+=9~z zIHF6J3l!(jh{r#9qV*(S(DU-slw~(hXm$7wQnj~k_ujN+#~KV2u$*jl+SJ?P4T!U# z(^KBPF&UJwV(}yVXE)2~rve_GLIA}Y1ih@PD57XXE3t)@m)Y{+kDlio9&g?-Farp_ z*NjkcGvB{H@pIo|R#|RY;=A88BBid2@?Ad*b0&-8NFCg(H(jl!$L3zmKMGrJ*`~=O zt?u)7N>R5ElOvnW{QYcoxoD}Wv_xb+*uU|+<1@f3e7e|B6%0U37Vl&OoVrDXfy3tk zHBRb5&f~bv{!O*|$A1DH&u;dIqtmrmPP(KebCIY|I#h2eGL3>NTs* z_O^DHIxZMzEd<*u$=VHYPIll7c4!B^&5FH9V6{($DUFURQS19 z<(SOYUgxMvr$B#>epc@1>xJY=-HS&8lv0UqiDO)Hy+Tvl>24`!CtQ24^k}lx_6gF| zdM~pLC>6WUQ;@S21+0>(GiE6aUb~p4qOqkC_(=QJV&`t=uyWN8x6ORrKK2%}MUi8` z=R*=E@!P`dYC?M&oYV@t`MHIh#T*iJ4HtOu^y=!fOIt>E6n#_Bly2(Fy}ZaM^+G!M zd)J*XD|m_>H#o`3lSV8pJQRir+QX7V-1KcroKpDJ8`AmW&(LH|9k37oi6<~*->5y1 zC0#5MHbfO^tvI*$>_>-%u7(@x3WO`StQKC2kG;E7OWK-T^lP9(An-uFtYBQZrDC{o zn_J_O0=E*!%Kc5Zl7_94rq#T1kGRlaMpR03r)*Gk&U@d_;?f?KO-Ty$QDpTACpt2w zK6|{qBH=jZI8(1bzZ5#oG9I_9d_Fo+GL3HGnV(mW%O!R7{>Ada@KxM);k~;bmOAd7 zqM;go`1X;0;LS~6FY+3dE%Q6C21QzCpIppJy`(L=_&w7IcD1Kzf2;qW95pE&D zO5aHCV4u9mY9;tCby=62@DrE`u#JnMg9*bwF?^$c+xJKFevsOB7KuUjjXrLYQof=S zc8gp}SzZ~|KLxrXY3m6LxX>gGeO6dJ>yPNG)EzFen-4~FYYk7j8&-`~9wNHB&Gv%# zEoP)RLH>o|g;g+QKf7ME=%VUqlDX(~vf9FTc|?2lY=NerpKmu+@=)hJ-#Ywm3cK8ln1;_*szW7P8*ZmO zx4f!6xaIZ{RRE)+@=~(tEA8xhDHa{o(vmUL;jq>4I(B0*>62k~CC0H2@kOaPO*lEOMrGq0Ge z=3CgvaR~I#Z}PC7T8w^psg2`w<}dsr#$N65W;D$kQ#lg2SVLt(N?`rfGU{s6X7&m)x^qXZc~#^sOsw1>uVBuwiaq-7hOZ= zg-B@X;Wa-jD`>a(%xcOVO%3t3dj6I*AoP7`1Gh3#Q2gDwuXxNMqhiKK>Q|#fRMM? zUL~l5EG?4L(8@#M@Fcju6!rvQC4~TJ*^to|pZCSBw#8~H1a}4Gt5MM!pY+Vlm;Or} zq&N#ynRG%wwqV1@&=SgxX2SB#GAMBmO_owB*zx^slnX-6{aJ&=3&?Leig&NCD0W+Z zwa@b5uZ%>a&YG@81pwO;nqbF`W&c;2L{rRcJ6%|*0$lgk)1Z1>XZ0Pn{FmJne5a{_ zehg@3(E0+e8~+i3lQgee9c zuKjp_dyv)%6KFdakD-Xn&KLrgIM;LN&uy_?c4D`gtzQr90XB+JI@JJX645;g6>|G`=iRi&OptZ8oa}u zX;XXfw4|g$ab;2XGQd9`s7;i`X$P@X=0dVg_`stXs`UHkz33?910>p*4QW)VI z4T*n&76gyAKAqtO+O-N*x&TDnlT3zI5=^_m`<=G>&!itbVC4OkaNnb+{B8^G5y=eU zI=8K$oi8G<4Y?hVkpA+(@F*Ek72z-zV}!evt!RpQT`Mv#A6wtyu~jtay@L!TdE3k* z7f$t&lXSgYQ@bL36P@h`14_BE~^p^DA_`a*mkiA7HZ z$^;petQ+Uk;zbF2VN}K~pl-SdjK^2Jehb(#(!x)@={_$%59Fh7rz|zR5W<8bP=2O6 z5R#RH3v_Ambdtv^!1ZtAp_9%s5N7TO!tPkKrb^jHL2d#*==Kgt<-DW>= z%J*^Tg+;|DT``Hc&UA$@>JSi7d9WF2c~k0+bi=?bJ(xYfIC8l~Ky$^@(-T^uQ%9lD zgX0y;!h7*A(?S;BOJn;tCVTqAxdPu}Uo@%-KKC0j;yMyTa4w~OAeU-#geeHG)guG~ z8349a$J%x3k*@urWknrYpwsZEX4UO*SNOX-CX!K%%a6TOW7J8K9q&OwV;c;pfMzOO zEHv+9SJ#}6jx>9&0|pkkUg7y0oB=vZ@od;D=Mr5~qY5p78FS4+u|c`~+wIn5ApY`t zsx5UC34T6(>2F(oNDeNyzLm`mMnR}+8HcKNBQs#a&NiS?4LG|qzVlBU1%Srnzy=Uz zY#5bIKYi-tm{_Ihk^27cLa?DR)+WtMW%~&s7 z!XZ>NLEw88@dS{)S{J0Qj&^3 zw8l9(8evY(jZvU14>mYMm;IRNj11+OSFhbweL8qFdAYXv2=S?L5qOrm9E$kXcaFWL9UMs{ylP@cK?dN zaOm`3^pVgqmz`?&>uM8cy^$1+xEZo7yzvPP5m!|`{}0_AO>z?UTdt4TZLZE%K@kX$qZo{=&BN@n*aWa@2j8I0iL1wP7eILW|qC=p!7EdV0w7>Jgk?>;_jXt*7J_{O}1#Qs#lQ%ukz%e92hw?E@^ z506@s3P0O`UU^>;{V`wi{ul5`AB0F176wymNN`Cp;42~8LB-}dg&2n-jF{ZAt7?F+ zkH8%ZAJED`NA?BmBH9sZn*k7D608P(j&nq#i4G_WhRoT!@x)_fLliI9-};+*HJsQp5&UOkTPJq}0WyjY83`?4J zglb``HwgXn_2zYW`atM_rNwaHupSx$Qzi7SGeC#2lzL3YTl9@cXekIkheR5ov+i!h zAB}7TtRxSfQctc~6TW-zI9ee5RU=xIK5%Wh5i7BZywUqyjS*iPu)_!sIS1}=@X1Kq ze+Vy-R8VB1?cn55RM&TRQhc>hHGaUMO;QoBJ9|uR9-sS{5j%PZ4C(-K^nC-7OEe4_ z2SlAja0;R|1UqPF|0Qe@!eQ(0CBwZOSImd7$9EUhYokWn@Ulq!VHS_a@f56A_Yg1* z?sN{U9sy@{i?nb7u|cc328=}tcLe@=GMSpj^|y|UhK4IM$DA(lS@;BnA0mrzhYt9C zpc^|JbLxSJ5*sM8_1zJPqLy8w|Np+kbv@uO(~yxnh(ni4BU#UHDZ^Rfbqf10euL-# z<_x!ya+HJw2Pd_gA|*opGRd-_`DMH`3#WfmeS&g!5uWHU}Tl$j3X;IsvXZ?`L3kl;fup`2WU3jpJ_*qFX<1 z>oy@$1YTj&zXW%KH!*=`ZHZ-6C0(4oGfw& zNp()c?>7whH}gE(nyxptYz10TjT?R4sK{nbY}-Bp23s;jAAOf6;zeJ-_m58)=+_S; z&S`-V;huX0OhINN2OQK#2x(dtdbdG7SABIDU(-0XYK<;F6wgMsFz)Os}>i)Y6IWyhU zLpIs&9FD=cB2enz_nM)p*P#XOI%M`12YC*X`Bhz}k$)7sUJWcPCSCil3>6_xC9il| zMS);*yRrpHEwQuti1Ud9zSm~q7+lB8b)eGh2-^!99?$7}%C#VsNJ@{8#de$TilR=b zd#7$dQk4d#DZC1xQW;b@gb!4hw*5kwm)%e!#qfSN@cFxwhp%h`2F1bviE9GcK9CPv z$;EOl)&c?;|5jaeub|#AY|wb>odB>bA}y&z{sr$fmhSxP4p?x}2&Gt(VddkUZ=u7uDw{39`2w!4@HL@8`86=P0D=zA>hJzCTD!TCdLf z-}IW@-!<47C{3v__>LkbqW^Q9 z5bi984E?|$*rI~ir_s<=$c2u9B|M>W_}`L-FiDTT&Y#sp5f@S4xY5Fzm;8lDh)qH4 z;P*U?vb(GAoG5?qG9(81x`I9ieJk%s_I}ns~DEL3QQ0Ee^6c^MB*xCQ>RG zf81NCnx+4yoLYQtvSEo8Cje)y+kjUsFhrjN58pEd5!d16az`K`7~#Tp_CX zME`RSq7eH9Iz1q-`NnLnB^4QV(-1|~0mpMVe%|S$B)D-TRY0Z&{_lstx!4@4qXBHLJ!9DdqODaZ1|sj zJkFtX;aPgDx{b>tf-l9^WFOX7ceo5U%!3STJ#6%SfK-igf~3!#dUbFrZP_}b8)#< z)Tcdh5WNQM4Ml`*`8RJ^2Dl*P_G6$L%0lhofJ~6IH#&s0J{36PBKJqP{q*tt?E3jJN24Qf&9b^tv9RF_?#mgNQ;Bdk_PYyfVNWCrP*R9s|Jh;QFCsvsWN zlk+gsv(>>%eV{K4;hLF4(VktEOIjgx6H314Rt$LIdX4rfGL)~55R*7v&@dR4ih-Kb zUgrlg=?@uYP>d*1feFlMlg1x+aUY3R9#UqiN}xneI;I^{3n~R_g1XQQx|wsZ_q32URrc-vY!=11|Oa{=i8Mn zDvz-iDX@t43PHHwgkxX@pSZGnBdO@`;RuRAV6i_bC(>3zGD6dE2KD51FlC%F?z1Yd zswmVYUeQ`nYDESlJ`Vo_ndST1FBiVjwC7kIAoPKcZFgFbVT&C;3F&2`az=!N^zvxC zc3%xdbAsqm%>xBy{sS=tQkJjBu0BsQHMh8NN{{qtV7;vNfc@ZL)w2Uexcqa4g5Su% z&x_-RkBKE=fqCf_8O{fd9-ykK?bp4QQZNlm2B=d~+i(I|w3>lA8N?agVf|oYWudCW|;$mUH#^Rz3HmxJ8Jg#?4f&wR4Q1EN*{tv zm?K&&*_t*PNotgID*MvYdee5{jcWrSmNX zNBo%Wf?-bf_&?vEZlLQp^?!asBf{BEM-_3h{}wrdAoOee^v)UZ%PB`b zm_TB^i>M^<3rC730p|X3C>Z7;8EoG{A;H5DnDi zoX;gI1Xp#ph|9{YWI=``x@ah_=8ls3XI(Bdu1<^%-X5RbttznyO;b6qg0+s`@$nVaPU-!7XFcrau)AKnLXOP~( zfbPITV&X%)C*WCaOB zoOerCkq2lF(>A}6-`swVC~+>l+&mn(x9nJm5{6;$N8vJ3!*M(|9m`l8L5!-?3@l1 zg_c7Gicop5K3&4D8$;sO<~`39zjH4xpxGmv$pq`-*~eoHDIQ&9wncQ0Pg~0 z+9C##v$3{x1X;tGgu+$I!K&e`HAvPp<2fL|b_6Ada4ItPwSBV*5pVhhTCfhkrzH@* z*Q9}>iEhZrOAM|8v~v;O)33zf5PNJ^?bz-FscaW4nr&kC9vST#*u5#ptmvIMsDEGA zR9aaTRKFhCcJC+1ftft!h#KbArXiR}wAUHH4D+K0MyXwpL9{h3wYoZJycIkAGngnn z7j8wR%I%MtLo6?Kot9rVsDD|Fx#~LiVPDTdB(Qh#xiNownIdG|riCS8ts9qX|46z1 znRp{s9LJ+0afrZv+BjqekPf2G+pk6dRYKFf32R{cFK(E60+c(01h<(;-#@MUcn7+9pr*?(l_lYRYeKAZk*=kh4+U;+BES%a9)ecO zwZmU;s4t6jV-mdt;N;LKy?O+-l)@35MH??@Vl~vvPPv^Etn_Cn_2E@|qw+?TX~5O) zM`;G%G~!{>WLaH$A&Zw)fbNZjN*HsX#SfB4%SVMeUE;hcEUhk16^0cDLf2xa;`gVR zs$Dsj;+?8PmtE=X-XeqLg>PhD+(*Q{Dg%L-C_8K5KO3rIOVv>50s#tDGkT+p^FG98 z4Ra=(I&fpw#>u`I^xKs2J6HA2uht`2!rd)Dbsq0)l=H~6EYmZzxz2en=?L^M{k|ba(W*#>?5?$#?=-`bcucmqlVL+cfnV1&Gv}S) zXA;b7lM?JNyF;9xoti10*gU<6NGd#&yl}tvM(8ApNYSC#9F8pVMch3n#;#O_u11P3 zJ)6B6Uw2qh7B2dSt2U>FZw7xmS0^2_XFJR_5cLmJGoFu;&}GAqEE)&;xdDsg13NBZ z1bQ9!mTjI{jo9p&htMK=S&mwO%Ql*)5hZNrO-UxCZjWk}A;YoRybOr#b-U~eSLsQE7tHPOe38P<1gSXTG>X0SWCMS?ikEpQfD_A1Y68a;sSHp zE@ZU3kvTivNlhZ~Tp8wup#(EtYNf*v_KW7|Z)-3tzZqDiyS5`k9)-yXo(&sFv|>U7 z2h_866NWobtJFX6Tg`>ro;5IdSNZb0$#YtkSHF6PYw`>`uh_|xMBBA_?0TnP(iVX! zV>1rda#M27t8vvlN^s_&)=qyHvA3{f%hpvFp+hxLo43_pGP5j)1}jv1lR)ydQ2Pmf%7r!|8v~!@iA^d#+b_Hw%a%5N%=c&wMrX_( z;m~!#G7p)uqEo`qD5r%K!rKvf8uJ8n!~A#Y`ix8XL7!GcJ0-}30gmup-CD$F_UGpc za?WW!`Oj*YMBYhIqRePa20WloAe($h?zQ0RGz2wg{LjI?OStUhEjquK<2qGi9;D+o zDKey2e+(gv>v>2DmNbXNJo09Zp=tfKL$=SULr`a75OgWz<{fqEDBQ?9WRwDtJ?OSv z*VfZxL|*9GTb~!1c(-D7>!ws16!Ohh#-~9MouF<0MrP_HPeOo`0wqg>8;9=YM@<*Z zKE-XvHPabnm(hFx%SDwin703L!h_At_QGQnQ%<}tYv|Ks) z!OiG8Xt{2(p>UEJg^#WNOb~lU+#R`Oo~?6cw!N?%LhJN$vgy0{Z79Lp6W^WbvWp=; z!OX|ONk>Q^pC*VE(mhWf?gUPgXFoJA&yW3~@%4H!U1rW&Z?;?GG_q2vPVFPrV{_SU zUZ?y~t7~nfdbfuLt?o7mNtw2ucWm!na)-ID@%RhubP>9q1J<<5AKX?BFU>Nv#hfRw zCmM(RanRT7Q=&h4c8|_vZm5-SL&>>dncwnzO}ErN{M-_aRI&$#7-I)e(wf@mWJ1`=mK+{cipcFZe8TLecL(B z*tXMp=*{-B5fw{h@RfDb$d~g|GK>66yU3!L_^n675jj7__Lu2 zBsi3;&YfWB51ca`3^oeoeEI9aO_ccLNv9P8N(sLRIwAt@3zfeuG4D!)vx1D<3`oc6 zg0OX3*qawVB4aI@o`Ueqxa*D?$(8;qGLkQG;*L78&xbGR4oP!PPck-~I%o9gV)2;E z#o(8(#!cPoB&sE!SKtku`tVpHAcnO|%kO}bmPC93v*Uona0bweLfVwf3)8IG*)zy5cpny~pl<%|mF^ zaQw6}JDXFsTg{i8j=Cmauz&mq6&bkrtk>t2damB`Y@pCeM1XmH^!VMm3jOTzm89{^ z@-n3VUXv%C_{GJU3H#Xa{qPXa+Q)h7a^f%-)92$(O#Y)(9gVhTSQ$sJ5fVOY$Vl3W z5$5K1=+Y?>D>9@H)D?Fe7*y!Vm4Q84`rY=?4)o{HZkckc-yS^FlwOBpVEH311bWY@ z%Bh*GbG+!6DeXdEdFF)6LvSZoiCCkzaruwwm9n3$ltbsho?1&YjfA|$LMUEyWl7ys zC-~}{yLT<={Nk;a-pZ(6z7%1sk5^)=9oA9uDin9-8>a@BCiSA#-P86-h19!NfgOpO zzl4auvTdboXE2nq-y^O9z#eQu0n8Xaz zWuJexYiCP&8;h}+e$#Cw5xJmC*dZ0eAc#QoWz79Tco!EV|M3ZMc*ZvVh>YR6E+4w< zfb~@H{?!3*MoK6;{TK@JFZ-HVFd)vua^kNf5}YHkwC1SaI-BPt={@cgNuk4o%HM&# zR_a8ZKb73-L*u&X2B+z(tSrEM>Dwd&(;R%T)+oszF*8efzt-+|$r4X+lF~Vnp5Tl( zE+Grqf2aD$`7-rsKz_G)uB+gca*DgIUz+Xv1)J!!G(G$nlPi_w7? zhb=bY8k=517qPQG!g9ZAP)$NinU(MMl}-O8T|wtE$bJBMw|Gd;LO~u_bM8^zhm5k^ zQd_Uk2o|qymY{bw0mJ^Rn2&+(nZl~S-~d(Yu?BTQydMwbcqUVL(q+Coc}zGXf=PPP0=7Fy}9`nebg zgtMQ9nwrH!3jSQ^l~iE^k7oZA*HX&&GW4036}p%YABxERx|G_GsDVK*E+E!9Iib=C z7AgnQ9|-HO9!SjX=!pbt03SVYT60aCblgd|Jm#$CxY2>}3F9fHqf0Q*wB4(dBv?b5 zPvywNw(s${B}54#;-EKv57zQs3gnb75`-*2)w+(-wIQRk>sRlpB4f(Do>K-I;tRQB z14D_odv0YmJE9r^$SIC^3TB0Zk3MjvxIel`xX=T%ghm2`6}?5USI&O>GU88jrVMG? z-G>F)C^6MwGtZT_JD5b_5KL5M+Xj8${d9#sqi(8^1GbknUkH7)f(dGi{I&RgNK@R& zxalY3xTK7KDXY{e=ltt+s@6M<-Zr#o@SUC5j$x@gD@W7LupBW-?atxEZ?XAca)b(v z$}sXOp=1|xyz#^-9bPTlN~~UyUPw5O0@X2*vU%H42N3wsg!*!y*BKE$Iig?MCj{YcjrtCemtD$PZC zT^Y$d?DxgYKhl`kO+24oLhPeYz&&}P@NUIHXgp=pOpx^jw2m+F+TMrW@srnEiXg1NzO#8bJU zx5&`Wv$9b_Cleh!-2d&CA!W+ROeiJ%yU90S@0tIDFFsxMGI}e(%qWtck|CC3FIyr) zvnf%>tsR`c9T|H+C{LwJ%DW4Y1e-nZ-B685GOhVmt&1^~^-2;^yT*$5o8lH5Z`Ymc zCxbVKE9?Y{ba*Et!8plZ{HBk&t~K+{ZZc7jW3S}3=XXHc!S&9Z>cdxMvvKK3yNuq} z3u=HB7W+KK)=!4@M!3yr+GG7t?^BbgS3i9>qpJU5ceC|`>`4B3-^=tG8dU^5llluln@G3fPFX~p#n_`~RiJuvVICmJb=pt~M zt;>>3gP$&qGtbWK(2cd2S)UA|`Y!74JiCxfhO1V>BvLpGeA>pDjYY#GhN}AXgRCT+ z*iRvy@Y^*$-`{)R#k(R~p2PLy&88hx#m$LPt#SCxJVnIbh2Ls!Qv(!j^eev*?V9ni zQ%|ls`iH0Ugve}?5`E_BfGw)Ixf&$&cHUa}R;)}f_danVPkoAQxuayz%Ivapc)8VC z@&Q@pCp{fxWi!x*50mnZ)X+GhUtzS&d?de;6XS~^E#q#zuEdNN$DrUY|2%3T=$RCg zE`Q+WOLwm`fkEh&-dHwsf9likH_|13T_Kg+Z=Do(jGW9ZoAnp^zDlYun~!qNPOdlh zw5<>#UK`C$c}cZhwuF+R&kUcgeJsvX>SOSf{c-dSl1!cLArsJ?6xHV9#y@MdCVaWg z+OD)`b;X9ZK%q19i*DLy1P;aX(jarm)X?6G*6_FiBrYPvx>cwXTO?7UOury(-nmG& zX7c%n7V|QlLRFr-z@XsU#jO&W2iLg_V{n=8B0f?|e~D!&#$o9b2+|JESupTDRi!W7 z#W9Tnj(3->R&*Ymcfxa4W(_8s^>uh98jVk;zX+(?67r4!0d8Q;v2ybJxx#8hLtp7RMwx=eCrK<*qYm$qOgLk_4k(l@ncyadc>}iBiHv% z=0(9()Z0@E8j1wIWm&IVA_86$7^%|foy|C0$i8h*Ut}_6qo1+2)Vj)e2e8c*ws-g_ zu6C{_iDoVHqoMOnj)6L}X9nsIagyGlpRz9Blzs5Tr+obEqkc)67*|_;`QkPf=G>k& zM2Yf#Vud6v`CaB^tO&vzA5|2BEB<_)jPSAb%%g~uJ80!KUq@D2-1fcB_gbjV09Ts^7%(qXvBvYx>5@9DwAgtxofbYB&U>Y zbR#=IW?#;l^$aT;+Dr-gVeHv@dw9!)vg~8tX3i%8xmntaB|mZ*>9X2{FA%N>1cXqp)HK*Qj>7z0&&SVL#PplWu$SQ;6-}EUr7?YEcbo2(l0|LR$35Z7cj8z%aUKrU%db_EaTKy>r51d(Sm`qv z_~M=5I3EQu&LAUmh1t#?g*$bZaL5OEr=c6A8P1I<3loa zi>39kL-_LO_(CZ-KRpv}0(kwB?+zF4mFuF8spNL6tE@_!#)I7I`n1AfZT)ldULy*x z_ih%{qXgPJs^4#awQmqr2Rl&9iuaf0JtX#mZ}g29#-86QWsT2jIHYbB)tIO5*xD>r zT^g`+Z?Zh$yUN@j&Gnw@8<$~xyOdnay8Ezp?p%4uYM7zB=8Bu~aADjXYPhL)+5@di zY|0NYS4O3t#|H;b9xmj(Z^7)6WXP7gGwg+O4+_S+cibKh*+jYvV`)cc1q&*rA8K`+ zns6xj-dJg`BRfBx!@3yjgK5Dea$o19(IY8-3v8R0*ovzND87W^KDP;!lD1g}3!&Dx zJCr%B)4-^1*8G2^oq0G^ZyU!;lSW#`ShG|nvJDX>TR$}RrL>G0d(2p(EZMVDjj?28 zDcK?tW0{dbifAkuQpy&h`H?argiNXTIn{ez@BgpMUzp=LbDeq4eeUn)`@P@DmY`Wv zg6WkGlYv2_&E0?+xpP@l3;SfnhO3fZhV*6L9y>{FBqEc$mkBvV^xRvhu5J&lrh6p{ z1r^i38`FF-W$M#ep@y9m^_7NawRcY}S_(XFHu(Vs3VK28n+lF~(PVOVf5rl<*hoX^ z-L{EJ5gz;!_E$FF9IH_Q6c#^8Am8{7IuS#=R~uEKOGuyLa&o@62#w<0gJIFEUnOs% zQv12=jl(8Y;nl%;Gefxz+U83WW@0`uSs}f(3$15 zlz6cKWEw^ETsWVoR+9cJvM+dgOeik&9;l1uo>z7}>bY+Y&oOxF%*J_?XF!3!Lz@|L zq4-Z5&g9!j(%dXv-iE7)JhEG}&mI9g0a9gEQDq*=HI@|7@|=>E`iobJBMOd5dLCC9 z&17F`b_PXsX-7q_{kcGFU%h0lUH7A<#$X+hMvz&bx0~`}!1M=l)`2X3(RFBsjXH~# zi?JeNVXC$zeLuN97ajAK(A^)=P|J9iiHlkUG>94P5jhyESkQj(&f%V4vOkA^HT#n3 zAW}tcx3x_~-zo?$r23s$Te-B&;3c%xwQf>CQIahG9o}K?zy{$-TU`a1K3+9R!vt z9MyPz9yIvfR!c~HY>{cyk(2itrIbal<8>C-^iOF?7@>oo2h~-B&Z)8^h!)j)`8YW+ zsQDmX^oG|@R>1LQ4{Nimco2!K=4=0@DX)5gSmN2(`?Cvzuz0|R5vOQscO|#!03>wd)- zrfav$4>CYoqqIr`G|FA15OXWkKqLV)({*paRA`>O?j$S0;bzdw zz7LX^f1DUH+EI|3#eUsAxx2H*w{@{faB~>Y1Cs^1jsGz(antelW9UHL(ll)#Ow{5; zeHN}HDA{Hai3sxYVqU-w)F5Ft-iq^AQw7;lySB8o>u+Iug4hdlfJB|{%lTz6i7Dz^)C>OCuWXWrG&W61L2f59I^tjPWJ5dh5B4%o~M z>-!ydFrfxA??gnRbBra(dZ@Q>T<3wOBy>@xpEj^ub>6$C&?uOw7cb->I%pL~e_B5K z$O`Ctcp)i}yf% zFl|m-%)k;&PY{3NHE~*6ARC<#58ZcxImZfQ4$8pp*?1mtA5U8b*qAO(uzg$ze(2Jv zLG&oXiW*gih#qTzYzptJDLM;ayztzJs}D|YdhBKq)47e}8L$`aPK}JGWeB)J!DzLl zJVLq|-BTTY*Tp4n!amBx-#`A&P?s%ddp}%Qx{If4+G#%|0F*SJOz>&PrC@of=B0zHkO@%wom~o3M``Oge0-inXbydccs< zN5vXqr?Ubb5^GXU%k-2Z@~C$i6#LWNB4>?Uf$`OqKG~?k6c=!CX+0pBWJ=vg38oP7XY&G(Itxng=3KqtzH>MjC_wShd$a3tt(6Qn@ z!IYrPeveP7dj=`j(bpr*jyehlZH?<$7gT%kiUv{@5;FcxY6?8=3fGf3R}N-%+E!Mp zdX_q9RuSW^aM~wEA_OUP+BCUOK^a!KE_`RnpcH8v$oN(WGv@od-UB&+Kk<8LLV2(8Xk<|SM% zUan_%uOqsW|2=cu95#|#QznOOyvis3x>-QI^xomfJ+>7@-pH>+D-F|xq}zpx^CPqS zDY1q!Z?7AI9hu*TmfJ08B z=|u(VRnTGK+)%@|G})JnkrR?*V3~HPndjqHXCEDfm3oP$SZaoP*8F#o=Myms_Jp2n z{}vKP;q+9So3c3B$h!uS*k9#0#1LoS2x94$^;doSj7hxaB)y-{xahtn#j}QF(}Z^8 zJ%i9=e{isf>vAZkI;~7*5g*8;f7SAPA48}^8sSLl%OxJeM9D5LmOUe z=a2oHqe3B%|V*go8KS$}>ZWck;4@lB6 z{v2hFF5?)8MJ*;d_sq;h?fH5*!$bY=MzF);x2IBzrXHeXfPpDP#h-KDwWef^iwDsj zRNDl*3Tfod7}fNlkIn~DE$qaN#KpCE_{d<2+KPaOTwX5#JqG6NRIW}E^4$E@+4UlW zHBboY%qGIc43%r40S@yQvYyWV=-4nI-9E@#V?E8BU29|{(w9bklu~WT;+-lj5=gv` zsEWr-k)TaG$#Va+rNZck5^Yt(~aG zS)bzBM?LkI7!rJjOoW~C=g0Eb=NpID3{qR$$nE{^2+SVLD@8b^I`Xr()<4c>Pf&7f z$gf(x*`jbP4wG@Yf{bCa)_Tu(U+C&z0UF-w-1-*y-a!MbP8b5ujW9VsUAvE`zi?;b zLq6Hs++#=U>jm1VK6QMJSDw`oc1|0A_`q;pon29s@s_?W%muWDv%~Csmw}7jOK+r^!P>P(N@%_(!7rRaxt?{C_hZYHS#oHu~}= zAP6u?PMH7`bC*a?7&qJwKZP}HX&JjBqFqGq`Dyq?Y`rJkq^r?`cedu3#9Z4>bg50Z zq{s*q;M$2ZFO3A~Cvnl@DR&&*5hbyRK3Tk=u<9Wq${swDmXIrpjgWuE68{tdcN!gO zX~jT8b(>ALL|TKhA720gtA+n__7MLSw!NX;6nu6#Tj%;)d0U>cQf8K5iyJIkoFC3#_qhG`}J>)AmVMH{}gl%||e z<)SA!qx3^|vPj|L!QVEqydCy30Y~V%!m*~7e%ly4SQ(zHM{4mYtDbS8Zk1==0mLMC zTiQp7?PJf_-*AeVz>!zx(K`%Rnk-it#hTbc?mI1~8tP5E>%*tvpXg(7_Zi1(x7L2! zafXvxOt-Hx?It>hDCK>Bmr-jt&yaSDci}n`ytPurf!crQY_Nh0$@qE@DH_unL&kzw zD`TCp%lmLV_;*5Ev@`D7U2e>8ylL?uFS3N}hI3{F?cF+a%F(1Ni>=EFXrBqsm^cUi zmqN?H#O!LS^OIczD}%x;&uEZ?8BmdQ==XGi;KM*3uIq}l#S~F!?OWgafPvISHkEx4 zon~TkIcyEf#6HS0m;kRae=V4`2>JWQ!MeyHH#;y6MX@}_-?MH#bO%|Zu}T8Z&h49b zIuN@vU#+)*@+QDMA5=qOE{UxQyc>QkypgXJDe|ko_q&Z&LDZND+zO!)e?AFgy3)oy z|FAqmh1cg{9LY>l%%Pdh?HLPzlAT)RctgdQ(nEJc^{R#neSu8K7hXI$1ki+{_ zsLlP&bngopWZ)s7G~PJQ^?Why@nN@@t(_6%9R|XLceg>ms_%bBzd(6&+o&s9 zBth97FSYUx}~{pJM;&`h5GL#~m+X+ewpUz*%Lxv`jb( zP-w0aEbp6Sk%LL$yQ2f_V+?im)IMzyZM~A^$!He!vTv`iW4fd5nGFq|=gjHAKl^nu zOdN%ju1d+IW+E<9Nkl?W#tZrM7>g-KU&rY79Y@h`ess-)mzuQ-;tpR5R z-lT??O2~{+YxC~C2aj7mI_Zs?<)*5az5q)fxJq1PUaC^Mj&zb=n>Spv+T$^qEOhJu zE!VG&FHDFgFp17=FH*oCR;vLf7DCcNn#C~bvxd|@RvD4JUI_4D*5e*7fPFNhC!%`Z zo@Q_|*xF+7bI^JoUO{)cKLlv|x!Fr+lvCZB=#`vL-+q#VKs*J<$8E}gJ^!NR!cZAI zbk$cx0)z_x*SPUHj&-9c&B9Mcq&Cd&oVblo^S@yJkhCb)wkk|L%}-C_hua{MtsfWg z%f8g~q}#3!^mpK~`|a+bpb?es;xHzI<7NIdoMUprKici#@9O;$pgkdn5%~T)MhQA` zG