oracle 10g RAC中DRM的理解
浏览数：20 /
时间：2015年06月12日
关于DRM的一些总结
1. 什么是DRM
DRM(Dynamic Resource Management)是oracle 10g的一个新特性，在oracle rac环境中，ORACLE使用GRD(Global Resource Service)来记录各个节点的资源信息，具体是通过GCS(Global Cache Service)和GES(Global Enqueue Service)这两个服务进行管理。由于RAC中每个节点都有自己的SGA和buffer cache，为了保证所有节点cache 资源的一致性和高性能。GCS和GES会指定RAC中的某一个节点的实例来管理cache，这个节点就是Resource Master。当rematering或改变主节点只会发生在重新配置，会自动在两个正常操作实例启动或实例关闭，异常节点就是被集群踢出。所以当以节点A作为主节点是也就是 Resource Master时，这个资源就掌握在节点A中，直到被重新配置。
理论上讲，利用DRM，非master节点对所需资源有频繁访问需求时，可以提升为master节点，从而减少大量后续的跨节点资源访问需求，例：cache resource 被节点B频繁访问时，资源就可以从节点A remaster到节点B。
但是，作为一个好的RAC应用设计，同一个资源从多个节点访问本来就是应该避免的问题，如果访问的同一资源只在一个节点上，那么对于DRM来说，就根本不存在。其次，DRM过程本身就耗费资源。
/* 下面是老熊网站的一个例子：http://www.laoxiong.net/problem-caused-by-drm.html */
在一套RAC系统中，间歇性的出现性能问题，但是一段时间后自动恢复正常。
可以看到，TOP 5中，有3个是latch相关的等待，而另外2个则是跟RAC相关的等待。
如果再查看更细的等待数据，可以发现其他问题：
从上面的数据还可以看到，除了TOP 5等待，还有”gcs drm freeze in enter server mode“以及”gc remaster”这2种比较少见的等待事件，从其名称来看，明显与DRM有关。那么这2种等待事件与TOP 5的事件有没有什么关联？。MOS文档”Bug 6960699 – “latch: cache buffers chains” contention/ORA-481/kjfcdrmrfg: SYNC TIMEOUT/ OERI[kjbldrmrpst:!master] [ID 6960699.8]”提及，DRM的确可能会引起大量的”latch: cache buffers chains”、”latch: object queue header operation”等待，虽然文档没有提及，但不排除会引起”latch: cache buffers lru chain“这样的等待。
为了进一步证实性能问题与DRM相关，使用tail -f命令监控LMD后台进程的trace文件。在trace文件中显示开始进行DRM时，查询v$session视图，发现大量的 “latch: cache buffers chains” 、”latch: object queue header operation”等待事件，同时有”gcs drm freeze in enter server mode“和”gc remaster”等待事件，同时系统负载升高，前台反映性能下降。而在DRM完成之后，这些等待消失，系统性能恢复到正常。
看起来，只需要关闭DRM就能避免这个问题。怎么样来关闭/禁止DRM呢？很多MOS文档提到的方法是设置2个隐含参数：
不幸的是，这2个参数是静态参数，也就是说必须要重启实例才能生效。
实际上可以设置另外2个动态的隐含参数，来达到这个目的。按下面的值设置这2个参数之后，不能完全算是禁止/关闭了DRM，而是从”事实上“关闭了DRM。
甚至可以将以上2个参数值设置得更大。这2个参数是立即生效的，在所有的节点上设置这2个参数之后，系统不再进行DRM，经常一段时间的观察，本文描述的性能问题也不再出现。
下面是关闭DRM之后的等待事件数据：
自己理解：DRM(Dynamic Resource Management)理论上实现了对非master的节点提升为master节点，可以减少跨节点资源访问，但是却带来了更多的问题。假如一个rac集群中有两个节点，节点2在空闲时段cache了一张很大很大的表，到了业务繁忙时段，节点1需要访问该表，如果没有DRM，则会从存储中访问，但是如果有了DRM，就会在节点2中找到该cache资源，从节点2的cache中将该资源传到节点1，这样的话就会消耗大量的带宽，从而消耗了很多资源。
1. 什么是DRM
DRM(Dynamic Resource Management)是oracle 10g的一个新特性，在oracle rac环境中，ORACLE使用GRD(Global Resource Service)来记录各个节点的资源信息，具体是通过GCS(Global Cache Service)和GES(Global Enqueue Service)这两个服务进行管理。由于RAC中每个节点都有自己的SGA和buffer cache，为了保证所有节点cache 资源的一致性和高性能。GCS和GES会指定RAC中的某一个节点的实例来管理cache，这个节点就是Resource Master。当rematering或改变主节点只会发生在重新配置，会自动在两个正常操作实例启动或实例关闭，异常节点就是被集群踢出。所以当以节点A作为主节点是也就是 Resource Master时，这个资源就掌握在节点A中，直到被重新配置。
理论上讲，利用DRM，非master节点对所需资源有频繁访问需求时，可以提升为master节点，从而减少大量后续的跨节点资源访问需求，例：cache resource 被节点B频繁访问时，资源就可以从节点A remaster到节点B。
但是，作为一个好的RAC应用设计，同一个资源从多个节点访问本来就是应该避免的问题，如果访问的同一资源只在一个节点上，那么对于DRM来说，就根本不存在。其次，DRM过程本身就耗费资源。
/* 下面是老熊网站的一个例子：http://www.laoxiong.net/problem-caused-by-drm.html */
在一套RAC系统中，间歇性的出现性能问题，但是一段时间后自动恢复正常。
从AWR中的TOP 5等待来看：
<span style="font-size:12px;">Top 5 Timed Events Avg %Total
~~~~~~~~~~~~~~~~~~ wait Call
Event Waits Time (s) (ms) Time Wait Class
------------------------------ ------------ ----------- ------ ------ ----------
latch: cache buffers lru chain 774,812 140,185 181 29.7 Other
gc buffer busy 1,356,786 61,708 45 13.1 Cluster
latch: object queue header ope 903,456 55,089 61 11.7 Other
latch: cache buffers chains 360,522 49,016 136 10.4 Concurrenc
gc current grant busy 112,970 19,893 176 4.2 Cluster
------------------------------------------------------------- </span>
可以看到，TOP 5中，有3个是latch相关的等待，而另外2个则是跟RAC相关的等待。
如果再查看更细的等待数据，可以发现其他问题：
<span style="font-size:12px;"> Avg
%Time Total Wait wait Waits
Event Waits -outs Time (s) (ms) /txn
---------------------------- -------------- ----- ----------- ------- ---------
latch: cache buffers lru cha 774,812 N/A 140,185 181 1.9
gc buffer busy 1,356,786 6 61,708 45 3.3
latch: object queue header o 903,456 N/A 55,089 61 2.2
latch: cache buffers chains 360,522 N/A 49,016 136 0.9
gc current grant busy 112,970 25 19,893 176 0.3
gcs drm freeze in enter serv 38,442 97 18,537 482 0.1
gc cr block 2-way 1,626,280 0 15,742 10 3.9
gc remaster 6,741 89 12,397 1839 0.0
row cache lock 52,143 6 9,834 189 0.1 </span>从上面的数据还可以看到，除了TOP 5等待，还有”gcs drm freeze in enter server mode“以及”gc remaster”这2种比较少见的等待事件，从其名称来看，明显与DRM有关。那么这2种等待事件与TOP 5的事件有没有什么关联？。MOS文档”Bug 6960699 – “latch: cache buffers chains” contention/ORA-481/kjfcdrmrfg: SYNC TIMEOUT/ OERI[kjbldrmrpst:!master] [ID 6960699.8]”提及，DRM的确可能会引起大量的”latch: cache buffers chains”、”latch: object queue header operation”等待，虽然文档没有提及，但不排除会引起”latch: cache buffers lru chain“这样的等待。
为了进一步证实性能问题与DRM相关，使用tail -f命令监控LMD后台进程的trace文件。在trace文件中显示开始进行DRM时，查询v$session视图，发现大量的 “latch: cache buffers chains” 、”latch: object queue header operation”等待事件，同时有”gcs drm freeze in enter server mode“和”gc remaster”等待事件，同时系统负载升高，前台反映性能下降。而在DRM完成之后，这些等待消失，系统性能恢复到正常。
看起来，只需要关闭DRM就能避免这个问题。怎么样来关闭/禁止DRM呢？很多MOS文档提到的方法是设置2个隐含参数：
<span style="font-size:12px;">_gc_affinity_time=0 _gc_undo_affinity=FALSE </span>
不幸的是，这2个参数是静态参数，也就是说必须要重启实例才能生效。
实际上可以设置另外2个动态的隐含参数，来达到这个目的。按下面的值设置这2个参数之后，不能完全算是禁止/关闭了DRM，而是从”事实上“关闭了DRM。
<span style="font-size:12px;">_gc_affinity_limit=250 _gc_affinity_minimum=10485760 </span>
甚至可以将以上2个参数值设置得更大。这2个参数是立即生效的，在所有的节点上设置这2个参数之后，系统不再进行DRM，经常一段时间的观察，本文描述的性能问题也不再出现。
下面是关闭DRM之后的等待事件数据：
<span style="font-size:12px;">Top 5 Timed Events Avg %Total
~~~~~~~~~~~~~~~~~~ wait Call
Event Waits Time (s) (ms) Time Wait Class
------------------------------ ------------ ----------- ------ ------ ----------
CPU time 15,684 67.5
db file sequential read 1,138,905 5,212 5 22.4 User I/O
gc cr block 2-way 780,224 285 0 1.2 Cluster
log file sync 246,580 246 1 1.1 Commit
SQL*Net more data from client 296,657 236 1 1.0 Network
-------------------------------------------------------------
Avg
%Time Total Wait wait Waits
Event Waits -outs Time (s) (ms) /txn
---------------------------- -------------- ----- ----------- ------- ---------
db file sequential read 1,138,905 N/A 5,212 5 3.8
gc cr block 2-way 780,224 N/A 285 0 2.6
log file sync 246,580 0 246 1 0.8
SQL*Net more data from clien 296,657 N/A 236 1 1.0
SQL*Net message from dblink 98,833 N/A 218 2 0.3
gc current block 2-way 593,133 N/A 218 0 2.0
gc cr grant 2-way 530,507 N/A 154 0 1.8
db file scattered read 54,446 N/A 151 3 0.2
kst: async disk IO 6,502 N/A 107 16 0.0
gc cr multi block request 601,927 N/A 105 0 2.0
SQL*Net more data to client 1,336,225 N/A 91 0 4.5
log file parallel write 306,331 N/A 83 0 1.0
gc current block busy 6,298 N/A 72 11 0.0
Backup: sbtwrite2 4,076 N/A 63 16 0.0
gc buffer busy 17,677 1 54 3 0.1
gc current grant busy 75,075 N/A 54 1 0.3
direct path read 49,246 N/A 38 1 0.2 </span>自己理解：DRM(Dynamic Resource Management)理论上实现了对非master的节点提升为master节点，可以减少跨节点资源访问，但是却带来了更多的问题。假如一个rac集群中有两个节点，节点2在空闲时段cache了一张很大很大的表，到了业务繁忙时段，节点1需要访问该表，如果没有DRM，则会从存储中访问，但是如果有了DRM，就会在节点2中找到该cache资源，从节点2的cache中将该资源传到节点1，这样的话就会消耗大量的带宽，从而消耗了很多资源。
郑重声明：本站内容如果来自互联网及其他传播媒体，其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。
