ORACLE使用WITH AS和HINT MATERIALIZE优化SQL解决FILTER效率

ORACLE使用WITH AS和HINT MATERIALIZE优化SQL解决FILTER效率低下，hintmaterialize

在做项目的过程中，一个页面使用类似如下的SQL查询数据，为了保密和使用方便，我把项目中有关的表名和字段替换使用ORACLE数据库中的系统表和字段。

在我所做的项目中，类似ALL_TABLES的表中大概有8W多条数据，下面这个查询SQL很慢。

WITH PARAMS AS
 (SELECT '' USER_ID, '' SDATE, '%' || '' || '%' SNAME FROM DUAL)
SELECT AU.USERNAME, AU.USER_ID
  FROM ALL_USERS AU
 INNER JOIN PARAMS PA
    ON 1 = 1
 INNER JOIN DBA_USERS DU
    ON AU.USERNAME = DU.USERNAME
 WHERE ((PA.SDATE IS NULL AND PA.USER_ID IS NOT NULL AND
       AU.USER_ID = PA.USER_ID) OR
       
       (PA.SDATE IS NULL AND PA.USER_ID IS NULL AND
       AU.USERNAME NOT IN
       (SELECT AU.USERNAME
            FROM ALL_USERS AU
           INNER JOIN DBA_USERS DEV
              ON AU.USERNAME = DEV.USERNAME
           INNER JOIN (SELECT OWNER AS USERNAME
                        FROM ALL_TABLES T
                       WHERE T.LAST_ANALYZED = TRUNC(SYSDATE)) ATA
              ON AU.USERNAME = ATA.USERNAME)) OR
       (PA.SDATE IS NOT NULL AND
       AU.USERNAME IN
       (SELECT AU.USERNAME
            FROM ALL_USERS AU
           INNER JOIN DBA_USERS PA
              ON AU.USERNAME = PA.USERNAME
           INNER JOIN ALL_TABLES ATA
              ON PA.USERNAME = ATA.OWNER
           WHERE TO_CHAR(ATA.LAST_ANALYZED, 'YYYY-MM-DD') = PA.SDATE) AND
       AU.USER_ID = PA.USER_ID))
   AND DU.PROFILE LIKE 'D%'
   AND AU.USERNAME LIKE PA.SNAME

针对上面的SQL语句执行慢的问题，我做了如下的分析：

                第一步，把语句的WHERE条件后的三个OR都分别和主查询一块执行，执行速度都很快，放到一块就很慢。

                第二步，对比上面SQL和三个OR拆分出来的三个SQL的执行计划，如下图所示。发现上面SQL的执行中有一个FILTER，过滤器谓词中用到了NOT EXISTS，是导致这条SQL跑的慢的原因。

原因找到了，就得想办法把执行计划的FILTER去掉。开始想加HINT，但是实验了很多HINT，都不起作用。最后的结果还一样，后来想到WITH AS 能提高SQL的查询速度，就把影响SQL执行的那段SQL放到WITH AS里面，结果还是一样。后来尝试把HINT MATERIALIZE和WITH AS 结合使用，修改成如下的SQL，查询速度立即提升了很多。如下图所示，执行计划中FILTER的NOT EXISTS不存在了。

WITH PARAMS AS
 (SELECT '' USER_ID, '' SDATE, '%' || '' || '%' SNAME FROM DUAL),
USERNAMEDATA AS
 (SELECT /*+ materialize */
   AU.USERNAME
    FROM ALL_USERS AU
   INNER JOIN DBA_USERS DEV
      ON AU.USERNAME = DEV.USERNAME
   INNER JOIN (SELECT OWNER AS USERNAME
                FROM ALL_TABLES T
               WHERE T.LAST_ANALYZED = TRUNC(SYSDATE)) ATA
      ON AU.USERNAME = ATA.USERNAME)
SELECT AU.USERNAME, AU.USER_ID
  FROM ALL_USERS AU
 INNER JOIN PARAMS PA
    ON 1 = 1
 INNER JOIN DBA_USERS DU
    ON AU.USERNAME = DU.USERNAME
 WHERE ((PA.SDATE IS NULL AND PA.USER_ID IS NOT NULL AND
       AU.USER_ID = PA.USER_ID) OR
       
       (PA.SDATE IS NULL AND PA.USER_ID IS NULL AND
       AU.USERNAME NOT IN (SELECT USERNAME FROM USERNAMEDATA)) OR
       (PA.SDATE IS NOT NULL AND
       AU.USERNAME IN
       (SELECT AU.USERNAME
            FROM ALL_USERS AU
           INNER JOIN DBA_USERS PA
              ON AU.USERNAME = PA.USERNAME
           INNER JOIN ALL_TABLES ATA
              ON PA.USERNAME = ATA.OWNER
           WHERE TO_CHAR(ATA.LAST_ANALYZED, 'YYYY-MM-DD') = PA.SDATE) AND
       AU.USER_ID = PA.USER_ID))
   AND DU.PROFILE LIKE 'D%'
   AND AU.USERNAME LIKE PA.SNAME

总结：

在FILTER中，NOT EXISTS后的SQL语句多次执行，本来数据量就很大，每次都要执行一遍，结果可想而知。但是使用HINT MATERIALIZE和WITH AS 结合使用，把内联视图实体化，执行过程中会创建基于视图的临时表。这样就不会每次NOT EXISTS都去执行一遍大数据表的扫描，只需要扫描一次即可。

但是是不是可以在WITHAS中的每个语句都实体化那？如果WITH AS中的语句只被调用一次的话，最好还是不要使用HINT MATERIALIZE，因为使用HINT MATERIALIZE第一次查询会创建基于视图结果的临时表，这也耗费一些时间。多次使用的话可以使用HINT MATERIALIZE。

WITH AS短语，也叫做子查询部分（subquery factoring），可以让你做很多事情，定义一个SQL片断，该SQL片断会被整个SQL语句所用到。有的时候，是为了让SQL语句的可读性更高些，也有可能是在UNION ALL的不同部分，作为提供数据的部分。
特别对于UNION ALL比较有用。因为UNION ALL的每个部分可能相同，但是如果每个部分都去执行一遍的话，则成本太高，所以可以使用WITH AS短语，则只要执行一遍即可。如果WITH AS短语所定义的表名被调用两次以上，则优化器会自动将WITH AS短语所获取的数据放入一个TEMP表里，如果只是被调用一次，则不会。而提示materialize则是强制将WITH AS短语里的数据放入一个全局临时表里。很多查询通过这种方法都可以提高速度。
 

oracle是基于列的 sql server是基于行的