欢迎投稿

今日深度:

Hive的严格模式,

Hive的严格模式,


在公司人员技术水平层次不齐的时候,很有必要开启严格模式!

情况有三:

  • 对于分区表,除非where语句中含有分区字段过滤条件来限制范围,否则不允许执行。换句话说,就是用户不允许扫描所有分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表。
  • 对于使用了order by语句的查询,要求必须使用limit语句。因为order by为了执行排序过程会将所有的结果数据分发到同一个Reducer中进行处理,强制要求用户增加这个LIMIT语句可以防止Reducer额外执行很长一段时间。
  • 限制笛卡尔积的查询。对关系型数据库非常了解的用户可能期望在执行JOIN查询的时候不使用ON语句而是使用where语句,这样关系数据库的执行优化器就可以高效地将WHERE语句转化成那个ON语句。不幸的是,Hive并不会执行这种优化,因此,如果表足够大,那么这个查询就会出现不可控的情况。

但是,再生成动态分区的时候,会失败,所以必须将其单独设置为非严格模式!!!
设置方式

<property>
    <name>hive.mapred.mode</name>
    <value>strict</value>
    <description>
      The mode in which the Hive operations are being performed. 
      In strict mode, some risky queries are not allowed to run. They include:
        Cartesian Product.
        No partition being picked up for a query.
        Comparing bigints and strings.
        Comparing bigints and doubles.
        Orderby without limit.
    </description>
  </property>

www.htsjk.Com true http://www.htsjk.com/hive/41514.html NewsArticle Hive的严格模式, 在公司人员技术水平层次不齐的时候,很有必要开启严格模式! 情况有三: 对于分区表,除非where语句中含有分区字段过滤条件来限制范围,否则不允许执行。换句话...
相关文章
    暂无相关文章
评论暂时关闭