HBase数据读写示例程序如何编写,HBase存储原理是什么

HBase数据读写示例程序的核心操作是Put和Get,通过Java API可以快速实现数据的写入和读取,掌握这些示例代码是HBase开发的基础。

HBase数据读写示例程序:Put与Get操作详解

HBase的读写操作分别对应Put和Get两个核心类,Put负责写入数据,Get负责查询数据,下面通过具体示例展示从单行操作到批量处理的基本用法。

16_5.3.5 读写HBase数据(配置Spark并编写程序读取HBase数据)
加载中
16_5.3.5 读写HBase数据(配置Spark并编写程序读取HBase数据)

Put写入示例:从单行到批量

单行写入是最简单的模式,先构造一个Put对象,指定行键,然后通过addColumn方法添加列族、列名和值,最后调用Table的put方法提交。

Put put = new Put(Bytes.toBytes("rowKey1"));
put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("name"), Bytes.toBytes("Alice"));
put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("age"), Bytes.toBytes("30"));
table.put(put);

当需要写入多条数据时,建议使用批量写入,将多个Put对象放入List中,调用table.put(List)即可,相比逐条写入,批量写入能大幅减少网络交互次数,提升整体吞吐量。参考2

List<Put> puts = new ArrayList<>();
puts.add(new Put(Bytes.toBytes("row1")).addColumn(/.../));
puts.add(new Put(Bytes.toBytes("row2")).addColumn(/.../));
table.put(puts);

在HBase Java API写入示例中,批量操作是常规推荐做法,需要注意,如果批量中某条失败,整批是否会回滚取决于配置,通常建议将一批数据控制在合理大小,避免占用过多内存。

Get读取示例:精确查询与范围扫描

精确查询使用Get对象,指定行键即可获取整行数据,也可以指定列族和列来缩小返回量。

Get get = new Get(Bytes.toBytes("rowKey1"));
get.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("name"));
Result result = table.get(get);
byte[] value = result.getValue(Bytes.toBytes("cf"), Bytes.toBytes("name"));

HBase数据读写示例程序如何编写,HBase存储原理是什么

范围扫描则使用Scan对象,通过设置起始行和结束行,可以获取一个区间的多行数据,Scan还支持过滤器(如PrefixFilter、FilterList)来实现更精细的过滤。参考2

Scan scan = new Scan();
scan.setStartRow(Bytes.toBytes("row1"));
scan.setStopRow(Bytes.toBytes("row3"));
ResultScanner scanner = table.getScanner(scan);
for (Result r : scanner) {
    // 处理每一行
}
scanner.close();

扫描后必须关闭ResultScanner,否则会占用RegionServer资源,这是HBase读写操作代码示例中容易忽略的细节。

HBase存储示例:批量写入与读取优化

实际生产环境中,单条读写往往无法满足性能要求,批量写入和读取优化是HBase存储示例中最常被关注的部分,直接关系到系统吞吐量。

批量写入:提升吞吐量的关键

除了上述table.put(List)方式,还可以使用BufferedMutator,它内部维护一个写缓冲区,当缓冲区满或达到一定时间后自动批量提交,适合持续写入的场景。

BufferedMutator mutator = connection.getBufferedMutator(tableName);
mutator.mutate(put);
mutator.flush(); // 手动刷出

批量写入可以显著减少RPC调用次数,据统计,当数据量较大时,批量写入的吞吐量可能是逐条写入的5倍以上(具体数值因环境而异),但也要注意,批量大小不宜过大,否则可能触发RegionServer的写压力,导致RegionTooBusyException,建议根据Row大小和网络条件调整,一般每批1000-5000条较为常见。

读取优化:合理使用Scan缓存

Scan默认每次只从服务器拉取一行,导致大量小包交互,通过setCaching()设置缓存行数,可以一次拉取多行,减少网络往返。

scan.setCaching(500); // 一次拉取500行

缓存行数越大,查询越快,但会占用更多客户端内存。

HBase数据读写示例程序如何编写,HBase存储原理是什么

行业共识认为,对于RowKey均匀分布的场景,设置1000左右的缓存是一个平衡点,使用过滤器(如SingleColumnValueFilter、PageFilter)可以在服务端提前过滤,避免传输无用数据。参考2

HBase读写操作代码示例:Java API 实战

下面是一个完整的示例,从创建表到写入数据,再到读取和删除,涵盖HBase读写操作代码示例的主要步骤。

完整示例:从创建表到数据读写

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.hbase.;
import org.apache.hadoop.hbase.client.;
import org.apache.hadoop.hbase.util.Bytes;
public class HBaseDemo {
    public static void main(String[] args) throws Exception {
        Configuration conf = HBaseConfiguration.create();
        conf.set("hbase.zookeeper.quorum", "localhost:2181");
        try (Connection conn = ConnectionFactory.createConnection(conf);
             Admin admin = conn.getAdmin()) {
            TableName tableName = TableName.valueOf("test_table");
            // 创建表
            if (!admin.tableExists(tableName)) {
                TableDescriptor desc = TableDescriptorBuilder.newBuilder(tableName)
                        .setColumnFamily(ColumnFamilyDescriptorBuilder.of("cf"))
                        .build();
                admin.createTable(desc);
            }
            // 写入数据
            try (Table table = conn.getTable(tableName)) {
                Put put = new Put(Bytes.toBytes("row1"));
                put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("col1"), Bytes.toBytes("value1"));
                table.put(put);
                // 读取数据
                Get get = new Get(Bytes.toBytes("row1"));
                Result result = table.get(get);
                System.out.println(Bytes.toString(result.getValue(Bytes.toBytes("cf"), Bytes.toBytes("col1"))));
            }
            // 删除表(可选)
            // admin.disableTable(tableName);
            // admin.deleteTable(tableName);
        }
    }
}

HBase数据读写示例程序如何编写,HBase存储原理是什么

代码中使用了try-with-resources自动关闭资源,这是推荐做法,Connection是重量级对象,应全局复用,不要每次操作都创建。

常见错误与调试

  • ZooKeeper连接失败:检查hbase.zookeeper.quorum配置是否正确,端口是否开放。
  • RegionTooBusyException:通常由写入超出RegionServer处理能力引起,可增大写缓冲区或增加Region数量。
  • Scan没有结果:检查StartRow和StopRow的设置,注意行键是字节数组,比较是字典序。
  • 表不存在异常:确认表名正确,且已经创建。

通过上述示例,你可以快速掌握HBase数据读写的基本方法,在实际项目中,结合批量操作、缓存优化和合理的表设计,能更好地发挥HBase在大数据场景下的存储优势。

HBase数据读写示例程序常见问题解答

问题1:HBase读写示例中如何连接HBase集群?

需要配置ZooKeeper地址,通过HBaseConfiguration创建Configuration对象,然后调用ConnectionFactory.createConnection获取连接,示例代码中已包含具体配置方式,注意Connection是线程安全的,应在整个应用生命周期内复用。

问题2:批量写入时出现RegionTooBusyException怎么办?

可以尝试增大写缓冲区大小(通过BufferedMutator的setWriteBufferSize),或增加客户端重试次数,如果问题持续,说明RegionServer写入压力过大,建议通过预分区或增加RegionServer实例来分摊负载。

问题3:使用Scan扫描时如何设置缓存?

通过Scan.setCaching(int)设置一次远程调用返回的行数,默认值1,建议根据行的大小和可用内存调整,通常设置100到2000之间,注意,扫描完成后需要调用ResultScanner.close()释放资源,否则可能导致RegionServer端连接泄漏。

首发原创文章,作者:王坚‌,如若转载,请注明出处:https://test.idctop.com/article/532630.html

赞 (0)
html播放音乐地址怎么用?,怎么设置?
上一篇 2026年7月31日 03:34
HTTPS证书购买和管理有哪些注意事项,哪个平台便宜
下一篇 2026年7月31日 03:35

相关推荐

  • 广告视频分发链接怎么找?全网热门推广渠道推荐

    创作与商业变现的核心枢纽,其本质在于通过技术手段将视频内容精准、快速地触达目标受众,并实现数据回流与效果优化,在当前的数字营销生态中,拥有高质量的视频内容仅仅是第一步,如何构建高效、稳定的分发渠道,决定了营销转化的最终成败,企业若想在激烈的流量竞争中突围,必须建立系统化的分发策略,将单一的链接转化为全域营销的流……

    2026年4月2日
    9300
  • 互联网区块链溯源服务身份秘钥如何生成?区块链溯源身份秘钥申请流程

    互联网区块链溯源服务中的身份秘钥,本质上是基于非对称加密技术生成的唯一数字凭证,它通过“私钥签名、公钥验证”的机制,确保数据在流转过程中不可篡改且责任可追溯,是目前解决信任危机的核心技术手段,在传统供应链或数字资产管理中,我们常面临“东西是真的吗?”“数据被改过吗?”的疑问,区块链溯源服务通过引入身份秘钥,将物……

    2026年6月1日
    3900
  • 广州gpu服务器怎么挂载硬盘?详细步骤教程

    在广州地区的高性能计算场景中,GPU服务器挂载硬盘的核心在于“精准分区、驱动兼容与持久化挂载”,无论是通过云控制台操作还是物理机接线,数据盘的独立挂载与系统盘隔离是保障AI训练数据安全的关键,错误的操作可能导致系统无法启动或数据丢失, 挂载前的准备工作与硬件确认在正式进行挂载操作前,必须对服务器的硬件状态进行确……

    2026年3月29日
    8400
  • 如何通过CNAME免费接入CloudFlare CDN?CloudFlare CNAME配置教程

    通过CNAME接入Cloudflare CDN不仅能实现免费加速,还能有效隐藏源站IP,是中小网站提升访问速度和安全性的高性价比方案,在2026年的互联网环境中,网站加载速度直接决定了用户的留存率,对于许多个人博主、小型企业官网以及初创技术团队而言,购买昂贵的商业CDN服务往往显得成本过高,而自建服务器又面临带……

    2026年6月25日
    1700
  • access数据库如何统计?access数据库统计方法

    SELECT 地区, Sum(销售额) AS 地区总额 FROM 销售记录表 GROUP BY 地区;这里,GROUP BY 地区告诉数据库:先把数据按“地区”分类,然后对每一类内的“销售额”进行Sum求和,如果没有GROUP BY,Sum将返回整个表的总和,失去分类意义,HAVING子句:过滤分组后的结果很多……

    2026年7月3日
    1500
  • 如何选择互联网区块链分布式身份服务?区块链DID技术有哪些应用场景

    选择互联网区块链分布式身份服务时,建议优先评估合规性、互操作性及落地成本,企业级应用推荐基于联盟链的许可型DID方案,个人应用则侧重去中心化身份钱包的易用性,在数字化转型的深水区,身份认证早已不再是简单的账号密码登录,随着数据隐私法规的收紧和Web3.0概念的普及,传统的中心化身份存储模式暴露出单点故障、数据滥……

    网络与线路 2026年6月1日
    4200
  • 高防CDN预热缓存怎么配置?高防CDN预热缓存配置教程

    高防CDN预热缓存配置的核心在于通过API主动推送静态资源至边缘节点,以消除首次访问的冷启动延迟,从而保障高并发场景下的秒级加载体验,在流量洪峰到来之前,如果依赖用户自然访问来触发CDN缓存,往往会导致源站压力骤增和用户体验下降,预热(Preheating)就是解决这一痛点的标准动作,它允许管理员在业务高峰前……

    2026年6月17日
    2300
  • 服务器带宽费用怎么算最便宜?服务器带宽价格一年多少钱

    想要实现服务器带宽费用最低化,核心结论在于:打破“带宽=固定月租”的传统思维,转而采用“按量计费+带宽峰值+智能调度”的组合策略,单纯追求低单价往往陷入服务质量下降的陷阱,真正的便宜是“资源利用率最大化”与“计费模式精准化”的结合,通过精细化运营,企业完全可以将带宽成本在现有基础上降低30%至50%, 选对计费……

    2026年3月3日
    12100
  • 互联网大数据是什么?互联网大数据的应用场景有哪些

    互联网加大数据并非简单的技术堆砌,而是通过实时数据流转与智能算法决策,重构企业从生产到服务全链路的商业闭环,实现从“经验驱动”向“数据驱动”的根本性转变,大数据如何重塑互联网商业底层逻辑过去,互联网企业依靠流量红利野蛮生长,如今流量见顶,增长乏力,业内专家指出,单纯的用户规模扩张已触及天花板,真正的竞争焦点转移……

    2026年6月3日
    3600
  • WooCommerce和Ecwid哪个更值得买?跨境电商独立站平台怎么选

    对于绝大多数中小卖家而言,Ecwid凭借“即插即用”的低门槛和极低的初期维护成本是更优选择;而WooCommerce则更适合拥有技术团队、追求极致定制化且预算充足的大型电商企业,WooCommerce与Ecwid的核心定位差异选择电商平台的第一步,是明确自己的业务阶段和技术能力,这两者虽然都能搭建在线商店,但底……

    2026年6月20日
    2210

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注