并行文件系统概述-九游平台
什么是并行文件系统
并行文件系统(parallel file system)是对象存储服务(object storage service,obs)提供的一种经过优化的高性能文件语义系统,旨在为基于对象存储服务作为统一数据湖存储的大数据场景提供九游平台的解决方案。并行文件系统提供毫秒级别访问时延、tb/s级别带宽和百万级别的iops、高兼容性、高性能、高可扩展性、高可靠性的能力。
与对象桶的结构不同,并行文件系统访问路径中的每级目录都是一个独立的目录对象,例如“/dir01/dir02/example.txt”中“/dir01/”和“/dir01/dir02/”是目录对象,“/dir01/dir02/example.txt”是目录中的文件对象。在分层目录结构下,修改目录名仅需重命名单个目录对象,无需列举并修改指定目录前缀的全量对象。这种分层结构使并行文件系统的数据组织方式与hdfs基本一致,使用hdfs作为数据访问层的大数据分析框架可以通过obsfilesystem插件(obsa-hdfs)访问并行文件系统数据。
并行文件系统与obs桶的功能差异详见支持的api列表。
并行文件系统使用方式
并行文件系统提供管理控制台、obsfilesystem插件(obsa-hdfs)以及restful api接口的使用方法。用户可以在任何时间和地点对存储在并行文件系统内的文件进行处理,并且可以快速获取到处理后的文件。
用户可以通过以下几种方式使用并行文件系统。

obs桶的权限管理规则及权限要求同样适用于并行文件系统,用户在使用并行文件系统前需要确保具备obs资源的访问权限。
方式 |
主要功能 |
相关链接 |
---|---|---|
并行文件系统控制台 |
您可以在控制台创建并行文件系统,并进行查看、管理等基本操作。 |
|
obs api |
通过obs api来使用并行文件系统。 |
|
obsfilesystem插件(obsa-hdfs) |
基于对象存储服务作为统一数据湖存储的大数据场景,需与obsfilesystem插件(obsa-hdfs)搭配使用。 |
|
其他obs工具 |
您可以使用obs提供的其他工具来使用并行文件系统,例如:obsutil、obs browser 等,并行文件系统不支持与s3fs搭配使用。 |
相关文档
意见反馈
文档内容是否对您有帮助?
如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨