ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

分布式存储EDS实战手册解读:存储池、NFS/CIFS/iSCSI与数据保护

分布式存储EDS实战手册解读:存储池、NFS/CIFS/iSCSI与数据保护 简介这是深信服企业级分布式存储 aStor-EDS 3.0.5 的官方用户手册面向技术服务工程师、运维人员及存储管理员。手册系统介绍了产品的架构组成、高可用/高性能/高安全关键特性并覆盖安装前环境检查、存储节点与元数据服务器部署、集群配置及日常使用操作方法同时提供监控状态、故障处理和软件升级等运维管理要点可作为企业存储项目交付与日常维护的参考。资源包共1个文件为PDF格式大小10.05MB便于查阅与打印内容包含符号约定、修订记录、资料获取、技术支持等正式文档要素。已有351人学习下载适合正在接触或负责深信服EDS分布式存储系统的技术人员系统学习。1. 这份手册到底解决了什么问题从 NFS/CIFS/FTP 到 iSCSI 与对象存储全覆盖做存储运维的人大概率都遇到过这种场景客户现场堆了几台通用服务器想跑分布式存储又要同时扛文件共享、对象存储和数据库块存储。最初拿到深信服 aStor-EDS 的 V3.0.5 用户手册时我以为只是一份普通安装说明书翻完目录才发现它把企业级分布式存储从组网规划、第三方服务器选型一直到块存储接入 VMware 的全链路都写了。对于技术服务工程师和运维人员这份手册最大的价值不是告诉你 EDS 有多强而是把「极简、高可靠、高性能」这三个口号拆成了可执行的操作步骤——先建哪种存储池、NFS 和 CIFS 的权限怎么配、虚拟 IP 池到底解决什么问题每一步都有参数和界面路径。2. 安装部署前的硬功课组网规划、IP 规划与第三方服务器选型2.1 组网逻辑为什么先规划 IP 再碰硬件aStor-EDS 是分布式架构由多个存储节点组成每个节点既提供存储空间也承担计算。安装之前最容易被忽略的就是手册第二章反复强调的组网和 IP 地址规划。很多现场翻车不是硬件不行而是管理 IP、业务 IP、存储复制 IP 混在一起导致集群初始化时节点互相发现不了。手册里给出的组网方式核心思路是区分管理网络和业务网络。管理网络用于集群管理和节点间通信业务网络承载 NFS、CIFS、iSCSI 等前端业务流量。IP 地址规划要求每个节点至少规划两个 IP一个是管理 IP用于登录节点和集群管理另一个是业务 IP用于对外提供存储服务。如果你打算做多数据中心或者容灾还要预留复制网络也就是节点之间做数据同步的专用链路。我一般会建议在规划阶段就做一张 IP 分配表把每个节点的管理 IP、业务 IP、复制 IP如果有全部列出来并且和交换机端口做一一对应。这个表看着琐碎但后面配置集群初始化、虚拟 IP 池、多数据中心时都要反复用到。手册中还有一条比较容易被忽略的提示EDS 与 HCI 组网时需要遵循一定的网络规划最佳实践避免存储流量和虚拟机流量互相抢占带宽。如果你现场既有超融合又有独立分布式存储这条一定要提前确认。2.2 第三方服务器选型不是所有 x86 都能直接装上aStor-EDS 可以部署在一体机上也可以部署在第三方服务器上。手册里「EDS 第三方设备选型指导」和「第三方服务器安装 EDS 的配置要求」这两个小节值得每一个准备在通用硬件上部署的人仔细看。先说结论CPU、内存、硬盘控制器和网卡都有明确要求尤其是 RAID 卡必须直通模式JBOD不能做 RAID 后再把逻辑卷交给 EDS。选型时第一个坑是硬盘控制器。EDS 需要直接管理物理磁盘RAID 卡如果开了 RAID 模式EDS 就没法正确识别磁盘状态扩容和故障替换都会出问题。我见过不止一次现场拿 RAID5 阵列直接装 EDS装完后存储池容量识别异常最后只能重新刷直通模式再装一遍。组件选型要点说明CPU按节点承载的存储类型决定核数文件/对象混合场景建议不低于 8 核内存容量型存储与性能型存储分开考虑块存储场景建议预留更多内存做缓存硬盘SSD 做缓存/高性能池HDD 做容量池建议容量池和性能池物理隔离RAID 卡必须设置为 JBOD/直通模式否则磁盘无法被 EDS 正确识别网卡业务网建议万兆起步千兆跑多协议共享容易成瓶颈另一个关键点是硬件兼容性。手册里强调第三方服务器安装 EDS 需要满足配置要求本质上就是要求硬件型号和驱动在 EDS 内核的兼容列表里。如果用了太新的网卡或者 RAID 卡安装时系统可能识别不了或者安装成功后网络不稳定。建议选型时对照手册里的兼容清单或者直接找原厂确认。这块没什么玄学就是提前查清单别拿现场当实验田。2.3 EDS 系统安装与集群初始化流程第三方服务器安装 EDS 的流程一般是通过引导镜像启动然后按提示配置节点 IP、账号密码最后安装系统。这里把关键步骤拆开讲。安装完成后第一次登录 Web 管理界面会进入集群初始化向导。首先是组建集群——把多个节点加到一个集群里这个过程会做节点间通信检测、时间同步检测、磁盘检测。手册里明确列出了授权激活这一步也就是说集群组建完成后必须导入授权文件否则存储池创建和管理功能会受到限制。组建集群时有几个参数需要留意集群名称后续所有存储资源的归属标识尽量起得有意义别用什么 test123。节点角色有些版本支持区分存储节点和元数据节点规划时提前想清楚。管理 IP 段集群内部通信的基础如果节点间 ping 不通初始化大概率失败先回到网络规划这一步。2.4 aDeploy 检测工具装完别急着用先体检集群初始化完成后手册提到了使用 aDeploy 工具进行检测。这个工具本质上是安装部署阶段的自检程序用来确认系统环境、硬件兼容性、网络连通性都满足运行要求。很多现场人员装完系统就直接创建存储池结果跑了两天发现某个节点磁盘指示灯异常这时候再排查就晚了。aDeploy 检测的重点包括节点间网络连通性、磁盘健康状态、RAID 卡模式、系统分区空间、时间同步状态。检测结果会以列表形式给出每一项的状态有问题的项目会标记为失败或警告。我的习惯是凡是检测失败的项目必须解决完再继续尤其是时间不同步和网卡速率不一致这两项往往是后续存储池性能异常和节点离线的隐患。3. 存储池与文件存储创建容量型和高性能块存储池怎么选3.1 容量型通用存储池 vs 高性能块存储池aStor-EDS 的存储池创建在手册第四章被明确分成「创建容量型通用存储池」和「创建高性能块存储池」两类。这两类池的底层设计逻辑不同选错会影响整个存储集群的性能和容量规划。容量型通用存储池通常基于 HDD 加 SSD 缓存的混合架构适合 NFS、CIFS、FTP 这类文件存储也适合对象存储。它的特点是容量密度高、每 TB 成本低性能靠 SSD 缓存加速热点数据。如果你主要做备份归档、视频监控数据存放、文件共享优先选这一类。高性能块存储池一般要求全闪或者高比例 SSD用于承载数据库、虚拟机磁盘这类对 IOPS 和时延敏感的业务。创建时需要注意磁盘组的划分方式尽量让每个节点的 SSD 和 HDD 比例保持均衡避免出现某个节点成为性能短板。手册里虽然没有给具体 RAID 策略但分布式存储的条带化逻辑决定了节点间磁盘容量差异过大会浪费空间。创建存储池时界面上会要求选择数据冗余策略。aStor-EDS 常见的是多副本机制比如 2 副本或 3 副本。副本数越高数据越安全但可用容量按比例下降。2 副本模式下10TB 裸容量实际可用只有 5TB 左右3 副本就更低。这里要算清楚账再决定别等业务上线了才发现容量不够。3.2 NFS 文件存储从共享目录到权限配置创建 NFS 文件存储的核心步骤是先创建文件存储再配置共享目录最后设置目录权限。NFS 共享的权限控制分为两个层面一是共享目录本身对客户端的权限读写还是只读二是目录所属用户和用户组的文件系统权限。配置文件存储目录权限时界面会要求指定管理员用户、用户组并设置不同用户的访问权限。这里有一个常见的需求场景多个 Linux 服务器要挂载同一个 NFS 共享但不同服务器的写入权限要求不一样。aStor-EDS 的 NFS 配置支持按 IP 或网段来区分客户端权限比如 192.168.1.0/24 网段可读写其他网段只读。NFS 客户端挂载时常用的命令如下这部分属于客户端侧的操作手册第五章也有说明mount -t nfs -o vers4,rsize1048576,wsize1048576,hard,timeo600,retrans2 192.168.10.10:/nfs_share /mnt/eds_nfs参数说明vers4指定 NFS 协议版本EDS 同时支持 NFSv3 和 NFSv4生产环境建议用 v4rsize和wsize设置为 1MB 可以提升大文件传输性能但如果网络质量差导致丢包重传反而会触发性能抖动需要结合网络状况调整hard表示 NFS 挂载在网络恢复后会自动重连业务侧表现为卡顿而不是 IO 错误具体选 hard 还是 soft 要看业务对数据一致性的要求。如果现场是数据库类应用建议 hard如果是批量拷贝任务soft 加了timeo参数反而更容易超时中断。3.3 CIFS 与 FTP 文件存储Windows 共享和跨平台传输CIFS 文件存储主要给 Windows 客户端用配置逻辑和 NFS 类似但权限模型不同。CIFS 需要配置共享目录、允许访问的用户或用户组以及共享级别权限。windows 客户端访问时在资源管理器地址栏输入\\192.168.10.10\share_name即可。这里有个容易踩的坑CIFS 的认证方式默认是本地认证但如果企业里有 AD 域环境需要先完成 AD 域认证配置手册 5.4 节否则域用户无法直接访问共享目录。FTP 文件存储的配置相对独立主要是创建 FTP 用户、指定 FTP 根目录、配置读写权限。实际场景中FTP 协议一般用于对接旧的业务系统或第三方设备做数据归档。创建 FTP 共享时建议把匿名访问关掉避免数据泄露风险。另外FTP 默认是明文传输手册里也提到可以配置虚拟 IP 池来区分不同业务使用的出口 IP但真正要安全传输还是建议走 FTPS 或者换 NFS/CIFS。3.4 虚拟 IP 池多协议共享的流量入口虚拟 IP 池这部分容易被忽略但它其实决定了多协议共享能否真正落地。创建 NFS、CIFS、FTP 文件存储之后客户端要访问存储服务必须通过虚拟 IP 而不是直接访问某个节点的物理 IP。原因很简单分布式存储中共享目录可能分布在多个节点上节点故障时虚拟 IP 会漂移到健康节点客户端无感知。配置虚拟 IP 池时需要规划一个独立的 IP 网段并且保证这些 IP 和存储节点管理 IP 不在同一个 VLAN 网段内。每创建一个文件存储或对象存储都可以指定使用虚拟 IP 池中的哪些 IP。这样客户端访问192.168.10.10这个虚拟 IP实际上由集群中的某个节点实时响应节点宕机后虚拟 IP 自动漂移共享路径不发生变化。生产环境做双交换机冗余时虚拟 IP 池最好均匀分布在两台交换机上避免单台交换机故障导致所有业务 IP 不可用。从运维角度看虚拟 IP 池的设计要留余量。比如你有 20 个 NFS 共享目录别只规划 5 个虚拟 IP因为每个虚拟 IP 可以承载多个共享但遇到客户端数量极多、并发连接高的场景IP 数量不够会导致连接数集中在一个节点上形成热点。4. 对象存储与块存储从 Bucket 生命周期到 iSCSI 接入4.1 对象存储用户、Bucket 与 QoS 配置对象存储的创建流程第一步是创建对象存储用户。这个用户用于后续连接对象存储时的鉴权相当于发放 AccessKey 和 SecretKey。创建用户后下一步是创建 Bucket也就是存放对象的容器。aStor-EDS 的对象存储兼容 S3 接口所以用第三方 S3 工具如 s3cmd、AWS CLI连接时endpoint 指向 EDS 的虚拟 IP 即可。创建 Bucket 时可以设置访问权限比如私有读写、公共读等。这里建议默认全部私有需要公开访问的通过 Bucket Policy 单独放开。对象存储 QoS 设置是针对单个用户或单个 Bucket 的带宽和请求数限制生产环境里如果多个部门共用一套 EDS 对象存储QoS 非常有用——防止某个部门跑数据迁移任务时把整个存储集群的带宽打满。4.2 对象生命周期管理与多数据中心对象生命周期管理是 aStor-EDS 对象存储的一个重要功能它允许你定义对象的保留策略和过期删除策略。比如日志类数据规定 30 天后自动删除或者 90 天后从标准存储转低频存储不需要脚本定时去清理全部下沉到存储侧。多数据中心功能则是针对容灾场景支持在多个站点之间做数据的异步复制。手册里写了三种操作站点计划内切换、站点故障切换、部署容灾站点。计划内切换适用于机房搬迁或设备维护切换过程会先同步增量数据再切换尽量做到业务无损故障切换则是在主站点宕机的情况下强制切到灾备站点可能会丢最近一段时间的增量数据这种场景在容灾设计时要明确 RPO 指标。4.3 块存储iSCSI 服务端配置与 LUN 创建块存储的创建逻辑和文件存储、对象存储完全不同。先要在 EDS 上配置 iSCSI 服务端然后创建服务器即 iSCSI 发起方最后创建虚拟卷LUN并映射给服务器。虚拟卷创建时有两个关键参数容量大小和存储池类型。容量大小决定了 LUN 的上限存储池类型决定性能——数据库场景选高性能块存储池备份场景选容量型池即可。LUN 映射的操作本质上是把某个 LUN 授权给某个服务器。服务器用 iSCSI Initiator 连接 EDS 后在系统里看到的是一块新磁盘可以格式化、分区、创建文件系统。这里有一个容易被忽略的细节iSCSI 多路径。生产环境强烈建议配 Multipath把两个业务网口的链路做链路聚合这样单条网线故障不会中断业务。4.4 客户端接入Linux、Windows、HCI、VMware手册第七章详细展开了四种客户端接入方式。Linux 客户端通过 iscsi-initiator-utils 连接目标端步骤是先发现目标再登录最后在/dev/disk/by-path/下找到新磁盘设备。Windows 客户端直接用系统自带的 iSCSI 发起程序输入 EDS 的虚拟 IP 即可。HCI 添加块存储是指深信服超融合平台作为客户端接入 EDS把 EDS 的 LUN 作为虚拟存储资源提供给超融合平台使用。VMware 则是在 vCenter 里添加 iSCSI 软件适配器然后把 EDS 的 LUN 作为数据存储挂载给虚拟机。从运维视角看VMware 接入 EDS 是最常见的生产场景。在 VMware 端配置 iSCSI 软件适配器之后要确保 ESXi 主机能 ping 通 EDS 的虚拟 IP否则适配器发现目标时会出现超时。添加完成后VMware 会显示一个未格式化的磁盘需要新建 VMFS 数据存储。这个操作完成后虚拟机就可以放在 EDS 存储上运行了。5. 数据保护实战快照、快照策略与一致性组快照5.1 创建快照与快照策略文件存储、块存储都支持数据保护。最基础的操作是创建快照记录某个时间点的数据状态用于误删恢复和版本回滚。手动创建快照适合临时保护长期自动保护需要依赖快照策略。aStor-EDS 的快照策略支持按天、按周设置执行周期同时可以设置保留份数比如保留最近 7 份快照超过自动清理。块存储的快照恢复和快照克隆是两个不同的操作恢复是用某份快照覆盖当前数据克隆则是基于快照创建一块新的独立磁盘。生产环境做克隆前要确认自己的场景恢复会丢快照之后的新数据克隆不会影响原数据。这个差别很容易被忽略建议操作前把业务侧确认清楚。5.2 一致性组快照多 LUN 的原子保护一致性组快照用于同时保护多个 LUN 的数据一致性。典型场景是数据库数据文件在 LUN1日志文件在 LUN2单独对每个 LUN 打快照没有任何意义——因为两个快照的创建时间点不同恢复后数据库会处于数据文件和日志不匹配的状态直接起不来。一致性组快照保证所有 LUN 的快照在同一个时间点生成恢复后数据库一致性没问题。创建一致性组快照之前需要先把要保护的多个 LUN 加入同一个一致性组。之后可以手动拍一致性组快照也可以为一致性组配置快照策略实现定时自动保护。克隆一致性快照组则用于快速生成一套完整的业务环境比如测试环境要和生产环境保持完全一致的数据状态就可以用一致性组克隆来实现。5.3 文件存储的回收站与审计日志文件存储部分手册单独用一整节讲回收站分别对应 NFS 共享、CIFS 共享、FTP 共享。回收站的作用是给文件共享加一道后悔药——用户在共享目录里删除文件后文件不是立即从磁盘上消失而是进入回收站保留一段时间管理员可以在回收站里找到并恢复。NFS 共享的回收站回收策略、CIFS 共享的回收站机制、FTP 共享的回收站配置各有不同配置时要注意保留期限和回收站容量上限否则回收站无限增长会吃掉存储空间。文件审计日志则用于记录对共享目录的所有操作包括创建、删除、修改、重命名等。这个功能对等保合规场景很重要也多用于追溯异常删除行为。生产环境建议至少开启关键文件共享的审计日志日志集中存储到独立的目录或外部日志平台。6. 避坑手册集群初始化、授权激活与快照恢复的常见翻车点6.1 集群初始化失败节点间通信检测不通过现象组建集群时系统提示节点间通信检测失败具体报错为某个节点无法访问。原因最常见的两个原因——管理 IP 不在同一网段或者交换机端口隔离了 Vlan。也有一些情况是节点防火墙没关导致集群通信端口被拦截。解决先把各节点的管理 IP 用静态路由方式打通直接互相 ping 管理 IP 和业务 IP。确认网络通畅后再检查交换机端口配置是否 mode trunk/access 正确。EDS 节点之间的通信端口需要放行具体端口可以查 aDeploy 检测日志不要凭感觉放直接把检测失败的日志拉出来看。防火墙方面安装 EDS 的节点建议关闭系统防火墙或者放行内部通信网段。6.2 授权激活不生效存储池创建入口置灰现象集群组建完成后进入存储池创建页面发现创建按钮是灰色不可点击状态。原因手册里明确写了授权激活是独立的一步但很多文档读者在初始化时跳过了这一步。可能是手头暂时没有授权文件或者授权文件导入后提示格式错误。解决先检查集群管理界面的授权状态。如果显示未授权需要导入正式的授权文件。如果导入后仍然置灰确认授权文件的产品版本是 EDS 3.0.5版本不匹配会导致授权文件无法识别。授权激活成功后再刷新页面存储池创建入口就会正常开放。6.3 快照恢复后数据丢失业务侧报错现象对块存储 LUN 做快照恢复后业务系统提示数据文件不存在或数据库起不来。原因快照恢复是覆盖式操作会把当前 LUN 的数据回滚到快照时间点快照之后写入的新数据全部丢失。如果没注意快照创建时间或者没有提前备份当前数据恢复完成后就会丢数据。另外多个 LUN 之间如果有关联单独恢复一个 LUN 会导致数据不一致。解决恢复前先和业务方确认今天恢复窗口内是否有增量数据。如果有先做一次当前 LUN 的克隆或安全快照再执行恢复。涉及到数据库多 LUN 场景直接用一致性组快照批量恢复不要逐台操作。从那以后我每次做快照恢复都强制走一遍「克隆当前状态——确认业务侧快照时间点——再恢复」三步不再凭手速办工单。希望帮到你。6.4 NFS 共享挂载后写入性能低现象NFS 客户端挂载 EDS 共享目录后小文件写入速度很慢大文件写入尚可。原因NFS 默认挂载参数里rsize和wsize如果太小比如 64KB小文件随机写会频繁产生网络交互。EDS 侧的多节点数据冗余也会在小文件写入时产生较多的内部同步流量。解决把rsize和wsize调整为 1MB同时使用noatime参数关闭访问时间更新减少元数据操作。如果业务是小文件密集场景建议在 EDS 侧创建存储池时把 SSD 缓存比例调高。6.5 对象存储连接时提示 AccessKey 无效现象使用 S3 工具连接 EDS 对象存储时提示 AccessKey 或 SecretKey 无效。原因用户创建对象存储用户后需要将 AccessKey 和 SecretKey 配置到客户端工具中。如果用户不小心复制了多余的空格或者误将其他用户的密钥填到这里都会导致鉴权失败。解决在 EDS 管理界面重新生成一对新的 AccessKey/SecretKey并按正确的格式配置到客户端。配置完建议用 curl 做一次简单的列举 Bucket 测试确认能够通过 S3 API 正常访问。7. 收尾的一个关键技巧把 aDeploy 检测和快照策略固化成运维基线7.1 固定检测节奏别等到故障才翻手册aStor-EDS 这套产品架构上天然支持分布式扩展但运维复杂度不比传统存储低。我最开始接触 EDS 时也是边看手册边踩坑后来把手册里的关键操作提炼成一套固定动作每次硬件变更或版本升级后必须跑一次 aDeploy 检测。磁盘故障、网卡降速、节点时间漂移这些都是分布式存储的常见隐患靠巡检脚本配合 aDeploy 输出日志基本能提前发现。如果你是这个产品的新手建议把你现场环境对应的检测项目、快照策略、回收站保留周期做成一张表放到值班文档里。后续每次操作时先对照表确认当前状态再执行变更。这张表就是你对这个产品最实际的运维积累。7.2 用快照策略兜底给数据保护上双保险数据保护方面强烈建议对每个生产 LUN 和重要 NFS 共享都配置快照策略保留份数设置为 7 份周期选择每天一次。快照策略只能防误删防不了介质故障所以有条件的场景要配合多数据中心做异步复制。手册里提到的多数据中心站点切换流程建议至少在测试环境完整演练一遍包括计划内切换和故障切换。从那以后我每次交付 EDS 项目都会把「aDeploy 检测通过 快照策略已配置 回收站已开启」作为验收三件套不满足这三项不允许业务上线。这个习惯是从一次快照恢复事故里学到的教训经历过一次就知道了。希望帮到你。本文还有配套的精品资源点击获取
返回列表