草庐IT

Minio

惰立 2023-05-21 原文

文章目录

1.概述

MinIO 是在 GNU Affero 通用公共许可证 v3.0 下发布的高性能对象存储。它与 Amazon S3 云存储服务 API 兼容。使用 MinIO 为机器学习、分析和应用程序数据工作负载构建高性能基础架构。

官方文档：https://docs.min.io/
中文文档：http://docs.minio.org.cn/docs/
GitHub 地址：https://github.com/minio/minio

特点：

  • 数据保护——分布式 Minio 采用 纠删码来防范多个节点宕机和位衰减 bit rot。分布式 Minio 至少需要 4 个硬盘，使用分布式 Minio 自动引入了纠删码功能。
  • 高可用——单机 Minio 服务存在单点故障，相反，如果是一个有 N 块硬盘的分布式 Minio,只要有 N/2 硬盘在线，你的数据就是安全的。不过你需要至少有 N/2+1 个硬盘来创建新的对象。

例如，一个 16 节点的 Minio 集群，每个节点 16 块硬盘，就算 8 台服務器宕机，这个集群仍然是可读的，不过你需要 9 台服務器才能写数据。

【温馨提示】只要遵守分布式 Minio 的限制，你可以组合不同的节点和每个节点几块硬盘。比如，你可以使用 2 个节点，每个节点 4 块硬盘，也可以使用 4 个节点，每个节点两块硬盘，诸如此类。

  • 一致性——Minio 在分布式和单机模式下，所有读写操作都严格遵守 read-after-write 一致性模型。

MinIO 的优点如下：

  • 部署简单，一个二进制文件（minio）即是一切，还可以支持各种平台
  • 支持海量存储，可以按 zone 扩展，支持单个对象最大 5TB
  • 低冗余且磁盘损坏高容忍，标准且最高的数据冗余系数为 2(即存储一个 1M 的数据对象，实际占用磁盘空间为 2M)。但在任意 n/2 块 disk 损坏的情况下依然可以读出数据(n 为一个纠删码集合中的 disk 数量)。并且这种损坏恢复是基于单个对象的，而不是基于整个存储卷的
  • 读写性能优异

2.基础概念

  • S3——Simple Storage Service，简单存储服务，这个概念是 Amazon 在 2006 年推出的，对象存储就是从那个时候诞生的。S3 提供了一个简单 Web 服务接口，可用于随时在 Web 上的任何位置存储和检索任何数量的数据。

  • Object——存储到 Minio 的基本对象，如文件、字节流，Anything…

  • Bucket——用来存储 Object 的逻辑空间。每个 Bucket 之间的数据是相互隔离的。

  • Drive——部署 Minio 时设置的磁盘，Minio 中所有的对象数据都会存储在 Drive 里。

  • Set——一组 Drive 的集合，分布式部署根据集群规模自动划分一个或多个 Set ，每个 Set 中的 Drive 分布在不同位置。

    • 一个对象存储在一个 Set 上
    • 一个集群划分为多个 Set
    • 一个 Set 包含的 Drive 数量是固定的，默认由系统根据集群规模自动计算得出
    • 一个 SET 中的 Drive 尽可能分布在不同的节点上

Set /Drive 的关系

  • Set /Drive 这两个概念是 MINIO 里面最重要的两个概念，一个对象最终是存储在 Set 上面的。
  • Set 是另外一个概念，Set 是一组 Drive 的集合，图中，所有蓝色、橙色背景的 Drive（硬盘）的就组成了一个 Set。

3.纠删码（Erasure Code）

纠删码（Erasure Code）简称 EC，是一种数据保护方法，它将数据分割成片段，把冗余数据块扩展、编码，并将其存储在不同的位置，比如磁盘、存储节点或者其它地理位置。

  • 纠删码是一种恢复丢失和损坏数据的数学算法，目前，纠删码技术在分布式存储系统中的应用主要有三类，阵列纠删码（Array Code: RAID5、RAID6 等）、RS(Reed-Solomon)里德-所罗门类纠删码和LDPC(LowDensity Parity Check Code)低密度奇偶校验纠删码。
  • Erasure Code 是一种编码技术，它可以将 n 份原始数据，增加 m 份校验数据，并能通过 n+m 份中的任意 n 份原始数据，还原为原始数据。
  • 即如果有任意小于等于 m 份的校验数据失效，仍然能通过剩下的数据还原出来。
  • Minio 采用 Reed-Solomon code 将对象拆分成 N/2 数据和 N/2 奇偶校验块。
  • 在同一集群内，MinIO 自己会自动生成若干纠删组（Set），用于分布存放桶数据。一个纠删组中的一定数量的磁盘发生的故障（故障磁盘的数量小于等于校验盘的数量），通过纠删码校验算法可以恢复出正确的数据。

4.部署模式

4.1 单主机，单硬盘

该模式下，Minio 只在一台服务器上搭建服务，且数据都存在单块磁盘上，该模式存在单点风险，主要用作开发、测试等使用

4.2 单主机，多硬盘

该模式下，Minio 在一台服务器上搭建服务，但数据分散在多块（大于 4 块）磁盘上，提供了数据上的安全保障。

4.3 多主机，多硬盘（分布式）

该模式是 Minio 服务最常用的架构，通过共享一个 access_key 和 secret_key,在多台服务器上搭建服务，且数据分散在多块（大于 4 块，无上限）磁盘上，提供了较为强大的数据冗余机制（Reed-Solomon 纠删码）。

5.部署

5.1 Minio–单机

minio-server

点击下载： minio 

# 下载二进制文件
cd /usr/local/bin/ && wget https://dl.min.io/server/minio/release/linux-amd64/minio && chmod +x minio
# 创建目录
mkdir -p /data/minio && touch /data/minio/minio.log
# 设置ak、sk
export MINIO_ACCESS_KEY=minioadmin
export MINIO_SECRET_KEY=minioadmin
# 启动
nohup minio server --address 172.10.10.10:9005 --console-address 172.10.10.10:9006 /data/minio > /data/minio/minio.log 2>&1 &

minio-client

点击下载：mc

# 下载二进制文件
cd /usr/local/bin/ && wget https://dl.min.io/client/mc/release/linux-amd64/mc && chmod +x mc
# 查看 mc 版本
mc version

minio-client 命令

ls       列出文件和文件夹
mb       创建一个存储桶或一个文件夹
cat      显示文件和对象内容
pipe     将一个STDIN重定向到一个对象或者文件或者STDOUT
share    生成用于共享的URL
cp       拷贝文件和对象
mirror   给存储桶和文件夹做镜像
find     基于参数查找文件
diff     对两个文件夹或者存储桶比较差异
rm       删除文件和对象
events   管理对象通知
watch    监听文件和对象的事件
policy   管理访问策略
session  为cp命令管理保存的会话
config   管理mc配置文件
update   检查软件更新
version  输出版本信息

config

config host 命令提供了一个方便地管理~/.mc/config.json配置文件中的主机信息的方式，也可以用文本编辑器手动修改这个配置文件

用法：
  mc config host COMMAND [COMMAND FLAGS | -h] [ARGUMENTS...]

COMMANDS:
  add, a      添加一个新的主机到配置文件
  remove, rm  从配置文件中删除一个主机
  list, ls    列出配置文件中的主机

FLAGS:
  --help, -h                       显示帮助

添加 server 节点，名称为 minio1

# 添加server，名称为minio1 (shell的history特性可能会记录这些信息，从而带来安全隐患。在bash shell,使用set -o和set +o来关闭和开启history特性)
set +o history
mc config host add minio1 http://192.168.0.220:9005 minioadmin minioadmin --api s3v4
set -o history

mb

创建存储桶。MinIO对每个用户创建的存储桶数量没有限制。 在Amazon S3上，每个帐户被限制为100个存储桶

用法：
   mc mb [FLAGS] TARGET [TARGET...]

FLAGS:
  --help, -h                   显示帮助
  --region "us-east-1"         指定存储桶的region，默认是‘us-east-1’

在 minio1 上创建一个名为“bucket”的存储桶

mc mb minio1/bucket

ls

列出存储桶、对象

用法：
   mc ls [FLAGS] TARGET [TARGET ...]

FLAGS:
  --help, -h               显示帮助
  --recursive, -r          递归
  --incomplete, -I         列出未完整上传的对象

列出 minio1 所有桶

mc ls minio1

列出 minio1 上的存储桶 bucket 下的文件

mc ls minio1/bucket/

cp

拷贝本地的一个或多个源文件到对象存储。所有到对象存储的拷贝操作都进行了MD4SUM checkSUM校验。可以从故障点恢复中断或失败的复制操作

用法：
   mc cp [FLAGS] SOURCE [SOURCE...] TARGET
FLAGS:
  --help, -h               显示帮助
  --recursive, -r          递归拷贝

拷贝一个本地文件 test.txt 到 minio1/bucket

mc cp test.txt minio1/bucket/

pipe

pipe到对象。pipe命令拷贝stdin里的内容到目标输出，如果没有指定目标输出，则输出到stdout

用法：
   mc pipe [FLAGS] [TARGET]

FLAGS:
  --help, -h                    显示帮助

将MySQL数据库dump文件输出到Amazon S3

mysqldump -u root -p ******* accountsdb | mc pipe s3/sql-backups/backups/accountsdb-oct-9-2015.sql

rm

删除文件对象或存储桶

用法：
   mc rm [FLAGS] TARGET [TARGET ...]

FLAGS:
  --help, -h            显示帮助
  --recursive, -r       递归删除
  --force               强制执行删除操作
  --prefix              删除批配这个前缀的对象
  --incomplete, -I      删除未完整上传的对象
  --fake                模拟一个假的删除操作
  --stdin               从STDIN中读对象列表
  --older-than value    删除N天前的对象（默认是0天）

删除 minio1 下的 bucket 桶

mc rm minio1/bucket

删除 minio1 下的 bucket 桶中的 test.txt 文件

mc rm minio1/bucket/test.txt

递归删除 minio1 下的 bucket 桶中的所有内容

mc rm --recursive --force minio1/bucket/

从 bucket 里删除未完整上传的对象

mc rm  --incomplete --recursive --force minio1/bucket/

删除1天前的对象

mc rm --force --older-than=1 minio1/bucket/

5.2 Minio–分布式

环境准备

HostnameIPData_DirDiskSystem
learn-1192.168.0.109/minio/data{1,2,3,4}sd{b,c,d,e}CentOS 7.6
learn-2192.168.0.110/minio/data{1,2,3,4}sd{b,c,d,e}CentOS 7.6
learn-3192.168.0.111/minio/data{1,2,3,4}sd{b,c,d,e}CentOS 7.6
learn-4192.168.0.112CentOS 7.6

【温馨提示】磁盘大小必须>1G，这里我添加的是 4*2G 的盘

下载

cd /usr/local/bin/ && wget https://dl.min.io/server/minio/release/linux-amd64/minio && chmod +x minio
minio -version

磁盘初始化

# 不重启，直接刷新磁盘数据总线，获取新加的磁盘
for host in $(ls /sys/class/scsi_host) ; do echo "- - -" > /sys/class/scsi_host/$host/scan; done
# 查看磁盘
fdisk -l
# 格式化
mkfs.ext4 /dev/sdb
mkfs.ext4 /dev/sdc
mkfs.ext4 /dev/sdd
mkfs.ext4 /dev/sde
# 分别在三个节点上创建存储目录
mkdir -p /minio/data{1,2,3,4}
# 挂载
mount /dev/sdb /minio/data1
mount /dev/sdc /minio/data2
mount /dev/sdd /minio/data3
mount /dev/sde /minio/data4

配置

Minio 默认9000端口，在配置文件中加入–address “127.0.0.1:9029” 可更改端口

  • MINIO_ACCESS_KEY：用户名，长度最小是 5 个字符
  • MINIO_SECRET_KEY：密码，密码不能设置过于简单，不然 minio 会启动失败，长度最小是 8 个字符
  • –config-dir：指定集群配置文件目录
  • –address：api 的端口，默认是9000
  • --console-address ：web 端口，默认随机

编写启动脚本（/minio/run.sh）

#!/bin/bash
# 创建日志存储路径
if [ ! -d "/minio/logs" ];then
  mkdir -p /minio/logs
fi
# 创建配置目录
if [ ! -d "//minio/minio" ];then
  mkdir -p /minio/minio
fi

# 设置ak、sk
export MINIO_ROOT_USER=minioadmin
export MINIO_ROOT_PASSWORD=minioadmin

# 在三台机器上都执行该文件，即以分布式的方式启动了MINIO
# --address "0.0.0.0:9005" 挂载9001端口为api端口（如Java客户端）访问的端口
# --console-address ":9006" 挂载9000端口为web端口；
minio server --address 0.0.0.0:9005 --console-address 0.0.0.0:9006 --config-dir /minio/minio \
http://192.168.0.109/minio/data1 \
http://192.168.0.109/minio/data2 \
http://192.168.0.109/minio/data3 \
http://192.168.0.109/minio/data4 \
http://192.168.0.110/minio/data1 \
http://192.168.0.110/minio/data2 \
http://192.168.0.110/minio/data3 \
http://192.168.0.110/minio/data4 \
http://192.168.0.111/minio/data1 \
http://192.168.0.111/minio/data2 \
http://192.168.0.111/minio/data3 \
http://192.168.0.111/minio/data4 > /minio/logs/minio_server.log

【温馨提示】下面脚本复制时 \ 后不要有空格，还有就是上面的目录是对应的一块磁盘，而非简单的在/minio/data 目录下创建四个目录，要不然会报如下错误，看提示以为是 root 权限问题。part of root disk, will not be used (*errors.errorString)

启动服务

# 在三台机器上都执行该文件，即以分布式的方式启动了MINIO
sh /minio/run.sh

添加或修改 minio.service，通过 systemctl 启停服务（推荐）

  • WorkingDirectory：二进制文件目录
  • ExecStart：指定集群启动脚本
# 如果使用rpm安装，minio.service就会自动生成，只要修改就行
cat > /usr/lib/systemd/system/minio.service <<EOF
[Unit]
Description=Minio service
Documentation=https://docs.minio.io/
After=network.target

[Service]
Type=forking
ExecStart=/minio/run.sh

Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target
EOF

修改文件权限

chmod +x /minio/run.sh

启动集群

 #重新加载服务
systemctl daemon-reload
#启动服务
systemctl start minio
#加入自启动
systemctl enable minio

访问 MinIO，三个节点都可以访问
http://192.168.0.109:9006
http://192.168.0.110:9006
http://192.168.0.111:9006

账号密码：minioadmin/minioadmin

使用nginx负载均衡

  • learn-4 192.168.0.112

安装nginx

# 安装nginx
yum install epel-release -y
yum install nginx -y
systemctl start nginx
systemctl status nginx
systemctl enable nginx

配置

vi  /etc/nginx/conf.d/minio.conf

upstream minio_api {
    server 192.168.0.109:9005;
    server 192.168.0.110:9005;
    server 192.168.0.111:9005;
}

upstream minio_console {
    server 192.168.0.109:9006;
    server 192.168.0.110:9006;
    server 192.168.0.111:9006;
}

server{
    listen       9005;
    server_name  192.168.0.112;

    ignore_invalid_headers off;
    client_max_body_size 0;
    proxy_buffering off;

    location / {
        proxy_set_header   X-Forwarded-Proto $scheme;
        proxy_set_header   Host              $http_host;
        proxy_set_header   X-Real-IP         $remote_addr;

        proxy_connect_timeout 300;
        proxy_http_version 1.1;
        chunked_transfer_encoding off;
        proxy_ignore_client_abort on;

        proxy_pass http://minio_api;
    }
}

server{
    listen       9006;
    server_name  192.168.0.112;

    ignore_invalid_headers off;
    client_max_body_size 0;
    proxy_buffering off;

    location / {
        proxy_set_header   X-Forwarded-Proto $scheme;
        proxy_set_header   Host              $http_host;
        proxy_set_header   X-Real-IP         $remote_addr;

        proxy_connect_timeout 300;
        proxy_http_version 1.1;
        chunked_transfer_encoding off;
        proxy_ignore_client_abort on;

        proxy_pass http://minio_console;
    }
}

重启nginx

# 检查配置文件
nginx -t
# 重启
nginx -s reload
# 或者
systemctl daemon-reload && systemctl restart nginx

浏览器访问

http://192.168.0.112:9006/

minio客户端（mc）

  • MinIO Client mc 命令行工具为 UNIX 命令（如 ls、cat、cp、mirror 和）提供了一种现代替代方案，并 diff 支持文件系统和兼容 Amazon S3 的云存储服务。
  • mc 命令行工具是为与 AWS S3 API 兼容而构建的，并针对预期的功能和行为测试了 MinIO 和 AWS S3。
  • MinIO 不为其他与 S3 兼容的服务提供任何保证，因为它们的 S3 API 实现是未知的，因此不受支持。虽然 mc 命令可以按文档说明工作，但任何此类使用都需要您自担风险。

下载

cd /usr/local/bin/ && wget https://dl.min.io/client/mc/release/linux-amd64/mc && chmod +x mc

添加 minio 存储服务

# 明文输入
mc config host add minio http://192.168.0.112:9005 minioadmin minioadmin

# 密文输入（推荐）
mc config host add minio http://192.168.0.112:9005
Enter Access Key: minioadmin
Enter Secret Key: minioadmin

测试

# 获取已配置别名 “ minio ” 的MinIO服务器信息
mc admin info minio

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Ry0p3Nrw-1661679165613)(…/AppData/Roaming/Typora/typora-user-images/image-20220828171653508.png)]

更多示例操作，可以参考官方文档：http://docs.minio.org.cn/docs/master/minio-admin-complete-guide

任何此类使用都需要您自担风险。

下载

cd /usr/local/bin/ && wget https://dl.min.io/client/mc/release/linux-amd64/mc && chmod +x mc

添加 minio 存储服务

# 明文输入
mc config host add minio http://192.168.0.112:9005 minioadmin minioadmin

# 密文输入（推荐）
mc config host add minio http://192.168.0.112:9005
Enter Access Key: minioadmin
Enter Secret Key: minioadmin

测试

# 获取已配置别名 “ minio ” 的MinIO服务器信息
mc admin info minio

更多示例操作，可以参考官方文档：http://docs.minio.org.cn/docs/master/minio-admin-complete-guide

Miniospanclasstoken大数据java数据库

有关Minio的更多相关文章

  1. python 连接配置SSL证书的Minio服务 - 2

    python连接配置SSL证书的Minio服务1.需求我配置好了ssl证书给Minio服务，如何使用pythonAPI访问呢？很多同学使用以下代码连接时会报错的importminioMINIO_CONF={'endpoint':'10.0.0.2:9000','access_key':'gdzs','secret_key':'gdzs','secure':True}client=minio.Minio(**MINIO_CONF)------------------报错信息：urllib3.exceptions.MaxRetryError:HTTPSConnectionPool(host='10

  2. Helm部署minio\nginx\mongodb\elasticsearch - 2

    minioappVersion:2022-06-25chartVersion:11.7.7一、独立模式auth:auth:rootPassword:"12345678rtt"#密码长度需>=8位rootUser:"root"mode:standalone#默认为单机模式persistence:storageClass:minio-data#存储类，必填size:8Giservice:type:NodePort#暴露端口port:9000nodePort:31311二、分布式模式auth:auth:rootPassword:"12345678rtt"#密码长度需>=8位rootUser:"roo

  3. go - 如何在 Minio SDK 中设置 Content-MD5 header 以上传到 IBM Cloud Object Storage？ - 2

    当我使用MinioGolangSDK将文件上传到S3时，我试图设置Content-MD5header。我可以在不设置Content-MD5的情况下成功将文件上传到AWS，但上传到IBMCloudObjectStorage失败并出现以下错误:ERR:Objectwritefailed,reason:Missingrequiredheaderforthisrequest:Content-MD5根据MinioSDK，https://docs.minio.io/docs/golang-client-api-reference#FPutObject我使用minio.PutObjectOption

  4. go - 如何使用 minio-go api 从 s3 存储桶中获取按最后修改时间戳排序的对象列表？ - 2

    我浏览了minio-go-api.的文档但是没有得到任何解决方案，因为对象是根据字母顺序排序的。一种hack方式，将首先读取所有对象，然后从每个对象中获取最后修改日期并形成新列表，这对于生产根本不可行 最佳答案 @SiddhantaRath，处理此问题的一种方法是使用mc工具。命令mcfind--newer和mcfind--older将处理此问题。但在内部，它会执行listObjects并为您进行排序。另一种方法是订阅通知并确保数据库中有一个已上传对象的列表。 关于go-如何使用mini

  5. elasticsearch7.17 与minio集成，并快照备份与恢复 - 2

    elasticsearch7.6以支持一、monio1、部暑miniomkdir-p/data/minio/{data,config}cat>/data/minio/start.sh'EOF'dockerrun-d\-p9000:9000\-p9001:9001\--nameminio\--restart=always\-e"MINIO_ROOT_USER=admin"\-e"MINIO_ROOT_PASSWORD=admin123456"\-e"MINIO_PROMETHEUS_AUTH_TYPE=public"\-v/data/minio/data:/data/minio/data\-v/

  6. 多集群thanos sidecar+MinIO监控告警实践 - 2

    环境简介项目环境为保障业务高可用，业务使用了多个网络运营商的机房线路，每个机房均部署一套k8s环境，故而有多个k8s集群，每个k8s集群环境上运行的服务基本一致。原来监控体系存在以下问题：配置管理混乱先前使用Prometheus-operator部署管理监控告警，但是每个集群存在个别差异，导致每次调整告警时需要逐个修改集群配置，创建ServiceMonitor对象，才能完成Prometheus监控项添加。操作较为繁琐，没有统一管理。无法统一查询每个集群部署一套Prometheus，当需要查询数据时，只能在特定集群的Prometheus上查询数据。或者在grafana创建多个Prometheus

  7. 初识MINIO及springboot整合minio - 2

    一、minio简介minio是一款高性能、分布式的对象存储系统。minio一开始就是针对性能要求更高的私有云标准进行软件架构设计的，所以它采用了更易用的方式进行设计，它实现对象存储所需要的全部功能，在性能上也更加强劲，更易用、高效。二、特性1.高性能MinIO是全球领先的对象存储先锋，目前在全世界有数百万的用户.在标准硬件上，读/写速度上高达183GB/秒和171GB/秒。对象存储可以充当主存储层，以处理Spark、Presto、TensorFlow、H2O.ai等各种复杂工作负载以及成为HadoopHDFS的替代品。MinIO用作云原生应用程序的主要存储，与传统对象存储相比，云原生应用程序需

  8. minio分片上传 - 2

    oss文件服务一、前言​Minio是一个对象存储服务OSS(ObjectStorageService)。是⼀种海量、安全、低成本、⾼可靠的云存储服务。本身的应用的并不复杂。但是Minio的APi在对于大于5m的文件，自动采用了分片上传，它的分片上传我们无法得知上传的分片后的序号，也就是说，没上传一个分片，我们都需要自己去记录已上传分片的序号。这将导致一个文件一个文件分片5个，那么同样还需要调用5次后端接口去记录这5个分片的信息。这个无疑大大浪费了性能，且无法做到并发上传。​因此基于Minio的javaAPI,我们采用另一种方案去替代。二、初步流程：前端服务进行大文件分片处理，将分片信息传递给文

  9. Minio基本使用(Java) - 2

    1Minio简介MinIO是一个基于ApacheLicensev2.0开源协议的对象存储服务。它兼容亚马逊S3云存储服务接口，非常适合于存储大容量非结构化的数据，例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等，而一个对象文件可以是任意大小，从几kb到最大5T不等。官方地址https://min.io/1.1支持非结构化的数据存储1.2分布式部署分布式Minio可以让你将多块硬盘（甚至在不同的机器上）组成一个对象存储服务。由于硬盘分布在不同的节点上，分布式Minio避免了单点故障。在大数据领域，通常的设计理念都是无中心和分布式。Minio分布式模式可以帮助你搭建一个高可用的对象存储服务，

  10. MinIO未授权SSRF漏洞复现(CVE-2021-21287) - 2

    1、漏洞简介MinIO是一款基于Go语言发开的高性能、分布式的对象存储系统。客户端支持Java,Net,Python,Javacript,Golang语言。由于MinIO组件中LoginSTS接口设计不当，导致存在服务器端请求伪造漏洞。攻击者可以通过构造URL来发起服务器端请求伪造攻击成功利用此漏洞的攻击者能够通过利用服务器上的功能来读取、更新内部资源或执行任意命令。2、影响版本MinIO3、漏洞分析MinIO组件中LoginSTS接口其实是AWSSTS登录接口的一个代理，用于将发送到JsonRPC的请求转变成STS的方式转发给本地的9000端口。由于逻辑设计不当，MinIO会将用户发送的HT

随机推荐