cephx
Um bloco é uma sequência de bytes. Por exemplo, um bloco de dados de 4 MB. As interfaces de armazenamento com base em blocos são a maneira mais comum para armazenar dados com mídia rotativa, como discos rígidos, CDs e disquetes. A onipresença de interfaces de dispositivo de blocos faz do dispositivo de blocos virtual o candidato ideal para interagir com um sistema de armazenamento de dados em massa, como o Ceph.
Os dispositivos de blocos do Ceph permitem o compartilhamento de recursos físicos e são redimensionáveis. Eles armazenam dados distribuídos por vários OSDs em um cluster do Ceph. Os dispositivos de blocos do Ceph aproveitam os recursos do RADOS, como criação de instantâneos, replicação e consistência. Os Dispositivo de Blocos RADOS (RBD) do Ceph interagem com os OSDs usando os módulos do kernel ou a biblioteca librbd
.
Os dispositivos de blocos do Ceph oferecem alto desempenho com escalabilidade infinita aos módulos do kernel. Eles suportam soluções de virtualização, como QEMU, ou sistemas de computação com base em nuvem, como OpenStack, que utilizam a libvirt
. Você pode usar o mesmo cluster para operar o Object Gateway, o CephFS e os Dispositivos de Blocos RADOS simultaneamente.
O comando rbd
permite criar, listar, avaliar e remover imagens de dispositivo de blocos. Você também pode usá-lo, por exemplo, para clonar imagens, criar instantâneos, voltar uma imagem para um instantâneo ou ver um instantâneo.
Antes que você possa adicionar um dispositivo de blocos a um cliente, precisa criar uma imagem relacionada em um pool existente (consulte o Capítulo 11, Gerenciando pools de armazenamento):
cephadm@adm >
rbd create --size MEGABYTES POOL-NAME/IMAGE-NAME
Por exemplo, para criar uma imagem de 1 GB denominada “myimage” que armazena informações em um pool chamado “mypool”, execute o seguinte:
cephadm@adm >
rbd create --size 1024 mypool/myimage
Se você omitir um atalho de unidade de tamanho (“G” ou “T”), o tamanho da imagem será em megabytes. Use “G” ou “T” após o número do tamanho para especificar gigabytes ou terabytes.
A partir do SUSE Enterprise Storage 5, é possível armazenar dados de uma imagem de dispositivo de blocos diretamente em pools com codificação de eliminação (EC, Erasure Coded). A imagem de um Dispositivo de Blocos RADOS consiste nas partes de dados e metadados. Você pode armazenar apenas a parte de "dados" da imagem de um Dispositivo de Blocos RADOS em um pool com EC. O pool precisa ter o flag “overwrite” (sobregravar) definido como true (verdadeiro), e isso apenas será possível se todos os OSDs em que o pool é armazenado usarem o BlueStore.
Você não pode armazenar a parte de "metadados" da imagem em um pool com EC. Você precisa especificar o pool replicado para armazenar os metadados da imagem com a opção --pool=
do comando rbd create
.
Use as seguintes etapas para criar uma imagem RBD em um pool com EC recém-criado:
cephadm@adm >
ceph
osd pool create POOL_NAME 12 12 erasurecephadm@adm >
ceph
osd pool set POOL_NAME allow_ec_overwrites true #Metadata will reside in pool "OTHER_POOL", and data in pool "POOL_NAME"cephadm@adm >
rbd
create IMAGE_NAME --size=1G --data-pool POOL_NAME --pool=OTHER_POOL
Para listar os dispositivos de blocos em um pool chamado “mypool”, execute o seguinte:
cephadm@adm >
rbd ls mypool
Para recuperar as informações de uma imagem “myimage” em um pool chamado “mypool”, execute o seguinte:
cephadm@adm >
rbd info mypool/myimage
As imagens de Dispositivo de Blocos RADOS são aprovisionadas dinamicamente, elas não usam nenhum armazenamento físico até você começar a gravar dados nelas. No entanto, elas têm uma capacidade máxima que você define com a opção --size
. Para aumentar (ou diminuir) o tamanho máximo da imagem, execute o seguinte:
cephadm@adm >
rbd resize --size 2048 POOL_NAME/IMAGE_NAME # to increasecephadm@adm >
rbd resize --size 2048 POOL_NAME/IMAGE_NAME --allow-shrink # to decrease
Para remover um dispositivo de blocos correspondente a uma imagem “myimage” no pool chamado “mypool”, execute o seguinte:
cephadm@adm >
rbd rm mypool/myimage
Após criar um Dispositivo de Blocos RADOS, você poderá usá-lo como qualquer outro dispositivo de disco: formatá-lo, montá-lo para poder trocar arquivos e desmontá-lo depois de concluído.
Verifique se o cluster do Ceph inclui um pool com a imagem do disco que você deseja mapear. Considere o pool chamado mypool
e a imagem myimage
.
cephadm@adm >
rbd list mypool
Mapeie a imagem para um novo dispositivo de blocos.
cephadm@adm >
rbd map --pool mypool myimage
Para especificar um nome de usuário, utilize --id user-name
. Se você usa a autenticação do cephx
, também precisa especificar um segredo. Ele pode vir de um chaveiro ou de um arquivo que contém o segredo:
cephadm@adm >
rbd map --pool rbd myimage --id admin --keyring /path/to/keyring
ou
cephadm@adm >
rbd map --pool rbd myimage --id admin --keyfile /path/to/file
Liste todos os dispositivos mapeados:
cephadm@adm >
rbd showmapped
id pool image snap device
0 mypool myimage - /dev/rbd0
O dispositivo no qual desejamos trabalhar é /dev/rbd0
.
Em vez do /dev/rbdDEVICE_NUMBER
, você pode usar /dev/rbd/POOL_NAME/IMAGE_NAME
como o caminho de um dispositivo persistente. Por exemplo:
/dev/rbd/mypool/myimage
Crie um sistema de arquivos XFS no dispositivo /dev/rbd0
.
root #
mkfs.xfs /dev/rbd0
log stripe unit (4194304 bytes) is too large (maximum is 256KiB)
log stripe unit adjusted to 32KiB
meta-data=/dev/rbd0 isize=256 agcount=9, agsize=261120 blks
= sectsz=512 attr=2, projid32bit=1
= crc=0 finobt=0
data = bsize=4096 blocks=2097152, imaxpct=25
= sunit=1024 swidth=1024 blks
naming =version 2 bsize=4096 ascii-ci=0 ftype=0
log =internal log bsize=4096 blocks=2560, version=2
= sectsz=512 sunit=8 blks, lazy-count=1
realtime =none extsz=4096 blocks=0, rtextents=0
Monte o dispositivo e verifique se ele foi montado corretamente. Substitua /mnt
pelo ponto de montagem.
root #
mount /dev/rbd0 /mntroot #
mount | grep rbd0 /dev/rbd0 on /mnt type xfs (rw,relatime,attr2,inode64,sunit=8192,...
Agora, você pode mover os dados de e para o dispositivo como se ele fosse um diretório local.
Se você acha que o tamanho do dispositivo RBD não é mais suficiente, pode aumentá-lo com facilidade.
Aumente o tamanho da imagem RBD. Por exemplo, até 10 GB.
cephadm@adm >
rbd resize --size 10000 mypool/myimage
Resizing image: 100% complete...done.
Expanda o sistema de arquivos para preencher o novo tamanho do dispositivo.
root #
xfs_growfs /mnt
[...]
data blocks changed from 2097152 to 2560000
Após terminar de acessar o dispositivo, você poderá anular o mapeamento e desmontá-lo.
cephadm@adm >
rbd unmap /dev/rbd0root #
unmount /mnt
Como o mapeamento e a montagem manuais de imagens RBD após a inicialização, e a desmontagem e a anulação do mapeamento antes do encerramento, podem ser desgastantes, um script rbdmap
e uma unidade systemd
são fornecidos. Consulte a Seção 12.2.1, “rbdmap: Mapear dispositivos RBD no momento da inicialização”.
rbdmap
é um script de shell que automatiza as operações rbd map
e rbd unmap
em uma ou mais imagens RBD. Embora você possa executar o script manualmente a qualquer momento, a principal vantagem é mapear e montar automaticamente as imagens RBD no momento da inicialização (e desmontar e anular o mapeamento no encerramento), conforme acionado pelo sistema Init. Um arquivo da unidade systemd
, rbdmap.service
, está incluído no pacote ceph-common
para essa finalidade.
O script aplica um único argumento, que pode ser map
ou unmap
. Em qualquer um dos casos, o script analisa um arquivo de configuração. Ele assume como padrão /etc/ceph/rbdmap
, mas pode ser anulado por meio de uma variável de ambiente RBDMAPFILE
. Cada linha do arquivo de configuração corresponde a uma imagem RBD que será mapeada ou que terá o mapeamento anulado.
O arquivo de configuração tem o seguinte formato:
image_specification rbd_options
image_specification
Caminho para uma imagem em um pool. Especifique como nome_do_pool/nome_da_imagem.
rbd_options
Uma lista opcional de parâmetros a serem passados para o comando rbd map
subjacente. Esses parâmetros e seus valores devem ser especificados como uma string separada por vírgula. Por exemplo:
PARAM1=VAL1,PARAM2=VAL2,...
O exemplo faz com que o script rbdmap
execute o seguinte comando:
cephadm@adm >
rbd map POOL_NAME/IMAGE_NAME --PARAM1 VAL1 --PARAM2 VAL2
No exemplo a seguir, você pode ver como especificar um nome de usuário e um chaveiro com um segredo correspondente:
cephadm@adm >
rbdmap map mypool/myimage id=rbd_user,keyring=/etc/ceph/ceph.client.rbd.keyring
Quando executado como rbdmap map
, o script analisa o arquivo de configuração e, para cada imagem RBD especificada, ele tenta primeiro mapear a imagem (usando o comando rbd map
) e, na sequência, montar a imagem.
Quando executado como rbdmap unmap
, as imagens listadas no arquivo de configuração serão desmontadas e o mapeamento delas será anulado.
rbdmap unmap-all
tenta desmontar e, na sequência, anular o mapeamento de todas as imagens RBD mapeadas, independentemente de estarem listadas no arquivo de configuração.
Se bem-sucedida, a operação rbd map mapeia a imagem para um dispositivo /dev/rbdX e, nesse ponto, uma regra udev é acionada para criar um link simbólico do nome do dispositivo amigável /dev/rbd/nome_do_pool/nome_da_imagem
apontando para o dispositivo real mapeado.
Para que a montagem e a desmontagem sejam bem-sucedidas, o nome “amigável” do dispositivo precisa ter uma entrada correspondente em /etc/fstab
. Ao gravar entradas /etc/fstab
em imagens RBD, especifique a opção de montagem “noauto” (ou “nofail”). Isso impede que o sistema Init tente montar o dispositivo com muita antecedência, antes mesmo de ele existir, pois rbdmap.service
é normalmente acionado mais adiante na sequência de boot.
Para obter uma lista de opções rbd
, consulte a página de manual do rbd
(man 8 rbd
).
Para ver exemplos de uso do rbdmap
, consulte a página de manual do rbdmap
(man 8 rbdmap
).
Se você acha que o tamanho do dispositivo RBD não é mais suficiente, pode aumentá-lo com facilidade.
Aumente o tamanho da imagem RBD. Por exemplo, até 10 GB.
cephadm@adm >
rbd resize --size 10000 mypool/myimage
Resizing image: 100% complete...done.
Expanda o sistema de arquivos para preencher o novo tamanho do dispositivo.
root #
xfs_growfs /mnt
[...]
data blocks changed from 2097152 to 2560000
Um instantâneo RBD é aquele de uma imagem do Dispositivo de Blocos RADOS. Com os instantâneos, você pode manter o histórico de estado da imagem. O Ceph também suporta camadas de instantâneo, o que permite clonar imagens de VM de forma rápida e fácil. O Ceph suporta instantâneos de dispositivo de blocos usando o comando rbd
e muitas interfaces de nível mais alto, incluindo QEMU, libvirt
, OpenStack e CloudStack.
Pare as operações de entrada e saída e descarregue todas as gravações pendentes antes de criar o instantâneo de uma imagem. Se a imagem tiver um sistema de arquivos, o estado dele deverá ser consistente no momento da criação do instantâneo.
Quando o cephx
está habilitado, você deve especificar um nome de usuário ou ID e um caminho para o chaveiro que contém a chave correspondente para o usuário. Consulte o Capítulo 8, Autenticação com cephx
para obter mais detalhes. É possível também adicionar a variável de ambiente CEPH_ARGS
para evitar uma nova entrada dos parâmetros a seguir.
cephadm@adm >
rbd --id user-ID --keyring=/path/to/secret commandscephadm@adm >
rbd --name username --keyring=/path/to/secret commands
Por exemplo:
cephadm@adm >
rbd --id admin --keyring=/etc/ceph/ceph.keyring commandscephadm@adm >
rbd --name client.admin --keyring=/etc/ceph/ceph.keyring commands
Adicione o usuário e o segredo à variável de ambiente CEPH_ARGS
para que você não precise digitá-los toda vez.
Os procedimentos a seguir demonstram como criar, listar e remover instantâneos usando o comando rbd
na linha de comando.
Para criar um instantâneo com rbd
, especifique a opção snap create
, o nome do pool e o nome da imagem.
cephadm@adm >
rbd --pool pool-name snap create --snap snap-name image-namecephadm@adm >
rbd snap create pool-name/image-name@snap-name
Por exemplo:
cephadm@adm >
rbd --pool rbd snap create --snap snapshot1 image1cephadm@adm >
rbd snap create rbd/image1@snapshot1
Para listar os instantâneos de uma imagem, especifique o nome do pool e o nome da imagem.
cephadm@adm >
rbd --pool pool-name snap ls image-namecephadm@adm >
rbd snap ls pool-name/image-name
Por exemplo:
cephadm@adm >
rbd --pool rbd snap ls image1cephadm@adm >
rbd snap ls rbd/image1
Para voltar a um instantâneo com rbd
, especifique a opção snap rollback
, o nome do pool, o nome da imagem e o nome do instantâneo.
cephadm@adm >
rbd --pool pool-name snap rollback --snap snap-name image-namecephadm@adm >
rbd snap rollback pool-name/image-name@snap-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 snap rollback --snap snapshot1 image1cephadm@adm >
rbd snap rollback pool1/image1@snapshot1
Voltar uma imagem para um instantâneo significa sobregravar a versão atual da imagem com os dados de um instantâneo. O tempo necessário para executar um rollback aumenta de acordo com o tamanho da imagem. É mais rápido clonar de um instantâneo do que voltar uma imagem para um instantâneo, e é o método preferencial para reverter a um estado preexistente.
Para apagar um instantâneo com rbd
, especifique a opção snap rm
, o nome do pool, o nome da imagem e o nome de usuário.
cephadm@adm >
rbd --pool pool-name snap rm --snap snap-name image-namecephadm@adm >
rbd snap rm pool-name/image-name@snap-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 snap rm --snap snapshot1 image1cephadm@adm >
rbd snap rm pool1/image1@snapshot1
Os Ceph OSDs apagam dados de forma assíncrona, portanto, apagar um instantâneo não libera o espaço em disco imediatamente.
Para apagar todos os instantâneos de uma imagem com rbd
, especifique a opção snap purge
e o nome da imagem.
cephadm@adm >
rbd --pool pool-name snap purge image-namecephadm@adm >
rbd snap purge pool-name/image-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 snap purge image1cephadm@adm >
rbd snap purge pool1/image1
O Ceph permite criar vários clones de cópia em gravação (COW, Copy-On-Write) de um instantâneo de dispositivo de blocos. As camadas de instantâneo permitem que os clientes de dispositivo de blocos do Ceph criem imagens muito rapidamente. Por exemplo, você pode criar uma imagem de dispositivo de blocos com uma VM Linux gravada nela e, em seguida, capturar um instantâneo da imagem, proteger o instantâneo e criar quantos clones de cópia em gravação desejar. Um instantâneo é apenas leitura, portanto, sua clonagem simplifica a semântica, possibilitando criar clones rapidamente.
Os termos “pai” e “filho” mencionados nos exemplos de linha de comando a seguir indicam um instantâneo de dispositivo de blocos do Ceph (pai) e a imagem correspondente clonada do instantâneo (filho).
Cada imagem clonada (filho) armazena uma referência à imagem pai, o que permite que a imagem clonada abra o instantâneo pai e o leia.
Um clone COW de um instantâneo funciona exatamente como qualquer outra imagem de dispositivo de blocos do Ceph. Você pode ler, gravar, clonar e redimensionar imagens clonadas. Não há nenhuma restrição especial em relação às imagens clonadas. No entanto, o clone de cópia em gravação de um instantâneo refere-se ao instantâneo. Sendo assim, você deve proteger o instantâneo antes de cloná-lo.
--image-format 1
Não Suportado
Você não pode criar instantâneos de imagens criadas com a opção rbd create --image-format 1
descontinuada. O Ceph suporta apenas a clonagem de imagens no formato 2 padrão.
As camadas de dispositivo de blocos do Ceph são um processo simples. Você deve ter uma imagem. Você deve criar um instantâneo da imagem. Você deve proteger o instantâneo. Após executar essas etapas, você poderá iniciar a clonagem do instantâneo.
A imagem clonada tem uma referência ao instantâneo pai e inclui os IDs do pool, da imagem e do instantâneo. A inclusão do ID do pool significa que você pode clonar instantâneos de um pool para imagens em outro pool.
Gabarito de Imagem: Um caso de uso comum para camadas de dispositivo de blocos é criar uma imagem master e um instantâneo que serve como gabarito para os clones. Por exemplo, um usuário pode criar uma imagem para uma distribuição Linux (por exemplo, SUSE Linux Enterprise Server) e criar um instantâneo para ela. Periodicamente, o usuário pode atualizar a imagem e criar um novo instantâneo (por exemplo, zypper ref && zypper patch
seguido por rbd snap create
). Durante a maturação da imagem, o usuário pode clonar qualquer um dos instantâneos.
Gabarito Estendido: Um caso de uso mais avançado inclui estender a imagem de um gabarito que fornece mais informações do que uma imagem de base. Por exemplo, um usuário pode clonar uma imagem (um gabarito de VM) e instalar outro software (por exemplo, um banco de dados, um sistema de gerenciamento de conteúdo ou um sistema de análise) e, em seguida, capturar um instantâneo da imagem estendida que, por si só, pode ser atualizada da mesma forma que a imagem de base.
Pool de Gabarito: Uma maneira de usar as camadas de dispositivo de blocos é criar um pool que contém imagens master que atuam como gabaritos e instantâneos desses gabaritos. Em seguida, você pode estender os privilégios apenas leitura aos usuários para que eles possam clonar os instantâneos sem a capacidade de gravação ou execução no pool.
Migração/Recuperação de Imagens: Uma maneira de usar as camadas de dispositivo de blocos é migrar ou recuperar os dados de um pool para outro.
Os clones acessam os instantâneos pai. Todos os clones serão destruídos se um usuário apagar o instantâneo pai por engano. Para evitar a perda de dados, você precisa proteger o instantâneo antes de cloná-lo.
cephadm@adm >
rbd --pool pool-name snap protect \ --image image-name --snap snapshot-namecephadm@adm >
rbd snap protect pool-name/image-name@snapshot-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 snap protect --image image1 --snap snapshot1cephadm@adm >
rbd snap protect pool1/image1@snapshot1
Você não pode apagar um instantâneo protegido.
Para clonar um instantâneo, você precisa especificar o pool pai, a imagem, o instantâneo, o pool filho e o nome da imagem. Você precisa proteger o instantâneo antes de cloná-lo.
cephadm@adm >
rbd clone --pool pool-name --image parent-image \ --snap snap-name --dest-pool pool-name \ --dest child-imagecephadm@adm >
rbd clone pool-name/parent-image@snap-name \ pool-name/child-image-name
Por exemplo:
cephadm@adm >
rbd clone pool1/image1@snapshot1 pool1/image2
Você pode clonar um instantâneo de um pool para uma imagem em outro pool. Por exemplo, você pode manter as imagens e os instantâneos apenas leitura como gabaritos em um pool e os clones graváveis em outro pool.
Antes de apagar um instantâneo, você deve anular a proteção dele. Além disso, você não pode apagar instantâneos com referências de clones. Você precisa nivelar cada clone de um instantâneo antes de apagar o instantâneo.
cephadm@adm >
rbd --pool pool-name snap unprotect --image image-name \ --snap snapshot-namecephadm@adm >
rbd snap unprotect pool-name/image-name@snapshot-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 snap unprotect --image image1 --snap snapshot1cephadm@adm >
rbd snap unprotect pool1/image1@snapshot1
Para listar os filhos de um instantâneo, execute o seguinte:
cephadm@adm >
rbd --pool pool-name children --image image-name --snap snap-namecephadm@adm >
rbd children pool-name/image-name@snapshot-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 children --image image1 --snap snapshot1cephadm@adm >
rbd children pool1/image1@snapshot1
As imagens clonadas mantêm uma referência ao instantâneo pai. Ao remover a referência do clone filho para o instantâneo pai, você “nivela” com eficiência a imagem copiando as informações do instantâneo para o clone. O tempo necessário para nivelar um clone aumenta de acordo com o tamanho do instantâneo. Para apagar um instantâneo, você deve primeiro nivelar as imagens filho.
cephadm@adm >
rbd --pool pool-name flatten --image image-namecephadm@adm >
rbd flatten pool-name/image-name
Por exemplo:
cephadm@adm >
rbd --pool pool1 flatten --image image1cephadm@adm >
rbd flatten pool1/image1
Como uma imagem nivelada contém todas as informações do instantâneo, ela ocupa mais espaço de armazenamento do que um clone em camadas.
É possível espelhar as imagens RBD de forma assíncrona entre dois clusters do Ceph. Essa funcionalidade usa o recurso de registro de imagens RBD em diário para garantir a replicação consistente com a falha entre os clusters. O espelhamento é configurado por pool nos clusters peer e pode ser configurado para espelhar automaticamente todas as imagens em um pool ou apenas um subconjunto específico de imagens. O espelhamento é configurado usando o comando rbd
. O daemon rbd-mirror
é responsável por capturar as atualizações da imagem do cluster peer remoto e aplicá-las à imagem no cluster local.
Para usar o espelhamento de RBD, você precisa ter dois clusters do Ceph, cada um executando o daemon rbd-mirror
.
Você não pode espelhar dispositivos RBD exportados por meio do iSCSI usando o iSCSI Gateway com base no kernel.
Consulte o Capítulo 18, Ceph iSCSI Gateway para obter mais detalhes sobre iSCSI.
Os dois daemons rbd-mirror
são responsáveis por observar os diários da imagem no cluster peer remoto e reproduzir os eventos do diário no cluster local. O recurso de registro de imagens RBD em diário registra todas as modificações feitas na imagem na ordem em que elas ocorrem. Isso garante que um espelho da imagem remota consistente com a falha esteja disponível localmente.
O daemon rbd-mirror
está disponível no pacote
rbd-mirror. Você pode instalar o pacote em nós OSD, nós do gateway ou até em nós dedicados. Não recomendamos a instalação do rbd-mirror no Nó de Admin. Instale, habilite e inicie o rbd-mirror:
root@minion >
zypper install rbd-mirrorroot@minion >
systemctl enable ceph-rbd-mirror@server_name.serviceroot@minion >
systemctl start ceph-rbd-mirror@server_name.service
Cada daemon rbd-mirror
requer conexão com os dois clusters simultaneamente.
Os procedimentos a seguir demonstram como executar as tarefas administrativas básicas para configurar o espelhamento usando o comando rbd
. O espelhamento é configurado por pool nos clusters do Ceph.
Você precisa executar as etapas de configuração do pool em ambos os clusters peer. Estes procedimentos consideram a existência de dois clusters, chamados "local" e "remote", acessíveis de um único host, por motivos de clareza.
Consulte a página de manual do rbd
(man 8 rbd
) para obter mais detalhes sobre como se conectar a diferentes clusters do Ceph.
O nome do cluster nos exemplos a seguir corresponde a um arquivo de configuração do Ceph de mesmo nome /etc/ceph/remote.conf
.
Para habilitar o espelhamento em um pool, especifique o subcomando mirror pool enable
, o nome do pool e o modo de espelhamento. O modo de espelhamento pode ser pool ou image:
Todas as imagens no pool com o recurso de registro em diário habilitado são espelhadas.
O espelhamento precisa ser habilitado explicitamente em cada imagem. Consulte a Seção 12.4.3.2, “Habilitar o espelhamento de imagem” para obter mais informações.
Por exemplo:
cephadm@adm >
rbd --cluster local mirror pool enable POOL_NAME poolcephadm@adm >
rbd --cluster remote mirror pool enable POOL_NAME pool
Para desabilitar o espelhamento em um pool, especifique o subcomando mirror pool disable
e o nome do pool. Quando o espelhamento é desabilitado dessa maneira em um pool, ele também é desabilitado em todas as imagens (no pool) para as quais ele foi explicitamente habilitado.
cephadm@adm >
rbd --cluster local mirror pool disable POOL_NAMEcephadm@adm >
rbd --cluster remote mirror pool disable POOL_NAME
Para que o daemon rbd-mirror
descubra seu cluster peer, o peer precisa ser registrado no pool. Para adicionar um cluster peer de espelhamento, especifique o subcomando mirror pool peer add
, o nome do pool e uma especificação do cluster:
cephadm@adm >
rbd --cluster local mirror pool peer add POOL_NAME client.remote@remotecephadm@adm >
rbd --cluster remote mirror pool peer add POOL_NAME client.local@local
Para remover um cluster peer de espelhamento, especifique o subcomando mirror pool peer remove
, o nome do pool e o UUID do peer (disponível no comando rbd mirror pool info
):
cephadm@adm >
rbd --cluster local mirror pool peer remove POOL_NAME \ 55672766-c02b-4729-8567-f13a66893445cephadm@adm >
rbd --cluster remote mirror pool peer remove POOL_NAME \ 60c0e299-b38f-4234-91f6-eed0a367be08
Diferentemente da configuração do pool, a configuração da imagem precisa apenas ser executada em um único cluster peer de espelhamento do Ceph.
As imagens RBD espelhadas são designadas como principais ou não principais. Essa é uma propriedade da imagem, e não do pool. Não é possível modificar as imagens designadas como não principais.
As imagens são automaticamente promovidas a principais quando o espelhamento é habilitado primeiro em uma imagem (seja implicitamente, se o modo de espelhamento do pool for “pool” e a imagem tiver o recurso de registro de imagens em diário habilitado, ou explicitamente (consulte a Seção 12.4.3.2, “Habilitar o espelhamento de imagem”) pelo comando rbd
).
O espelhamento de RBD usa o recurso de registro de RBD em diário para garantir que a imagem replicada permaneça sempre consistente com a falha. Antes de espelhar uma imagem para um cluster peer, o recurso de registro em diário deve ser habilitado. O recurso pode ser habilitado no momento da criação da imagem inserindo a opção --image-feature exclusive-lock,journaling
no comando rbd
.
Se preferir, o recurso de registro em diário pode ser habilitado dinamicamente nas imagens RBD preexistentes. Para habilitar o registro em diário, especifique o subcomando feature enable
, o nome do pool e da imagem e o nome do recurso:
cephadm@adm >
rbd --cluster local feature enable POOL_NAME/IMAGE_NAME journaling
O recurso de registro em diário
depende do recurso de bloqueio exclusivo
. Se o recurso de bloqueio exclusivo
ainda não estiver habilitado, você precisará habilitá-lo antes de habilitar o recurso de registro em diário
.
Por padrão, você pode habilitar o registro em diário em todas as imagens novas ao anexar o valor journaling
à opção rbd default features
no arquivo de configuração do Ceph. Por exemplo:
rbd default features = layering,exclusive-lock,object-map,deep-flatten,journaling
Antes de aplicar esse tipo de mudança, considere cuidadosamente se convém habilitar o registro em diário em todas as imagens novas para sua implantação, já que isso pode prejudicar o desempenho.
Se o espelhamento for configurado no modo “image”, será necessário habilitar explicitamente o espelhamento para cada imagem no pool. Para habilitar o espelhamento em determinada imagem, especifique o subcomando mirror image enable
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd --cluster local mirror image enable POOL_NAME/IMAGE_NAME
Para desabilitar o espelhamento em determinada imagem, especifique o subcomando mirror image disable
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd --cluster local mirror image disable POOL_NAME/IMAGE_NAME
Em um cenário de failover em que a designação principal precisa ser movida para a imagem no cluster peer, você precisa interromper o acesso à imagem principal, rebaixar a imagem principal atual, promover a nova imagem principal e continuar o acesso à imagem no cluster alternativo.
A promoção pode ser forçada usando a opção --force
. A promoção forçada é necessária quando o rebaixamento não pode ser propagado para o cluster peer (por exemplo, em caso de falha do cluster ou interrupção da comunicação). Isso resultará em um cenário de split-brain (dupla personalidade) entre os dois peers, e a imagem não será mais sincronizada até que um subcomando resync
seja emitido.
Para rebaixar determinada imagem para não principal, especifique o subcomando mirror image demote
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd --cluster local mirror image demote POOL_NAME/IMAGE_NAME
Para rebaixar todas as imagens principais em um pool para não principais, especifique o subcomando mirror pool demote
juntamente com o nome do pool:
cephadm@adm >
rbd --cluster local mirror pool demote POOL_NAME
Para promover determinada imagem para principal, especifique o subcomando mirror image promote
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd --cluster remote mirror image promote POOL_NAME/IMAGE_NAME
Para promover todas as imagens não principais em um pool para principais, especifique o subcomando mirror pool promote
juntamente com o nome do pool:
cephadm@adm >
rbd --cluster local mirror pool promote POOL_NAME
Como o status principal ou não principal refere-se a cada imagem, é possível ter dois clusters que dividem a carga de E/S e o failover ou failback por fase.
Se um evento de split-brain for detectado pelo daemon rbd-mirror
, ele não tentará espelhar a imagem afetada até o problema ser corrigido. Para continuar o espelhamento de uma imagem, primeiro rebaixe a imagem que foi identificada como desatualizada e, em seguida, solicite uma ressincronização com a imagem principal. Para solicitar a ressincronização de uma imagem, especifique o subcomando mirror image resync
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd mirror image resync POOL_NAME/IMAGE_NAME
O status de replicação do cluster peer é armazenado para cada imagem principal espelhada. Esse status pode ser recuperado usando os subcomandos mirror image status
e mirror pool status
:
Para solicitar o status da imagem de espelho, especifique o subcomando mirror image status
juntamente com o nome do pool e da imagem:
cephadm@adm >
rbd mirror image status POOL_NAME/IMAGE_NAME
Para solicitar o status do resumo do pool de espelhos, especifique o subcomando mirror pool status
juntamente com o nome do pool:
cephadm@adm >
rbd mirror pool status POOL_NAME
A adição da opção --verbose
ao subcomando mirror pool status
resultará também nos detalhes de status para cada imagem de espelhamento no pool.
A implementação do espaço de usuário do dispositivo de blocos do Ceph (librbd
) não pode se beneficiar do cache de página do Linux. Portanto, ela inclui seu próprio cache na memória. O cache RBD tem comportamento semelhante ao cache de disco rígido. Quando o OS envia uma solicitação de barreira ou descarga, todos os dados "modificados" são gravados nos OSDs. Isso significa que o uso do cache de write-back é tão seguro quanto o uso de um disco rígido físico de bom funcionamento com uma VM que envia descarregamentos apropriadamente. O cache usa um algoritmo menos utilizado recentemente (LRU, Least Recently Used) e, no modo write-back, ele pode fundir solicitações adjacentes para um melhor throughput.
O Ceph suporta cache de write-back para RBD. Para habilitá-lo, adicione
[client] ... rbd cache = true
à seção [client]
do arquivo ceph.conf
. Por padrão, o librbd
não executa armazenamento em cache. As gravações e leituras seguem diretamente para o cluster de armazenamento, e as gravações são retornadas apenas quando os dados estão no disco em todas as réplicas. Com o cache habilitado, as gravações são retornadas imediatamente, a menos que haja mais bytes descarregados do que o que foi definido na opção rbd cache max dirty
. Nesse caso, a gravação aciona write-back e blocos até que sejam descarregados bytes suficientes.
O Ceph suporta cache de write-through para RBD. Você pode definir o tamanho do cache, destinos e limites para alternar do cache de write-back para o cache de write-through. Para habilitar o modo write-through, defina:
rbd cache max dirty = 0
Isso significa que as gravações são retornadas apenas quando os dados estão no disco em todas as réplicas, mas as leituras podem vir do cache. O cache está na memória do cliente, e cada imagem RBD tem seu próprio cache. Como o cache é local ao cliente, não fará sentido se houver outras pessoas acessando a imagem. A execução do GFS ou OCFS no RBD não funcionará com o cache habilitado.
As configurações do arquivo ceph.conf
para o RBD devem ser definidas na seção [client]
do arquivo de configuração. As configurações incluem:
rbd cache
Habilitar o cache para Dispositivo de blocos RADOS (RBD, RADOS Block Device). O padrão é “true”.
rbd cache size
O tamanho do cache RBD em bytes. O padrão é 32 MB.
rbd cache max dirty
O limite de "modificação" em bytes em que o cache aciona o write-back. rbd cache max dirty
precisa ser inferior a rbd cache size
. Se definido como 0, usa o cache de write-through. O padrão é 24 MB.
rbd cache target dirty
O “destino de modificação” antes de o cache começar a gravar dados no armazenamento de dados. Não bloqueia as gravações para o cache. O padrão é 16 MB.
rbd cache max dirty age
Por quantos segundos os dados modificados permanecem no cache antes que o write-back seja iniciado. O padrão é 1.
rbd cache writethrough until flush
Comece no modo write-through e alterne para write-back depois de receber a primeira solicitação de descarregamento. A habilitação dessa configuração é conservadora, porém segura, caso as máquinas virtuais executadas no rbd
sejam muito antigas para enviar descarregamentos (por exemplo, o driver virtio no Linux antes do kernel 2.6.32). O padrão é “true”.
Em geral, a Qualidade do Serviço (QdS) refere-se aos métodos de priorização de tráfego e reserva de recursos. Ela é importante principalmente para o transporte de tráfego com requisitos especiais.
As seguintes configurações de QdS são usadas apenas pela implementação RBD librbd
do espaço de usuário, e não são usadas pela implementação kRBD
. Como o iSCSI usa o kRBD
, ele não usa as configurações de QdS. No entanto, para o iSCSI, você pode configurar a QdS na camada do dispositivo de blocos do kernel usando os recursos padrão do kernel.
rbd qos iops limit
O limite desejado das operações de E/S por segundo. O padrão é 0 (sem limite).
rbd qos bps limit
O limite desejado de bytes de E/S por segundo. O padrão é 0 (sem limite).
rbd qos read iops limit
O limite desejado das operações de leitura por segundo. O padrão é 0 (sem limite).
rbd qos write iops limit
O limite desejado das operações de gravação por segundo. O padrão é 0 (sem limite).
rbd qos read bps limit
O limite desejado de bytes de leitura por segundo. O padrão é 0 (sem limite).
rbd qos write bps limit
O limite desejado de bytes de gravação por segundo. O padrão é 0 (sem limite).
rbd qos iops burst
O limite de burst desejado das operações de E/S. O padrão é 0 (sem limite).
rbd qos bps burst
O limite de burst desejado de bytes de E/S. O padrão é 0 (sem limite).
rbd qos read iops burst
O limite de burst desejado das operações de leitura. O padrão é 0 (sem limite).
rbd qos write iops burst
O limite de burst desejado das operações de gravação. O padrão é 0 (sem limite).
rbd qos read bps burst
O limite de burst desejado de bytes de leitura. O padrão é 0 (sem limite).
rbd qos write bps burst
O limite de burst desejado de bytes de gravação. O padrão é 0 (sem limite).
rbd qos schedule tick min
O tique de horário mínimo (em milissegundos) para QdS. O padrão é 50.
O Dispositivo de Blocos RADOS suporta leitura com ajuda/pré-busca para otimizar pequenas leituras sequenciais. Isso costuma ser processado pelo OS convidado no caso de uma máquina virtual, mas os carregadores de boot talvez não emitam leituras suficientes. A leitura com ajuda será automaticamente desabilitada se o cache for desabilitado.
rbd readahead trigger requests
Número de solicitações de leitura sequenciais necessárias para acionar a leitura com ajuda. O padrão é 10.
rbd readahead max bytes
Tamanho máximo de uma solicitação de leitura com ajuda. Se definido como 0, a leitura com ajuda será desabilitada. O padrão é 512 KB.
rbd readahead disable after bytes
Após a leitura dessa quantidade de bytes de uma imagem RBD, a leitura com ajuda será desabilitada para essa imagem até ser fechada. Isso permite que o OS convidado controle a leitura com ajuda quando é inicializado. Se definido como 0, a leitura com ajuda permanecerá habilitada. O padrão é 50 MB.
O Dispositivo de Blocos RADOS suporta recursos avançados que melhoram a funcionalidade das imagens RBD. Você pode especificar os recursos na linha de comando ao criar uma imagem RBD ou no arquivo de configuração do Ceph usando a opção rbd_default_features
.
Você pode especificar os valores da opção rbd_default_features
de duas maneiras:
Como a soma dos valores internos dos recursos. Cada recurso tem seu próprio valor interno. Por exemplo, “layering” tem 1 e “fast-diff” tem 16. Portanto, para ativar esses dois recursos por padrão, inclua o seguinte:
rbd_default_features = 17
Como uma lista de recursos separada por vírgula. O exemplo anterior terá a seguinte aparência:
rbd_default_features = layering,fast-diff
As imagens RBD com os seguintes recursos não serão suportadas pelo iSCSI: deep-flatten
, object-map
, journaling
, fast-diff
, striping
Veja a seguir uma lista de recursos RBD avançados:
layering
As camadas (layering) permitem usar a clonagem.
O valor interno é 1, o padrão é “yes”.
striping
A distribuição difunde os dados por vários objetos e ajuda com paralelismo para cargas de trabalho de leitura/gravação sequenciais. Ele evita gargalos de nó único para Dispositivo de Blocos RADOS grandes ou ocupados.
O valor interno é 2, o padrão é “yes”.
exclusive-lock
Quando habilitado, ele requer que um cliente crie um bloqueio em um objeto antes de fazer uma gravação. Habilite o bloqueio exclusivo apenas quando um único cliente está acessando uma imagem ao mesmo tempo. O valor interno é 4. O padrão é “yes”.
object-map
O suporte ao mapa de objetos depende do suporte ao bloqueio exclusivo. Os dispositivos de blocos são aprovisionados dinamicamente, o que significa que eles apenas armazenam dados que realmente existem. O suporte ao mapa de objetos ajuda a monitorar os objetos que realmente existem (com dados armazenados em uma unidade). A habilitação do suporte ao mapa de objetos acelera as operações de E/S para clonagem, importação e exportação de uma imagem pouco preenchida, além da exclusão.
O valor interno é 8, o padrão é “yes”.
fast-diff
O suporte à comparação rápida (fast-diff) depende do suporte ao mapa de objetos e do suporte ao bloqueio exclusivo. Ele adiciona outra propriedade ao mapa de objetos, o que o torna muito mais rápido para gerar comparações entre instantâneos de uma imagem e o uso real dos dados de um instantâneo.
O valor interno é 16, o padrão é “yes”.
deep-flatten
O nivelamento profundo (deep-flatten) faz com que o rbd flatten
(consulte a Seção 12.3.3.6, “Nivelando uma imagem clonada”) funcione em todos os instantâneos de uma imagem, além da própria imagem. Sem ele, os instantâneos de uma imagem ainda dependerão do pai, portanto, você não poderá apagar a imagem pai até os instantâneos serem apagados. O deep-flatten torna um pai independente de seus clones, mesmo que eles tenham instantâneos.
O valor interno é 32, o padrão é “yes”.
journaling
O suporte ao registro em diário depende do suporte ao bloqueio exclusivo. O diário registra todas as modificações em uma imagem na ordem em que elas ocorrem. O espelhamento RBD (consulte a Seção 12.4, “Espelhamento”) usa o diário para replicar uma imagem consistente de falha para um cluster remoto.
O valor interno é 64, o padrão é “no”.
Clientes antigos (por exemplo, SLE11 SP4) podem não conseguir mapear imagens RBD porque um cluster implantado com o SUSE Enterprise Storage 6 força alguns recursos (no nível tanto da imagem RBD quanto do RADOS) que esses clientes antigos não suportam. Quando isso acontece, os registros do OSD mostram mensagens semelhantes às seguintes:
2019-05-17 16:11:33.739133 7fcb83a2e700 0 -- 192.168.122.221:0/1006830 >> \ 192.168.122.152:6789/0 pipe(0x65d4e0 sd=3 :57323 s=1 pgs=0 cs=0 l=1 c=0x65d770).connect \ protocol feature mismatch, my 2fffffffffff < peer 4010ff8ffacffff missing 401000000000000
Se você pretende alternar os tipos de compartimento de memória do Mapa CRUSH entre “straw” e “straw2”, faça um planejamento para isso. Espere um impacto significativo na carga do cluster, porque a mudança do tipo de compartimento de memória provoca uma redistribuição massiva do cluster.
Desabilite quaisquer recursos da imagem RBD que não sejam suportados. Por exemplo:
cephadm@adm >
rbd feature disable pool1/image1 object-mapcephadm@adm >
rbd feature disable pool1/image1 exclusive-lock
Mude os tipos de compartimento de memória do Mapa CRUSH de “straw2” para “straw”:
Grave o Mapa CRUSH:
cephadm@adm >
ceph osd getcrushmap -o crushmap.original
Descompile o Mapa CRUSH:
cephadm@adm >
crushtool -d crushmap.original -o crushmap.txt
Edite o Mapa CRUSH e substitua “straw2” por “straw”.
Recompile o Mapa CRUSH:
cephadm@adm >
crushtool -c crushmap.txt -o crushmap.new
Defina o novo Mapa CRUSH:
cephadm@adm >
ceph osd setcrushmap -i crushmap.new