Neste artigo
- O fim do acesso SSH nos pipelines do Slack
- Por que o SSH se tornou um gargalo operacional
- Como a migração foi estruturada na prática
- 1. Uso de Apache Hadoop YARN Distributed Shell
- 2. Abordagem incremental e validação
- O futuro das operações em escala
- O que motivou a troca do SSH pelo REST no Slack?
- Como eles lidaram com jobs que usavam shell script?
- Qual o benefício da arquitetura REST para os jobs?
O fim do acesso SSH nos pipelines do Slack
O Slack concluiu recentemente uma modernização expressiva em sua infraestrutura de dados, eliminando o uso de conexões SSH para a execução de jobs no Amazon EMR. Em um movimento estratégico que impactou mais de 700 operadores do Airflow, a empresa migrou seus fluxos de trabalho para uma camada de orquestração baseada em APIs REST, chamada internamente de Quarry.
Essa mudança marca uma evolução necessária para escalar operações complexas sem comprometer a segurança ou a estabilidade dos sistemas.
Historicamente, muitas organizações adotam o SSH em pipelines por ser uma forma rápida de prototipar conexões entre o orquestrador (como o Airflow) e os nós mestres do cluster. Contudo, essa facilidade inicial traz desafios severos à medida que a empresa cresce, incluindo a dificuldade de auditoria, riscos de segurança com chaves de acesso e falhas silenciosas de execução. Ao centralizar a submissão de jobs, o Slack reduziu drasticamente sua superfície de ataque e otimizou a governança sobre oito regiões globais de dados.
Por que o SSH se tornou um gargalo operacional
O uso de conexões SSH diretas para gerenciar clusters de produção cria uma dependência de rede que, em escala, torna-se insustentável. Para engenheiros que lidam com pipelines críticos, como indexação de busca e analytics, qualquer instabilidade na conexão entre o cliente e o cluster resultava em jobs que falhavam sem diagnósticos claros ou, pior, que continuavam rodando de forma zumbi sem controle centralizado.
Além da confiabilidade, a segurança foi o principal motivador para a mudança. A necessidade de distribuir, gerenciar e rotacionar chaves SSH em centenas de nós gera um overhead operacional imenso e abre brechas para acesso indevido.
Em ambientes corporativos, a rastreabilidade é inegociável, e a arquitetura via REST permitiu ao Slack implementar logging estruturado e métricas centralizadas, garantindo total visibilidade sobre quem executa o quê e em qual momento.
O que voce precisa saber:
A transição de SSH para REST não apenas resolveu riscos de segurança, mas também expôs gargalos de infraestrutura anteriormente mascarados, como configurações de memória no YARN e lacunas de rede entre contas na nuvem.
Como a migração foi estruturada na prática
Migrar mais de 700 jobs sem gerar downtime exigiu uma abordagem incremental e cuidadosa. O desafio técnico não se resumiu apenas a trocar o protocolo de comunicação, mas a adaptar diferentes tipos de workloads. Enquanto jobs de Spark e Hive já contavam com interfaces nativas como Livy ou HiveServer2, workloads que dependiam de comandos arbitrários de shell precisaram de uma solução específica.
1. Uso de Apache Hadoop YARN Distributed Shell
Para suportar comandos shell legados, a equipe utilizou o Distributed Shell do Hadoop YARN. Essa ferramenta permite executar comandos dentro de containers gerenciados, garantindo que o job tenha isolamento de recursos e tolerância a falhas, algo que o SSH puro jamais conseguiria entregar de forma padronizada.
2. Abordagem incremental e validação
A migração ocorreu em três trimestres, com o uso de dashboards do Airflow para monitorar quais operadores ainda dependiam de conexões legadas. Essa visibilidade permitiu que o time de engenharia atuasse em frentes específicas de deprecation, garantindo que cada ambiente (desenvolvimento, staging e produção) fosse validado antes da remoção definitiva do acesso SSH.
O futuro das operações em escala
A nova arquitetura baseada em REST não é apenas uma melhoria pontual, mas a base para evoluções futuras, como a preparação de workloads de Spark para rodar em Kubernetes. Ao desacoplar o Airflow da infraestrutura do EMR, o Slack ganha a flexibilidade necessária para atualizar componentes sem quebrar pipelines de dados, um passo fundamental para manter a agilidade em um cenário de alta demanda.
Para o desenvolvedor brasileiro que atua em times de DevOps, Data Engineering ou Cloud Architecture, o caso do Slack serve como um lembrete valioso sobre a importância de combater a dívida técnica antes que ela se torne um impeditivo de escala. Às vezes, o caminho mais curto hoje é o que vai exigir o maior esforço de reconstrução amanhã.
Perguntas frequentes
O que motivou a troca do SSH pelo REST no Slack?
A principal motivação foi a segurança e a necessidade de escalabilidade. O SSH criava uma grande superfície de ataque, exigia gestão complexa de chaves e dificultava a auditoria e a observabilidade dos jobs em produção, além de ser propenso a falhas de conexão.
Como eles lidaram com jobs que usavam shell script?
O Slack utilizou o Apache Hadoop YARN Distributed Shell. Isso permitiu que comandos shell fossem executados de forma isolada dentro de containers, oferecendo melhor controle de recursos e tolerância a falhas em comparação com a execução direta via terminal SSH.
Qual o benefício da arquitetura REST para os jobs?
A adoção de APIs REST permitiu um ciclo de vida de job gerenciado pelo servidor: submissão, monitoramento via ID e cancelamento controlado. Isso elimina a dependência da conexão do cliente, melhora a centralização das métricas e facilita a manutenção do sistema.