Sírio-Libanês usa IA generativa AWS para reduzir em 99% o tempo de geração de relatórios

A instituição iniciou, em 2018, a migração de seus workloads para a nuvem AWS e, em 2020, colocou em operação o seu Centro de Excelência em Cloud (da sigla em inglês, CCoE), hoje sob a responsabilidade do coordenador de excelência operacional do hospital, Vitor Bellot. Além do Centro, o HSL também tem a prática de FinOps implementada, em um grau de maturidade que já permite a geração de relatórios de custo por paciente, com uma visão granular e com diferentes dimensões, e para os líderes dos squads, relatórios de custos por dimensões, por aplicativo etc.

Bellot lembra que, logo que assumiu o CCoE, em 2022, ele percebeu a complexidade de atender toda a instituição com uma equipe de engenheiros de cloud sempre em alta rotatividade, o que dificultava o fornecimento de informações e relatórios às demais áreas. “Nesse contexto, veio a ideia de criar um assistente virtual na nuvem, inicialmente com automações com chat ou integrados a uma plataforma de mensageria”, lembra. Como a equipe não contava com desenvolvedores dedicados na época, a ideia acabou congelada por algum tempo.

O executivo lembra que, no início de 2024, o boom da inteligência artificial generativa chegou em um momento em que o CCoE atingia um nível de maturidade e excelência ainda maior, permitindo ao time ampliar seu foco de atuação. “Decidimos descongelar o projeto usando a IA, atendendo nosso anseio de criar um produto digital para o hospital”, afirma.

Bellot lembra que o ponto de partida para as discussões foi a possibilidade de desenvolver a ideia a partir do Amazon Bedrock. Em fevereiro, um time da AWS ministrou um workshop “Working Backwards” para a equipe do CCoE, essencial para definir o desafio, os objetivos e os resultados esperados de seu assistente virtual. Começava a ganhar forma o Cloudinho, nome já definido para o assistente quando ele foi idealizado.

“O pulo do gato foi definir onde ele poderia nos ajudar mais e a nossa maior dor naquele momento era passar visões de custo de produtos, que é um trabalho constante nosso”, diz o profissional. Isso ocorre porque o HSL conta hoje com cerca de 60 produtos digitais na nuvem AWS e a demanda por informações tomava tempo da equipe: a cada solicitação, era preciso que um colaborador checasse a documentação, constatasse onde o aplicativo estava armazenado e reunisse as informações pedidas, em um processo que normalmente levava várias horas.

A decisão também foi baseada na possibilidade de obter resultados rapidamente, já que o CCoE conta com toda a parte de custos atualizada. Como os dados estão sanitizados, decidiu-se que o agente de IA generativa geraria estes relatórios, oferecendo uma nova experiência para os usuários. “Começamos com um módulo de análise dos custos dos produtos e o integramos com o Microsoft Teams, que é a ferramenta de comunicação oficial do Sírio, já pensando na futura adesão dos funcionários no futuro”, revela.

Desenvolvido em cerca de um mês, o Cloudinho opera sobre uma arquitetura que usa Amazon API Gateway, AWS Step Functions, AWS Lambda e Amazon Bedrock – com Claude 3 Sonnet -, integrados ao canal Microsoft Teams do hospital. A prova de conceito desenvolvida pelo time da AWS ProServe foi entregue em abril. “Usamos o apoio de ProServe para nos mostrar como funciona a programação por prompt, que só foi possível no modelo do Claude 3, que garante mais de 85% de assertividade”, diz Bellot, lembrando que as perguntas feitas através do Teams chegam a AWS, há uma verificação do acesso do usuário àqueles dados e então o Cloudinho as responde, criando relatórios com as informações pedidas e gráficos.

De acordo com Bellot, a entrada em operação do Cloudinho trouxe mais autonomia para os usuários, que podem solicitar informações sobre as aplicações em nuvem diretamente ao Cloudinho através do Teams. “Os resultados são animadores e bem expressivos”, afirma, lembrando que os ganhos são visíveis mesmo com a cautela adotada em relação aos dados, já que todas as informações geradas são checadas por um membro da equipe. Ainda assim, tarefas que antes exigiam 3 horas de análise manual por um analista financeiro sênior agora levam apenas 1,5 minuto, uma redução de tempo de 99%.

A solução também dá mais transparência aos dados financeiros na nuvem e permite a tomada de decisões quase em tempo real. “O Cloudinho desafogou nosso setor de FinOps e agora as novas funcionalidades do CCoE serão direcionadas para ele, ampliando seu uso”, explica, lembrando que hoje a grande maioria dos usuários são membros do CCoE, mas que já há coordenadores de outras áreas começando a utiliza-lo.

A ideia agora é que a utilização do agente seja ampliada. Bellot conta que seu time já desenvolveu o prompt da próxima funcionalidade, que será integrada ao AWS CloudTrail, permitindo o levantamento de informações sobre aplicações que não estejam na esteira DevOps. “Temos o prompt pronto e pré testado para esta funcionalidade”, explica, lembrando que seu time conta hoje com um desenvolvedor dedicado ao Cloudinho e ao laboratório de prompts criado para ele.

“Isso foi possível porque a AWS nos dá a melhor estrutura para trabalharmos com ativos digitais. O trabalho conjunto é fundamental aqui. Nossos sucessos que partem do CCoE vêm de um trabalho de longa data com a AWS. As ideias são incubadas aqui, mas as diretrizes com os melhores caminhos vêm do time da AWS e são fundamentais para construir e evoluir esses produtos”, afirma.