Big Data Tecnicas e Tecnologias Para Extracao de Valor Dos Dados - Casa Do Codigo

July 5, 2018 | Author: fzk lao | Category: Big Data, Data, Internet, Digital & Social Media, Social Media
Share Embed Donate


Short Description

Big Data Tecnicas e Tecnologias Para Extracao de Valor Dos Dados - Casa Do Codigo...

Description

ISBN Impresso e PDF: 978-85-5519-231-9 EPUB: 978-85-5519-232-6 MOBI: 978-85-5519-233-3

Você pode discutir sobre este livro no Fórum da Casa do Código: http://forum.casadocodigo.com.br/. Caso você deseje submeter alguma errata ou sugestão, acesse http://erratas.casadocodigo.com.br.

AGRADECIMENTOS O lado bom dos agradecimentos é você perceber quantas pessoas queridas tem em sua vida. Sou grata à minha família, por todo o apoio em tudo que eu almejo em minha vida. Vocês são minha base! Agradeço também ao meu marido Evandro, pelo incentivo, parceria e amor. É muito bom tê-lo ao meu lado. Além da família, tive a sorte de ter grandes mentores em minha vida, inspirando-me e dando suporte à minha carreira. Thesko, Karen e Tereza, sou grata por todas as conversas e lições de vida. Agradeço à minha orientadora Tereza C. M. B. Carvalho, ao diretor Wilson V. Ruggiero e aos amigos do Laboratório de Arquitetura e Redes de Computadores da Universidade de São Paulo (LARC-USP). Tenho orgulho de fazer parte desse time! Agradeço também aos profissionais e amigos do Laboratório de Sustentabilidade (Lassu), Fundação Instituto de Administração (FIA), Fórum de IoT, UTFPR, BSI Tecnologia e SDI Sistemas. Sempre tive em mente que as oportunidades não aparecem, você precisa criá-las. Foi buscando uma oportunidade que cheguei à Casa do Código, onde apostaram em minha iniciativa e me deram suporte na escrita do livro. Vivian, obrigada pelas valiosas revisões durante todo esse processo. Um agradecimento especial aos alunos dosBigquais tive a oportunidade de compartilhar conhecimento sobre Data. Foram vocês os principais incentivadores para a criação deste livro. Por fim, agradeço aos amigos que certamente brindarão comigo essa realização: Thesko, Josane, Thiago, Valéria, Brito, Paschoal, Carlos, Shido, Josi, Jac, Fabiana e Juliana.

SOBRE A AUTORA Rosangela de Fátima Pereira Marquesone é pesquisadora nas áreas de computação em nuvem e Big Data, com parceria entre a Universidade de São Paulo (USP) e Ericsson Research — Suécia, pelo Laboratório de Arquitetura e Redes de Computadores (LARCUSP).

Possui artigos publicados na área de tecnologias de Big Data e já ministrou mais de 300 horas de palestras e aulas sobre o tema para empresas, entidades públicas e programas de MBA da USP e Fundação Instituto de Administração (FIA). Atua também como revisora de código no programa Nanodegree em Análise de Dados da rede de cursos on-line Udacity. Fez parte do corpo docente do departamento de computação da Universidade Tecnológica Federal do Paraná (UTFPR) no período de 2011 a 2012. Graduou-se em Administração de Empresas pela Universidade Estadual do Norte do Paraná (UENP) em 2004, e em Análise e Desenvolvimento de Sistemas pela UTFPR em 2011. Concluiu o curso de Especialização Lato Sensu em Tecnologia Java pela UTFPR em 2010. Atualmente, é mestranda em Engenharia de Computação pela Escola Politécnica da Universidade de São Paulo (Poli-USP). Acredita profundamente no poder da inovação na vida, nos negócios e na sociedade. Mais informações podem ser encontradas em seu perfil no LinkedIn: http://www.linkedin.com/in/rosangelafpm.

PREFÁCIO Público-alvo Este livro é indicado para estudantes universitários, pesquisadores e profissionais que desejam compreender o que é Big Data, o motivo desse tema ser tão discutido atualmente e o que faz um profissional que atua nessa área. Embora tenha um viés técnico, o livro não é destinado somente aos profissionais da área de computação. As tecnologias e soluções de Big Data são apresentadas em uma abordagem mais conceitual, com o objetivo de detalhar as características e capacidades de cada uma delas. O enfoque do livro é dado aos processos existentes em um projeto de Big Data. Para isso, cada capítulo foi planejado para apresentar informações sobre as principais atividades em um projeto, desde a captura até a visualização de dados. A partir dessa estrutura, profissionais de diferentes áreas que desejam atuar com esse tema poderão também se beneficiar do conteúdo do livro, obtendo informações relevantes para inspirá-los na aplicação de Big Data em sua área de atuação. Por abordar técnicas e linguagens de forma abrangente, o livro não é indicado ao leitor que busca um material de estudo que o capacite em uma tecnologia ou técnica específica. Porém, o leitor pode utilizar o livro como base para identificar quais áreas de estudo em relação a Big Data ele pode se aprofundar. Ao término da leitura deste livro, o leitor poderá compreender as diversas possibilidades existentes para atuar nesse universo tão promissor. Também compreenderá o ciclo existente em um projeto de Big Data, descobrindo quais são os aspectos e desafios existentes.

Espero que o conhecimento adquirido com a leitura do livro sirva de motivação para os leitores mergulharem com maior profundidade nesse tema.

Organização do livro Durante minha jornada em pesquisas e aulas sobre Big Data, ficou evidente para mim o quanto esse conceito é recente, porém apresenta um imenso potencial. Percebi também que Big Data tem despertado o interesse de profissionais de diferentes áreas, tais como agricultura, medicina, finanças, telecomunicação e varejo. Durante as aulas que ministrei para esses profissionais, a maioria das dúvidas era relacionada à implementação de um projeto de Big Data, às indicações sobre como dar início a um projeto e às mudanças organizacionais necessárias para atuar com Big Data. Partindo desses e outros questionamentos, este livro foi planejado para apresentar aspectos das fases principais em projetos de Big Data: captura, armazenamento, processamento, análise e visualização de dados. Para seguir esse planejamento, o livro está organizado em seis capítulos. Antes de apresentar detalhes sobre cada uma das fases de um projeto de Big Data, você encontrará no Capítulo 1 uma visão geral sobre Big Data e os tipos de dados existentes nesse contexto. Serão apresentados os famosos 3 Vs de Big Data (volume, variedade e velocidade), as tendências para o aumento de volume de dados digitais no decorrer dos anos, e a aplicabilidade dos dados gerados por humanos e por máquinas. A fase de captura e armazenamento dos dados será apresentada no Capítulo 2. Ele contém exemplos de dados utilizados nas soluções atuais de Big Data, bem como os novos modelos de armazenamento por meio de tecnologias NoSQL.

No Capítulo 3 você confere a fase de processamento de dados. Aqui são apresentadas as tecnologias criadas para obter processamento escalável de grande volume de dados. Serão apresentados os frameworks Hadoop e Storm, sendo o primeiro uma das soluções para processamento em lote e o segundo uma solução para processamento de dados em streaming. A fase de análise de dados é apresentada no Capítulo 4, sendo abordadas as técnicas usadas nas diferentes análises, incluindo mineração de dados e aprendizado de máquina. Você encontrará exemplos de aprendizado supervisionado e não supervisionado, tais como classificação e agrupamento. O Capítulo 5 é destinado à fase de visualização de dados. O propósito aqui é enfatizar o potencial que uma visualização efetiva dos dados oferece, gerando meios intuitivos para representar uma análise. Também serão apresentados recursos gráficos que podem acelerar o aumento de percepções no processo de tomada de decisão. Em todas essas fases, serão apresentados exemplos práticos das tecnologias existentes em um projeto de Big Data. Por fim, no último capítulo do livro, Capítulo 6, você encontrará considerações adicionais sobre Big Data. Serão abordados tópicos como o perfil do profissional cientista de dados, as tendências de Big Data para os próximos anos, a questão da privacidade dos dados e uma reflexão sobre os novos modelos de negócios gerados a partir desse conceito. Espero que este livro possa lhe motivar a mergulhar nesse tema e assim auxiliar na criação de soluções inovadoras que Big Data pode oferecer. Boa leitura!

Código-fonte Para falar com a autora e buscar materiais adicionais do livro,

acesse o site: http://www.livrobigdata.com.br. Além do site, todos os códigos e bases de dados utilizados no livro estão disponíveis no GitHub: http://github.com/rosangelapereira/livrobigdata.git Para fazer uma cópia local desse conteúdo, utilize o seguinte comando: $ git clone http://github.com/rosangelapereira/livrobigdata.git

DEDICATÓRIA Àquela que me dá força e luz para seguir minha jornada. Este livro é dedicado a você, mãe Maria.

“É um erro capital teorizar antes de ter dados. Sem se perceber, começa-se a distorcer os fatos para ajustá-los às teorias, em vez de mudar as teorias para que se ajustem aos fatos.” — Arthur Conan Doyle, em Sherlock Holmes

Casa do Código

Sumário

Sumário 1 Introdução a Big Data

1

1.1 Por que estamos na era dos dados

2

1.2 Todos os Vs de Big Data

7

1.3 Dados gerados por humanos

16

1.4 Dados gerados por máquinas

18

1.5 Mitos sobre Big Data 1.6 Um mundo de oportunidades

21 23

1.7 Considerações

28

2 Capturando e armazenando os dados

31

2.1 Formas de obtenção de dados

31

2.2 Necessidades de armazenamento

40

2.3 Tecnologia NoSQL

43

2.4 A importância da governança dos dados

58

2.5 Praticando: armazenando tweets com MongoDB

62

2.6 Considerações

71

3 Processando os dados

74

3.1 O desafio da escalabilidade

74

3.2 Processamento de dados com Hadoop

79

3.3 Processamento em tempo real

92

Sumário

Casa do Código

3.4 Big Data e computação em nuvem

102

3.5 Praticando: contagem de hashtags em MapReduce

105

3.6 Considerações

118

4 Analisando os dados

121

4.1 Características da análise de dados

122

4.2 O processo de análise de dados

125

4.3 Preparando os dados

128

4.4 Construindo o modelo

136

4.5 Validando o modelo

146

4.6 Tecnologias de Big Data para análise de dados

148

4.7 Big Data Analytics

152

4.8 Praticando: classificação de mensagens usando R

159

4.9 Considerações

166

5 Visualizando os dados 5.1 O que é visualização de dados

169 170

5.2 Criando as interfaces visuais

176

5.3 Recursos para visualização interativa

184

5.4 Processo de visualização de dados

187

5.5 Praticando: visualização de dados com Plotly e R

196

5.6 Considerações

201

6 O que muda com Big Data

204

6.1 Cultura orientada por dados

204

6.2 A carreira do cientista de dados

207

6.3 A privacidade dos dados

213

6.4 Novos modelos de negócios

215

6.5 Mensagem final

218

CAPÍTULO 1

INTRODUÇÃO A BIG DATA

"O que sabemos é uma gota; o que ignoramos é um oceano." —

Isaac Newton Acredito que não importa qual seja sua profissão, seu cargo e as pessoas com quem você conversa, você possivelmente já deve ter ouvido falar em algum momento nessa expressão tão popular atualmente: Big Data. Essa minha premissa ocorre pelo fato de que não é preciso muito esforço para encontrarmos uma notícia referente a esse termo nos dias atuais. Seja em sites, jornais ou revistas das áreas de astronomia, biologia, educação, economia, política ou até culinária, podemos encontrar alguma publicação que relate o potencial e as características de Big Data. De fato, Big Data tem sido alvo de muita atenção no mundo dos negócios, no governo e no meio acadêmico. Podemos encontrar casos de uso em que Big Data permitiu a redução do número de fraudes, aumento de lucros, conquista de eleitores, redução de custos na produção, eficiência energética, aumento de segurança, entre outros benefícios tão almejados em diversos domínios. Muito embora o interesse esteja em alta, Big Data ainda é um termo incipiente, gerando incertezas sobre sua definição, características, aplicabilidade e desafios. Quais dados fazem parte do contexto de Big Data? Qual a definição desse conceito? Como obter dados de diferentes fontes?

1 INTRODUÇÃO A BIG DATA

1

Como extrair valor a partir dos dados? Qual a infraestrutura necessária para criar uma solução de Big Data? Quais habilidades são necessárias para se atuar com Big Data? Essas são apenas algumas das questões geradas por profissionais interessados nesse tema. Mas vamos com calma. Para dar início ao esclarecimento dessas e de outras questões, você verá neste capítulo uma visão inicial sobre Big Data, que inclui a definição desse conceito e a descrição dos tipos de dados existentes nesse cenário. Além dessas informações, será também apresentado um resumo dos processos em um projeto de Big Data e os mitos ainda existentes sobre o termo. Acredito que esse conteúdo servirá de base para a compreensão das demais questões, abordadas nos próximos capítulos.

1.1 POR QUE ESTAMOS NA ERA DOS DADOS Suponha que estamos em 1996. Ao acordar, desligo meu despertador e me preparo para ir ao trabalho. Ao sair de casa, meu telefone fixo toca e, ao atender, a secretária da empresa em que trabalho me avisa que estou atrasada para a reunião que havia começado a uma hora. Corro para pegar minha agenda dentro da bolsa e vejo que de fato havia marcado a reunião para aquele horário. Peço desculpas à secretária e aviso que irei rapidamente para a empresa. Arrumo-me às pressas e saio de casa na expectativa que um táxi apareça rapidamente, para que eu possa chegar o quanto antes na reunião. Por sorte, um taxista aparece em 10 minutos. Chego na empresa, porém percebo que esqueci de levar os 2

1.1 POR QUE ESTAMOS NA ERA DOS DADOS

relatórios que havia elaborado para apresentar aos gerentes. E agora? Ligo para meu marido que está em casa e peço para ele me enviar uma cópia via fax. Assim ele faz, e consigo finalmente participar da reunião. Bem, poderia dar continuidade ao relato de um dia de trabalho no ano de 1996, mas acredito que apenas essa breve descrição já foi suficiente para percebermos o quanto a tecnologia da informação e comunicação transformou nosso dia a dia nos últimos anos. Atualmente, é comum usarmos nosso smartphone desde o primeiro instante em que acordamos, por meio de um alarme com nossa música favorita e por intervalos de tempos pré-determinados. Nosso smartphone também pode nos avisar antecipadamente o horário de uma reunião, para que assim possamos evitar esquecimentos. Enquanto tomamos café, podemos solicitar um serviço de transporte de passageiros por meio de um aplicativo. Se necessitamos de um documento que não esteja conosco, podemos facilmente acessar a internet e buscá-lo em um serviço de computação em nuvem para armazenamento de dados. O exemplo também nos revela que a tecnologia está em constante evolução. Vinte anos se passaram e temos atualmente uma variedade de soluções capazes de facilitar nossas ações diárias, transformar o modo como nos comunicamos e gerar novas estratégias de negócios. Por exemplo, você é capaz de imaginar como seria sua rotina sem os recursos tecnológicos disponíveis atualmente? Para auxiliar essa compreensão, verifique a tabela mais adiante e perceba como a tecnologia tem influência direta na maneira com que realizamos nossas atividades. Seja para lazer, viagens, compras ou trabalho, ela nos proporciona facilidades que antes eram inimagináveis. 1.1 POR QUE ESTAMOS NA ERA DOS DADOS

3

Categoria

Comoocorreatualmente

Viagem

Comparação de preços de passagens; Compra de passagem pela internet; Check-in online; Recomendação de serviços de hospedagem; Serviços de reserva de hospedagem; Definição de trajeto por auxílio de GPS.

Trabalho

Reuniões por videoconferência; Agenda de compromissos online; Hospedagem de arquivos online; Serviços de financiamento coletivo (crowdfunding); Busca e candidatura de vagas de trabalho online.

Lazer

Serviços de streaming de filmes, seriados e músicas; Compartilhamento de momentos em redes sociais; Leitura de livros eletrônicos; Jogos online.

Compras

Compras via comércio eletrônico; Avaliação online de produtos; Comparação de preços; Compras coletivas; Pedidos online de serviços alimentícios; SAC online; Internet banking.

E você sabe o que essa diversidade de serviços existentes tem em comum? A quantidade de dados que eles geram. Os avanços em hardware, software e infraestrutura de redes foram os responsáveis para que chegássemos à "era dos dados". Nos analógico. anos 80 e Discos 90, a maioria dos de dados armazenada em formato de vinil, fitas vídeoeraVHS e fitas cassete eram meios comuns para armazenar um dado. Tais recursos, comparados com o formato digital, eram frágeis e dificultavam o seu compartilhamento. Embora esses recursos ainda existam, eles foram gradativamente sendo substituídos por recursos com tecnologias digitais. Isso é tão real que, um estudo feito pela revista Science apontou que, em 1996, somente 0.8% dos dados eram armazenados em formato digital, enquanto em 2007 a quantidade de dados digitais já era de 94%. Essa transformação é facilmente percebida no mundo atual. Por exemplo, você saberia responder como as pessoas utilizam e armazenam uma música, um vídeo ou um documento nos dias atuais? Tenho certeza de que a resposta da grande maioria dos leitores envolve um dispositivo digital. Comparando os recursos que temos atualmente com o que 4

1.1 POR QUE ESTAMOS NA ERA DOS DADOS

tínhamos alguns anos atrás, imagino que você possa estar pensando: como ocorreu essa transformação? Conforme apresentado na figura a seguir, uma série de fatores ocorreu com o passar dos anos, possibilitando o avanço tecnológico atual. Certamente, a internet foi e continua sendo um dos fatores mais influentes no crescimento dos dados. Porém, além dela, outro fator que causou grande impacto foi a ampla adoção de dispositivos móveis nos últimos anos. O poder de armazenamento, os recursos computacionais e o acesso à internet oferecidos por esses dispositivos ampliaram não somente a quantidade de dados únicos gerados, mas também a quantidade de vezes que eles eram compartilhados. Um vídeo gerado em um smartphone, por exemplo, pode facilmente ser compartilhado nas redes sociais, enviado por aplicativos de troca de mensagens e disponibilizado em diversos sites da Web. Agora imagine esse compartilhamento sendo feito diariamente por parte dos 168 milhões de aparelhos de smartphones existentes somente no Brasil. Esse amplo compartilhamento é um dos fatores que levaram ao crescimento exponencial dos dados. Mídias sociais como o Facebook, Twitter, Pinterest e Instagram são exemplos de soluções que alavancaram esse compartilhamento e, consequentemente, a comunicação entre os usuários.

Figura 1.1: Principais fatores para o aumento do volume de dados

1.1 POR QUE ESTAMOS NA ERA DOS DADOS

5

Além da crescente adoção de dispositivos móveis, dois outros fatores que contribuíram significativamente para o aumento do volume de dados foram o aumento do poder de processamento e a redução de custo de armazenamento de dados. Para exemplificar essas mudanças, temos o fato de que a primeira versão do iPhone, lançada em 2007, possuía uma capacidade de processamento muito superior a todo o sistema computacional utilizado para levar o homem à lua nos anos 60. Imagine então se compararmos esse sistema com a última versão do aparelho? Esse avanço é um dos resultados previstos pela Lei de Moore, que observou que a capacidade de processamento dos computadores dobraria aproximadamente a cada 18 meses. Em relação ao armazenamento de dados, enquanto em 1990 o custo para armazenar 1 megabyte era de aproximadamente U$ 12.000, a média de custo atual é de apenas U$ 0,03. Ou seja, mesmo que empresas já identificassem possibilidades de extração de valor sobre uma vasta quantia de dados na década de 90, elas optavam muitas vezes por descartá-los, devido ao alto custo de armazenamento. Ao passo que o volume de dados crescia e novas tecnologias habilitadoras para a geração desses dados eram criadas, empresas de diversos segmentos passaram a perceber o potencial que diferentes tipos de dados poderiam oferecer, seja para aperfeiçoar um processo, aumentar a produtividade, melhorar o processo de tomada de decisão, ou até mesmo para desenvolver novos produtos e serviços. A partir dessa visão, passam a surgir soluções que utilizam uma série de dados, internos e externos, para inúmeros propósitos. Temos como exemplo a indústria varejista, que com a adoção de etiquetas de identificação por radiofrequência, ou RFID (do inglês Radio-Frequency IDentification), as empresas desse segmento 6

1.1 POR QUE ESTAMOS NA ERA DOS DADOS

passaram a otimizar seu processo de armazenamento, catalogação e transporte de mercadorias. Assim, tiveram uma maior agilidade no gerenciamento de seus processos. Na agricultura, temos a utilização de redes de sensores, que coletavam fluxos de dados em tempo real para fornecer suporte às ações referentes ao processo de plantação, cultivo e colheita. Entretanto, mesmo havendo um avanço na quantidade de dados usada como apoio para as soluções, um estudo da EMC apontou que, em 2012, de todos os 643 exabytes de dados existentes no mundo digital, somente 3% foram utilizados. Ou seja, podemos concluir que ainda há um vasto número de oportunidades a serem exploradas. Diante desse fato, pesquisadores consideram que estamos vivenciando o início de uma nova revolução industrial, na qual os dados passam a ser elementos chaves dessa mudança. Podemos concluir, portanto, que esse é o momento ideal para criarmos oportunidades a partir dos dados.

1.2 TODOS OS VS DE BIG DATA É comum, ao ouvir pela primeira vez o termo Big Data, pensarmos que ele está unicamente relacionado a um grande volume de dados (o que é normal, já que o nome diz exatamente isso). Entretanto, o volume de dados não é sua única característica. Além dessa, pelo menos outras duas propriedades devem ser consideradas: a variedade e a velocidade dos dados. Tais propriedades são popularmente denominadas os 3 Vs de Big Data, conforme apresentado na figura a seguir.

1.2 TODOS OS VS DE BIG DATA

7

tais dados. Por não ser explicitamente claro o valor que essa variedade de dados oferece, ainda é comum que muitas fontes de dados e possibilidades de análises sejam simplesmente ignoradas. O pensamento de que somente os dados transacionais são suficientes para o processo de tomada de decisão ainda existe, porém essa mudança vem ocorrendo aos poucos.

Velocidade Além dos desafios impostos pelo volume e variedade dos dados, Big Data também faz referência a outra propriedade: a velocidade com que os dados são coletados, analisados e utilizados. Imagine, por exemplo, que um cliente receba recomendações de um produto em um e-commerce somente uma semana após ele ter realizado uma compra. Embora tal recomendação ainda possa gerar um efeito positivo, é muito provável que o impacto teria sido superior, caso essa tivesse sido realizada no momento da compra. Esse é um exemplo que nos mostra que os dados coletados perdem seu valor com o decorrer do tempo. Por exemplo, um relatório atualizado a cada 5 minutos sobre a quantidade de produtos vendidos e em estoque oferece muito mais eficácia no gerenciamento de vendas se comparado a um relatório atualizado semanalmente. Uma empresa que compreende bem o benefício da velocidade é a varejista Amazon, que adota um mecanismo de precificação dinâmica, podendo chegar a atualizar os valores de seus produtos a cada 10 minutos, de acordo com a análise da demanda em tempo real de seus suprimentos. O fator velocidade está se tornando tão importante, ao ponto que empresas que não conseguirem agilizar o tempo de análise dos dados terão dificuldades em se manterem 1.2 TODOS OS VS DE BIG DATA

13

competitivas no mercado. Além da velocidade de análise, o fator velocidade também está relacionado à rapidez com que os dados estão sendo gerados. Estatísticas mencionam que, em apenas 1 minuto, mais de 2 milhões de pesquisas são realizadas no buscador Google, 6 milhões de páginas são visitadas no Facebook e 1.3 milhão de vídeos são vistos no YouTube. Em complemento, temos os inúmeros aplicativos que mantém seus serviços em execução 24 horas por dia e os sensores que geram dados continuamente a cada segundo.

Resumos dos 3 Vs Diante dos fatos apresentados, cabe ressaltar que, quando nos referimos a Big Data, o importante não é somente a mudança quantitativa dos dados. É possível que uma organização tenha grandes conjuntos de dados e não faça nenhuma análise relevante sobre deles. A grande mudança está no valor que se consegue obter a partir do volume, variedade e velocidade de dados, ou seja, uma mudança qualitativa. Por exemplo, duas empresas de telecomunicação podem obter milhões de registros de arquivos CDR (Call Detail Record). Entretanto, só terá vantagens a empresa que conseguir gerar conhecimento a partir desses dados e utilizá-lo para diferentes aplicações, tais como a segmentação dos assinantes, identificação de fraude e predição de falhas. A partir dos três atributos mencionados, podemos chegar à seguinte definição de Big Data criada pela consultora Gartner: " Big Data faz referência não somente ao volume, mas também à variedade e à velocidade de dados, necessitando de estratégias inovadoras e rentáveis para extração de valor dos dados e aumento da percepção".

Ou seja, precisamos ter consciência que Big Data exige a quebra 14

1.2 TODOS OS VS DE BIG DATA

de paradigmas. Precisamos lidar com novos tamanhos de dados, novas velocidades, novas tecnologias e novos métodos de análise de dados. Não há como atuar com Big Data estando resistente a mudanças. Mas então Big Data faz referência somente ao volume, variedade e velocidade dos dados? Não. Além dos 3 Vs, você pode encontrar outros atributos utilizados na definição de Big Data. Alguns pesquisadores adotam os 5 Vs, em que são acrescentados os atributos valor e veracidade dos dados. O valor é um atributo que faz referência ao quão valioso e significativo um dado pode ser em uma solução. Por exemplo, qual o valor dos dados de mídias sociais para uma solução de Big Data no departamento de marketing de uma empresa? É importante fazer essa análise de valor para se determinar quais dados serão priorizados pela empresa. O atributo veracidade está relacionado à confiabilidade dos dados. Pelo fato de que Big Data está inserido em um contexto de dados em grande volume e variedade, é comum a existência de dados inconsistentes. Assim, a veracidade refere-se ao quão confiável é um conjunto de dados usado em uma solução de Big Data. Além desses atributos, ainda há outros Vs que você pode encontrar em suas pesquisas. Mas não se preocupe, pois os 3 Vs formam a base necessária para o conhecimento de Big Data. Para dar continuidade ao entendimento sobre Big Data, a seguir serão apresentados exemplos de tipos de dados utilizados nesse contexto. Aproveite a leitura para já tentar identificar quais soluções podem ser criadas na área em que você atua, a partir dessa variedade de dados.

1.2 TODOS OS VS DE BIG DATA

15

1.3 DADOS GERADOS POR HUMANOS Na seção anterior, vimos que atualmente os dados são gerados por inúmeras fontes. Podemos classificar os dados em diferentes categorias, tais como dados internos, externos, textuais e transacionais. Para simplificar nosso entendimento, os dados serão aqui apresentados a partir das seguintes categorias: dados gerados por humanos e dados gerados por máquinas. O conteúdo gerado em cada categoria implica em funcionalidades e características específicas que devem ser consideradas em um projeto. Dados gerados por humanos são aqueles em que o conteúdo foi gerado a partir do pensamento de uma pessoa, na qual a propriedade intelectual está integrada ao dado. Além disso, podemos entender também como sendo os dados que refletem a interação das pessoas no mundo digital. Atualmente, grande parcela dos dados gerados por humanos é oriunda de mídias sociais, onde usuários podem publicar o que pensam sobre algo, gerar debates, publicar suas preferências e suas emoções. Essas informações são geradas em formatos de texto, imagem, áudio e vídeo, resultando em uma base de dados diversificada e volumosa. Se somarmos esses dados aos que são gerados pelos aplicativos de trocas de mensagens, como o WhatsApp, Snapchat e os dados de videoconferência por meio de aplicativos como o Skype, já temos um ritmo acelerado da quantidade de dados que nós, humanos, geramos diariamente. Mas esses não são os únicos que nós geramos. Além das mídias sociais, sempre que estamos conectados à internet geramos diversos outros tipos de dados. Temos, por exemplo, os blogs, com conteúdo gerado e compartilhado por 16

1.3 DADOS GERADOS POR HUMANOS

milhões de pessoas. Temos ainda as avaliações sobre produtos e serviços que geramos em sites de e-commerce, como a Americanas.com e Amazon.com, e os serviços de crowdsourcing como o TripAdvisor. Essas informações são usadas para gerar recomendações aos usuários, para avaliar o nível de satisfação com um determinado serviço ou produto, e para segmentar os usuários de acordo com os perfis analisados. Dessa forma, dependendo da análise realizada sobre tais dados, a varejista Walmart pode, por exemplo, descobrir quais são as preferências de seus clientes, e a empresa de streaming de vídeos Netflix pode descobrir quais filmes recomendar para seus usuários. Além dos dados já citados, não podemos esquecer daqueles que geramos para documentar algo. Documentos de texto, e-mails, apresentações de slides e planilhas eletrônicas são geradas diariamente para documentar alguma informação, tanto pessoal quanto referente aos negócios de uma empresa. Entretanto, pouco ainda se faz para extrair valor a partir desses dados. Por exemplo, na sua empresa é feito algum tipo de análise sobre esse conjunto de dados? São poucas as que gerenciam essas informações, possibilitando a descoberta de padrões e melhoria dos processos. Os sites colaborativos também representam uma parcela significativa de dados gerados por humanos. Dois exemplos notórios são o Wikipédia, a maior enciclopédia online com conteúdo gerido por usuários; e o Flickr, um serviço online de compartilhamento de imagens. Porém, você pode encontrar dados gerados por humanos em inúmeros sites com propostas similares a esses exemplos. Todos os exemplos aqui mencionados são considerados dados 1.3 DADOS GERADOS POR HUMANOS

17

explicitamente gerados por humanos, em que o usuário possui o conhecimento de quando e como eles são criados. Entretanto, muitos serviços atualmente capturam dados de nós, humanos, implicitamente, ou seja, sem que saibamos que eles estão sendo capturados. Temos, por exemplo, a relação das URLs que visitamos, os tamanhos de tela dos dispositivos que utilizamos, a descrição desses dispositivos, nossa localização, entre outras informações. Ou seja, são dados oriundos de eventos realizados por nós, porém geradas automaticamente por máquinas, conforme veremos na sequência.

1.4 DADOS GERADOS POR MÁQUINAS Enquanto dados gerados por humanos são aqueles oriundos do pensamento de uma pessoa, podemos definir dados gerados por máquinas como dados digitais produzidos por processos de computadores, aplicações e outros mecanismos, sem necessitar explicitamente de intervenção humana. Quando utilizamos uma aplicação Web para fazer o upload de uma foto ou vídeo, para publicar um comentário, jogar ou assistir um vídeo via streaming, não temos muita percepção da infraestrutura necessária para suportar tais serviços. Quantos servidores são necessários para armazenar todos os dados que geramos nessas ações? É difícil obtermos essa informação exata. Entretanto, dado o conhecimento da quantidade de dados gerados diariamente e a imensa quantidade de aplicações Web disponíveis, podemos facilmente concluir que são necessários milhares de servidores em todo o mundo para suportar essa demanda. Além de servidores, a infraestrutura de um data center é formada por diversos equipamentos, como cabos, roteadores e switches. 18

1.4 DADOS GERADOS POR MÁQUINAS

Para monitorar o status desses componentes, são gerados registros de log sempre que um evento ocorre. Uma vez que tais data centers ficam em execução 24 horas por dia, 7 dias na semana, milhares de registros são gerados ao final de um curto período. Apesar da grande quantidade, é importante manter esses dados, pois a partir deles pode ser possível obter informações úteis aos provedores de serviços. Por exemplo, arquivos de log podem conter as URLs visitadas por um usuário de um e-commerce, que se forem analisadas, podem prover informações sobre quais compras não foram concluídas e possíveis motivos por isso ter ocorrido. De outra forma, os arquivos de log também podem ser úteis para descobrir a causa de problemas ocorridos e identificar padrões que permitam prever a existência de ocorrências similares no futuro. Além dos já mencionados, os dados gerados por máquinas têm sido amplamente gerados com o advento da tecnologia de comunicação máquina a máquina (Machine-to-Machine — M2M). Uma tecnologia integrada ao paradigma de Internet das Coisas (Internet of Things — IoT) que permite a comunicação direta entre dispositivos. Nesse paradigma, além dos computadores, demais objetos passam a fazer parte da infraestrutura global da internet, gerando, consumindo e interagindo com outras pessoas e objetos, no mundo físico e virtual. Temos como exemplo desses objetos as etiquetas RFID, os sensores, os atuadores, os vestíveis e os smartphones. Há uma projeção feita pela Cisco que o número de objetos inseridos no contexto de IoT será em torno de 50 bilhões até o ano de 2020. Dada essa quantidade, um relatório da International Data Corporation (IDC) prevê que, em 2020, os dados gerados por máquinas representarão 42% de todos os dados existentes.

1.4 DADOS GERADOS POR MÁQUINAS

19

Embora os dados usados no contexto de IoT sejam valiosos, o processo de abstração, contextualização, análise e gerenciamento desses dados ainda é considerado um grande desafio. Por esse motivo, além de armazenar os dados gerados, é importante armazenar o seu significado, como informações sobre o tempo e espaço em que eles foram produzidos. A fusão dos dados gerados por diferentes objetos também é necessária para aferir novos conhecimentos, tornando assim o ambiente mais inteligente. Outros dados fabricados por máquinas e muito usados atualmente no universo de Big Data são os dados genéticos. Temos, por exemplo, a bioinformática, uma área multidisciplinar que tem como foco o estudo da aplicação de técnicas computacionais e matemáticas à (bio)informação, na qual pesquisadores manipulam grandes volumes de dados genéticos para descobrir padrões ocultos sobre eles. O surgimento de tecnologias de Big Data e o baixo custo nos últimos anos para realizar o sequenciamento de DNA resultou em significantes avanços de pesquisa nessa área. Isso possibilitou a realização de análises que até então eram inviáveis. Para mensurarmos o volume de dados existente nesse contexto, podemos tomar como referência nosso DNA. Uma sequência de pares do DNA humano possui 3.2 bilhões de pares de base ACTG (Adenina, Citosina, Timina e Guanina). Isso apenas de um ser. Entretanto, já existem projetos como o The 1000 Genomes Project (http://www.1000genomes.org/), que por meio do sequenciamento em larga escala, agregaram centenas de genomas humanos em 2012, resultando em um extenso catálogo de variação genética. Demais estudos já permitem obter sequências de genomas de milhões de espécies de plantas e animais, fornecendo percepções para estudos na área biológica, ambiental, de energia e agricultura.

20

1.4 DADOS GERADOS POR MÁQUINAS

novas tecnologias ou uma nova forma de organização dos dados podem trazer grandes transformações em relação à utilização de dados para extração de valor. Um exemplo é o que ocorreu com uma sede da Microsoft que possuía mais de mil funcionários. Com foco em traçar um plano de eficiência energética dentro da sede, a empresa possuía mais de 30 mil sensores gerando dados a todo instante sobre o consumo de energia. O problema é que esses dados estavam espalhados em diversos sistemas da empresa, impedindo que ela tivesse uma visão ampla do consumo energético. Com a integração dos dados em um sistema único de eficiência energética, a empresa conseguiu identificar, entre outras análises, salas que consumiam energia sem ter a necessidade. Como resultado, essa integração evitou um gasto de 60 milhões de dólares com investimento em tecnologias de eficiência energética. Perceba que, nesse caso, a empresa já gerava os dados necessários, o problema estava no modo com que eles estavam organizados. Outro exemplo é o da Pirelli, empresa multinacional do setor de produção de pneus. Essa empresa estava tendo problemas para entregar seus produtos aos milhares de clientes no tempo correto, sem que houvesse atraso nos pedidos. Um dos fatores que ocasionavam esses atrasos era a demora para a geração dos relatórios, impedindo os analistas de terem uma visão atualizada da situação do estoque e dos pedidos de vendas. A solução nesse caso foi utilizar uma tecnologia de Big Data que agilizasse o processo de geração de relatórios para os analistas. Com essa medida, utilizando uma tecnologia de processamento 1.6 UM MUNDO DE OPORTUNIDADES

25

em memória, relatórios que demoravam um dia inteiro para serem atualizados passaram a ser gerados em 10 minutos. Essa otimização fez com que a empresa tivesse menos desperdício em sua produção, entregasse os produtos de acordo com o prazo e otimizasse o processo de entrega. Perceba que a empresa já analisava os dados obtidos, mas ela aumentou o valor dos dados agilizando o processo de análise. Esses casos denotam como os dados podem gerar diferentes oportunidades, dependendo da maneira com que são usados. Uma das famosas frases relacionadas a Big Data é: "Big Data é o novo petróleo". Podemos pensar que isso é uma analogia coerente, dado que, assim como o petróleo, o maior valor é obtido após um processo de refinamento, ou seja, após a transição de dados brutos para um determinado produto. Entretanto, diferente do petróleo, os dados não são recursos escassos. Um mesmo conjunto de dados que utilizamos para uma determinada estratégia pode ser usado em outra, sem perda nesse processo. Temos assim um leque de oportunidades a serem criadas. Para tornar mais compreensível o entendimento sobre como essas estratégias podem resultar em oportunidades, na tabela adiante é apresentado alguns exemplos de soluções de Big Data, criadas por diferentes áreas de conhecimento. A área de cuidados de saúde é um exemplo notável. Com o uso da tecnologia móvel, de dispositivos de IoT e da computação em nuvem, surgem soluções inovadoras para melhorar o cuidado de pacientes, tais como o monitoramento em tempo real do paciente e a previsão de demanda para os leitos do hospital. Soluções de Big Data também estão sendo usadas para identificar padrões em bases de dados históricas de doenças, permitindo acelerar e aperfeiçoar o diagnóstico realizado por uma equipe 26

1.6 UM MUNDO DE OPORTUNIDADES

médica. Área

OndeBigDataestá sendo aplicado

Cuidados da saúde e medicina

Monitoramento de pacientes em tempo real; Análise de dados de redes sociais para descobertas de pandemias; Análise de padrões de doenças; Extração de informação em imagens médicas; Descoberta e desenvolvimento de medicamentos; Análise de dados genéticos.

Serviços financeiros

Análise de risco; Detecção de fraude; Programas de lealdade; Venda cruzada.

Setor público

Digitalização dos dados; Detecção de fraude e ameaças; Vigilância por vídeo; Manutenção preventiva de veículos públicos; Otimização de rotas no transporte público.

Telecomunicação

Análise de registro de chamadas; Alocação de banda em tempo real; Desenvolvimento de novos produtos; Planejamento da rede; Análise de churn; Gerenciamento de fraude; Monitoramento de equipamentos.

Varejo

Análise de sentimento; Segmentação de mercado e cliente; Marketing personalizado; Previsão de demanda; Precificação dinâmica.

Os exemplos apresentados demonstram diferentes formas de como Big Data pode ser utilizado. Entretanto, projetar uma solução não é uma tarefa simples, existindo diversos percalços no decorrer de seu desenvolvimento. Para que se possa chegar à etapa final de um projeto de Big Data, existe um conjunto de etapas que deverão ser executadas. De forma bastante resumida, descrevo uma sequência de passos existentes nesses projetos. 1. O primeiro passo a ser feito (e que muitas vezes ainda é descartado) é identificar quais perguntas se deseja responder com os dados. É nesse momento que deve ser determinado quais informações pretende-se extrair de um conjunto de dados. Essa tarefa não é fácil. Necessita de pessoas com pensamento analítico, capazes de identificar possíveis análises sobre diferentes dados. Quanto mais claras forem as respostas obtidas nessa fase, mais fácil se torna a execução das fases 1.6 UM MUNDO DE OPORTUNIDADES

27

seguintes. 2. O próximo passo refere-se a captura e armazenamento dos dados. Devemos então identificar quais fontes serão utilizadas e como os dados serão capturados. Para isso, torna-se necessário identificar a solução adequada para armazenar cada tipo de dado. É nessa fase que identificamos a ordem com que os dados serão usados, definimos quais campos serão utilizados e quais informações devem ser tratadas. 3. Estando os dados armazenados, passamos para a fase de processamento e análise. Tecnologias de Big Data são cruciais nessa fase, para oferecer escalabilidade e desempenho para a aplicação. É nessa fase também que se determina qual algoritmo de análise de dados será usado. Inserem-se aqui os mecanismos de aprendizado de máquina, métodos estatísticos, fundamentos matemáticos e mineração de dados. 4. Por fim, Big Data também inclui a etapa de visualização de dados, em que são utilizadas técnicas de criação de gráficos dinâmicos e interativos. Essa etapa pode também ser usada em conjunto com a fase de análise de dados, para facilitar o processo de descoberta dos dados. Nos demais capítulos, será abordada com maior detalhe cada uma dessas etapas para a implementação de um projeto de Big Data. É importante ressaltar, porém, que os passos descritos são referentes anecessárias uma parte para das atividades apenas, havendo como inúmeras outras ações a execução do projeto, a aquisição de profissionais habilitados, preparação da infraestrutura e análise de custo. Porém, acredito que o escopo abordado no livro fornecerá uma visão significativa sobre projetos de Big Data.

1.7 CONSIDERAÇÕES 28

1.7 CONSIDERAÇÕES

Este capítulo teve como objetivo apresentar ao leitor a base inicial do conceito de Big Data. Podemos descobrir que, além do volume, Big Data também faz referência à grande variedade e velocidade de dados (formando os famosos 3 Vs de Big Data). Podemos encontrar outros "Vs" na literatura, tais como o valor e a veracidade dos dados, porém são o volume, variedade e velocidade que formam a base de Big Data. Ainda sobre a contextualização de Big Data, foi apresentado que tanto dados gerados por humanos quanto por máquinas são significantes e oferecem diferentes percepções quando analisados. Antes de iniciar a leitura do próximo capítulo, sugiro que você faça uma reflexão sobre como a empresa que você trabalha, ou a área em que atua, pode ser beneficiada a partir de Big Data. Para auxiliar, sugiro que tente responder às seguintes questões: 1. Quais dados estruturados, semiestruturados e não estruturados são gerados pela minha empresa ou na área que atuo? 2. Como os dados gerados por humanos e por máquinas são utilizados? 3. Há problemas no tempo gasto para analisar os dados? 4. Existem dados que poderiam agregar valor à empresa se fossem adquiridos? Para dar sequência a essas questões, no próximo capítulo daremos início à fase de captura e armazenamento dos dados.

Para saber mais 1. CARTER, Keith B. Actionable Intelligence: A Guide to Delivering Business Results with Big Data Fast!. John Wiley & 1.7 CONSIDERAÇÕES

29

Sons, 2014. 2. DUMBILL, Edd. Planning for Big Data. O'Reilly Media, Inc., 2012. 3. GANDOMI, Amir; HAIDER, Murtaza. Beyond the hype: Big data concepts, methods, and analytics. International Journal o Information Management, v. 35, issue 2, abril 2015, p. 137– 144. 4. NEEDHAM, Jeffrey. Disruptive possibilities: how big data changes everything. O'Reilly Media, Inc., 2013. 5. O'REILLY RADAR TEAM. Big Data Now: current Perspectives from O'Reilly Radar. O'Reilly Media, Inc., 2015. Disponível em: http://www.oreilly.com/data/free/big-datanow-2014-edition.csp.

30

1.7 CONSIDERAÇÕES

CAPÍTULO 2

CAPTURANDO E ARMAZENANDO OS DADOS "Quem não sabe o que busca não identifica o que acha." —

Immanuel Kant Após ter identificado o foco do projeto de Big Data e definido as respostas que de deseja pordeverão meio deser dados, você pode dardados iníciojáà identificação quaisobter dados capturados. Esses existem ou ainda precisam ser gerados? São internos ou externos? Em qual formato eles estão? Essa série de perguntas é necessária para dar início a uma das fases iniciais do projeto: a captura dos dados. Aliado a essa etapa, deve ser traçada uma estratégia para definir como os dados capturados serão armazenados. O que é necessário para armazenar dados em grande volume, variedade e em alta velocidade? Será que o banco de dados relacional é a melhor opção? Caso não seja, quais são as outras opções? Confira neste capítulo as respostas para essas questões e as características das etapas de captura e armazenamento de dados.

2.1 FORMAS DE OBTENÇÃO DE DADOS 2 CAPTURANDO E ARMAZENANDO OS DADOS

31

Para viabilizar uma solução similar a essa, torna-se necessário identificar um meio de transmissão de dados entre os sensores e um servidor para prover o armazenamento, uma vez que tais sensores possuem em sua maioria baixo poder de armazenamento. Sabemos que atualmente há uma variedade de tecnologias capazes de transmitir informações via um meio de conexão sem fio. A tabela a seguir apresenta uma lista dessas possíveis tecnologias, suas características e exemplos de utilização. Não somente na área de varejo, os dados coletados a partir do uso de sensores e sinais de smartphones podem gerar uma base de dados muito valiosa para ajudar as empresas a terem uma visão mais ampla de seus clientes. Como resultado, essas empresas conseguem oferecer uma melhor experiência aos seus clientes, tanto online quanto offline. Tecnologia Bluetooth

Característica Comunicação econômica usada para transmissão de dados em pouco alcance

Aplicação Comunicação contínua entre os dispositivos e aplicações

Celular (2G, 3G, 4G)

Serviços de telefonia móvel para a comunicação entre uma ou mais estações móveis

Atividades gerais na internet

NFC

Comunicação por campo de proximidade (Near Field Communication) que permite a troca de informações sem fio e de forma segura

Pagamentos e captura de informação de produtos

Comunicação que permite a transmissão de dados em alta velocidade em diversas distâncias

Uso intensivo dos dados como streaming, Voip e download

Comunicação entre dispositivos com baixa potência de operação, baixa taxa de transmissão de dados e baixo custo

Aplicações que exigem baixo consumo de energia e baixas taxas de dados

Wifi

Zigbee

Além do exemplo de aplicação da Big Compras, atualmente muitas aplicações de Big Data já fazem uso de sensores e demais 2.1 FORMAS DE OBTENÇÃO DE DADOS

35

mensagens postadas que fazem menção a uma determinada palavra. No caso da Big Compras, por exemplo, a equipe poderia utilizar a API do Twitter para capturar o fluxo de mensagens que contém a hashtag #BigCompras. Além do conteúdo dessas mensagens, a equipe poderia coletar informações adicionais sobre os usuários, tais como a quantidade de seguidores, saber quantas vezes a mensagem foi compartilhada (retweet), a data e horário da postagem e até mesmo a localização do usuário que fez a postagem. Seguindo a mesma abordagem, agora com a API do Instagram, a equipe poderia capturar imagens e comentários enviados pelos usuários da rede e, com a API do Facebook, poderia obter as mensagens, informações do perfil, preferências e curtidas dos usuários. Para que essa captura seja possível, torna-se necessário desenvolver uma solução que receba constantemente o fluxo de dados gerados nas redes, uma vez que novas informações chegam a todo instante. Uma das maneiras que muitas mídias sociais estão fornecendo acesso às suas APIs é por meio do protocolo REST (REpresentational State Transfer). Esse protocolo oferece um estilo que facilita a comunicação entre aplicações Web. O Twitter, por exemplo, oferece uma API que permite ao usuário fazer declarações REST e obter o retorno das declarações em formato JSON.

Dados abertos Até o momento, a equipe da Big Compras priorizou a utilização de inúmeros tipos de dados, que já possibilitariam inúmeras análises a serem realizadas. Porém, a equipe decidiu identificar também uma nova fonte: os dados de domínio público. O acesso a dados de domínio público tem sido cada vez mais 38

2.1 FORMAS DE OBTENÇÃO DE DADOS

facilitado a partir do conceito de dados abertos (open data). Segundo a Open Knowledge, uma organização sem fins lucrativos que promove o conhecimento livre, são considerados dados abertos aqueles que qualquer pessoa pode livremente usar, reutilizar e redistribuir, sem restrições legais, tecnológicas ou sociais (http://okfn.org/opendata/). Diferentes áreas de atuação estão se beneficiando do conceito de dados abertos. A partir da adoção desse conceito, cientistas estão conseguindo acelerar o desenvolvimento de pesquisas tendo acesso a bases de dados que, até então, eram difíceis ou onerosas para se obter. Essa iniciativa também tem sido adotada por entidades públicas, com o livre acesso a diferentes tipos de dados públicos, como por exemplo, dados sobre a economia do país, indicadores de exportação e importação, dados sobre a inflação, entre inúmeras outras opções. O livre acesso a esses dados pode gerar como resultado o aumento de qualidade da informação para a sociedade, uma vez que facilita a compreensão sobre a situação de um contexto público. Embora ainda com necessidade de aperfeiçoamento, o conceito de dados abertos já foi aderido pelo governo brasileiro e entidades públicas. Uma lista dos dados disponíveis pode ser obtida no Portal Brasileiro de Dados Abertos (http://dados.gov.br/). As entidades privadas também estão aderindo a esse conceito, que estão aos poucos criando novas formas de colaboração, a partir da estratégia de inovação aberta. Com todos esses dados disponíveis (dados internos, de sensores, da Web e abertos), a equipe da Big Compras chegou à conclusão de que precisaria de uma estratégia para armazenar toda essa variedade. Isso deu início a uma nova investigação: os requisitos para o armazenamento desses dados.

2.1 FORMAS DE OBTENÇÃO DE DADOS

39

2.2 NECESSIDADES DE ARMAZENAMENTO Você saberia me dizer qual foi a ferramenta de edição de textos mais usada nos últimos 10 anos? E para a geração de planilhas, fórmulas e gráficos? E qual é o site de busca mais utilizado pelos usuários da internet? Acredito que são perguntas para quais a maioria das pessoas chega a um consenso. Isso ocorre pelo fato de que tais tecnologias dominam o mercado em que atuam e assim se tornam o padrão de uso para seu segmento. Seguindo essa mesma lógica, eu pergunto: qual solução foi adotada nos últimos 40 anos para armazenamento de dados? Essa também é fácil de responder. Foi o Sistema de Gerenciamento de Bancos de Dados Relacionais (SGBDR). Por algumas o banco de dados relacional se tornou um padrão mundial décadas, na forma com que os dados são armazenados. Como já é conhecido por todos da área de TI, nesse modelo os dados são armazenados em estruturas de tabelas, que podem estar relacionadas com outras da mesma base de dados. Por isso o nome relacional. Para criar bancos de dados no modelo relacional, surgiram diferentes SGBRDs, tais como Oracle, PostgreSQL e MySQL. Como já vimos anteriormente, uma das características marcantes de um SGBDR é o suporte a transações ACID (acrônimo de Atomicidade, Consistência, Isolamento e Durabilidade), que oferecem alta integridade aos dados armazenados. Uma outra característica é o uso da Structured Query Language (SQL) para operações de criação e manipulação dos dados. Com o suporte a esses dois importantes recursos, os SGBDRs revolucionaram a área de gerenciamento de dados, oferecendo 40

2.2 NECESSIDADES DE ARMAZENAMENTO

garantias de integridade e a possibilidade de gerar consultas complexas dos dados. Isso fez com que eles se tornassem a escolha dos mais diversos segmentos. Porém, muita coisa mudou com a explosão do uso da internet. Mesmo com todos os recursos existentes nos SGBDRs, o grande volume e a grande variedade de dados gerados nos últimos anos, principalmente por aplicações Web, trouxeram limitações à adoção desse modelo. Empresas que utilizavam um banco relacional para armazenar dados de um e-commerce, por exemplo, começaram a ter problemas de indisponibilidade de serviço, demora para execução de consultas ao banco e necessidade de muita manutenção para manter o banco de dados compatível com as mudanças do negócio. Em geral, os desafios enfrentados estavam relacionados à escalabilidade, disponibilidade e flexibilidade, como veremos a seguir.

Escalabilidade Em muitas soluções Web, como é o caso da Big Compras, a quantidade de dados pode crescer aceleradamente à medida que novos usuários e funcionalidades são adicionados à solução. Essa solução é considerada escalável se ela for capaz de manter o desempenho desejável mesmo com a adição de nova carga. Os SGBDRs conseguem garantir esse desempenho com a adição de mais recursos computacionais de infraestrutura (como processador, memória e disco) ao servidor que hospeda o banco de dados. Essa estratégia é conhecida como escalabilidade vertical e foi suficiente para as soluções por muitos anos. Entretanto, à medida que o volume de dados aumentou consideravelmente, esse modelo de expansão vertical passou a ser inviabilizado, dado que o custo para adquirir servidores capazes de lidar com a quantidade massiva de dados era alto e, em alguns casos, 2.2 NECESSIDADES DE ARMAZENAMENTO

41

eles não ofereciam a capacidade e o desempenho necessários.

Alta disponibilidade Pelo fato do SGBDR prover a garantia de integridade dos dados, esse sistema pode por vezes tornar um serviço indisponível, em situações nas quais uma transação viole uma regra. Essa garantia é muito útil em diversos cenários, como por exemplo, durante uma transferência bancária entre dois usuários. Entretanto, existem casos nos quais manter o serviço disponível é mais importante do que garantir todas as propriedades ACID. Esse é o cenário do serviço de carrinho de compras da Big Compras, por exemplo. Mesmo havendo uma inconsistência nas informações do pedido do cliente, de forma que ele não liste todos os produtos que o cliente selecionou, é melhor garantir que o serviço continue disponível e o cliente precise atualizar seu pedido do que interromper o serviço, impedindo-o de finalizar sua compra.

Flexibilidade Quando utilizamos um SGBDR, temos de ter inicialmente planejado toda a modelagem dos dados antes de armazená-los. Dessa forma, deve ser utilizada uma linguagem formal de banco de dados relacional para definir a estrutura das tabelas, suas colunas, tipos de dados, chaves primárias, chaves secundárias, entre outras características. Isso é o que chamamos de um esquema. O problema desse requisito é que, em muitas soluções atuais, torna-se inviável o conhecimento antecipado da estrutura dos dados diante da característica não estruturada que eles possuem. Imagine, por exemplo, como a equipe da Big Compras faria se tivesse de definir um esquema para cada um dos campos que ela captura por meio das APIs de inúmeras redes sociais. Isso poderia se tornar inviável, visto que cada registro obtido pode ter uma quantidade 42

2.2 NECESSIDADES DE ARMAZENAMENTO

diferente de informações, e a alteração ou adição de novos campos podem ser necessárias para se adequar às mudanças das APIs. Percebemos, com esses poucos exemplos, que os SGBDRs deixaram de ser a solução ideal para aplicações e serviços que necessitavam de escalabilidade, alta disponibilidade e flexibilidade para gerenciar os dados. Para suprir esses requisitos, novas alternativas foram desenvolvidas, nascendo assim o termo NoSQL.

2.3 TECNOLOGIA NOSQL NoSQL é uma abreviação de Not only SQL, ou seja "não somente SQL". Esse termo foi cunhado para definir os novos modelos de armazenamento de dados, criados para atenderem às necessidades de flexibilidade, disponibilidade, escalabilidade e desempenho das aplicações inseridas no contexto de Big Data. Diferente do banco de dados relacional, em que o foco principal é voltado à integridade dos dados, os modelos existentes em NoSQL tendem a sacrificar uma ou mais propriedades ACID, para assim oferecer maior desempenho e escalabilidade às soluções que lidam com grande volume de dados. Assim como não existe um padrão único para criação de aplicações de Big Data, o termo one-size-fits-all também não se enquadra em NoSQL. Ou seja, não existe um modelo de armazenamento único que seja adequado para todos os cenários de aplicações, uma vez que cada solução requer necessidades específicas. Um e-commerce que precisa de rapidez na pesquisa de seus produtos tem necessidades de manipulação de dados diferentes de uma empresa que precisa recomendar produtos em tempo real para seus clientes. Da mesma forma, uma aplicação que precisa

2.3 TECNOLOGIA NOSQL

43

armazenar dados genéticos para analisá-los tem necessidades diferentes de um game online que captura informações dos ogadores. Enquanto uma solução pode ter como requisito a gravação de informações em fluxos constantes ao banco, outra pode necessitar de leituras periódicas em sua base. Para que cada uma dessas soluções tivessem recursos capazes de atender seus requisitos, diferentes modelos de armazenamento passaram a ser criados no contexto de NoSQL. Podemos classificar os modelos existentes em NoSQL de acordo com a estrutura que os dados são armazenados. Atualmente, existem 4 modelos principais: o modelo orientado a chave-valor, orientado a documentos, orientado a colunas e orientado a grafos. Confira a seguir as características e aplicabilidade de cada um deles.

Banco de dados orientado a chave-valor De todos os modelos existentes em NoSQL, o banco de dados orientado a chave-valor é o que possui a estrutura mais simples. Como o próprio nome já indica, esse tipo de armazenamento tem como estratégia o armazenamento de dados utilizando chaves como identificadores das informações gravadas em um campo identificado como valor. A chave é composta normalmente de um campo do tipo String. Já o campo valor pode conter diferentes tipos de dados, sem necessitar de um esquema predefinido, como acontece em bancos de dados relacionais. Você pode utilizar o banco de dados orientado a chave-valor tanto para persistir os dados em um banco quanto para mantê-los em memória e assim agilizar o acesso às informações. Nesse segundo caso, é possível recuperar os valores em um banco e 44

2.3 TECNOLOGIA NOSQL

armazená-los em um cache, criando uma chave para cada valor armazenado. Bancos de dados orientados a chave-valor são adequados para aplicações que realizam leituras frequentes. Considere, por exemplo, o aplicativo de vendas da Big Compras. Os clientes acessam o catálogo de produtos do aplicativo e selecionam os itens desejados para colocá-los no carrinho de compras. Nesse momento, a aplicação precisa guardar as informações dos produtos selecionados até o momento em que o cliente finalize sua compra. Na figura a seguir, é apresentado um exemplo da estrutura de armazenamento chave-valor para esse cenário.

Figura 2.1: Estrutura de um banco de dados orientado a chave-valor

O campo chave usado para fazer a recuperação das informações nesse caso é o ID da sessão de compra do cliente. O campo valor é preenchido com informações sobre os itens inseridos no carrinho de compras. Perceba como esse modelo possui uma estrutura bem mais simples do que o relacional, não sendo necessária a criação de tabelas, colunas e chaves estrangeiras. O que é necessário apenas é que cada registro tenha uma chave única e que se armazene um conjunto de informações referentes aos valores dessa chave. Existem atualmente diversas opções de banco de dados orientado a chave-valor. Embora cada um possua suas próprias 2.3 TECNOLOGIA NOSQL

45

Enquanto o usuário "João" tem como atributos o campo fone, o usuário "José" possui o atributo contato, contendo uma lista dos atributos (fonePessoal, foneCelular e foneComercial . Ou seja, ambos os registros são referentes aos dados do cliente, porém é possível que cada um tenha diferentes informações. { "clientes" :[ { "primeiroNome" : "João", "ultimoNome" : "Silva", "idade" : 30, "email" :"[email protected]", "fone" : "11-984592015" }, { "primeiroNome" : "José", "ultimoNome" : "Pereira", "idade" : 28, "email" :"[email protected]", "contato" { "foneFixo" : "11-52356598", "foneCelular" : "11-987452154", "foneComercial" : "11-30256985" } } ] }

Além dessa flexibilidade, diferente do modelo chave-valor, o banco de dados orientado a documentos permite a criação de consultas e filtros sobre os valores armazenados, e não somente pelo campo chave. Podemos, por exemplo, criar uma consulta que busque todos os clientes com idade superior a 40 anos. Caso você necessite de uma solução que armazene atributos variados em cada registro, o banco de dados orientado a documentos é uma ótima opção. Além disso, ele oferece grande escalabilidade e velocidade de leitura, pois os dados são armazenados em forma desnormalizada. Por esse motivo, um 48

2.3 TECNOLOGIA NOSQL

Entretanto, é preciso ficar atento, pois existem diferenças fundamentais no modo como essas estruturas são criadas. Portanto, vamos primeiramente compreender como funciona o armazenamento em um banco de dados relacional. Para que o armazenamento em um banco de dados relacional ocorra, é necessário definir antecipadamente a estrutura da tabela, indicando suas colunas e tipos de dados. Por exemplo, podemos definir uma tabela simples de nome cliente contendo 5 colunas: id_cliente , nome , idade , email e fone , conforme apresentado na figura a seguir.

Figura 2.2: Tabela cliente em um banco de dados relacional

Uma vez que definimos essa estrutura, todos os registros de clientes que gravarmos nesse banco deverão conter essas cinco colunas, mesmo que algumas fiquem preenchidas com NULL . O SGBDR armazenará e recuperará os dados uma linha por vez, sempre que realizarmos uma consulta. Essa estrutura de armazenamento pode trazer diversas limitações. Imagine, por exemplo, se esta tabela tem como objetivo armazenar as preferências dos usuários no aplicativo Big Compras. Temos usuários que gravarão apenas os dados obrigatórios, enquanto outros poderão gravar inúmeras outras informações, como preferência de roupas, cosméticos, sapatos e livros.

50

2.3 TECNOLOGIA NOSQL

Imagine ter de reestruturar todos os registros já armazenados na tabela para cada inclusão de um novo campo. E se a quantidade de dados armazenados chegar à escala de terabytes? Mesmo se você realizar uma consulta para buscar um único campo da tabela, o banco de dados relacional precisará passar por todos os registros de todas as linhas para trazer os resultados, impactando o desempenho da consulta. Mas como o banco de dados orientado a colunas se diferencia do banco de dados relacional nesse cenário? Esse tipo de banco busca resolver principalmente o problema de escalabilidade e flexibilidade no armazenamento de dados. No que se refere à flexibilidade, ao invés de definir antecipadamente as colunas necessárias para armazenar um registro, o responsável pela modelagem de dados define o que é chamado de "famílias de colunas". As famílias de colunas são organizadas em grupos de itens de dados que são frequentemente usados em conjunto em uma aplicação. Por exemplo, no cenário anteriormente descrito, poderíamos definir ao menos três famílias de colunas: dados_cadastrais , preferencia_roupas e preferencia_livros . A partir delas, o desenvolvedor possui a flexibilidade de inserir as colunas que considerar necessárias em cada registro armazenado, sem precisar alterar a estrutura dos dados já armazenados. Conforme a estrutura apresentada na figura a seguir, perceba que o cliente "João" (ID_1) tem informações gravadas nas famílias de colunas dados_cadastrais , preferencia_roupas e preferencia_livros . No entanto, o cliente "José" (ID_2) possui informações gravadas somente nas famílias de colunas dados_cadastrais e preferencia_livros .

2.3 TECNOLOGIA NOSQL

51

Figura 2.3: Exemplo de família de colunas

Além desse fator, note que o número de colunas pode ser diferente para cada registro. Outra informação armazenada no banco de dados orientado a colunas é o timestamp de cada item gravado. Essa abordagem é utilizada para prover o versionamento das colunas. Com essa estratégia de armazenamento por famílias de colunas, além de fornecer flexibilidade, esse modelo oferece também grande escalabilidade. O registro de um item pode ter informações gravadas em diversas famílias de colunas, que podem estar armazenadas em diferentes servidores. Isso é possível pelo fato de que os dados são armazenados fisicamente em uma sequência orientada a colunas e não por linhas. Por exemplo, enquanto no banco de dados relacional o registro seria armazenado na sequência: "João", 30, [email protected], ... , no banco de dados orientado a colunas a sequência seria: "João", 52

2.3 TECNOLOGIA NOSQL

Figura 2.4: Exemplo de banco de dados orientado a grafos

Além das informações armazenadas sobre cada usuário, são também armazenadas informações sobre a ligação entre eles. Podemos identificar no exemplo que o usuário "João" é um seguidor do usuário "José", que também é seu seguidor. Esse mesmo tipo de informação pode ser usado em toda a rede de usuários, possibilitando a criação de soluções baseada nessa análise, tais como a recomendação de amigos com base na rede de relacionamento. Em situações como essa, com foco no relacionamento dos dados, é que o banco de dados orientado a grafos é recomendado. Entre os quatro tipos de armazenamento NoSQL apresentados, o orientado a grafos é provavelmente o mais especializado. Diferente dos outros modelos, em vez dos dados serem modelados utilizando um formato de linhas e colunas, eles possuem uma estrutura definida na teoria dos grafos, usando vértices e arestas para armazenar os dados dos itens coletados (como pessoas, cidades, produtos e dispositivos) e os relacionamentos entre esses dados, respectivamente.

54

2.3 TECNOLOGIA NOSQL

A consistência refere-se ao aspecto que todos os nós do sistema devem conter os mesmos dados, garantindo que diferentes usuários terão a mesma visão do estado dos dados. Ou seja, é preciso garantir que todos os servidores de um cluster terão cópias consistentes dos dados. A consistência aqui descrita não tem o mesmo significado que a existente no termo ACID, em que consistência se refere ao fato de que operações que violam alguma regra do banco de dados não serão aceitas. Para o requisito de disponibilidade, o sistema deverá sempre responder a uma requisição, mesmo que não esteja consistente. Por fim, a tolerância à partição deve garantir que o sistema continuará em operação mesmo que algum servidor do cluster venha a falhar. Ainda segundo Brewer, é teoricamente impossível obter um sistema que atenda os 3 requisitos. Segundo o teorema CAP, se você precisar garantir consistência e disponibilidade para uma aplicação, você precisará abrir mão da tolerância à partição, pois ele não oferece garantias em relação à alta consistência dos dados se precisar manter a aplicação sempre disponível. Cada um dos exemplos de banco de dados NoSQL citados anteriormente são projetados para atender uma dupla específica dessas características, sendo necessária uma avaliação sobre quais dessas são as mais adequadas para a solução de Big Data projetada.

2.4 A IMPORTÂNCIA DA GOVERNANÇA DOS DADOS Se o objetivo da empresa em que você atua é, além de criar um projeto isolado de Big Data, criar também uma cultura guiada por dados — na qual eles possuem papel chave para os negócios —, é 58

2.4 A IMPORTÂNCIA DA GOVERNANÇA DOS DADOS

dos dados. É muito importante que esse profissional consiga conscientizar os colaboradores da empresa sobre a importância de uma governança efetiva, para que eles entendam o porquê precisam seguir determinados processos e padrões. De fato, entre as tantas tarefas atribuídas a esse profissional, a conscientização dessa mudança cultural é provavelmente a mais desafiadora, pois a governança somente será efetiva se todos estiverem dispostos a colaborar. Embora exista uma estimativa de que somente 25% das grandes organizações possuem um CDO atualmente, a Gartner prevê que esse número será de 90% até 2019. Essa estimativa nos evidencia a tendência de organizações atuarem cada vez mais guiada por dados, e como a monetização de dados será um aspecto essencial para que elas obtenham vantagem competitiva.

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB Chegou a hora de colocar em prática um pouco do conhecimento sobre coleta e armazenamento de dados utilizando um banco de dados NoSQL. Para a atividade prática deste capítulo, usaremos o MongoDB, um dos bancos de dados NoSQL orientado a documentos mais populares, para armazenar dados da rede social Twitter. O objetivo será armazenar o conteúdo mais relevante que o Twitter oferece: os tweets, nome dado às mensagens de até 140 caracteres publicadas pelos usuários da rede. Pense em um banco de dados simples, sem a necessidade de criação de tabelas, esquemas, chaves primárias e chaves estrangeiras, mas que ainda assim permite a criação de consultas complexas sobre os dados. Esse é o MongoDB. 62

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

Criado em 2009, MongoDB foi desde o início projetado para ser um banco de dados escalável, de alto desempenho e de fácil acesso aos dados. Os documentos no MongoDB são armazenados em formato BSON, uma representação binária de um documento no formato JSON. Os documentos são agrupados nesse banco de dados em formato de coleções, que podemos pensar como sendo as tabelas de um banco de dados relacional. Embora não seja adequado para todas as soluções, como por exemplo as que necessitam da garantia ACID, MongoDB é muitas vezes o candidato ideal para soluções de Big Data. Foursquare e Sourceforge são exemplos de soluções que adotaram esse banco. Essa atividade representa bem um exemplo de como a Big Compras pode compreender melhor seus clientes e assim oferecer uma melhor experiência na utilização do aplicativo. A equipe pode, por exemplo, armazenar todos os tweets relacionados à hashtag #BigCompras, para posteriormente analisar esses dados e identificar o que os clientes estão elogiando, sugerindo e/ou reclamando sobre a empresa. A seguir, é apresentada a descrição do código utilizado nessa atividade. Porém o código também está disponível no repositório git do livro pelo seguinte link: http://github.com/rosangelapereira/livrobigdata Para capturarmos os dados que serão armazenados no MongoDB, usaremos a biblioteca open source Twitter4J. Com ela, podemos fazer chamadas à API do Twitter utilizando a linguagem Java. Ela oferece métodos para obtermos autorização de acesso à API, bem como realizarmos operações de captura e inclusão de dados no Twitter. Em resumo, para realizar essa atividade utilizaremos as 2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

63

TwitterApp.java.

Aqui será necessário referenciar as seguintes

bibliotecas: import import import import import

com.mongodb.BasicDBObject; com.mongodb.DB; com.mongodb.DBCollection; com.mongodb.Mongo; com.mongodb.MongoClient;

import import import import

com.mongodb.MongoException; java.net.UnknownHostException; twitter4j.*; twitter4j.conf.ConfigurationBuilder;

Na classe TwitterApp precisaremos criar objetos das seguintes classes: ConfigurationBuilder, DB e DBCollection. Esses objetos são necessários para conectarmos ao MongoDB e inserirmos informações em uma coleção. Além disso, também serão implementados 4 métodos: main, configuraCredenciais, conectaMongo e capturaTweets, descritos na sequência. Confira o esqueleto da classe a seguir. public class TwitterApp { private ConfigurationBuilder cb; private DB banco; private DBCollection collection; public void capturaTweets() throws InterruptedException { //implementação do método } public void configuraCredenciais(){ //implementação do método } public void conectaMongoDB(){ //implementação do método } public static void main(String[] args) throws InterruptedException { //implementação do método }

66

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

}

Para o método

devemos instanciar um objeto TwitterStream e um objeto StatusListener. Ambos fazem parte da biblioteca Twitter4J e são utilizados para captura de streams do Twitter. capturaTweets,

Sempre que o objeto listener capturar um stream do Twitter, utilizaremos o método onStatus para salvar esse stream em nossa collection no MongoDB. Nesse exemplo, estamos salvando somente os campos tweet_ID, usuario e tweet oferecidos pela API, porém temos a possibilidade de capturar inúmeras outras informações, tais como a localização do tweet e o contador de retweets. Como queremos capturar somente tweets que possuem a palavra "BigCompras" no corpo da mensagem, precisamos criar um FilterQuery

track

objeto e informar no método qual é a palavra que estamos buscando. Esse método recebe como parâmetro um vetor de Strings e, por isso, você pode indicar não somente uma, mas um conjunto de palavras para serem pesquisadas no Twitter. public void capturaTweets() throws InterruptedException { TwitterStream twitterStream = new TwitterStreamFactory(cb.build()).getInstance(); StatusListener listener = new StatusListener() { @Override public void onStatus(Status status) { BasicDBObject obj = new BasicDBObject(); obj.put("tweet_ID", status.getId()); obj.put("usuario", status.getUser().getScreenName()); obj.put("tweet", status.getText()); try { collection.insert(obj); } catch (Exception e) { System.out.println("Erro de conexão: " + e.getMessage());

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

67

} } }; String palavras[] = {"BigCompras"}; FilterQuery fq = new FilterQuery(); fq.track(palavras); twitterStream.addListener(listener); twitterStream.filter(fq); }

O

próximo

método a ser implementado é o configuraCredenciais, no qual devemos inserir as credenciais obtidas no Passo 1. Substitua o valor entre parênteses com as suas respectivas credenciais. public void configuraCredenciais(){ cb = new ConfigurationBuilder(); cb.setDebugEnabled(true); cb.setOAuthConsumerKey("xxxxxxxxxxxxxxxx"); cb.setOAuthConsumerSecret("xxxxxxxxxxxxxxxx"); cb.setOAuthAccessToken("xxxxxxxxxxxxxxxx"); cb.setOAuthAccessTokenSecret("xxxxxxxxxxxxxxxx"); }

Agora implementaremos o método de conexão com o MongoDB, conectaMongoDB. Nesse exemplo a aplicação cliente do MongoDB está sendo executada localmente, mas caso você já tenha o MongoDB instalado em outro endereço, basta substituir o localhost ("127.0.0.1") pelo endereço IP adequado. public void conectaMongoDB(){ try { Mongo mongoCli; mongoCli = new MongoClient("127.0.0.1"); banco = mongoCli.getDB("twDB"); collection = banco.getCollection("tweets"); BasicDBObject index = new BasicDBObject("tweet_ID",1); collection.ensureIndex(index, new BasicDBObject("unique", true)); } catch (UnknownHostException | Exception ex) { System.out.println("MongoException :" + ex.getMessage( ));

68

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

} }

Por fim, no método main faremos a chamada dos métodos anteriormente implementados, conforme o código apresentado a seguir. public static void main(String[] args) throws InterruptedException { TwitterApp tw = new TwitterApp(); tw.conectaMongoDB(); tw.configuraCredenciais(); tw.capturaTweets(); }

Após todos os métodos estarem implementados, devemos salvar as alterações realizadas e gerar um jar da aplicação. Este conterá as bibliotecas e o código binário necessário para a execução. Para gerá-lo, no NetBeans clique com o botão direito do mouse no nome do e selecione a opção Construir. Ao final, deverá ser criado umprojeto jar com o nome TwitterApp.jar.

Passo 3: iniciar o serviço de fluxo de mensagens do Twitter Tendo criado o TwitterApp.jar, acessaremos um terminal para executar a aplicação criada. Para essa operação, estamos partindo do princípio que já existe um serviço do MongoDB em execução no ambiente que vamos executar a aplicação. Você pode verificar como instalar e executar o MongoDB no seguinte site: http://docs.mongodb.com/manual/installation/. Para executar a aplicação, acesse a pasta onde está localizado o e execute o seguinte comando no terminal:

jar

$ java -jar TwitterApp.jar

Esse comando deverá iniciar a aplicação que desenvolvemos. 2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

69

Caso a conexão com o MongoDB seja estabelecida com sucesso, deverá aparecer no terminal informações similares às apresentadas a seguir: [Mon Jul 25 10:23:23 BRT 2016]Establishing connection. [Mon Jul 25 10:23:32 BRT 2016]Connection established. [Mon Jul 25 10:23:32 BRT 2016]Receiving status stream.

A partir desse momento são iniciados a captura e o armazenamento de tweets no MongoDB.

Passo 4: visualizar dados salvos no MongoDB Enquanto a aplicação está capturando os tweets, você pode acessar a coleção no MongoDB e verificar quais tweets já foram armazenados. Para isso, abra um novo terminal e acesse o shell do MongoDB por meio do seguinte comando: $ mongo MongoDB shell version: 3.0.6 connecting to: test

Feito isso, você deverá acessar a coleção que criamos no nosso código. De acordo com os comandos a seguir, primeiramente executamos o comando use twDB para acessarmos o banco de dados da nossa aplicação. Para verificar se de fato foi criada a coleção que definimos no código TwitterApp, utilizamos o comando show collections. > use twDB switched to db twDB > show collections system.indexes tweets

Agora você pode utilizar os comandos oferecidos pelo MongoDB para consultar os dados armazenados. Como a hashtag #BigCompras pode não ter sido citada em nenhum tweet, você 70

2.5 PRATICANDO: ARMAZENANDO TWEETS COM MONGODB

mesmo pode fazer essa postagem no Twitter, para fins de verificação. No exemplo a seguir, são apresentados dois registros armazenados. Para essa consulta, foram usados o comando count() para contar a quantidade de tweets armazenados, e o find()

para trazer o conteúdo de todos os tweets.

> db.tweets.count() 2 > db.tweets.find() { "_id" : ObjectId("579612d88f4a37fa6393d541"), "tweet_ID" : NumberLong("757566972238278656"), "usuario" : "hadoop_girl", "tweet" : "Melhor preço só na #BigCompras" } { "_id" : ObjectId("5796130c8f4a37fa6393d548"), "tweet_ID" : NumberLong("757567193957691392"), "usuario" : "usrtw", "tweet" : "#BigCompras é sinal de economia" }

Essas são apenas duas das inúmeras consultas que podem ser realizadas no MongoDB. Você pode, por exemplo, filtrar as mensagens de acordo com um campo, um ID ou uma String, bem como pode ordenar os valores e exportá-los para diversos formatos de arquivo, como CSV e JSON. Aproveite a aplicação criada e explore essas possibilidades!

2.6 CONSIDERAÇÕES

Neste capítulo foram apresentadas as principais questões relacionadas ao processo de captura e armazenamento de dados em um projeto de Big Data. Vimos que atualmente é possível capturar dados de diferentes fontes. Vimos também que, embora o banco de dados relacional tenha sido a solução padrão nos últimos 40 anos, ele se tornou inadequado para suportar grandes volumes e 2.6 CONSIDERAÇÕES

71

Media, Inc., 2016. 4. MCCREARY, Dan; KELLY, Ann. Making sense of NoSQL. Shelter Island: Manning, 2014. 5. PANIZ, David. NoSQL: como armazenar os dados de uma aplicação moderna. São Paulo: Editora Casa do Código, 2016. 6. REDMOND, Eric; WILSON, Jim R. Seven databases in seven weeks: a guide to modern databases and the NoSQL movement._ Pragmatic Bookshelf, 2012. 7. STEELE, J. Understanding the Chief Data Officer. O'Reilly Media, Inc., 2015. 8. SULLIVAN, Dan. NoSQL for Mere Mortals. Addison-Wesley Professional, 2015. 9. TIWARI, Shashank. Professional NoSQL. John Wiley & Sons, 2011. 10. VAISH, G. Getting started with NoSQL. Packt Publishing, 2013.

2.6 CONSIDERAÇÕES

73

CAPÍTULO 3

PROCESSANDO OS DADOS

"A Ciência não estuda ferramentas. Ela estuda como nós as utilizamos, e o que descobrimos com elas." — Edsger Dijkstra

Após a fase de captura e armazenamento de dados, podemos iniciar a fase de processamento. Essa etapa também é um desafio em Big Data, visto que precisamos desenvolver algoritmos capazes de processar terabytes ou até petabytes de dados. Uma vez que esse algoritmo deve ser executado em um ambiente distribuído, além da lógica do problema, precisamos avaliar diversas outras questões relacionadas ao processamento, como alocação de recursos, escalabilidade, disponibilidade, desempenho e tipo de processamento. Pensando nessas questões, neste capítulo são apresentados fatores que devem ser considerados em um projeto de Big Data na etapa de processamento dos dados.

3.1 O DESAFIO DA ESCALABILIDADE Quando falamos especificamente no processamento de grande volume de dados, um dos maiores desafios em um projeto de Big Data é a escalabilidade da solução. Mas o que isso significa de fato? Um sistema é considerado escalável se ele permanece com desempenho adequado, mesmo com um aumento significativo do número de usuários, de dados e/ou de recursos. Para garantir essa escalabilidade, portanto, torna-se necessário gerir adequadamente 74

3 PROCESSANDO OS DADOS

os recursos computacionais utilizados, bem como monitorar a execução continuamente para identificar quedas de desempenho e criar mecanismos que impeça que a solução esgote algum recurso, levando à sua interrupção. Caso esses controles não sejam devidamente realizados, até mesmo um projeto de Big Data com um ótimo propósito pode ser invalidado. Imagine se os engenheiros do Facebook não tivessem projetado uma solução que suportasse o acesso de bilhões de usuários à sua plataforma no decorrer dos últimos anos. Imagine se, a cada aumento significativo do número de mensagens recebidas, ou de usuários interagindo na rede social, fosse necessário refatorar todo o código e/ou substituir os recursos computacionais da infraestrutura existente. Certamente a insatisfação dos usuários, o custo e o risco envolvido nessas questões levariam a empresa ao colapso. Em projetos de Big Data, é crucial um planejamento que permita escalar a plataforma de acordo com o aumento de demanda. Também é necessário que essa plataforma ofereça alta disponibilidade, conseguindo se manter ativa mesmo na ocorrência de falhas, que certamente ocorrerão com o uso de inúmeras máquinas. Mas como obter um ambiente escalável? Existem duas abordagens: a escalabilidade vertical e a escalabilidade horizontal, conforme veremos a seguir.

Escalabilidade vertical Para compreendermos o significado de escalabilidade vertical (também conhecido como scale up), bem como suas vantagens e desvantagens, imaginemos nossa infraestrutura computacional como sendo o modelo de prédio ilustrado na figura a seguir. Nesse caso, o prédio representa um nó computacional.

3.1 O DESAFIO DA ESCALABILIDADE

75

Figura 3.1: Analogia de escalabilidade vertical

Pensando na construção desse prédio, quando for necessário adicionar mais espaço para suportar uma maior demanda de usuários, um novo andar com novos apartamentos é construído. Podemos também substituir alguns materiais utilizados, para que eles ofereçam melhor capacidade para suportar a carga atual. Essa estratégia pode ser usada sempre que houver a necessidade de otimizar a infraestrutura. Uma das desvantagens desse modelo é que há um limite para a capacidade de expansão, tanto pelo custo, que tende a se tornar cada vez mais caro conforme o aumento da infraestrutura, quanto pelo tamanho, que possui um limite máximo suportado após atingir uma determinada capacidade. Porém, o modelo oferece vantagens significativas para sua aquisição. A construção de um prédio é uma alternativa atraente pelo fato de que os recursos comuns da infraestrutura podem ser compartilhados entre os usuários. Além disso, o espaço usado para a alocação dos recursos é muito menor quando comparado ao espaço utilizado na construção de casas térreas com a mesma quantidade de cômodos. Porém, embora o acoplamento dos cômodos traga benefícios, 76

3.1 O DESAFIO DA ESCALABILIDADE

cada mudança realizada no prédio tende a afetar todos os envolvidos, fazendo com que todos tenham de se adaptar à mudança realizada - o que nem sempre é algo desejado. De forma similar à do prédio, temos essa estratégia de escalabilidade em um ambiente computacional. Nesse caso, a escalabilidade envolve a adição de processadores, pentes de memória e discos rígidos em um único servidor. Ou seja, se tenho um processador Intel core i3, por exemplo, posso trocá-lo por um Intel core i7. Se tenho 24 GB de memória RAM disponível, aumento sua capacidade para 32 GB ou para uma capacidade superior, até conseguir o desempenho adequado. O problema nesse cenário é que a substituição ou adição de tais recursos não é transparente, sendo necessária a interrupção dos serviços durante a implantação, podendo causar quedas de serviços temporariamente. Por outro lado, a escalabilidade vertical permite que os serviços em execução sejam otimizados com a adição de recursos, sem requerer mudanças internas no código das tecnologias utilizadas na manipulação dos dados. Por esse motivo, essa estratégia é frequentemente utilizada, uma vez que as aplicações desenvolvidas são projetadas para escalar dessa forma. Entretanto, com o surgimento de Big Data, a escalabilidade vertical não foi capaz de suportar a grande demanda de processamento e recursos computacionais impostas pelos dados. Por mais que recursos fossem inseridos a um único servidor, o desempenho continuava insuficiente. Como resultado, muitas aplicações precisaram se adaptar à escalabilidade horizontal para se manterem adequadas às necessidades de Big Data, conforme veremos a seguir.

Escalabilidade horizontal 3.1 O DESAFIO DA ESCALABILIDADE

77

Seguindo a mesma analogia da escalabilidade vertical, pensemos na escalabilidade horizontal (também conhecido como scale out) como sendo um condomínio de casas, conforme apresentado na figura a seguir. A primeira mudança notável nesse tipo de escalabilidade é a necessidade de um maior espaço físico para alocar os recursos, quando comparado com a escalabilidade vertical.

Figura 3.2: Analogia de escalabilidade horizontal

Essa característica pode ser um entrave caso o espaço para alocação dos componentes seja limitado. Esse espaço físico é maior devido ao fato de que a escalabilidade resulta na adição de novos servidores para aumentar o poder computacional, formando assim um cluster. Outro ponto a se destacar na escalabilidade horizontal é que não há mais o Cada compartilhamento de recursos os servidores. um possui explícito um conjunto de entre recursos independentes. Dessa forma, essa característica evita que os serviços fiquem indisponíveis durante a adição de recursos. Ainda sobre a escalabilidade de uma aplicação, um cluster computacional tem como objetivo dividir uma carga de trabalho de uma aplicação em um conjunto de tarefas menores, para executá-la 78

3.1 O DESAFIO DA ESCALABILIDADE

de forma distribuída. Caso seja detectada uma queda de desempenho, ou o aumento do número de usuários ou dos recursos da aplicação, é possível adicionar servidores ao cluster e redistribuir a carga de trabalho até que se alcance o desempenho desejado. A escalabilidade horizontal oferece inúmeras vantagens à execução de aplicações de Big Data, tais como: permitir que o desempenho da aplicação seja aperfeiçoado de acordo com a demanda, redução de custos para fazer um upgrade da infraestrutura, quando comparado à escalabilidade vertical, e por fim, oferece a possibilidade de escalabilidade ilimitada, principalmente em ambientes de computação em nuvem. Mas, se a escalabilidade horizontal oferece tais benefícios, porque ela não é adotada em todas as aplicações que possuem essa necessidade? Isso acontece pelo fato de que as tecnologias tradicionais para processamento dos dados, ainda muito usadas pelas empresas, não foram srcinalmente projetadas para a escalabilidade horizontal, sendo necessária uma adaptação da aplicação para esse cenário. A escalabilidade horizontal exige que o software gerencie a distribuição de dados e as complexidades existentes no processamento paralelo. Caso isso não seja realizado de forma eficiente, o desempenho pode não ser aperfeiçoado (ou em alguns casos pode até ser reduzido) com a adição de novas máquinas. A partir desse aspecto nasceu a necessidade de novas tecnologias capazes de se adaptar à escalabilidade horizontal de forma eficiente e com complexidade reduzida. Essas são as comumente chamadas "tecnologias de Big Data".

3.2 PROCESSAMENTO DE DADOS HADOOP

COM

3.2 PROCESSAMENTO DE DADOS COM HADOOP

79

Uma das primeiras tecnologias de Big Data e que até hoje continua sendo amplamente utilizada é o Hadoop, também conhecido como o famoso elefantinho amarelo. Embora seja usado atualmente para uma infinidade de aplicações de Big Data, esse framework foi inicialmente projetado para um propósito específico: uma engine de busca da Web, tal como o serviço do Google, porém open source. Criado por Doug Cutting e Mike Cafarella, o framework, que antes era parte integrante do projeto Apache Nutch, foi lançado oficialmente em 2006, passando a se chamar Hadoop.

Apenas a título de curiosidade, o nome Hadoop surgiu do nome que o filho do Doug Cutting deu ao seu elefante de pelúcia amarelo. Atualmente, o filho está com 13 anos e diz em tons de brincadeira que vai processar o pai por direitos autorais.

O framework Hadoop teve como inspiração a publicação de duas soluções proprietárias da Google: o sistema de arquivos distribuído Google File System (GFS) e o modelo de programação distribuída MapReduce. Ambas as soluções eram utilizadas para dar suporte ao armazenamento e processamento do grande volume de dados que a Google manipulava. Com base na descrição dos artigos, os criadores do Hadoop desenvolveram uma versão open source baseada nessas soluções, nascendo assim o Hadoop Distributed File System (HDFS) e o Hadoop MapReduce, considerados os principais componentes do framework. Embora tenha sido desenvolvido para um propósito específico, 80

3.2 PROCESSAMENTO DE DADOS COM HADOOP

Forrester Research estimou que as organizações analisavam apenas 12% dos seus dados, enquanto os 88% restantes não eram utilizados na tomada de decisão. A flexibilidade oferecida pelo Hadoop, tanto no armazenamento quanto no processamento de diferentes tipos de dados, somada à capacidade de escalar a solução, permitiram a exploração de novas análises, até então, inviáveis. Vimos anteriormente que a escalabilidade horizontal apresenta muitas vantagens, porém muitas tecnologias não estão adaptadas para atuarem nesse cenário. Isso ocorre porque, para processar bases de dados que excedem a capacidade de uma única máquina, torna-se necessário a implementação de soluções distribuídas, capazes de dividir uma grande tarefa em outras menores, executando-as paralelamente em um conjunto de nós. Entretanto, o desenvolvimento dessas soluções é complexo. Além da lógica do problema, deve-se implementar mecanismos relacionados à distribuição dos dados e das tarefas, como alocação de máquinas, escalonamento de tarefas, balanceamento de carga, comunicação entre máquinas, tolerância a falhas, entre outros aspectos. A implementação incorreta de algum desses mecanismos pode impactar diretamente o desempenho da solução. É exatamente nesse ponto que o Hadoop se destaca. Conforme apresentado na figura a seguir, Hadoop oferece uma abstração dos mecanismos existentes em ambiente distribuído, permitindo que o desenvolvedor se concentre unicamente na lógica do problema. Por exemplo, caso a equipe do Big Compras precise executar uma aplicação de detecção de fraude utilizando Hadoop, ela pode se concentrar somente na lógica necessária para realizar a

82

3.2 PROCESSAMENTO DE DADOS COM HADOOP

detecção. Todas as outras questões relativas à execução da aplicação são tratadas pelo próprio framework, reduzindo consideravelmente o tempo gasto no desenvolvimento.

Figura 3.3: Abstração oferecida pelo Hadoop

Nas proximas seções falaremos com mais detalhes sobre o HDFS e o MapReduce, componentes-chave do Hadoop para o armazenamento e processamento de grande volume de dados.

HDFS Nas atividades relacionadas ao armazenamento dos dados, Hadoop oferece o Hadoop Distributed File System (HDFS), um sistema de arquivos distribuído que permite o armazenamento de grande volume de dados de maneira tolerante a falhas. Por meio desse sistema de arquivos, a distribuição dos dados é feita através dos servidores de um cluster Hadoop. O HDFS possui uma arquitetura mestre-escravo, na qual um servidor (chamado NameNode) é responsável por fazer todo o gerenciamento de metadados do sistema, e um conjunto de servidores (chamados DataNodes) são utilizados para fazer o armazenamento dos dados dos usuários. No quesito tolerância a 3.2 PROCESSAMENTO DE DADOS COM HADOOP

83

falhas, o HDFS possui uma estratégia de replicação que garante a recuperação dos dados, mesmo na ocorrência de falhas em um servidor escravo. Conforme apresentado na figura seguinte, no momento que um usuário submete um arquivo para ser armazenado no HDFS, este é dividido em blocos de tamanhos fixos (128 megabytes por padrão, porém pode ser alterado), que são distribuídos entre os DataNodes do cluster. Para oferecer tolerância a falhas, para cada bloco são armazenadas outras duas réplicas (valor também configurável) em diferentes servidores do cluster. Essa estratégia garante que, mesmo que um servidor fique indisponível, os blocos que ali estavam podem ser recuperados por meio de suas réplicas em outros servidores.

Figura 3.4: Estratégia de armazenamento de dados no HDFS

Outro grande ponto a se destacar no HDFS é a capacidade de 84

3.2 PROCESSAMENTO DE DADOS COM HADOOP

tornar transparentes ao usuário questões complexas de distribuição dos dados. Ou seja, no momento que solicitamos a escrita ou leitura dos dados, não precisamos saber como essas operações serão realizadas internamente, o que torna bem mais simples sua utilização. Podemos, por exemplo, fazer o envio de um arquivo local para o HDFS usando os comandos a seguir: $ hadoop fs -mkdir MeuDiretorio $ hadoop fs -put $HOME/MinhaBase.csv MeuDiretorio

Nesse exemplo, primeiramente utilizamos o comando mkdir da API do HDFS para criarmos um diretório chamado MeuDiretorio no HDFS. Na sequência, utilizamos o comando put para fazermos uma cópia de um arquivo local no formato CSV para dentro do diretório que acabamos de criar. Perceba que em nenhum momento foi necessário inserir comandos relativos à distribuição dos dados. Tais operações são realizadas internamente pelo HDFS.

MapReduce Para o processamento dos dados armazenados no HDFS, Hadoop oferece o modelo de programação MapReduce. Como o objetivo do processamento de dados em um cluster é melhorar o desempenho da aplicação por meio do processamento distribuído, esse modelo permite que grandes volumes de dados sejam processados por meio da divisão de uma aplicação em tarefas independentes, executadas em paralelo nos servidores do cluster. Como o próprio nome indica, o modelo, inspirado em programação funcional, é composto por duas fases principais: map e reduce. A fase map é a primeira a ser executada em uma aplicação MapReduce. O objetivo dessa fase é processar um conjunto de 3.2 PROCESSAMENTO DE DADOS COM HADOOP

85

dados de entrada, que devem ser obtidos no formato de pares chave-valor. Dessa forma, cada tarefa map processa cada par chave-valor individualmente, gerando como resultado uma saída, também no formato chave-valor. O resultado dessa saída dependerá da lógica do problema implementada pelo desenvolvedor da aplicação. Antes de iniciar a fase reduce, ocorre um outro processo de ordenação dos dados. Conforme dados de saída são gerados pelas tarefas map, esses são movidos para serem utilizados nas tarefas reduce. Cada tarefa reduce deverá receber uma lista contendo todos os valores associados a uma tarefa map. Para isso, é executada uma operação que captura todos os pares chave-valor gerados, e envia para uma tarefa reduce uma lista com a chave e todos os valores correspondentes a ela, de forma ordenada. Após realizar essa operação para todas as chaves geradas na fase map, inicia-se então a fase reduce. Cada tarefa reduce recebe como parâmetro uma chave e sua respectiva lista de valores. Uma operação sobre essa lista de valores é então executada, gerando assim o resultado da aplicação, também no formato chave-valor. Na figura adiante, é apresentado um exemplo do fluxo de execução de um algoritmo de contagem de palavras no modelo de programação MapReduce. O objetivo do algoritmo é verificar cada palavra existente no arquivo e contar a frequência de cada uma delas. Para facilitar o entendimento, o conjunto de dados de entrada foi simplificado, contendo um arquivo com as palavras "Cloud", "IoT" e "Java". Lembre-se de que, em um cenário real, essa entrada pode ser um ou mais arquivos com milhões de palavras.

86

3.2 PROCESSAMENTO DE DADOS COM HADOOP

Figura 3.5: Fluxo de execução do algoritmo de contagem de palavras

Para fazer a divisão e distribuição das tarefas, o framework MapReduce realiza um processo chamado split dos dados, que faz uma divisão lógica dos blocos de dados utilizados na aplicação. A quantidade de tarefas map é então determinada pela quantidade de splits. A partir dessa divisão, um processo do MapReduce inicia a distribuição das tarefas map entre servidores do cluster. O algoritmo da classe map é então executado pelas tarefas, que deverão gerar como resultado um par chave-valor, sendo a chave uma palavra e o valor o número 1. Perceba que somente com o resultado da fase map não sabemos ainda a quantidade total de ocorrências das palavras, pois elas estão distribuídas entre as tarefas. Para chegarmos a esse valor, no processo de ordenação é gerada uma lista de todos os valores para cada chave. Nesse caso, para cada palavra. Por fim, as tarefas reduce iteram sobre as listas de valores, gerando como resultado final um arquivo contendo em cada linha uma palavra (chave) e a quantidade de vezes que a palavra foi encontrada no texto (valor). No nosso exemplo, a palavra "Cloud" foi encontrada 4 vezes, a palavra "IoT" 2 vezes e a palavra "Java" 3 3.2 PROCESSAMENTO DE DADOS COM HADOOP

87

vezes. O algoritmo de contagem de palavras é apenas um exemplo básico de aplicação no formato MapReduce. Esse modelo permite desde a implementação de operações básicas até a construção de soluções complexas, como por exemplo, as que utilizam mecanismos de aprendizado de máquina. O maior desafio está na capacidade do desenvolvedor se adaptar às regras de negócio para serem executadas no estilo map e reduce. Um dos diferenciais do MapReduce que o tornou adequado para soluções de Big Data foi a estratégia de localidade dos dados. Como a transferência de dados de grande volume resultam em congestionamento da rede e, consequentemente, em baixo desempenho da aplicação, em vez de transferir os dados para onde as tarefas map e reduce deverão ser executadas (como ocorre na maioria das aplicações distribuídas), no MapReduce as tarefas é que são transferidas para onde os dados estão armazenados. Isso reduz drasticamente o consumo de dados transferidos pela rede.

Ecossistema Hadoop A utilização do Hadoop por grandes organizações contribuiu para sua rápida evolução, tanto em aperfeiçoamento quanto em adição de novas funcionalidades. Como resultado, novos subprojetos foram criados no topo dos componentes principais do Hadoop, criando um ecossistema com diversas soluções de manipulação de dados. A figura a seguir apresenta uma lista não exaustiva de subprojetos, representando a evolução do ecossistema Hadoop no decorrer dos anos:

88

3.2 PROCESSAMENTO DE DADOS COM HADOOP

chamada um-para-muitos, pois em uma única requisição é processado um grupo inteiro de dados, e não apenas um único registro. Temos, por exemplo, o processamento em lote de registros de log de um site coletados nos últimos 6 meses, o processamento de transações diárias de cartões de créditos e de tarifas de ligações telefônicas. Ou seja, o foco não é processar um único ponto de dado, mas sim um conjunto deles. Conforme ilustrado na figura a seguir, as fases de coleta, armazenamento e processamento dos dados ocorrem em momentos distintos no fluxo de processamento em lote. O processo de captura e armazenamento de dados pode ter sido realizado dias, meses ou anos antes dos dados serem processados. Isso é possível porque o fluxo de processamento não é contínuo, de forma que o processamento se encerra após processar todo o conjunto de dados definido no início do processamento. Por se tratar de um conjunto histórico de dados, é comum processar lotes de tamanhos massivos, podendo demorar minutos, horas, ou até dias, para o processamento ser completamente concluído.

Figura 3.7: Exemplo do fluxo do processamento em lote

Sabemos que, além do volume e variedade dos dados, Big Data está também relacionado à velocidade dos dados. Não somente a velocidade com que os dados são gerados, mas também a rapidez com que os dados são analisados e consumidos. 3.2 PROCESSAMENTO DE DADOS COM HADOOP

91

Ou seja, existem situações nas quais o processamento de dados deve ser realizado no momento em que o dado chega à aplicação. O grande fator em jogo nesse caso é a latência, ou seja, o tempo que um sistema demora para responder a um evento. Quando falamos de processamento em tempo real, ou próximo ao tempo real, estamos falando de processamento de baixa latência, na ordem de milissegundos ou segundos. Essa é a necessidade de diversas aplicações de Big Data.

3.3 PROCESSAMENTO EM TEMPO REAL Diferente do processamento em lote, em que as etapas de coleta, armazenamento e processamento ocorrem separadamente, no processamento em tempo real os dados são analisados assim que são gerados, criando a oportunidade de extrair informações imediatas sobre eles. Na figura seguinte, podemos perceber que o fluxo do processamento em tempo real é contínuo, sendo o dado processado à medida que ele chega à aplicação. Nesse cenário, o processo não é feito sobre um conjunto de dados, mas sobre um item de dado apenas. É o caso, por exemplo, do processamento de dados oriundos de um sensor de temperatura. A cada informação recebida, deve-se imediatamente analisar se o item de dado obtido excede o valor da temperatura considerado aceitável. Esse tipo de processamento é chamado um-para-um, pois a requisição do processamento é individual para cada item de dado.

Figura 3.8: Exemplo do fluxo do processamento em tempo real

92

3.3 PROCESSAMENTO EM TEMPO REAL

armazenamento de dados NoSQL, os autores Thomas Erl, Wajid Khattak e Paul Buhler apresentam no livro Big Data Fundamentals: Concepts, Drivers & Techniques o conceito SVC para sistemas distribuídos de processamento de dados em tempo real. São apresentadas 3 características desses sistemas: velocidade (S — Speed), consistência (C — Consistency) e volume de dados (V — Volume).

Figura 3.9: Teorema SCV

Conforme ilustrado na figura, assim como no teorema CAP, no teorema SCV somente duas das três características podem ser atendidas em conjunto. Um sistema que requer velocidade e consistência não consegue atender ao requisito volume de dados, visto que não terá tempo hábil para processar em poucos segundos um grande volume de dados. Entretanto, se o volume de dados a ser processado é grande e a consistência deve ser mantida, então não é possível garantir a velocidade do processamento. Esse teorema pode ser utilizado como um guia para se definir as prioridades e limitações da aplicação a ser desenvolvida. 3.3 PROCESSAMENTO EM TEMPO REAL

95

É comum que os mesmos dados processados em tempo real também sejam posteriormente persistidos em um disco rígido. Assim, permite-se a execução de análises mais complexas sobre eles, agora no modelo de processamento em lote. Essa abordagem é muito utilizada em soluções que trabalham com o uso de aprendizado de máquina, pois na maioria dos casos essas soluções necessitam de um grande volume de dados histórico para a construção de modelos. Para isso, torna-se necessário uma infraestrutura que permita tanto a baixa latência do processamento das informações quanto tecnologias que ofereçam uma alta vazão para acesso aos dados.

Cenários de utilização do processamento em tempo real Imagino que você esteja interessado em saber quando o processamento em tempo real é utilizado. A seguir, são apresentados alguns exemplos. Dados da Web Vivemos em um mundo cada vez mais digital, onde assistimos a um filme, ouvimos uma música, estudamos, jogamos e compramos pela Web. Por esse motivo, surge cada vez mais a necessidade de empresas que oferecem esses serviços rastrearem os eventos ocorridos nesse contexto. Em que momento o cliente desistiu de uma compra? Quais produtos ele avaliou antes de decidir qual produto comprar? Qual o número de visitas no site? O serviço está funcionando corretamente? Para responder perguntas como essas, os provedores desses serviços utilizam técnicas de processamento de registros de log.

96

3.3 PROCESSAMENTO EM TEMPO REAL

Com o advento de Big Data, esse processamento tende a ser cada vez mais automatizado, dada a imensa quantidade de registros a serem analisados. Essa análise de dados já ocorre há muitos anos, todavia, anteriormente ocorria de forma mais lenta. Porém, diante desse cenário atual cada vez mais competitivo, as empresas estão buscando cada vez mais agilizar o processo de extração de conhecimento dos dados. Por esse motivo, elas estão adotando tecnologias que permitam o processamento em tempo real, para assim agir imediatamente de acordo com o que foi observado. Detecção de fraude Com o processamento em tempo real, decisões podem ser tomadas no momento em que uma fraude é identificada ou até mesmo em momentos que a antecede, por meio de modelos preditivos. O processamento em tempo real tem sido então aplicado em inúmeras aplicações para identificação de fraude, tais como em ligações de números de emergência, em transações de cartão de crédito e no mercado de seguros. Modelos são gerados por meio do rastreamento de inúmeras variáveis, como geolocalização, informações de crédito e perfil em redes sociais, que fornecem insights para identificar uma possível ação fraudulenta assim que um evento é gerado e um novo dado é recebido. Redes sociais Sabemos que as redes sociais têm sido uma fonte inesgotável de informações. O processamento em tempo real aplicado aos dados gerados dessas redes sociais tem sido cada vez mais significante. Um exemplo é a identificação atualizada de tendências. A análise imediata das informações compartilhadas pelas redes 3.3 PROCESSAMENTO EM TEMPO REAL

97

permite gerar descobertas como pandemias de doenças em determinadas regiões. Ou seja, médicos e pacientes podem ter um panorama praticamente imediato da saúde da população em determinadas regiões. Isso é um grande avanço, visto que em muitos casos se gastava dias para realizar essa verificação, fazendo com que os dados analisados já estivessem desatualizados. Esse é apenas um dos exemplos do benefício do processamento em tempo real de dados oriundos de redes sociais. Os dados gerados por humanos fornecem uma valiosa fonte de informação que, quando avaliados em tempo real, podem gerar conhecimentos imensuráveis. Internet das Coisas — IoT No contexto da IoT, temos atualmente milhares de objetos gerando, transmitindo, recebendo e interagindo com os dados. Diferentes tipos de sensores, atuadores, vestíveis e smartphones existentes nesse contexto estão permitindo a inovação em diversas áreas. Temos como exemplo as casas, o trânsito e as cidades inteligentes. O processamento em tempo real é um dos fatores cruciais para alcançar o potencial oferecido por esses objetos. Um dos exemplos de uso do processamento em tempo real para IoT é a identificação imediata de acidentes em uma via pública por meio de sensores e câmeras de vigilância. Com essa capacidade de processamento, torna-se possível acionar imediatamente entidades para prestar o socorro necessário. O mesmo pode ser aplicado para a identificação de infrações, desabamentos e assaltos. Ainda com uso de sensores, um carro conectado pode também identificar um problema interno e emitir um alerta ao motorista sobre a necessidade de manutenção. Além disso, um sensor de

98

3.3 PROCESSAMENTO EM TEMPO REAL

deslizamento pode emitir mensagens aos moradores de locais de risco para que eles saiam de suas casas. Em casos de cuidados de saúde, monitores cardíacos em um paciente podem informar imediatamente um médico sobre a necessidade de socorro. Perceba como o tempo do processamento da informação obtida é crucial para a eficácia dessas aplicações. Conforme já foi abordado, um fator limitante do processamento de dados inseridos no contexto de IoT ainda é a conectividade. Pois normalmente os dados precisam ser transferidos do dispositivo para o servidor, para somente então serem processados. O tempo gasto durante essa transferência pode impactar diretamente a solução. Os meios de comunicação têm evoluído rapidamente, estando cada vez mais aperfeiçoados, porém ainda há muita instabilidade, comprometendo a consistência e disponibilidade dessas aplicações. O conceito de Fog Computing também tem auxiliado a resolver essa questão, trazendo recursos computacionais para permitir o processamento dos dados de IoT mais próximos dos locais onde os dados são gerados. Diante dessas possibilidades, como criar uma aplicação que realize o processamento em tempo real? Uma das primeiras decisões a ser tomada é em relação à tecnologia de processamento. Por exemplo, não conseguiremos utilizar o Hadoop MapReduce para esse cenário, visto que ele foi projetado para o processamento em lote dos dados. Precisamos de uma tecnologia que realize o processamento de fluxo de dados, conforme veremos a seguir.

Tecnologias de Big Data para processamento em tempo real Assim como surgiu o Hadoop e o modelo MapReduce para permitir o processamento em lote de grande volume de dados, surgiram também tecnologias com suporte ao processamento em 3.3 PROCESSAMENTO EM TEMPO REAL

99

tempo real de Big Data. Uma dessas tecnologias que tem se destacado é o Apache Storm. Desenvolvido srcinalmente no Twitter, o Storm se enquadra na categoria de tecnologias para o processamento de fluxo de dados, oferecendo baixa latência. Além desses benefícios, uma das características que tornam o Storm atrativo é a garantia de processamento mesmo na ocorrência de falhas, aumentando a consistência da aplicação em tempo real. Esse framework possui o seu próprio gerenciador de recursos do cluster, porém pode também ser utilizado em uma infraestrutura Hadoop, por meio do YARN. Além do Storm, outro framework que tem se destacado no processamento em tempo real e próximo ao tempo real é o Apache Spark. Considerado uma evolução do Apache MapReduce, esse framework oferece mecanismos que otimizam o processamento em memória dos dados. Por meio de um cache de resultados intermediários mantidos em memória, ele otimiza os processos que executam diversas vezes sobre o mesmo conjunto de dados. Isso torna-o mais rápido do que o Hadoop MapReduce. Outra diferença em relação ao modelo MapReduce é a adoção de um modelo conhecido como conjuntos de dados distribuídos e resilientes (Resilient Distributed Datasets — RDDs), que são distribuídos em um cluster para serem executados em paralelo. O Spark também é indicado para o processamento em tempo real de fluxos de dados por meio da biblioteca Spark Streaming. Storm e Spark são apenas dois exemplos de frameworks indicados para o processamento em tempo real para Big Data. Além de tecnologias voltadas à fase de processamento, há também as que oferecem funcionalidades para as etapas de coleta, transmissão, 100

3.3 PROCESSAMENTO EM TEMPO REAL

armazenamento e análise dos dados. Por exemplo, um framework muito usado para soluções de tempo real é o Apache Kafka. Desenvolvido por engenheiros do LinkedIn, esse framework é considerado um sistema de distribuição de mensagens e oferece mecanismos de gerenciamento da distribuição dos dados, permitindo garantir que os dados coletados serão armazenados em uma fila e continuarão disponíveis mesmo em casos de falhas. Aqui cabe também citar o framework Apache Samza. Também desenvolvido no LinkedIn, Samza utiliza o Apache Kafka para a distribuição de mensagens e o YARN para o gerenciamento de recursos do cluster. Conforme a velocidade de processamento se tornou um fator cada vez mais significativo no mundo dos negócios, novas tecnologias têm sido criadas para atender os requisitos específicos das aplicações. A tabela apresentada a seguir apresenta uma lista de sugestões adicionais de tecnologias existentes para esse fim. Perceba que, mesmo havendo a predominância de criação de tecnologias de Big Data open source, ainda existem diversas soluções proprietárias adequadas para esse contexto. Categoria

Framework

Open source

Apache Flink; Apache Samza; Apache Spark; Apache Storm; S4

Proprietária

Amazon Kinesis; IBM InfoSphere Streams; Data Torrent; Informatica Vibe Data Stream; Microsoft Streaminsight; ParStream's Analytics; SAS Event Stream Processing

Com diversas opções disponíveis, você deve estar se perguntando: qual desses frameworks devo utilizar? A resposta para essa pergunta depende de vários fatores, como a necessidade de integração com outros sistemas da empresa, o conhecimento da

3.3 PROCESSAMENTO EM TEMPO REAL

101

equipe sobre os modelos de programação de cada framework e a política da empresa para atuar com software open source ou proprietário. Uma decisão pode também ser a escolha de mais de um framework, seja atuando em conjunto ou utilizados para propósitos distintos em cada aplicação.

3.4 BIG DATA E COMPUTAÇÃO EM NUVEM Atualmente existe um conceito chamado Internet of Everything (IoE), que podemos traduzir como "a internet de todas as coisas". Esse conceito faz referência às soluções que estão reinventando o modo com que os negócios são operados. Por exemplo, além de Big Data, temos outras soluções digitais que estão sendo amplamente utilizadas pelas empresas para conduzir os negócios de forma inovadora. A computação em nuvem é certamente uma dessas. Por meio da oferta de recursos computacionais (como processador, armazenamento e rede) sob demanda, a computação em nuvem tem sido uma grande aliada para a criação de soluções de Big Data. Sendo um paradigma que oferece benefícios como a elasticidade de recursos, a escalabilidade e qualidade de serviço, somada à redução de custo e ao aumento da eficiência, diversas empresas estão aproveitando o potencial da computação em nuvem para hospedar suas soluções de Big Data. Conforme apresentado na figura seguinte, a computação em nuvem pode ser usada em diversos modelos de entrega de serviços, sendo os mais tradicionais o modelo de Infraestrutura como serviço (Infrastructure-as-a-Service — IaaS), Plataforma como serviço (Platform-as-a-Service — PaaS) e Software como serviço ( Softwareas-a-Service — SaaS).

102

3.4 BIG DATA E COMPUTAÇÃO EM NUVEM

Figura 3.10: Modelos de serviços de computação em nuvem

Uma das principais diferenças em cada modelo ofertado na computação em nuvem é o nível de abstração oferecido ao usuário. Por exemplo, ao utilizar um IaaS, como é o caso do serviço Amazon Web Services, o usuário poderá controlar questões referentes à sua aplicação, como o gerenciamento dos dados e a plataforma de execução da aplicação. Entretanto, ele tem a responsabilidade de construir o ambiente necessário para o processamento dos dados. O controle sobre os recursos oferecidos já é menor em um modelo PaaS, na qual o usuário deve obrigatoriamente utilizar a runtime oferecida pela plataforma, como é o caso da Microsoft Azure e do Google App Engine. No último modelo, o gerenciamento é realizado totalmente pelo provedor da nuvem, como é o caso do Google Gmail e o serviço de CRM SalesForce.com. Ou seja, o usuário não tem controle sobre a execução dos serviços. Além desses, você também pode encontrar modelos de serviços com outros nomes, tais como Analytics-as-a-Service e Database-asa-Service. Tais nomes são adotados comercialmente para especificar 3.4 BIG DATA E COMPUTAÇÃO EM NUVEM

103

o propósito do serviço oferecido aos usuários finais da nuvem. A computação em nuvem oferece uma série de vantagens referentes ao armazenamento e processamento de dados. A flexibilidade oferecida pela alocação de recursos sob demanda facilita o gerenciamento da capacidade de armazenamento de uma aplicação. Dessa forma, uma vez identificada a necessidade de maior ou menor capacidade de armazenamento, esse requisito pode ser imediatamente atendido, oferecendo ao provedor da aplicação maior controle de custos com a infraestrutura. Entretanto, mesmo com pontos positivos na adoção de computação em nuvem para o armazenamento de dados, ainda existem percalços que impactam essa adoção. Um dos fatores ainda não completamente resolvidos na computação em nuvem é a segurança e privacidade dos dados. Mecanismos de criptografia, autenticação e restrições de acesso estão sendo implementados para evitar o acesso indevido aos dados. Esse é um dos principais entraves para empresas nas quais a segurança dos dados é extremamente crítica, como é o caso das instituições financeiras. Quando falamos em Big Data, outro grande desafio no armazenamento em computação em nuvem é em relação a transferência de dados. Esses dados precisam ser transferidos por meio de uma conexão com a internet, porém, como é o caso do Brasil, grande parte de pequenas e médias empresas possuem baixas taxas de upload de dados. Por exemplo, para fazer o upload de um arquivo de 100 GB com uma taxa de upload de 10 Mbps (Megabits por segundo), seria necessário praticamente um dia inteiro para completá-lo, isso desconsiderando a ocorrência de falhas e atrasos. Se considerarmos 104

3.4 BIG DATA E COMPUTAÇÃO EM NUVEM

1 terabyte de dados, seriam necessários aproximadamente 13 dias para completar o upload, tornando inviável para uma empresa que precisa trafegar centenas de terabytes de dados. Esse cenário é um desafio para milhares de empresas de todo o mundo. É por esse motivo que até mesmo a Amazon, uma das maiores empresas de serviços de computação em nuvem, oferece como opção o transporte manual dos dados, por meio do envio de um dispositivo portável de armazenamento de dados via correio. É o popularmente chamado "protocolo Kombi". Esse cenário torna evidente como as tecnologias precisam caminhar juntas para garantir o sucesso das aplicações de Big Data que utilizam a internet.

3.5 PRATICANDO: CONTAGEM HASHTAGS EM MAPREDUCE

DE

Nessa atividade, veremos como implementar uma aplicação MapReduce e executá-la em um ambiente Hadoop. O foco da aplicação será contar a frequência de cada hashtag encontrada em uma base de dados de mensagens da empresa Big Compras. A base é composta por mensagens de texto oriundas das redes sociais e do ecommerce da empresa. O objetivo será, a partir das mensagens obtidas, identificar quais hashtags são mais comentadas pelos usuários, fornecendo uma visão inicial da experiência dos clientes. Para que possamos compreender facilmente o funcionamento da aplicação, utilizaremos uma base de dados pequena. Entretanto, o mesmo código que implementaremos pode ser usado para uma imensa base de dados, na escala de gigabytes até petabytes. A base de dados está disponível no repositório git do livro, na pasta cap3 >> input >> tweets.txt . Você pode fazer o 3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

105

chave de entrada, valor de entrada, chave de saída e valor de saída, respectivamente. map:

Nesse exemplo, os seguintes objetos foram definidos: Object , , Text e IntWritable . Estes são tipos especiais de dados oferecidos pela biblioteca MapReduce, que substituem os tipos de Text

dados primitivos do Java, como int e String . Essa medida foi adotada para facilitar a serialização dos dados realizada pelo framework. public class ContaHashtagsMapper extends Mapper{ }

No corpo da classe ContaHashtagsMapper serão declaradas duas variáveis: palavra e numeroUm . Elas também são objetos oferecidos pelo Hadoop ( Text e IntWritable ) e serão usadas para valores referentes ao campo chave e o campo valor armazenar da saída do os map, respectivamente. private final static IntWritable numeroUm = new IntWritable(1); private final Text palavra = new Text();

A partir da herança da classe Mapper , o desenvolvedor deve obrigatoriamente implementar o método map , conforme o código a seguir. Esse é o método principal de uma classe Mapper , sendo o local em que a lógica do problema de contagem de hashtags deverá ser implementada. Perceba que, que nosdeverão argumentos desse método estãodeasentrada variáveis e value corresponder aos dados de cada tarefa, no formato chave-valor. Nesse exemplo, cada tarefa map receberá como entrada no campo value uma linha de texto da base tweets.csv . key

O objeto Context é utilizado para a interação com o ambiente Hadoop. Podemos usá-lo para diversas abordagens, como captura 3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

109

de parâmetros, relato de progresso e escrita de dados das fases map e reduce. @Override public void map(Object key, Text value, Context context) throws IOException, InterruptedException { }

O código a seguir descreve o algoritmo do método map . Para essa aplicação, foi criada uma variável chamada tk do tipo StringTokenizer . Essa variável será utilizada para converter nossa linha de texto em uma lista de tokens, correspondentes a cada palavra encontrada no texto. StringTokenizer tk = new StringTokenizer(value.toString());

Após essa implementação, usamos um laço de repetição while para iterar sobre cada palavra encontrada na variável tk . No corpo token

desse laçoemitida é inicialmente criadanextToken uma variável a palavra pelo método .

, que receberá

Como nosso objetivo é contar somente as hashtags, descartando as demais palavras do arquivo, verificamos se a palavra em questão inicia com uma cerquilha ( # ). Caso o resultado da verificação seja verdadeiro, a variável palavra recebe o conteúdo da variável token . Perceba que, nesse código, foi realizado um tratamento da variável antes de armazená-la. Primeiramente convertemos a toLowerCase , e utilizamos hashtag minúsculo com método o métodoparareplaceAll com ouma expressão regular para remover todos os caracteres não correspondentes às letras e à cerquilha. Esse tratamento fará com que nossa aplicação não faça distinção das hashtags #BigCompras, #bigcompras e #BigCompras!, por exemplo.

Por fim, nesse laço criamos um par chave-valor que será submetido para a função reduce por meio do método 110

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

context.write

variável

palavra

, no qual o campo chave será composto pela e o campo valor pela variável numeroUm .

while (tk.hasMoreTokens()) { String token = tk.nextToken(); if(token.startsWith("#")){ palavra.set(token.toLowerCase() .replaceAll("[^a-zA-Z# ]", "")); context.write(palavra, numeroUm); } }

Confira como deve ficar o código final da classe ContaHashtagsMapper : public class ContaHashtagsMapper extends Mapper{ private final static IntWritable numeroUm = new IntWritable(1); private final Text palavra = new Text(); @Override public void map(Object key, Text value, Context context) throws IOException, InterruptedException { StringTokenizer tk = new StringTokenizer(value.toString()); while (tk.hasMoreTokens()) { String token = tk.nextToken(); if(token.startsWith("#")){ palavra.set(token.toLowerCase() .replaceAll("[^a-zA-Z# ]", "")); context.write(palavra, numeroUm); } } } }

A segunda classe que devemos criar para o algoritmo de contagem de hashtags é a ContaHashtagsReducer . Aqui devemos fazer referência às seguintes classes: import import import import

java.io.IOException; org.apache.hadoop.io.IntWritable; org.apache.hadoop.io.Text; org.apache.hadoop.mapreduce.Reducer;

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

111

A classe

deverá herdar a classe Reducer oferecida pela biblioteca do Hadoop. Conforme mencionado anteriormente, as tarefas reduce recebem como entrada todos os dados intermediários gerados nas tarefas map. Portanto, é essencial que os tipos de dados da entrada da função reduce coincidam com os tipos de dados da saída da função map. ContaHashtagsReducer

Podemos ver que isso ocorreu nesse exemplo, em que ambas as classes possuem os tipos Tex (para a variável palavra ) e IntWritable (para a variável numeroUm ): public class ContaHashtagsReducer extends Reducer { }

A seguir, criaremos no corpo da classe uma variável do tipo IntWritable , que usaremos para armazenar a frequência de hashtags, conforme o código a seguir: private IntWritable resultado = new IntWritable();

O método a ser implementado nessa classe será o reduce . Esse método recebe como parâmetro um objeto relacionado ao campo chave de entrada e um objeto do tipo Iterable que contém a lista de valores da chave recebida da fase map. @Override public void reduce(Text key, Iterable values, Context context) throws IOException, InterruptedException { }

Com essa lista completa de todos os valores relacionados a uma mesma chave, podemos implementar uma lógica que faça a agregação desses dados. Nesse algoritmo, por exemplo, cada hashtag corresponde a uma chave enviada à tarefa reduce. O conjunto de valores dessa chave é uma lista de números "uns", 112

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

que deverão ser somados, calculando assim a quantidade de vezes que a hashtag apareceu no texto. O resultado dessa soma é então atribuído à variável resultado . O método context.write() descrito a seguir é o responsável por escrever no arquivo de saída o resultado final da aplicação. int soma = 0; for (IntWritable val : values) { soma += val.get(); } resultado.set(soma); context.write(key, resultado);

Confira como deve ficar o código final da classe :

ContaHashtagsReducer

public class ContaHashtagsReducer extends Reducer { private IntWritable resultado = new IntWritable(); @Override public void reduce(Text key, Iterable values, Context context ) throws IOException, InterruptedException { int soma = 0; for (IntWritable val : values) { soma += val.get(); } resultado.set(soma); context.write(key, resultado); } }

Além

da

classe

ContaHashtagsMapper

e

, devemos também implementar a classe . Para isso, serão necessárias as seguintes

ContaHashtagsReducer ContaHashtagsDriver

referências: import import import import import

org.apache.hadoop.conf.Configuration; org.apache.hadoop.fs.Path; org.apache.hadoop.io.IntWritable; org.apache.hadoop.io.Text; org.apache.hadoop.mapreduce.Job;

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

113

import org.apache.hadoop.mapreduce.lib.input.FileInputFormat; import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

A classe ContaHashtagsDriver é responsável pela configuração do job (uma aplicação MapReduce) que será executado no Hadoop. Um objeto do tipo Job é instanciado por meio da função getInstance() . Feito isso, é necessário passar algumas informações adicionais a esse objeto, para que ele receba as configurações da nossa aplicação MapReduce. Por exemplo, devemos indicar qual será a classe Map e classe Reduce utilizadas, por meio dos métodos setMapperClass e setReducerClass , respectivamente. Com o método setOutputKeyClass , indicamos o tipo de dado referente ao campo saída das fases map e reduce, assim como utilizamos o método setOutputValueClass para indicar tipo de dado do campo valor. Além desses parâmetros, é necessário indicar o caminho para o job encontrar os dados de entrada, com o método addInputPath , e indicar um caminho para salvar os dados de saída, com o método addOutputPath . Por fim, usamos o método waitForCompletion para dar início à execução do job. O parâmetro true indica que desejamos visualizar as informações do processamento durante a execução do ob. public class ContaHashtagsDriver { public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); Job job = Job.getInstance(conf, "conta hashtags"); job.setJarByClass(ContaHashtagsDriver.class); job.setMapperClass(ContaHashtagsMapper.class); job.setReducerClass(ContaHashtagsReducer.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(IntWritable.class);

114

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

FileInputFormat.addInputPath(job, new Path(args[0])); FileOutputFormat.setOutputPath(job, new Path(args[1])); System.exit(job.waitForCompletion(true) ? 0 : 1); } }

Após salvar todas asasalterações classes estarem implementadas, devemos realizadasdevidamente e gerar um JAR da aplicação. Para isso, clique com o botão direito do mouse no nome do projeto e selecione a opção Construir. A partir da janela apresentada, crie um JAR com o nome ContaHashtags.jar . Caso tenha algum problema para executar essa operação, você pode utilizar o JAR disponível no repositório do livro.

Passo 2: envio da base de dados para o HDFS Após termos implementado a aplicação MapReduce, devemos executá-la em um ambiente Hadoop. Porém, antes de executarmos, é preciso enviar nossa base de dados de entrada para o HDFS. Nessa atividade, estamos partindo do princípio que você já tenha um ambiente Linux com o framework Hadoop funcionando corretamente. Caso ainda não tenha, você pode instalar o Hadoop seguindo o tutorial disponível em: http://hadoop.apache.org/docs/r2.6.0/hadoop-projectdist/hadoop-common/SingleCluster.html Para enviar a base tweets.csv do nosso sistema de arquivos local para o HDFS, devemos abrir um terminal Linux e digitar o seguinte comando: $ hadoop fs -mkdir bases $ hadoop fs -put $HOME/tweets.csv bases $ hadoop fs -ls bases

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

115

Found 1 items -rw-r--r-- 1 hadoopuser supergroup ... bases/tweets.csv

Na primeira linha, utilizamos o comando -mkdir da API Hadoop FS Shell para criarmos um diretório dentro do HDFS com o nome bases . Na segunda, usamos o -put para enviar uma cópia do arquivo de uma base local ( $HOME/tweets.csv ) para o diretório que acabamos de criar no HDFS (bases). Para verificar se os dados foram devidamente copiados, na terceira linha utilizamos o comando -ls para listar os arquivos do diretório bases . Esse comando deverá retornar a lista de arquivos dentro do diretório.

Passo 3: execução da aplicação em ambiente Hadoop Tendo enviado a base de dados de entrada para o HDFS, podemos enfim executar nossa aplicação. Para isso, digite o seguinte comando em um terminal: $ hadoop da 16/07/25 16/07/25 16/07/25 16/07/25 16/07/25 16/07/25 16/07/25 ...

jar $HOME/ContaHashtags.jar ContaHashtagsDriver bases sai 16:48:10 16:48:10 16:48:10 16:48:10 16:48:11 16:48:12 16:48:15

INFO WARN INFO INFO INFO INFO INFO

input.FileInputFormat: Total input ... snappy.LoadSnappy: Snappy native ... util.NativeCodeLoader: Loaded the ... snappy.LoadSnappy: Snappy native ... mapred.JobClient: Running job: ... mapred.JobClient: map 0% reduce 0% mapred.JobClient: map 100% reduce 0%

Para fazer a chamada da nossa aplicação, usamos o comando , passando como parâmetro o JAR da aplicação que desenvolvemos. Além disso, indicamos na sequência a classe ContaHashtagsDriver , para que a JVM saiba por onde iniciar a aplicação. hadoop jar

Os últimos dois parâmetros indicam o caminho do diretório de entrada e o caminho do diretório de saída dos dados, 116

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

respectivamente. Após iniciar a execução do comando, você poderá acompanhar no terminal informações sobre o andamento da execução das tarefas map e reduce, até o momento em que todas as tarefas forem concluídas.

Passo 4: verificação dos resultados Tendo finalizada a aplicação, podemos acessar o diretório de saída para verificar se o arquivo de saída foi gerado corretamente. Para isso, liste os arquivos do diretório de saída pelo seguinte comando: $ hadoop fs -ls saida Found 2 items -rw-r--r-1 hdpuser ... /saida/_SUCCESS drwxr-xr-x - hdpuser ... /saida/_logs -rw-r--r-1 hdpuser ... /saida/part-r-00000

O diretório _SUCCESS é um diretório gerado pelo Hadoop que indica que a aplicação foi executada com sucesso. O diretório _logs contém registros de log do job executado, no qual você pode encontrar informações adicionais sobre o processamento. O arquivo saida/part-r-00000 é o que contém de fato o resultado da aplicação. Podemos verificar o resultado desse arquivo por meio do seguinte comando: $ hadoop fs -cat saida/part-r-00000 #bigcompras

42

#demora 1 #descontos 10 #desisti 4 #fretecaro 6 #indignada 1 #irritada 2 #lento 2 #livros 6 #medo 3 #nuncamais 1

3.5 PRATICANDO: CONTAGEM DE HASHTAGS EM MAPREDUCE

117

#precojusto 7 #queropresente #revoltada 7 #satisfeita 3 #sucesso 8

7

Pronto! Conseguimos implementar e executar uma aplicação MapReduce no Hadoop. O arquivo final gerou para cada linha um par chave/valor, contendo a hashtag e o número de vezes em que ela foi encontrada na base de dados. Por exemplo, a hashtag #BigCompras foi a que teve maior frequência, com 42 aparições, seguida da hashtag #descontos, com 10 aparições. É importante ressaltar que, com o mesmo código implementado, podemos executar essa aplicação em cluster com dezenas, centenas ou até mesmo milhares de máquinas. O código não precisa ser alterado e, mesmo assim, o MapReduce saberá utilizar as máquinas apropriadamente para garantir o desempenho da aplicação. A transparência e escalabilidade são uns dos grandes benefícios do Hadoop. Caso você queira se aventurar ainda mais com Hadoop, deixo aqui dois desafios: 1. Desenvolver uma aplicação MapReduce que faça a contagem apenas das top n hashtags mais encontradas, sendo que n deverá ser um parâmetro indicado pelo usuário; 2. Desenvolver uma aplicação MapReduce que conte somente quantas vezes apareceu a hashtag #BigData. Ficarei muito feliz se você conseguir. Para facilitar o desenvolvimento, utilize o esqueleto do código que implementamos e altere somente o conteúdo dos métodos. Bom trabalho!

3.6 CONSIDERAÇÕES 118

3.6 CONSIDERAÇÕES

2. DEAN, Jeffrey; GHEMAWAT, Sanjay. MapReduce: simplified data processing on large clusters. Sixth Symposium on Operating System Design and Implementation, Dez. 2004. 3. ELLIS, Byron. Real-time analytics: techniques to analyze and visualize streaming data. John Wiley & Sons, 2014. 4. GHEMAWAT, Sanjay; GOBIOFF, Howard; LEUNG, ShunTak. The Google file system. ACM SIGOPS operating systems review, v. 37, n. 5, Out. 2003. 5. GOLDMAN, Alfredo; KON, Fabio; JUNIOR, Francisco Pereira; POLATO, Ivanilton; PEREIRA, Rosangela de Fátima. Apache Hadoop: conceitos teóricos e práticos, evoluçao e novas possibilidades. XXXI Jornadas de atualizaçoes em informatica, 2012. 6. KARAU, Holden; ZAHARIA, Matei; WENDELL, Patrick; KONWINSKI, Andy. Learning spark: lightning-fast big data analysis. O'Reilly Media, Inc., 2015. 7. LEIBIUSKY, Jonathan; EISBRUCH, Gabriel; SIMONASSI, Dario. Getting started with storm: Continuous streaming computation with Twitter's cluster technology. O'Reilly Media, Inc., 2012. 8. LUBLINSKY, Boris; YAKUBOVICH, Alexey; SMITH, Kevin. Professional Hadoop Solutions. John Wiley & Sons, 2013. 9. NABI, Zubair. Pro Spark Streaming: The Zen of Real-Time Analytics Using Apache Spark. Apress, 2016. 10. WHITE, Tom. Hadoop: The definitive guide._ O'Reilly Media, Inc., 2015.

120

3.6 CONSIDERAÇÕES

CAPÍTULO 4

ANALISANDO OS DADOS

"Estamos nos afogando em informações e famintos por conhecimento." — John Naisbitt

Após a captura, armazenamento e processamento dos dados, iniciamos a fase de análise. Atrevo-me a dizer que essa talvez seja a fase mais empolgante em Big Data, na qual temos inúmeras possibilidades de converter dados brutos em conhecimento. Sabemos que analisar dados não é uma prática recente. Entretanto, somente nos últimos anos estamos presenciando a adesão por essa prática de forma ampla, sendo utilizada como fator chave para alavancar negócios, reduzir custos e aperfeiçoar produtos e serviços. Costumo dizer em sala de aula que o processo de análise de dados é similar ao de relacionamento a dois. No início da relação, é importante que haja um processo de descoberta, de conhecimento. Devemos compreender qual o objetivo nosso e do nosso "parceiro" na relação. Por esse motivo, para conhecer os dados, é importante fazer perguntas como: qual sua srcem? A quem pertencem? Em que contexto estão inseridos? Terei benefícios ao utilizar esses dados? Eles vão agregar em algo? Responder tais perguntas nos ajuda a decidir se vale a pena ou não investir na relação. Haverá casos em que o relacionamento será rompido, pois os dados não estão condizentes com o que foi 4 ANALISANDO OS DADOS

121

esperado. Entretanto, caso se perceba que os dados são valiosos, mas que precisam de ajustes, é possível iniciar uma fase de preparação. Nela, modificações serão realizadas para que eles fiquem de acordo com o desejado. Feito isso, o relacionamento pode ser aprofundado. A investigação sobre os dados passa a ser mais próxima, gerando assim novas descobertas e, consequentemente, novos frutos. Mas lembre-se de que, assim como em um relacionamento, caso você não tenha agido corretamente, os frutos podem não aparecer. Analisar dados é um processo que envolve tanto ciência quanto arte. Infelizmente, os analistas não possuem uma bola de cristal capaz de fazer predições. Torna-se necessário adquirir a arte de identificar quais dados utilizar, como integrá-los e quais perguntas serão úteis na tomada de decisão. Aliado a essas habilidades, é essencial que se aplique uma abordagem científica a esse processo, exigindo um domínio de conhecimento do analista para usar as ferramentas e técnicas de forma apropriada e confiável. O domínio dessas duas habilidades é que faz o processo de análise de dados ser um sucesso. Falaremos sobre essa abordagem científica e criativa na análise de dados neste capítulo.

4.1 CARACTERÍSTICAS DA ANÁLISE DE DADOS Caso você nunca tenha se aventurado a realizar a análise de dados com o objetivo de extrair informações úteis, você pode não saber que existem algumas particularidades nessa prática. Para dar início a essa jornada, verifique a seguir premissas que devem ser 122

4.1 CARACTERÍSTICAS DA ANÁLISE DE DADOS

consideradas.

Os dados utilizados estão normalmente "sujos" Embora seja comum encontrarmos em livros de análises de dados exemplos que utilizam bases de dados estruturadas e prontas para serem analisadas, no cenário real é muito raro isso acontecer. Provavelmente a base de dados que você deseja analisar terá dados incompletos, inconsistentes, corrompidos, duplicados, em formatos inadequados, com caracteres indesejados, entre tantas outras questões. Por esse motivo, é necessário um profissional com habilidades para realizar o tratamento dos dados, antes de a análise ser efetivamente realizada.

Gasta-se mais tempo preparando do que analisando os dados Há uma estimativa de que, no processo de análise de dados, 80% do tempo é gasto para limpar e preparar os dados. Parece muito tempo, não? Mas é o que acontece na maioria das análises. Como cada base de dados possui sua peculiaridade, muitas tarefas de tratamento precisam ser avaliadas e definidas manualmente, não existindo muitos meios para automatizar completamente esse processo. Então, não se espante se você demorar muito tempo nessa etapa. Embora seja oneroso, o tratamento dos dados evita inconsistências nos resultados das análises.

Procura de uma agulha em um palheiro Analisar uma grande base de dados em busca de padrões pode significar muitas vezes um processo análogo ao de procurar uma agulha em um palheiro. Essa analogia existe pelo fato de que 4.1 CARACTERÍSTICAS DA ANÁLISE DE DADOS

123

encontrar um padrão diante de uma infinidade de dados é uma tarefa muitas vezes complexa e demorada. Entretanto, no contexto de Big Data, em que se trabalha com uma avalanche de dados, alguns pesquisadores dizem que o desafio da análise de dados não é somente encontrar a agulha em um palheiro, mas encontrar o que de fato é a agulha. Ou seja, identificar qual pergunta é possível se responder a partir dos dados.

Garbage in, garbage out Aqui voltamos à importância da qualidade dos dados durante o processo de análise. No contexto de Big Data, é muito comum a utilização de dados em sua forma bruta, que não passaram por um processo de refinamento. O problema é que, sem um processo de inspeção, pode ocorrer que dados incorretos não sejam descartados ou corrigidos. Uma vez que esses dados sejam usados na construção de um modelo analítico, o resultado obtido pode não representar a realidade dos fatos. Se uma organização faz a tomada de decisão orientada por esses resultados, ela pode desencadear uma série de ações baseadas em fatos inconsistentes.

Correlação não implica causalidade Esse é um dos principais fundamentos da estatística: correlação não implica em causalidade! Enquanto, na causalidade, você prova que "o acontecimento A causa o acontecimento B", a correlação apenas indica que "A" e "B" tendem a ser observados no mesmo tempo, mas não há necessariamente uma causalidade entre eles. Pode ser que a correlação seja apenas uma coincidência. Para inferir uma causalidade, é preciso a realização de testes estatísticos e experimentos controlados que façam essa validação. Se 124

4.1 CARACTERÍSTICAS DA ANÁLISE DE DADOS

a correlação sempre implicasse causalidade, poderíamos identificar algumas tendências um tanto quanto estranhas, como por exemplo de que, sempre que a venda de sorvetes aumenta, aumenta também o número de afogamentos. Por esse motivo, tenha sempre muito cuidado na interpretação dos dados.

É fácil fazer a análise de dados de forma errada Isso é um perigo alertado por muitos pesquisadores. As ferramentas de análise de dados disponíveis atualmente facilitou a construção de inúmeros algoritmos utilizando uma diversidade de dados. Entretanto, um erro cometido ou uma interpretação errada dos dados durante esse processo pode gerar resultados que nos deixam animados, mas que na verdade não condizem com a realidade. Por esse motivo, é extremamente necessária a validação das respostas obtidas, principalmente quando utilizamos bancos de dados de grande volume, em que as incoerências podem não ser claramente perceptíveis.

4.2 O PROCESSO DE ANÁLISE DE DADOS Quando falamos em Big Data e em análise de dados, é comum ouvirmos palavras como identificação de padrões, modelagem dos dados, detecção de grupos, classificação de dados. Essas atividades são possíveis por meio da utilização de técnicas há muito tempo desenvolvidas, como técnicas estatísticas, matemáticas, de aprendizado de máquina e de mineração de dados. Pense em uma solução em que um sistema computacional receba informações de sensores instalados em uma fábrica e consiga identificar automaticamente que uma das máquinas usadas está prestes a falhar, mesmo antes de ela ter apresentado problemas 4.2 O PROCESSO DE ANÁLISE DE DADOS

125

essa análise, será necessário observar dados históricos de 5 milhões de registros de compras. Uma alternativa para esse problema é a adoção de técnicas de mineração de dados. Utilizando técnicas estatísticas, matemáticas e de aprendizado de máquina, a mineração de dados é um campo de estudo com foco na extração de informações úteis e padrões ocultos em conjuntos massivos de dados. Embora seja similar a uma relação, para se obter sucesso na análise de dados, é preciso estabelecer e seguir um processo sistemático. Existem diversas definições de processos de análise de dados na literatura, tais como o SEMMA (Sample, Explore, Modify, Model, and Assess) e CRISP-DM (Cross Industry Standard Process or Data Mining). Embora cada processo tenha definições distintas, em geral, eles envolvem as seguintes etapas: 1. Entendimento do negócio: aqui são definidas as perguntas, o objetivo da análise de dados e o plano a ser seguido; 2. Compreensão dos dados: etapa utilizada para coletar e explorar os dados, aumentando a compreensão sobre sua estrutura, atributos e contexto; 3. Preparação dos dados: após a análise exploratória, inicia-se o processo de limpeza, filtragem, estruturação, redução e integração dos dados; 4. Modelagem dos dados: envolve as tarefas de seleção dos dados, definição e construção do modelo; 5. Validação do modelo: os resultados gerados pelo modelo são avaliados, para verificar se a precisão obtida está satisfatória e coesa; 6. Utilização do modelo: após serem validados, os resultados dos modelos são utilizados e monitorados.

4.2 O PROCESSO DE ANÁLISE DE DADOS

127

Nas próximas seções, abordaremos aspectos técnicos das etapas de compreensão e preparação dos dados, modelagem dos dados e validação do modelo. O foco é apenas apresentar aspectos dessas etapas, fornecendo uma visão geral sobre elas. Tenha em mente que essas são áreas com conceitos muito amplos, que excedem o escopo do livro.

4.3 PREPARANDO OS DADOS Sabe aquele mundo ideal, no qual acessamos um software de análise de dados, inserirmos nossa base, pressionarmos um botão e rapidamente nosso modelo é gerado e os padrões ocultos são revelados? Pois é, infelizmente esse mundo ainda não existe. Conforme já descrito, a fase de preparação, tratamento ou préprocessamento dos dados é essencial na análise de dados, sendo a tarefa que demanda maior tempo e trabalho. Quando falamos de análise dos dados no contexto de Big Data, essa fase se tornou ainda mais importante, uma vez que muitas vezes os dados usados estão em seu formato srcinal, sem nenhuma "lapidação" realizada sobre eles. Mas por que será que preparar os dados é algo tão demorado? Confira a seguir algumas das atividades realizadas nessa fase e a resposta para essa pergunta.

Limpeza dos dados Está lembrado do termo "garbage in, garbage out"? O processo de limpeza de dados é necessário exatamente para minimizar essa ocorrência, de gerar resultados incorretos devido às "sujeiras" existentes nos dados de entrada. O processo de limpeza requer uma inspeção minuciosa dos

128

4.3 PREPARANDO OS DADOS

dados, bem como a realização de operações de correção e remoção, conforme a necessidade. Para exemplificar, considere os registros a seguir, referentes aos dados cadastrais dos clientes da Big Compras. id

nome

idade

sexo

cidade

500

"pedro"

32

"M"

"SãoPaulo"

501

"maria"

41

"F"

"Curitiba"

502

"jonas"

25

"1"

"05360-152"

503

"lucia"

38

"2"

"Londrina"

504

"lucas"

29

"masc"

"Aracaju"

505

"lucas"

29

"masc"

"Aracaju"

Consegue perceber alguns problemas nesses registros? Avaliando a coluna sexo , por exemplo, percebemos que ela está registrada de diferentes formas: com siglas F e M , com números 1 e 2 (provavelmente para indicar uma masc , para representar o sexo masculino.

categoria), e com o texto

Também podemos perceber que alguma coisa está errada na coluna cidade do cliente 502, pois ela contém o código postal em vez do nome da cidade. Além disso, os registros da quinta e sexta linha parecem ser referentes ao mesmo cliente, estando possivelmente duplicados. Uma vez que esses problemas são encontrados, decisões devem ser tomadas para padronizar e ajustar as informações. Por exemplo, no caso da coluna sexo , é possível criar uma função que ajuste todos os registros de acordo com uma regra estabelecida, deixando todos os registros preenchidos com F ou M . Como essa transformação pode afetar inúmeros registros da base de dados, é preciso ter cuidado para não aplicar uma regra que realize a transformação incorretamente. Para evitar essa situação, é

4.3 PREPARANDO OS DADOS

129

substituição gere informações inapropriadas ao conjunto de dados e, consequentemente, à análise.

Identificação de anomalias Para darmos início à explicação de identificação de anomalias, considere os seguintes registros de compras de clientes da Big Compras: id

data

valor

frete

pagamento

106

2016-03-05

120,00

10,00

boleto

107

2016-03-05

350,00

14,00

cartão

108

2016-03-06

400,00

22,50

boleto

109

2016-03-06

310,00

40,00

cartao

110

2016-03-06

250,00

15,00

cartao

111

2016-03-06

135,00

20,00

cartao

112

2016-03-06

280,00

15,00

cartao

113

2016-03-06

350,00

18,00

cartao

114

2016-03-06

310,00

50,00

cartao

115

2016-03-06

120,00

10,00

cartao

116

2016-03-06

5000,00

65,00

cartao

Opa, parece que o registro 116 possui um valor de compra bem diferente de todos os outros registros restantes. Enquanto que os outros registros ficaram com valores entre R$ 100,00 e R$ 400,00, esse teve o valor de compra de R$ 5000,00. Como esse registro apresenta um valor que desvia significativamente do padrão normal do restante dos dados, ele é considerado uma anomalia (do inglês outlier). Mas por que identificar anomalias é uma tarefa importante na preparação de dados? 132

4.3 PREPARANDO OS DADOS

A detecção de anomalias é importante porque ela permite identificar se existe algum erro na entrada de dados numéricos, bem como nos ajuda a perceber a existência de valores extremos que influenciarão alguns métodos estatísticos, mesmo em casos em que as anomalias correspondam a dados válidos. A média é um exemplo de cálculo que sofre essa influência. Se considerarmos a média dos 10 primeiros registros (106-115), teremos como resultado o valor médio de compras de R$ 262,50. No entanto, se também considerarmos o último registro (116), essa média aumentaria para R$ 693,20, um valor muito acima do que todos os demais registros. Quando temos um grande volume de dados, identificar uma anomalia em dados apresentados em formato tabular não é uma tarefa fácil. Como solução, os gráficos podem auxiliar bastante esse processo, como por exemplo, o diagrama de caixa ( boxplot) e o gráfico de dispersão (scatterplot), conforme veremos no capítulo seguinte.

Transformação dos dados Mesmo em situações nas quais os dados usados para a análise já estejam limpos e sem informações ausentes, pode ser necessário aplicar técnicas de transformação sobre eles. Considere a título de exemplificação o conjunto de dados a seguir, referente aos valores dos produtos da Big Compras: id

preço

001

20,00

002

180,00

003

30,00

004

65,00

005

52,00

4.3 PREPARANDO OS DADOS

133

006

23,00

id

preço

007

97,00

008

82,00

009

261,00

010

347.00

Perceba que o campo preço apresenta valores bem distintos, utilizando como unidade de medida a moeda Real. Para evitar que essa diferença influencie de forma tendenciosa a construção do modelo, uma transformação muito adotada é a normalização dos dados. O processo de normalização de variáveis numéricas é aplicado para ajustar a escala dos valores das variáveis. Uma das formas de normalização é a transformação linear, também conhecida como normalização min-max, dado que o cálculo é feito com base nos valores mínimo e máximo de cada atributo no ajuste da escala. Aplicando essa normalização, os registros teriam os seguintes valores: id

preço

preçonormalizado

001

20,00

002

180,00

0,49

003 004

30,00 65,00

0,03 0,14

005

52,00

0,1

006

23,00

0,01

007

97,00

0,25

008

82,00

0,19

134

0

4.3 PREPARANDO OS DADOS

processamento, a eliminação dos atributos irrelevantes também evita que eles atrapalhem o resultado final do modelo. Uma técnica muito conhecida para a prática de redução de dados é a de Análise de Componentes Principais ( Principal Component Analysis — PCA). Essa técnica tem como objetivo detectar a correlação entre as variáveis. E caso seja detectado uma forte correlação entre elas, cria-se um conjunto menor de combinações lineares dessas variáveis, reduzindo assim a dimensionalidade dos dados. Conseguiu perceber quantas tarefas são necessárias realizar antes de iniciar a análise de dados de fato? Mesmo estando superansioso para construir o modelo e assim obter os resultados, não há como fugir dessa primeira etapa. Sem ela, você até pode conseguir seguir adiante, porém, as possibilidades de encontrar problemas na execução do algoritmo ou nos resultados obtidos são muito grandes. Ou seja, preparar os dados para a análise é um "mal necessário".

4.4 CONSTRUINDO O MODELO Com os dados preparados para a análise, damos início à fase de modelagem dos dados. É nessa etapa que utilizamos um algoritmo para gerar a resposta que estamos procurando. A figura a seguir apresenta uma lista de tarefas comuns em mineração de dados para obtenção dessas respostas. Em geral, essas tarefas podem ser divididas em duas categorias: descritiva e preditiva.

136

4.4 CONSTRUINDO O MODELO

Figura 4.1: Tarefas de mineração de dados

Enquanto que o foco principal das tarefas da categoria descritiva é caracterizar e apresentar as propriedades de um conjunto de dados de maneira concisa e informativa, o objetivo das atividades preditivas é construir um modelo para prever as propriedades e/ou tendências de um conjunto de dados desconhecido. Mas qual a diferença entre cada uma dessas tarefas? Veja um resumo sobre cada uma a seguir.

Classificação Considerado por muitos pesquisadores a tarefa mais comum em mineração de dados, a classificação tem como objetivo utilizar atributos de um objeto para determinar a qual classe ele pertence. Imagine, por exemplo, que a varejista Big Compras deseja avaliar as transações de compras dos clientes pelo aplicativo e identificar se alguma transação online de cartão de crédito é fraudulenta. A cada transação é gerado um conjunto de atributos, tais como: 4.4 CONSTRUINDO O MODELO

137

data e horário da transação, valor da transação, localização, lista de produtos comprados. A partir desses atributos, o objetivo é classificar a transação como fraudulenta ou idônea. Esse objetivo pode ser alcançado com uso de algoritmos de classificação. Os algoritmos de classificação necessitam de um conjunto de dados rotulados para gerar o modelo preditivo. Por exemplo, para o cenário de detecção de fraude, devemos utilizar como entrada do algoritmo um conjunto de dados históricos de transações, tendo para cada transação um conjunto de atributos da transação e um atributo especial, que indique se a transação foi rotulada (classificada) como fraudulenta ou não. A partir desse conjunto de dados, o algoritmo de classificação vai "aprender" quais combinações dos atributos estão associados com cada rótulo, gerando assim o modelo. Após essa etapa, novos registros de transações, agora não rotulados, são enviados ao modelo, que deverá gerar como resultado a predição do rótulo de cada uma delas. Algoritmos que utilizam dados rotulados na fase de treinamento do modelo são categorizados como algoritmos de aprendizado supervisionado, conforme ilustrado adiante.

Figura 4.2: Exemplo de aprendizado supervisionado 138

4.4 CONSTRUINDO O MODELO

São exemplos de algoritmos de classificação: árvores de decisão, classificação Bayesiana, classificação baseada em regras, máquinas de vetores suporte (support vector machines) e redes neurais.

Regressão Além da classificação, outra técnica de aprendizado supervisionado é a regressão. A diferença entre essas técnicas é que, enquanto a classificação tenta prever à qual classe pertence uma nova instância, a regressão busca prever um valor numérico contínuo. Por exemplo, imagine que, em vez de prever a adesão a uma oferta de cartão, a equipe da Big Compras estivesse interessada em prever o total de vendas nos próximos meses. Perceba que aqui a resposta desejada é um valor contínuo, e não um rótulo do tipo "sim/não". Esse valor será obtido com base na análise de valores passados de um conjunto de dados. São exemplos de algoritmos de regressão: regressão linear simples e múltipla, regressão não linear simples e múltipla.

Análise de séries temporais Essa tarefa é aplicada a bancos de dados de séries temporais, ou seja, bancos de dados que contenham sequências de valores ou eventos armazenados sucessivamente em função do tempo. Tais valores são normalmente obtidos em um mesmo intervalo de tempo, como a cada dia, hora ou minuto. Por exemplo, no caso da Big Compras, esse banco poderia ser o histórico de vendas de uma categoria de produtos ao longo do tempo. A partir da análise de série temporal, torna-se possível observar o comportamento desses dados em relação ao tempo, podendo assim fazer estimativas como a previsão de vendas, 4.4 CONSTRUINDO O MODELO

139

controle de estoque, lucro mensal, entre outras.

Sumarização Essa tarefa descritiva tem como objetivo mapear os dados em subconjuntos, podendo ocorrer em diversos níveis, para fazer uma descrição compacta sobre eles. Aqui são utilizadas desde operações estatísticas básicas (como média, mediana, moda e desvio padrão) até operações mais complexas (como a derivação de regras de sumarização). Se pensarmos no caso da varejista Big Compras, por exemplo, a sumarização pode ser útil para analisar dados relacionados à navegação dos clientes no aplicativo. Isso gera informações como a média de minutos permanecidos no aplicativo, de produtos pesquisados e produtos comprados em uma escala diária, semanal e anual.

Agrupamento Lembra-se de que, na tarefa de classificação, é necessário enviar um conjunto de dados rotulados para que o modelo seja treinado? Mas como fazer em situações nas quais não sabemos antecipadamente esse rótulo? Por exemplo, imagine que a equipe da Big Compras tivesse como objetivo realizar campanhas de marketing e precisasse segmentar seus clientes com base em comportamentos ou características similares. O problema é que a equipe não sabe como "rotular" esses clientes, pois ela não conhece os padrões existentes nos dados para fazer essa inferência. Para situações como essa, em que o objetivo é que um algoritmo seja capaz de detectar padrões ocultos nos dados, utiliza-se a tarefa de agrupamento. Também conhecido como clustering ou segmentação, nessa 140

4.4 CONSTRUINDO O MODELO

tarefa um algoritmo de agrupamento analisa um conjunto de exemplos não rotulados, com foco em determinar se alguns deles podem ser agrupados de acordo com uma medida de similaridade, gerando assim os grupos (ou clusters). Dessa forma, um algoritmo de agrupamento poderia segmentar clientes da Big Compras de acordo com os padrões encontrados, tais como: nível de renda, faixa de idade, preferências de marca etc. Essa mesma estratégia pode ser adotada em inúmeras outras aplicações, tais como o agrupamento de pacientes com sintomas similares e a classificação de documentos. Conforme apresentado na figura a seguir, os algoritmos que não utilizam conjuntos de dados rotulados no processo de aprendizado são denominados algoritmos de aprendizado não supervisionado. Isso porque eles não recebem nenhuma indicação em relação aos padrões que devem ser detectados. Durante a fase de treinamento, um modelo é criado para identificar os grupos com base nas similaridades. Estando o modelo construído, na fase operacional novos registros são enviados ao modelo, que deverá identificar a qual grupo esse registro pertence.

Figura 4.3: Exemplo de fluxo de aprendizado não supervisionado

4.4 CONSTRUINDO O MODELO

141

São exemplos de algoritmos de agrupamento: k-means, fuzzy cmeans e redes neurais.

Associações Essa atividade tem como objetivo identificar afinidades em um conjunto de atributos. Ou seja, avaliar como os atributos estão relacionados, gerando como resultado um conjunto de regras de associação. Um dos problemas mais conhecido nessa tarefa é a análise do cesto de compras. Como exemplo dessa análise aplicado ao cenário da Big Compras, pode-se citar a análise de itens comprados em uma mesma compra pelos clientes. Como resultado, pode-se obter a seguinte regra de associação: 80% dos clientes que compram leite também compram pão e margarina, sendo o 80% denominado confiança da regra. Descobrir informações similares a essa pode gerar insights para a organização das prateleiras e definição de itens em promoção, aumentando as chances de vendas casadas.

Descoberta de sequências Podendo ser utilizado como uma extensão das tarefas de regras de associação, o objetivo das tarefas de descoberta de sequências é também identificar itens frequentes, porém considerando um determinado período de tempo. Ou seja, de acordo com a maneira com que os dados estão alinhados, com essa tarefa pode-se descobrir uma sequência cronológica em que aconteceram os eventos. Para o cenário da Big Compras, por exemplo, a descoberta de sequências pode revelar que, quando um cliente compra uma cama, ele costuma comprar itens de roupa de cama na sequência. Tal 142

4.4 CONSTRUINDO O MODELO

informação pode ser útil para a realização de campanhas de marketing direcionadas. Essas são apenas algumas das possibilidades para se obter valor a partir da análise de dados. Empresas brasileiras de diversos setores á estão adotando essas técnicas para obter vantagem competitiva no mercado. Um exemplo notório é a empresa varejista Magazine Luiza. Com um histórico de dados de clientes desde 1998, a empresa realiza a análise de dados para diversas ações, desde segmentação de clientes, modelagem estatística e ações de comunicação dirigida. Além dos dados transacionais, a empresa também utiliza informações como dados de navegação, informações sobre presença em loja física e informações de crédito. A análise desses dados permite que a empresa consiga ter maior inferência sobre o comportamento do consumidor, para que assim eles possam ser mais assertivos nas abordagens, realizadas por meio do site da loja, e-mail marketing, mala direta e rede social. Como resultado, a empresa obtém maior satisfação do cliente, maior retorno em vendas e diluição nos investimentos de marketing.

Aplicações específicas de análise de dados Nessa seção, são abordadas as aplicações específicas atualmente desenvolvidas a partir das técnicas de mineração de dados. Análise de redes sociais online Você já utilizou uma rede social online na qual encontrou pessoas conhecidas por meio da sugestão de amigos feitas para você? Imagine se essa funcionalidade não existisse. Certamente seria muito mais difícil encontrar pessoas conhecidas dentro da rede. Mas você sabe como esse tipo de sugestão é implementada? Isso 4.4 CONSTRUINDO O MODELO

143

é possível por meio de técnicas de análise de redes sociais online. Esse tipo de análise tem despertado um grande interesse no mundo dos negócios, devido ao crescimento do número de diferentes tipos de interações entre indivíduos e organizações. As técnicas utilizadas nesse tipo de análise são fundamentadas em teoria de grafos, na qual nós representam indivíduos, e vértices representam os inúmeros relacionamentos entre eles. Por meio dessas técnicas, torna-se possível identificar como grupos foram formados, quais usuários são mais influentes dentro desses grupos, como um usuário seleciona suas conexões, entre inúmeras outras informações. Um dos desafios relacionados à análise de redes sociais online é que elas costumam ser altamente dinâmicas, na qual mudanças ocorrem a todo o momento. Por isso sua aplicação precisa ter a habilidade para se adaptar e identificar tendências de acordo com essas mudanças. Processamento de linguagem natural Imagine que você deseja analisar uma série de vídeos de palestras em inglês, para gerar automaticamente a legenda do áudio do filme em português. Como você implementaria essa funcionalidade? A área de processamento de linguagem natural (PLN) tem como objetivo analisar extrair significados de conteúdos de voz de e texto. Considerada um esubconjunto de text analytics , as técnicas PLN se diferem das demais por terem a habilidade de analisar a linguagem escrita, buscando compreender a estrutura de um texto e o significado de cada palavra dentro de um contexto de outras. Pense, por exemplo, no Google Tradutor, um serviço do Google que faz a tradução automática de um texto para outro idioma. 144

4.4 CONSTRUINDO O MODELO

Como o computador pode compreender quando a palavra "nada" faz referência a um pronome indefinido ou a flexão do verbo nadar? Para realizar atividades como essa, a área de PLN é composta por um vasto conjunto de técnicas, tais como a análise léxica e extração de palavras-chave. Essas são algumas aplicações que fazem uso do PLN: tradução de línguas, reconhecimento de voz, classificação de texto em categorias, detecção de plágio, extração de informação, correção gramatical e extração de dados a partir de textos. Visão computacional Pense no seguinte desafio: você deseja identificar imagens para identificar se nelas aparece a marca de um determinado produto. Como você faria para fazer essa identificação? Esse seria um dos problemas inseridos na área de visão computacional. Sabemos que a quantidade de dados a partir de vídeos e imagens cresceu de forma acelerada nos últimos anos. Isso trouxe à tona a possibilidade de descobrir novos insights a partir desses dados. A área de visão computacional tem como objetivo estudar mecanismos para analisar e compreender a informação visual nesse grande volume de dados de vídeos e imagens. Algoritmos de aprendizado de máquina são utilizados nesse segmento para detecção de objetos, mapeamento de imagens, busca, indexação e recuperação de imagens, compreensão de cenas, entre outras inúmeras pesquisas com esses tipos de dados. Uma das técnicas que tem ganhado destaque recentemente em visão computacional é a deep learning, um tipo específico de rede neural artificial que tem se destacado nas tarefas de tratamento e reconhecimento de imagens, texto e voz. Deep learning utiliza um 4.4 CONSTRUINDO O MODELO

145

processo de aprendizagem muito similar ao que ocorre no cérebro humano. Para isso, durante a aprendizagem de reconhecimento de uma imagem, por exemplo, são utilizados um grande volume de informações para que o reconhecimento seja possível. Diversas soluções que usamos atualmente são processadas por meio de deep learning, como por exemplo a funcionalidade de reconhecimento de faces que o Facebook oferece. São exemplos de aplicações: câmera inteligente, reconhecimento de íris, reconhecimento de sinais de tráfego, análise de conteúdo de vídeos, recuperação de imagens, detecção de pedestre e detecção de objetos.

4.5 VALIDANDO O MODELO Já ouviu falar que uma informação errada é pior que nenhuma informação? Essa frase também se aplica à análise de dados. Imagine o caos que pode ser gerado em uma empresa da área médica que utiliza resultados de um modelo que faz diagnósticos errados sobre seus pacientes. Ou então, uma empresa que utiliza um modelo preditivo que reconhece grande parte das transações idôneas como sendo fraudulentas? Ou até mesmo o contrário, que considera muitas transações fraudulentas como sendo idôneas. Quanto mais serviços forem realizados com base em informações obtidas da análise de dados, maior a importância de se validar os modelos e assim ter resultados mais assertivos. Dessa forma, após ter realizado o tratamento dos dados e construído o modelo de acordo com a análise desejada, deve ser iniciado a fase de validação do modelo. Essa fase tem como objetivo avaliar o desempenho do modelo 146

4.5 VALIDANDO O MODELO

de classificação. Nessa técnica, omite-se uma observação da base de dados durante as iterações, e a função de classificação é realizada com os dados restantes. Por exemplo, sendo k = 10 , o classificador será treinado 10 vezes. Na primeira iteração, o grupo 1 é utilizado para teste e o restante para treinamento. Na segunda iteração, o grupo 2 é usado para teste e o restante para treinamento, e assim sucessivamente. Para cada iteração é calculada a taxa de erro de classificação. E ao fim de todas as iterações, calculam-se a média e o desvio padrão das taxas de erro sobre esses grupos.

4.6 TECNOLOGIAS DE BIG DATA PARA ANÁLISE DE DADOS Com o advento de Big Data, surgiram novas possibilidades relacionadas à análise de dados. Entretanto, há muitos anos essa prática já é realizada pelas empresas, existindo diversas ferramentas para esse fim. Por exemplo, Business Intelligence (BI) se tornou um termo popular nas áreas de negócios nos anos 90 para referenciar um conjunto de técnicas para o processo de coleta, organização, análise e monitoramento de informações que oferecem suporte a gestão de negócios. Diversas ferramentas analíticas se estabeleceram nessa época, sendo até hoje amplamente utilizadas. Temos como exemplo o Microsoft Excel, SAS, SPSS, R, Weka e Cognos. Cada uma tinha como objetivo oferecer funcionalidades para aperfeiçoar a inteligência dos negócios. Com a necessidade de manipular dados referentes aos 3 Vs de Big Data (volume, variedade e velocidade), essas ferramentas passaram a sofrer limitações na análise de dados. Um dos primeiros 148

4.6 TECNOLOGIAS DE BIG DATA PARA ANÁLISE DE DADOS

desafios foi em relação à variedade dos dados, visto que as ferramentas tradicionais de análise de dados tinham como principal objetivo a análise de dados estruturados. Os dados eram mantidos em silos em um data warehouse, e analisados para identificação de padrões que pudessem auxiliar o processo de tomada de decisão. Entretanto, as empresas que usavam essas ferramentas foram percebendo a necessidade de processar não somente dados estruturados, mas também uma avalanche de dados não estruturados, em formato de textos, vídeos, imagens e outros conteúdos. O segundo desafio foi em relação ao volume e velocidade dos dados. Ao realizar suas análises com um grande volume de dados, as empresas perceberam que as ferramentas tradicionais não ofereciam o desempenho e escalabilidade necessária para manipular a quantidade de dados desejada. Por consequência, havia uma limitação no tempo de resposta das análises e na quantidade máxima de dados passível de ser utilizada. Diante dessas limitações, as empresas perceberam a necessidade de se criar uma nova infraestrutura para suportar grandes volumes de dados, e assim gerar as análises de acordo com a necessidade. O que elas passaram a buscar foram soluções que permitissem utilizar as técnicas de análise de dados em ambientes escaláveis, com bom desempenho e baixo custo. Já vimos no capítulo anterior que existem diversas ferramentas de Big Data que permitem o processamento distribuído de grande volume de dados. Todas as ferramentas citadas são adequadas para o processo de análise de dados. Entretanto, elas estão focadas principalmente em fornecer suporte a questões relativas ao desempenho, escalabilidade, disponibilidade e tolerância a falhas, porém não possuem em seu core um suporte para o desenvolvimento de algoritmos utilizados nas análises. 4.6 TECNOLOGIAS DE BIG DATA PARA ANÁLISE DE DADOS

149

Para suprir essa necessidade, têm surgido frameworks e bibliotecas de programação específicas para o desenvolvimento de algoritmos de análise de dados que podem ser utilizados em conjunto com as tecnologias de Big Data, facilitando assim a análise dos dados em ambiente escalável. A seguir, apresento algumas dessas ferramentas.

Apache Mahout O modelo de programação MapReduce pode ser utilizado para desenvolver inúmeras aplicações. Entretanto, a conversão de algoritmos para o modelo chave-valor, com funções map e reduce, pode ser um grande desafio, principalmente se esses algoritmos forem os pertencentes à área de aprendizado de máquina. Para que a implementação desses algoritmos na plataforma Hadoop não fossem tão complexas, foi criado o Apache Mahout, uma biblioteca Java que oferece a base para diversos algoritmos de mineração de dados e aprendizado de máquina. Com o Mahout, o desenvolvedor tem disponível uma série de implementações prontas para serem usadas em sua análise, devendo apenas configurar o algoritmo com os parâmetros e fluxo desejado. Tendo feito isso, a execução do algoritmo é feita em uma plataforma Hadoop, permitindo capturar e salvar dados no HDFS, bem como distribuir as tarefas dentro da plataforma. Atualmente, o Apache Mahout já fornece suporte para inúmeros algoritmos de aprendizado supervisionado e não supervisionado.

Spark MLLib Enquanto que o Apache Mahout oferece algoritmos de mineração de dados e aprendizado de máquina baseados no modelo de programação MapReduce, a biblioteca Spark MLLib oferece esses algoritmos para serem executados no ambiente Spark. Dessa forma, 150

4.6 TECNOLOGIAS DE BIG DATA PARA ANÁLISE DE DADOS

o desenvolvedor também conta com um conjunto de classes para gerar as análises necessárias para o seu negócio. Essa biblioteca também permite trabalhar com fontes de dados armazenados no HDFS, capturando e gravando novos dados.

Weka O software Weka foi desenvolvido em 1997, pela Universidade de Waikato (Nova Zelândia), oferecendo à comunidade uma interface gráfica para o desenvolvimento de algoritmos de mineração de dados. Entretanto, o software tem como limitação o fato de utilizar somente o processamento local para suas análises, limitando a capacidade de processamento que usam grandes volumes de dados. Para se adaptar às necessidades impostas por Big Data, foram desenvolvidas bibliotecas que realizam a integração entre o Weka e os frameworks de Big Data Hadoop e Spark. Dessa forma, o desenvolvedor continua usufruindo da interface amigável que o Weka oferece, mas tem agora a possibilidade de processar sua aplicação em um ambiente distribuído.

R R é uma linguagem de programação e um ambiente de software gratuito com funcionalidades voltadas à computação estatística e à visualização de dados. Um dos destaques do R é a facilidade na manipulação dos dados e a vasta quantidade de bibliotecas em seu repositório, contendo funções para diferentes análises, como mineração de texto, redes Bayesianas, agrupamento, classificação e análise de séries temporais. Uma das limitações do R é o gerenciamento de memória. Por manter todos os objetos em memória, você pode ter limitações na quantidade de dados processados durante a análise, sendo isso um 4.6 TECNOLOGIAS DE BIG DATA PARA ANÁLISE DE DADOS

151

grande problema principalmente na era de Big Data. Para solucionar essa questão, atualmente existe a possibilidade de integrar o software R com outros frameworks de Big Data, como o Hadoop e Spark.

Python Diferente de R, Python é uma linguagem de programação de alto nível voltada para um propósito geral, não somente análise de dados. Entretanto, algumas bibliotecas Python específicas para esse propósito estão tornando essa linguagem muito atrativa para os analistas de dados, principalmente aos que possuem maior background em programação do que em estatística. Uma das bibliotecas que tem se destacado é o scikit-learn, contendo inúmeras ferramentas voltadas à mineração de dados e ao aprendizado de máquina. Além dessa, temos também o Pandas, outra biblioteca open source com funcionalidades para estrutura e análise de dados. Tanto R quanto Python são poderosos na quantidade de funções que disponibilizam para a análise de dados. Por esse motivo, a escolha entre as duas linguagens pode ser feita de acordo com a que você sentir mais facilidade.

4.7 BIG DATA ANALYTICS Com a quantidade massiva de dados gerados atualmente, novos desafios foram surgindo à análise de dados. Para possibilitar o avanço das análises realizadas, métodos estatísticos, algoritmos de aprendizado de máquina e técnicas de mineração de dados precisaram ser adaptados para suportar modelos de processamento paralelo e distribuídos. Dessa forma, as tecnologias de processamento de Big Data, somadas à evolução dessas abordagens, 152

4.7 BIG DATA ANALYTICS

análise prescritiva necessita de enormes bases de dados para o processo de aprendizado. Felizmente, Big Data tem facilitado a aquisição deles. Com esse exemplo, já é possível identificar que a análise prescritiva é uma solução disruptiva, capaz de transformar negócios, tornando o processo de tomada de decisão cada vez mais eficiente. Entretanto, por ser uma técnica ainda complexa de ser adotada, há uma estimativa de que apenas 3% das empresas usam análise prescritiva em seus negócios. Ou seja, ainda há muitas possibilidades de obter vantagem competitiva por meio dessa técnica de análise.

Resumo das categorias de analytics Podemos observar na figura a seguir claramente quais questões são respondidas por cada categoria de analytics. Uma empresa que utiliza essas quatro categorias tem a capacidade de tomar decisões apoiada por dados, obtendo percepções claras sobre a real situação de seu negócio.

Figura 4.4: Quatro níveis de analytics

Certamente veremos nos próximos anos a iniciativa cada vez 158

4.7 BIG DATA ANALYTICS

técnica calcula a probabilidade de spam ou não spam para cada palavra. Essa técnica é baseada na regra de Bayes e da análise de frequência de ocorrências de palavras.

Passo 1: tratamento da base de dados O primeiro passo é carregar a base de dados para o R, conforme o comando a seguir: > msg str(msg) 'data.frame': 5559 obs. of 2 variables: $ type: chr "ham" "ham" "ham" "spam" ... $ text: chr "Hope you are having a good week. Just checking in" "K..give back my thanks." "Am also doing in cbe only. But have to pay." "complimentary 4 STAR Ibiza Holiday or £10,000 cash needs your URGENT collection. 09066364349 NOW from Landline not to lose out" __truncated__ ...

Perceba que a base foi devidamente carregada, contendo 5.559 observações. Perceba também que o texto das mensagens está em seu formato srcinal, precisando de ajustes para ser utilizado no modelo. Para aplicarmos os tratamentos necessários à base de dados, usaremos o pacote tm do R, específico para técnicas de mineração de texto. Isso pode ser feito por meio do seguinte comando: > install.packages(“tm”) > library(tm)

O primeiro comando é utilizado para instalar o pacote, e o segundo para carregar o pacote na seção. O próximo passo para usarmos as operações de mineração de texto será criarmos uma 160

4.8 PRATICANDO: CLASSIFICAÇÃO DE MENSAGENS USANDO R

coleção de documentos. Essa coleção é tecnicamente referenciada como um objeto Corpus no software R. > msg_corpus ccorpus ccorpus ccorpus stopwords() [1] "i" "me" "my" [4] "myself" "we" "our"

4.8 PRATICANDO: CLASSIFICAÇÃO DE MENSAGENS USANDO R

161

[7] "ours" "ourselves" "you" [10] "your" "yours" "yourself" [13] "yourselves" "he" "him" [16] "his" "himself" "she"

Para remover essas palavras, utilizamos a função conforme o código a seguir.

removeWords

,

> ccorpus inspect(ccorpus[1:4]) Metadata: corpus specific: 0, document level (indexed): 0 Content: documents: 4 [[1]] Metadata: 7 Content: chars: 33

Após a limpeza de dados, estamos prontos para utilizar a base na construção do modelo. Entretanto, ainda precisamos criar um objeto chamado matriz de termos em documentos, que será usado para contar a frequência de cada palavra nas mensagens observadas. Podemos fazer isso com o seguinte comando: > ccorpus msg_mtd inspect(msg_mtd[1:4, 30:35]) Non-/sparse entries: 0/24 Sparsity : 100% Maximal term length: 8 Weighting : term frequency (tf) Terms Docs abstract abt abta aburo abuse abusers 1 0 0 0 0 0 0

162

4.8 PRATICANDO: CLASSIFICAÇÃO DE MENSAGENS USANDO R

2 3 4

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

Estamos quase prontos para gerar o classificador, falta apenas separarmos nossa base de dados para a fase de treinamento e para a fase de teste, conforme vimos na explicação sobre a tarefa de classificação. Nessa atividade, deixaremos 75% da base de dados para o treinamento e os 25% restante para o teste. Para isso, primeiramente vamos separar os índices referentes às mensagens spam e os índices referentes às mensagens ham: > spam_indices spam_indices[1:3] [1] 4 5 9 > ham_indices ham_indices[1:3] [1] 1 2 3

Você se lembra de que, até o momento, temos 3 variáveis criadas: msg , referente à base de dados srcinal; ccorpus , referente ao nosso objeto Corpus; e msg_mtd , referente à matriz de termos de documentos. Pois bem, nossa divisão da base de dados deverá ocorrer para elas. > msg_trei msg_test > > >

msg_mtd_trei library(ggplot2) > library(plotly)

Pronto, agora já podemos utilizar em nossa visualização as funções disponibilizadas por esses pacotes. Para dar início à visualização, carregaremos nossa base de dados para o R. Para essa atividade, usaremos o arquivo acessos.csv , que contém o número de acessos ao aplicativo Big Compras por cidade. > df
View more...

Comments

Copyright © 2017 KUPDF Inc.
SUPPORT KUPDF