<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Ronald Albert on Medium]]></title>
        <description><![CDATA[Stories by Ronald Albert on Medium]]></description>
        <link>https://medium.com/@ronaldalbert?source=rss-55a3ff022839------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/0*aZBdHiEPOZWVniSq.</url>
            <title>Stories by Ronald Albert on Medium</title>
            <link>https://medium.com/@ronaldalbert?source=rss-55a3ff022839------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Fri, 20 Nov 2026 17:50:00 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@ronaldalbert/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Faz um mês e meio eu quebrei a ulna]]></title>
            <link>https://ronaldalbert.medium.com/faz-um-m%C3%AAs-e-meio-eu-quebrei-a-ulna-3de6e6908d83?source=rss-55a3ff022839------2</link>
            <guid isPermaLink="false">https://medium.com/p/3de6e6908d83</guid>
            <dc:creator><![CDATA[Ronald Albert]]></dc:creator>
            <pubDate>Mon, 11 Nov 2024 16:21:41 GMT</pubDate>
            <atom:updated>2025-08-13T13:45:24.819Z</atom:updated>
            <content:encoded><![CDATA[<h3>Faz um mês e meio, eu quebrei a ulna</h3><p>Na última sexta-feira, eu comprei um colar com uma pedra de uma gaúcha tilelê no Largo do Machado. Ela me disse que a pedra trazia proteção espiritual. Na verdade, eu procurava um colar, o meu anterior arrebentou horas antes, enquanto eu comia um pão com ovo de café da manhã, arrebentou o colar que eu comprei dias antes em uma viagem a Montevideo com meus pais.</p><p>Assim que eu vi a corrente do colar cair sobre a comida, foi a segunda morte da semana. As coisas andavam bem com a minha dissertação de mestrado e eu precisava continuar estável, então eu fui andando até o joalheiro mais próximo, precisava soldar aquela corrente, era uma loja na rua Voluntários da Pátria. Fechada. A segunda opção ficava no Largo do Machado, um joalheiro extremamente grosseiro, mas que garantiu o conserto da corrente, que duraria uma semana. Não podia esperar mais uma semana; como eu já disse, já estava esperando há um mês e meio pela recuperação da minha fratura na ulna.</p><p>A proteção espiritual do colar da gaúcha no Largo do Machado soou como uma boa ideia, já que era um colar (o meu estava consertando) e, aparentemente, o meu espírito precisava de proteção. Era caro, mas não importava muito.</p><p>No início da semana, eu viajei com meus pais para comemorar os seus 30 anos de casados, fomos para Montevideo e lá eu comprei o colar arrebentado. Quem me vendeu foi uma senhora uruguaia extremamente agradável, eu expliquei que comprava aquele colar porque tinha perdido uma pulseira no dia anterior e precisava muito daquilo. A senhora, além de agradável, gostava de enganar turistas, já que, de acordo com o joalheiro extremamente grosseiro, aquela corrente arrebentou porque ela já havia sido soldada.</p><p>A pulseira que eu perdi, a primeira de todas as joias, foi um presente de aniversário, a recebi duas semanas antes de quebrar a ulna e portanto, estive com ela por dois meses. Ela virou a preferida das minhas peças de roupa e fez um bom trabalho em me tranquilizar em dias de dor. Fazia um tempo, duas pontas da corrente se soltavam, sempre no mesmo lugar, e o risco de que essas duas pontas se soltassem sem que eu percebesse e a pulseira fosse perdida era real.</p><p>O risco se concretizou, dos meus medos, um dos maiores, a pulseira se perdeu, provavelmente em uma vinícola chamada Pizzorno, que produz o vinho do solzinho no mercado.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/620/0*okSCoinCjrnkUleV" /><figcaption>Vinho produzido pela vinícola</figcaption></figure><p>Aquela pulseira era um dos meus bens mais preciosos e o risco de perdê-la ter se concretizado trouxe de volta todos os meus medos que se concretizaram ultimamente, dentre eles quebrar o braço.</p><p>A verdade é que, nesses últimos dois meses, as dores ficaram mais intensas e os maiores medos deixaram de ser potenciais para serem bem reais. Um <em>tweet</em> engraçado dizia &quot;O que eu mais temia aconteceu e agora eu não temo mais nada&quot;, acho que faz algum sentido.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*7Au7o2pTjBsY3GEYfFA8ww.png" /><figcaption>Tweet</figcaption></figure><p>Na minha última consulta com a ortopedista, dias antes de viajar com meus pais. A Dra. Fernanda havia me assegurado alta na semana seguinte, já que o meu osso estava quase recuperado. Essa consulta é amanhã, e eu tenho sustentado boa parte da minha esperança de que as coisas vão melhorar nela. Hoje, eu fiz um exame de radiologia e o laudo dizia &quot;Fratura diafisária distal em consolidação na ulna. Calha Gessada.&quot;. A verdade é que esse ainda não é o laudo da minha ortopedista, porém mais um dos meus grandes medos parece se concretizar e o surto foi suficiente para eu escrever este texto.</p><p>Ainda assim, nem tudo é horrível, no sábado eu fui até a Praça XV, lugar onde a pulseira perdida foi comprada, com o objetivo de encontrar a mesma pulseira, e consegui. Acredito que medos se concretizem, mas sonhos também.</p><p>De qualquer forma, eu sinto muito ódio e desejo todo mal para o/a motorista que me fraturou. Se um dia eu o/a conhecer, devo dar de presente o colar que eu comprei com a gaúcha no Largo do Machado. Ele/a precisa de proteção espiritual mais do que eu.</p><p>Esse texto, escrito numa segunda-feira, talvez seja sobre uma única dor, que também é física.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3de6e6908d83" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Eu entendo a mariana alcoforado comigo]]></title>
            <link>https://ronaldalbert.medium.com/eu-entendo-a-mariana-alcoforado-comigo-5347241c53cc?source=rss-55a3ff022839------2</link>
            <guid isPermaLink="false">https://medium.com/p/5347241c53cc</guid>
            <dc:creator><![CDATA[Ronald Albert]]></dc:creator>
            <pubDate>Tue, 08 Mar 2022 19:27:35 GMT</pubDate>
            <atom:updated>2025-04-07T00:56:48.731Z</atom:updated>
            <content:encoded><![CDATA[<p>Mariana Alcoforado foi uma freira portuguesa que talvez nunca tenha existido, mas que supostamente escreveu um livro chamado “Cartas Portuguesas”.</p><p>Eu conheci ela pela primeira vez no terceiro ano do ensino médio em uma aula de literatura de um curso preparatório para o vestibular. Quando eu li a seguinte citação:</p><p>“Adeus, mais uma vez! Escrevo-te estas cartas longas demais; não tenho suficiente respeito por ti, e disso te peço perdão. E ouso esperar que usarás de alguma indulgência para com uma pobre insensata que o não era, como muito bem sabes, antes de te amar.<br> Adeus! Parece-me que falo demais no estado deplorável em que me encontro. <strong>No entanto, do fundo do coração te agradeço o desespero que me causas, e detesto a tranquilidade em que vivi antes de te conhecer.</strong>”</p><p>Mais especificamente, a parte em negrito me fascinou.</p><p>Acredito que a ideia de agradecer pela <strong>angústia, </strong>me abriu os olhos para uma perspectiva do que relações são que eu não conhecia.</p><p>O livro “Cartas Portuguesas” é extremamente pequeno e eu o li em uma tarde (em torno de 30 minutos), sinceramente eu acho que deva ser um dos piores livros que eu já li na minha vida.</p><p>Teoricamente, as cartas no livro foram escritas por uma freira portuguesa chamada Mariana Alcoforado para um oficial francês em uma missão em Portugal.</p><p>As cartas foram publicadas em francês em um jornal de Paris. Muito provavelmente nem Mariana Alcoforado nem o oficial existiram, tudo foi uma estratégia apelativa do jornal.</p><p>Descobrir isso foi extremamente frustrante, e ainda mais frustrante foi ver que todo o conteúdo de todas as cartas é de alguma maneira a citação acima escrita de uma maneira diferente. Tudo no livro é a angustia de Mariana Alcoforado e na segunda página isso já é repetitivo.</p><p>Apesar do livro, eu nutri e ainda nutro muito gosto pela personagem da Mariana. O personagem que eu construi na minha cabeça é muito melhor que a presente no livro e ela eu amo.</p><p>A minha relação com ela é nossa e única, e ela sabe muito bem quem eu sou. Essa relação eu conheço desde aquela aula no curso pré-vestibular.</p><p>Ainda que eu fosse muito próximo dela, eu não acredito que eu conheço ou entendo a personagem que eu mesmo criei, apesar da ideia de criar algo que não se conhece parecer contraditória, essa é a natureza da criação.</p><p>Hoje!, eu entendi ela um pouco melhor, aquela que está comigo.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/693/0*5eMogNCent1ow_Ge" /><figcaption>A minha tatuagem de uma pintura do Henri Matisse da própria Mariana.</figcaption></figure><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=5347241c53cc" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Uso da Decomposição em Valores Singulares na Regressão Linear]]></title>
            <link>https://medium.com/ufrj-analytica/uso-da-decomposi%C3%A7%C3%A3o-em-valores-singulares-na-regress%C3%A3o-linear-67948a86e31?source=rss-55a3ff022839------2</link>
            <guid isPermaLink="false">https://medium.com/p/67948a86e31</guid>
            <category><![CDATA[principal-component]]></category>
            <category><![CDATA[python]]></category>
            <category><![CDATA[svd]]></category>
            <category><![CDATA[linear-algebra]]></category>
            <category><![CDATA[linear-regression]]></category>
            <dc:creator><![CDATA[Ronald Albert]]></dc:creator>
            <pubDate>Wed, 26 Jan 2022 22:32:10 GMT</pubDate>
            <atom:updated>2024-11-11T17:04:49.460Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*LrVSQsZyYnJTmAhXc9soAQ.jpeg" /></figure><h3>O modelo Linear</h3><p>Para usar uma reta que determine a relação entre duas variáveis, assumimos que a relação entre as variáveis é a seguinte:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/143/1*yyuuJ4jewknJ6DGcTTVx6A.png" /></figure><p>Assumindo que N é o número de observações que temos das variáveis, Y e e são vetores de N elementos, X é uma matriz de tamanho N×p, onde p é o número de variáveis usadas para predizer Y, além disso β é um vetor de p elementos.</p><p>Assumindo p=3, teríamos a seguinte função de regressão:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/325/1*j5ZRXiTiOhhmRJVWYQ-Bww.png" /></figure><p>Geralmente, em uma regressão, assumimos uma das variáveis xⱼ=1, ou seja, a real equação para yᵢ quando temos p=3:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/286/1*O1qocVz8D7lh5HYKFh10Aw.png" /></figure><p>O coeficiente β₃ é chamado de termo independente.</p><pre># Gerando um dataset sintético de variáveis para explicitar a Regressão Linear em Python.<br><br>n_amostras = 100<br>X = np.array([np.random.normal(2, 40, n_amostras), np.random.normal(5, 5, n_amostras)]).T<br>e = np.random.normal(0, 50, n_amostras)<br><br>y = [(2*i[0]) + (0.5*i[1]) + 4 for i in X] + e<br>y_real = [(2*i[0]) + (0.5*i[1]) + 4 for i in X]</pre><pre>#Usando o método Linear Regression do sklearn, para realizar a Regressão Linear no dataset sintético gerado anteriormente.<br><br>reg = LinearRegression().fit(X, y_real)<br><br>beta = np.append(reg.coef_, reg.intercept_)</pre><pre>beta</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/975/1*06fAmQQWxe0lLy1cAuguCw.png" /></figure><pre># Calculamos o Erro Quadrático Médio da predição realizada por meio do método &#39;mean_squared_error&#39; do sklearn.<br>mean_squared_error(y_real, reg.predict(X))</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/971/1*On6Ax2HUBuMk_Tg5wXO-iA.png" /></figure><pre># Realizaremos um plot 3D para a regressão linear ser melhor visualizada.<br><br>fig = go.Figure(data = go.Scatter3d(x=X[:,0], y=X[:,1], z=y, mode=&#39;markers&#39;))<br><br>x_plot,y_plot = np.meshgrid(X[:,0], X[:,1])<br><br>z = beta[0]*x_plot + beta[1]*y_plot + beta[2]</pre><pre><br>fig.add_trace(<br>    go.Surface(<br>        x=tuple(x_plot),<br>        y=tuple(y_plot),<br>        z=tuple(z),<br>        colorscale=[[0, &#39;rgb(44, 160, 44)&#39;], [1, &#39;rgb(44, 160, 44)&#39;]]<br>    )<br>)<br><br><br>fig.show()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/554/1*O8dC6T-jWzqUosOfXw9mcg.png" /><figcaption>Gráfico da regressão linear</figcaption></figure><h3>A decomposição em Valores Singulares</h3><p>Dada uma matriz Xₙₓₚ, é possível decompo-la da seguinte forma:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/219/1*INp3QHH-7doy4Wvd_B8U2Q.png" /></figure><p>Onde r é o posto da matriz Xₙₓₚ, Uₙₓᵣ e Vᵣₓₚ são matrizes ortogonais<strong>*</strong>, e Σᵣₓᵣ é uma matriz diagonal.</p><p>À essa decomposição é dado o nome de <strong>SVD</strong>, ou <strong>Decomposição em Valores Singulares</strong>.</p><p>Na <strong>decomposição em Valores Singulares</strong>, devemos uma especial atenção à matriz Σ, que é da seguinte forma:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/376/1*8jm7eo7nyI1n-JyHv-v4mw.png" /></figure><p>O valores na diagonal de Σ, são chamados de <strong>Valores Singulares</strong> de X.</p><p>Além disso, vamos definir a matrix Σd×d, com d ≤ r, como sendo:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/577/1*cmhTd9oxhLvvkrzLUCAD3w.png" /></figure><p>Ou seja, é a mesma matriz, só que substituindo todos os valores singulares maiores que d por 0.</p><p>O SVD é comumente usado para realizar a tarefa de <strong>Redução de Dimensionalidade</strong>, no contexto de Ciência de Dados, Redução de Dimensionalidade é, basicamente, reduzir o número de colunas em um dataset.</p><p>O SVD é de especial interesse nesse contexto, por conta do que é conhecido como <strong>Teorema de Eckart-Young</strong>, o teorema diz que dado uma dimensão d, a matriz ~X, definida abaixo como:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/232/1*qyeGfforqjZCApvBOgG8GA.png" /></figure><p>A matriz ~X, tem como propriedade posto(~X)=d, e, além disso, temos que ~X é a matriz de posto d, cuja ||X − ~X||^2 é mínima.</p><p>Ou seja, ~X é a matriz de posto d que melhor aproxima X, de acordo com a norma de Frobenius.</p><p><strong>*</strong>: Se uma matriz A é ortogonal, então:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/156/1*8JokWijAbvmW9KQX8ILNag.png" /></figure><p>O determinante de matrizes ortogonais (±1), indicam que matrizes ortogonais não alargam nem encurtam o espaço vetorial, mais especificamente, as transformações produzidas por matrizes ortogonais são exclusivamente rotações.</p><p>Olhemos com cuidado para a seguinte matriz, UₙₓᵣΣd×d, podemos ver que ela é uma matriz com N linhas e d colunas, tendo como imagem um hiperplano de dimensão d.</p><p>Observe agora, que a matriz ~X, definida por UₙₓᵣΣd×dVᵗᵣₓₚ, tem como imagem uma hiperplano de dimensão d em Rr.</p><p>Na verdade, Vᵗ está levando a imagem da matriz UₙₓᵣΣd×d para Rʳ, sem mudar a distância entre os pontos.</p><p>Dessa perspectiva, podemos interpretar a matriz UₙₓᵣΣd×d, como uma aproximação de dimensão d para X, originalmente de dimensão r.</p><p>À este processo damos o nome de <strong>Redução de Dimensionalidade</strong>.</p><pre># Usando o método linalg.svd do numpy na matriz de features construída anteriormente.<br>U,s_values,V = np.linalg.svd(X)<br><br>S = np.zeros((U.shape[0],V.shape[1]))<br>np.fill_diagonal(S, s_values)</pre><pre>X_reconstructed = U@S@V</pre><pre># Vemos que o SVD foi capaz de reconstruir completamente a matriz X, de maneira que o valor da norma da subtração de<br>#X original pelo X reconstruido pelo SVD é meramente erro numérico da linguagem Python.<br>np.linalg.norm(X - X_reconstructed)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/970/1*Lhc5YdaheVwWXUgt7eQz8g.png" /></figure><pre>#Realizando uma redução de dimensionalidade de X, com 2 valores singulares, estamos jogando X para a dimensão 2.<br>X_red_dim = U[:,:2]@S[:2,:2]@V[:2, :]</pre><pre># Vemos que desta vez a norma não é mais 0, uma vez que a redução de dimensionalidade foi realizada e 2 valores singulares<br>#não são capazes de reconstruir X completamente.<br><br>np.linalg.norm(X - X_red_dim)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/970/1*23GaqJVYgfymOHip2XEVsA.png" /></figure><h3>PCR — Principal Components Regression</h3><p>O PCR (Regressão por Componentes Principais, em português), é a ideia de substituir o X na fórmula original da regressão linear pelo seu SVD. Assim, veremos que temos alguns benefícios em certos casos.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/183/1*wUft4abAnjlpYJHZ5zpbKw.png" /></figure><p>Introduzindo uma matriz αᵣₓ₁</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/125/1*roywkASh5-bC5bMh5bdFQA.png" /></figure><p>A nova equação da regressão linear é:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/127/1*x3DP3iQ_bvJwT-4PeKf3Kg.png" /></figure><p>A partir de tais resultados é possível chegar em uma expressão para a variância de β.<br> Começamos por escrever ^β em função de ^α usando a decomposição SVD de X:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/132/1*WpB2UUHOFItS20-Yakoegw.png" /></figure><p>Ou seja, temos para uma entrada i qualquer de β:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/198/1*5_FxzdQr0idLDs_JZFMw3w.png" /></figure><p>Ou seja, para Var[^βi]:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/740/1*2xL0kCb_4q5xwLCHIhJmgw.png" /></figure><p>Desse resultado, é possível perceber que os valores singulares na diagonal da matriz Σ, são inversamente proporcionais à variância de β, ou seja, valores singulares muito pequenos farão os coeficientes da soma crescerem, atribuindo maior incerteza ao resultado de βᵢ.</p><h3>O dilema do viés e variância</h3><p>O dilema do viés variância é um problema inerente à qualquer problema de aprendizado supervisionado. <br> Tal dilema surge associado à complexidade do modelo escolhido, no caso da regressão linear a complexidade se refere ao número de coeficiente usados no modelo, ou o número de variáveis que estamos usando para predizer o <em>target</em>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/788/1*JBsaG5CtAhDNm3Rn4479GA.png" /></figure><p>A ideia é que modelos de predição mais complexos tem a capacidade de aprender melhor o seu conjunto de dados, no entanto, são pouco generalizáveis, ou seja, é conferida uma grande variância à estimação das componentes que compõem aquele modelo.<br> Quando um modelo de aprendizado de máquina aprende o conjunto de dados de treino melhor do que deveria, perdendo a capacidade de generalização, dizemos que ocorreu um <strong>overfitting</strong>.<br> Além disso, modelos menos complexos possuem menos potencial de aprendizado, no entanto são muito generalizáveis, e por isso, por muitas vezes conseguem predizer situações ainda não vistas melhor do que modelos mais complexos. O problema com essa generalização é que por muitas vezes, tais modelos não são capacidades de reconhecer suficientemente os padrões dentro de conjunto de dados.<br> Quando um modelo de aprendizado de máquina não é capaz de aprender o conjunto de dados de treino, por conta de uma baixo nível de complexidade do modelo escolhido, dizemos que ocorreu um <strong>underfitting</strong>.</p><pre># Carregando o dataset de assentos em aviões do disponível em https://github.com/julianfaraway/faraway.<br><br>seatpos = faraway.datasets.seatpos.load()<br>seatpos.head()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/630/1*B4fbH5d-JP10cTQSZO-TFA.png" /></figure><pre># Matriz de correlações entre as variáveis do dataset.<br><br>seatpos.corr()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/974/1*DcSYyVMjk576O2BnqD1SsA.png" /></figure><pre># Dividindo as variáveis entre preditoras e a variável que será predita. Em terminologia de Data Science são as variáveis<br>#feature e a variável target.<br><br>X = seatpos.loc[:, seatpos.columns != &#39;hipcenter&#39;].values<br>y = seatpos.hipcenter.values</pre><pre># Usaremos o método StandardScaler para padronizar as variáveis (subtrair a média e dividir pelo desvio padrão).<br><br>scaler = StandardScaler()<br>X = scaler.fit_transform(X)</pre><pre># Podemos observar os valores singulares na matriz de features usando o método linalg.svd do numpy.<br>U,s_values,V = np.linalg.svd(X)<br><br>S = np.zeros((U.shape[0],V.shape[1]))<br>np.fill_diagonal(S, s_values)<br><br>s_values</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/977/1*aYMsu2lPx4aKFbXlPvNRtw.png" /></figure><pre># Calculamos o quanto cada valor singular é responsável pela variabilidade na matriz de features.<br>variancia_explicada = s_values/np.sum(s_values)<br>variancia_explicada</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/969/1*w4XqRZpfAfn9o-QsegxT_Q.png" /></figure><pre># Além da variância explicada pelos valores singulares, calculamos essa variância cumulativa.<br><br>variancia_explicada_cumulativa = np.cumsum(variancia_explicada)<br>variancia_explicada_cumulativa</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/974/1*FuLUlWMjUcCvH-QlqS5d_g.png" /></figure><pre># Abaixo usamos o método k-fold para treinar o nosso modelo, o método k-fold divide o dataset em k (entrada do algoritmo)<br>#partes iguais, onde 1 dessas k partes é separada para teste e as outras k-1 separadas para teste.<br>#O algoritmo vai criar k ambientes diferentes de treino e teste, em cada ambiente de treino e teste uma parte diferente<br>#será selecionada para treino.<br># No exemplo abaixo temos dividimos o dataset em 20 partes iguais e, portanto vamos treiná-lo e testá-lo 20 vezes, além<br>#disso, o Kfold será aplicado à cada número de valores singulares na matriz de features, como temos 8 valores singulares,<br>#realizaremos 8 kfolds para o teste.<br><br>kf = KFold(n_splits=20, shuffle=True, random_state=5)<br>reg = LinearRegression()<br><br>MSE_train = []<br>MSE_test = []<br>for i in range(len(s_values)):<br>    X_t = U[:,:i+1]@S[:i+1,:i+1]@V[:i+1, :]<br>    MSE_train_t = []<br>    MSE_test_t = []<br>    <br>    for train_index, test_index in kf.split(X_t):<br>        reg.fit(X_t[train_index], y[train_index])<br>        y_pred_train = reg.predict(X_t[train_index])<br>        y_pred_test = reg.predict(X_t[test_index])<br>        MSE_train_t.append(mean_squared_error(y[train_index], y_pred_train))<br>        MSE_test_t.append(mean_squared_error(y[test_index], y_pred_test))<br>    <br>    MSE_train.append(np.mean(MSE_train_t))<br>    MSE_test.append(np.mean(MSE_test_t))</pre><pre>#Podemos ver um plot do erro quadrático médio para cada número de valores singulares.<br><br>sns.set()<br>plt.figure(figsize=(14,7))<br>sns.lineplot(y=MSE_train, x=np.arange(1, 9, 1), label=&#39;Erro quadrático médio no dataset de treino&#39;)<br>sns.lineplot(y=MSE_test, x=np.arange(1, 9, 1), label=&#39;Erro quadrático médio no dataset de teste&#39;)<br>plt.xticks(ticks=np.arange(1, 9, 1))<br>plt.xlabel(&quot;Quantidade de valores singulares&quot;)<br>plt.ylabel(&quot;Erro quadrático médio da previsão gerada pela Regressão Linear&quot;)<br>plt.show()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/982/1*PEozWN3MYGnDRDWTlDZ9WA.png" /></figure><p>A partir do gráfico acima, podemos ver que o erro quadrático médio atinge o seu menor valor com 2 valores singulares.<br> Realizar a redução de dimensionalidade pelo SVD no nosso dataset associou um viés à nossa previsão, uma vez que agora diminuímos o número de variáveis e o nosso modelo tem menos poder de previsão.<br> No entanto, o menor número de variáveis usadas para predizer o <em>target</em> confere uma menor variância nos resultados da <strong>Regressão Linear</strong>, o que confere um menor <strong>Erro Quadrático Médio</strong>, apesar do modelo enviesado.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=67948a86e31" width="1" height="1" alt=""><hr><p><a href="https://medium.com/ufrj-analytica/uso-da-decomposi%C3%A7%C3%A3o-em-valores-singulares-na-regress%C3%A3o-linear-67948a86e31">Uso da Decomposição em Valores Singulares na Regressão Linear</a> was originally published in <a href="https://medium.com/ufrj-analytica">UFRJ Analytica</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Árvores de decisão e Florestas aleatórias]]></title>
            <link>https://medium.com/ufrj-analytica/%C3%A1rvores-de-decis%C3%A3o-e-florestas-aleat%C3%B3rias-9241fe8f235d?source=rss-55a3ff022839------2</link>
            <guid isPermaLink="false">https://medium.com/p/9241fe8f235d</guid>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[data-science]]></category>
            <category><![CDATA[random-forest]]></category>
            <category><![CDATA[decision-tree]]></category>
            <category><![CDATA[ufrj]]></category>
            <dc:creator><![CDATA[Ronald Albert]]></dc:creator>
            <pubDate>Thu, 14 Oct 2021 22:39:32 GMT</pubDate>
            <atom:updated>2023-08-14T01:24:24.522Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*nexrBw1jh0E5Xjk9mIkCXw.jpeg" /></figure><p>Neste artigo, será introduzido o conceito ao redor dos métodos de Aprendizado de Máquina para classificação conhecidos como Árvores de Decisão.</p><p>O artigo assume que o leitor já conheça os conceitos de variáveis aleatórias e esperança de variáveis aleatórias.</p><h3>Entropia</h3><p>Antes de entender o que são árvores de decisão, precisamos introduzir o conceito de <strong>Entropia</strong>.<br>A <strong>entropia </strong>é uma métrica para a incerteza de determinada variável aleatória. Sendo X uma variável aleatória, com espaço de estados <strong><em>S</em></strong>, e função de densidade de probabilidade P(X = x), x ∈ <strong><em>S</em></strong>, temos que a entropia de X, denotada por H(X), é:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/376/1*qwYKuM4I9PfQ00M9iUvtUw.png" /><figcaption>Entropia de X</figcaption></figure><p>Por convenção 0 ⋅ log₂(0) = 0, o que é facilmente verificado pelo fato de que:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/179/1*woqAxAjS1DVS3Rn4ZzeWfw.png" /></figure><p>Por padrão, a unidade de medida da entropia são bits, a unidade de medida depende inteiramente na base do logaritmo que usamos para calcular a entropia, caso usássemos um log₁₀ ou log₃, a entropia seria medida em dits e trits, respectivamente.</p><p><strong>Observação:</strong> Note que a definição de entropia <strong><em>H(X)</em></strong>, é similar a esperança da função g(X) = 1/log_2(P(X = X)) de determinada variável aleatória <strong><em>X</em></strong>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/291/1*umKtIdz9T2MOgBsSFidGVg.png" /><figcaption>Outro resultado para a entropia</figcaption></figure><pre>#Função para calcular de determinada distribuição de valores<br>def calcularEntropia(prob_function):<br>    entropia = 0<br>    for i in range(len(prob_function)):<br>        if(prob_function[i] != 0):<br>            entropia += prob_function[i]*np.log2(prob_function[i])<br>    return -entropia</pre><pre>#Para calculo da entropia, usaremos um ensaio de Bernoulli onde a nossa variável aleatória assume os valores, 0 e 1<br>#com as probabilidades (1 - p) e p, respectivamente.<br>#Note que o ensaio de Bernoulli, nos da uma distribuição diferente para cada valor de p, consequentemente, a entropia<br>#para cada uma dessas distribuições será diferente.<br>x = np.linspace(0,1, 20)<br>y = [calcularEntropia([1 - p, p]) for p in x]<br>plt.plot(x, y, &#39;-bo&#39;)<br>plt.xlabel(&quot;Parâmetro p para o ensaio de Bernoulli&quot;)<br>plt.ylabel(&quot;Entropia&quot;)<br>plt.show</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/503/1*XhvdBup1-s1Bc1RTr5fq7A.png" /><figcaption>Gráfico da entropia X parâmetro p do Ensaio de Bernoulli</figcaption></figure><p>Acima vemos um exemplo do gráfico da entropia, para os diferentes valores do parâmetro p em um ensaio de Bernoulli. É possível perceber que quando <strong><em>𝑝</em></strong>=0 ou <strong><em>𝑝</em></strong>=1, a entropia é 0, o que intuitivamente, faz total sentido, uma vez que, nesses casos o ensaio de Bernoulli só tem 0 ou 1 como resultado, ou seja, não existe incerteza sobre a distribuição.</p><p>Além disso, temos que a entropia é máxima quando <strong><em>𝑝</em></strong>=0.5, que é exatamente quando os valores 0 e 1 estão igualmente distribuídos, ou seja, a incerteza sobre qual dos dois valores teremos como resultado será máxima.</p><h3>Informação Mútua</h3><p>Além do conceito de <strong>Entropia</strong>, precisamos também entender como funciona a <strong>Informação Mútua</strong>:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/269/1*B8gjuQGEy_J_B1KQGKDIBg.png" /><figcaption>Informação Mútua</figcaption></figure><p>Perceba que agora introduzimos uma espécie de <strong>Entropia Condicional</strong> <strong><em>𝐻</em>(<em>𝑋</em>|<em>𝑌</em>)</strong>, antes de falarmos sobre isso, vamos entender a intuição por trás da <strong>Informação Mútua</strong>, estamos calculando o quanto foi reduzido na entropia de <strong><em>X</em></strong>, quando a condicionamos a variável aleatória Y. Em outras palavras o quanto condicionar <strong><em>X</em></strong> a <strong><em>Y</em></strong>, diminuiu a incerteza de <strong><em>X</em></strong>.</p><p>A partir disso, podemos perceber que <strong>Informação Mútua</strong> é uma medida de dependência entre variáveis aleatórias, em outras palavras se temos uma grande redução na incerteza de <strong><em>X</em></strong>, quando condicionamos o valor de <strong><em>X </em></strong>a <strong><em>Y</em></strong>, podemos afirmar que <strong><em>Y </em></strong>explica muito bem <strong><em>X</em></strong>.</p><p>A <strong>Entropia Condicional</strong> <strong><em>𝐻</em>(<em>𝑋</em>|<em>𝑌</em>)</strong>, vem da definição de <strong>Entropia</strong>, apresentada anteriormente, pela esperança de uma função de variáveis aleatória:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/632/1*GhlHcokZjHHBDjkRdS5gGA.png" /><figcaption>Entropia Condicional</figcaption></figure><p>Agora que conhecemos a <strong>Entropia Condicional</strong>, podemos chegar em uma melhor equação para a Informação Mútua:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*RWL-VuzWwfkNDoQNPJUq6g.png" /><figcaption>Informação Mútua entre duas variáveis</figcaption></figure><p>Onde a segunda para a terceira igualdade, vem do fato que:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/599/1*9ypjHJeFIZFexFZeqqHkCA.png" /></figure><p>O resultado acima é a aplicação da Lei da Probabilidade Total.</p><p>Sendo assim, chegamos num resultado fechado para a informação mútua:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/604/1*vc88MQoHx2sJoISy-LsZfQ.png" /><figcaption>Informação Mútua</figcaption></figure><h3>Árvores de decisão</h3><p>Uma árvore de decisão é uma estrutura de relação entre as categorias. Cada um do nós de uma Árvore de Decisão representa uma espécie de “teste” em determinada <em>feature</em>, as relações entre cada um dos nós (“ramos” da árvore) representam determinado valor que aquele <em>feature</em> pode assumir.</p><p>Para melhor entendimento, usaremos o seguinte dataset como exemplo, ele contém dados sobre como o tempo estava em determinado dia e se pessoas jogaram tênis naquele dia em específico ou não.<br> A coluna Outlook contém os valores <strong>Ensolarado</strong>, <strong>Nublado</strong> e <strong>Chuvoso</strong>.<br> A coluna Temperature contém os valores <strong>Quente</strong>, <strong>Morno</strong> e <strong>Frio</strong>.<br> A coluna Humidity contém os valores <strong>Alta</strong> e <strong>Normal</strong>.<br> A coluna Wind contém os valores <strong>Forte</strong> e <strong>Fraco</strong>.<br> A coluna PlayTennis contém os valores <strong>Sim</strong> e <strong>Não</strong>, indicando se tennis foi ou não jogado naquele dia.</p><pre>col_names = [&#39;Outlook&#39;,&#39;Temperature&#39;,&#39;Humidity&#39;,&#39;Wind&#39;,&#39;PlayTennis&#39;]</pre><pre>exemplo = pd.read_csv(&quot;exemplo_arvore.csv&quot;, header=None, names=col_names)<br>exemplo.head()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/437/1*gYzmvQptuV27xOjzr7PR9Q.png" /><figcaption>Dataset para PlayTennis</figcaption></figure><p>Pode-se observar uma possível árvore de decisão para este dataset na figura abaixo.<br> Observe que estamos decidindo se iremos jogar tênis ou não, baseado nas informações meteorológicas que temos.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/875/1*OnkiJ-PxV1F2mWNuFa52SA.png" /><figcaption>Árvore de Decisão para o problema PlayTennis</figcaption></figure><p>A árvore de decisão acima, nos diz que:<br> Caso o tempo esteja ensolarado, jogaremos tênis se a humidade estiver normal, caso esteja alta, não jogamos.<br> Caso o tempo esteja Nublado, jogaremos tênis.<br> Caso o tempo esteja Chuvoso, jogaremos tênis se o vento estiver fraco, caso esteja forte, não jogamos.</p><p>Observe que quando queremos modelar um problema, que quando a coluna <em>target</em>, no exemplo acima ‘PlayTennis’, pode assumir somente dois valores, temos uma função booleana.<br> No caso acima podemos mapear:<br> No → False <br> Yes → True <br> E assim, construir uma tabela verdade para a árvore de decisão acima:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/990/1*5YLqbIps8CQA8KRWgOFaPg.png" /><figcaption>Tabela Verdade para a Árvore de Decisão acima</figcaption></figure><p>Muitas linhas da tabela acima foram omitidas, caso o contrário, tal tabela seria gigantesca. Mais especificamente, como temos 7 colunas usadas para classificação, e cada uma delas pode assumir dois valores True ou False. Temos 2⁷=128 possíveis combinações de valores, ou seja, essa tabela verdade completa, teria 128 linhas.</p><h3>O problema com a melhor Árvore de Decisão</h3><p>Tendo definido como funciona uma árvore de decisão, é fácil observar que modificando as <em>features</em> que escolhemos para determinados nós, temos diferentes árvores.</p><p>A partir dessa observação, podemos ver que existem várias árvores de decisão para o mesmo problema, no exemplo acima, a árvore de decisão é construida usando 7 atributos (‘Outlook = Sunny’, ‘Outlook = Overcast’, ‘Outlook = Rain’, ‘Humidity = High’, ‘Humidity = Normal’, ‘Wind = Strong’ e ‘Wind = Weak’) e vimos que a tabela verdade para esta árvore teria 2⁷ linhas. Observe que dado determinado número de atributos, digamos <em>𝑛</em>, para uma única árvore de decisão <strong><em>T</em></strong>, a tabela verdade de <strong><em>T</em></strong> teria 2ⁿ<em> </em>linhas.</p><p>Intuitivamente se pegássemos somente a coluna da classificação ‘PlayTennis’, teríamos um vetor de 2ⁿ elementos, como observado abaixo:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/102/1*R_DHp54FwW1UjMJmKimEgA.png" /><figcaption>Coluna PlayTennis da tabela verdade</figcaption></figure><p>Diferentes árvores de decisão, que resolvem o mesmo problema, usam os mesmos atributos para classificação, a única coisa que muda nessas árvores, é a própria classificação. Ou seja, para todas as diferentes árvores de decisão possíveis, temos a mesma tabela verdade, com exceção da coluna <em>target</em>, no nosso exemplo a coluna ‘PlayTennis’.</p><p>Ou seja, a quantidade total de árvores de decisão para determinado problema, é a combinação total de valores que cada um dos elementos da coluna <em>target</em> na tabela verdade pode assumir. Como o vetor gerado pela coluna <em>target</em> é um vetor de 2ⁿ<em> </em>elementos (sendo <em>𝑛</em> o número de atributos), temos que cada um dos elementos desse vetor pode assumir um valor (True ou False), sendo assim, o total de combinações possíveis é 2^2^n. Sendo assim, no exemplo acima, como estamos usando 7 atributos, teríamos 2^2^7 = 3.4 ⋅ 10^38 possíveis árvores de decisão que podem ser construídas (e nem consideramos todos os possíveis atributos para se jogar tênis).</p><p>Para determinar qual a melhor árvore de decisão, precisaríamos iterar por todas as 3.4 ⋅ 10^38 possíveis árvores e ver qual a que melhor classifica o nosso <strong><em>target</em> </strong>‘PlayTennis’. É, definitivamente inviável iterar por tantas árvores, e por isso precisamos de uma espécie heurística que nos ajudar a estimar uma árvore que seja boa o suficiente.</p><h3>Como encontrar uma árvore “boa”</h3><p>Note que usamos o termo “boa”, entre aspas, pois estamos montando um algoritmo para encontrar uma árvore que é boa e não ótima (como visto anteriormente a árvore ótima é um problema intratável). A ideia é colocar os atributos mais importantes mais próximos ao topo da árvore, enquanto atributos menos importantes ficam nas camadas mais baixas. Por “atributos mais importantes” nos referimos aos atributos que classificam melhor o nosso <strong><em>target</em></strong>.</p><p>Por exemplo, no problema acima, vemos que o atributo ‘Outlook = Overcast’, classifica muito bem o ‘PlayTennis’, visto que, em todos os casos onde ‘Outlook = Overcast’ temos ‘PlayTennis’ como True, em outras palavras, condicionar ‘PlayTennis’ à ‘Outlook = Overcast’, reduz a incerteza (ou <strong>entropia</strong>) em ‘PlayTennis’. Para estruturar o algoritmo, ao invés de escolhermos os atributos que melhor classificam o <strong><em>target</em></strong>, escolheremos as <strong><em>features</em></strong>, como visto anteriormente, temos que as <strong><em>features</em> </strong>são os nós das árvores e os atributos as arestas entre os nós.</p><p>Além disso, temos uma ótima maneira de determinar quanto de incerteza em uma variável aleatória é reduzido, quando a condicionamos a outra, e esta é a <strong>Informação Mútua</strong>.</p><p>No exemplo de ‘PlayTennis’, para escolher a <em>feature</em> que melhor classifica ‘PlayTennis’, calculariamos I(PlayTennis, Outlook), I(PlayTennis, Humidity), I(PlayTennis, Wind) e I(PlayTennis, Temperature) e escolheríamos a <em>feature</em> que máxima a <strong>Informação Mútua</strong>.</p><p>No exemplo de ‘PlayTennis’, para escolher a <em>feature</em> que melhor classifica ‘PlayTennis’, calcularíamos I(PlayTennis, Outlook), I(PlayTennis, Humidity), I(PlayTennis, Wind) e I(PlayTennis, Temperature) e escolheríamos a <em>feature</em> que máxima a <strong>Informação Mútua</strong>.</p><p>Depois de decidida a primeira <em>feature</em> que usaremos para classificar o <em>target</em>, usaremos tal <em>feature</em>, para quebrar o nosso dataset em <em>𝑛</em> datasets, onde <em>𝑛</em> é o número de atributos na <em>feature</em> escolhida.</p><p>Aplicando essa ideia ao exemplo de ‘PlayTennis’, supondo que <em>feature</em> escolhida seja ‘Humidity’, que tem dois atributos associados a ela (‘High’ ou ‘Normal’), construiremos dois dataframes que juntos formam o dataframe original, em um deles teremos todas as linhas do dataframe original em que ‘Humidity = High’ e no outro teremos todas as linhas do dataframe original em que ‘Humidity = Normal’.</p><p>Usando os <em>dataframes</em> gerados, a partir da quebra do <em>dataframe</em> original, realizaremos o mesmo processo de classificação, escolhendo a melhor <em>feature</em> que classifica ‘PlayTennis’ em cada um dos dataframes gerados. Note que assim que o dataframe original é quebrado em <em>𝑛</em> dataframes, cada um desses novos <em>dataframes</em> é um novo problema de árvore de decisão, com menos exemplos (ou linhas) e uma <em>feature</em> a menos.</p><p>Realizamos tal processo de quebra de dataframes, até que não tenhamos mais features para usar na classificação, ou até que a <strong>entropia</strong> em <em>target</em> seja 0, ou seja, todos os valores na coluna <em>target</em> são iguais.</p><h3>A árvore de decisão do scikit-learn</h3><p>Vamos usar o método ‘DecisionTreeClassifier’ da biblioteca scikit-learn no python, para classificar o nosso dataset de ‘PlayTennis’.</p><pre>X = exemplo.loc[:, exemplo.columns != &#39;PlayTennis&#39;]<br>y = exemplo.PlayTennis</pre><p>Os dados do nosso exemplo são categóricos e o classificador de árvore de decisão do scikit não funciona para este tipo de dado. Precisamos preparar os dados antes construir nosso classificador. Para isso vamos usar a função do pandas “pd.get_dummies” que converte os atributos categóricos em atributos com valores 0 e 1.<br>Por exemplo, o atributo Humidity que pode receber os valores High e Normal, passa a ser representado pelos atributos Humidity_High e Humidity_Normal, que podem receber os valores 0 e 1.<br> Essas variáveis criadas são chamadas de variáveis dummies, uma variável categorica com <em>𝑛</em> atributos, da origem à <em>𝑛</em> variáveis dummy, uma para cada atributo.</p><pre>X_dummy = pd.get_dummies(X) #transformando o dataset<br>X_dummy.head()</pre><p>E na seguinte célula, criamos a classe para o classificador de Árvores de Decisão do scikit-learn, além de usar o método ‘fit’ para ‘treinar’ a árvore aos dados disponibilizados</p><pre># Criação do classificador de árvore de decisão <br>clf = DecisionTreeClassifier(criterion=&quot;entropy&quot;)</pre><pre># Usamos o método fit para construir o classificador a partir do nosso conjunto de treinamento<br>clf = clf.fit(X_dummy, y)</pre><p>Podemos usar o método ‘plot_tree’, também da biblioteca sklearn para vizualizar a árvore.</p><pre>fig = plt.figure(figsize=(25,20))<br>_ = plot_tree(clf, feature_names=X_dummy.columns, class_names=list(y.unique()), filled=True)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/785/1*dlj6gglXhvMotKktF3sCTQ.png" /><figcaption>Árvore de Decisão gerada pelo sklearn</figcaption></figure><h3>Florestas Aleatórias</h3><p>Como dito anteriormente, as Árvores de Decisão são construidas com base em uma heurística de qual é a melhor árvore. Uma vez que essa construção é por meio de uma heurística, não temos garantia de que essa árvore é, de fato, a melhor árvore, na verdade, existem outras heurística para a construção de uma Árvore de Decisão, o que foi apresentado anteriormente, é apenas uma delas. <br> A partir dessa ideia de que podemos ter diversas Árvores de Decisão que sejam capazes de classificar o <em>target</em>, surge a noção de <strong>Florestas Aleatórias</strong>.</p><p>A ideia por trás das Florestas Aleatórias, está em gerar diferentes Árvores de Decisão, que conferem diferentes classificações do <em>target</em>, e assim fazer-las “votar” na melhor classificação.</p><p>Para começar a construção de uma Floresta Aleatória, inicialmente decidimos a quantidade de árvores que estarão presentes naquela floresta.<br> Após decidir quantas árvores irão compor a floresta, geraremos um dataset a partir do original, selecionando amostras do dataset original aleatoriamente, as quais estarão presentes nesse novo dataset. Essa técnica se chama <em>Bagging</em> .<br> Um dataset para cada Árvore na Floresta será gerado a partir do <em>Bagging</em>, estes serão usados para treinar a árvore, ao qual tal dataset está relacionado.<br> Existem varias maneiras de se escolher diferentes heurísticas para gerar as Árvores de Decisão em uma Floresta Aleatória. O padrão da biblioteca ‘sklearn’, é selecionar a cada iteração um número limitado de <em>features</em> que podem compor o nó da árvore na iteração corrente.<br> No sklearn, é possível definir uma constante <em>𝑛</em>, de maneira que a cada iteração o algoritmo pode escolher somente <em>𝑛</em> <em>features</em> selecionadas aleatoriamente, ou definir, uma função do número de <em>features</em> disponíveis.<br> Por exemplo, sendo <em>𝑛</em> o número de <em>features</em> disponíveis em uma iteração, o padrão do ‘sklearn’, é selecionar √<em>𝑛 features</em> que podem ser escolhidas para aquele nó.</p><h3>A Floresta Aleatória do scikit-learn</h3><p>Vamos usar o método ‘RandomForestClassifier’ da biblioteca scikit-learn no python, para classificar o nosso dataset de ‘PlayTennis’.</p><pre># Criação do classificador de floresta aleatória.<br>#O parâmetro n_estimators diz quantas árvores serão geradas.<br>#O parâmetro bootstrap está dizendo para o algoritmo realizar o processo de Bagging para cada árvore gerada.<br>#O parâmetro max_features diz o máximo de features a cada execução, no caso, o máximo será a raiz quadrada<br>#do número de features disponível<br>#O parâmetro criterion diz respeito ao critério ultilizado para construir a árvore, no caso Entropia/Informação Mútua.<br>clf = RandomForestClassifier(n_estimators=100, bootstrap=True, max_features=&quot;sqrt&quot;, criterion=&quot;entropy&quot;)</pre><pre># Usamos o método fit para construir o classificador a partir do nosso conjunto de treinamento<br>clf = clf.fit(X_dummy, y)</pre><p>A floresta gerada é composta por 100 árvores (parâmetro que pode ser modificado em ‘n_estimators’), por isso não é possível vizualizar todas as árvores na floresta, dessa forma, escolheremos uma única árvore para mostrar.</p><pre>fig = plt.figure(figsize=(25,20))<br>_ = plot_tree(clf.estimators_[25], feature_names=X_dummy.columns, class_names=list(y.unique()), filled=True)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/786/1*p4sywNJJRuwZfjXVqx5-Pg.png" /><figcaption>Uma das Árvores de Decisão geradas na Floresta Aleatória</figcaption></figure><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=9241fe8f235d" width="1" height="1" alt=""><hr><p><a href="https://medium.com/ufrj-analytica/%C3%A1rvores-de-decis%C3%A3o-e-florestas-aleat%C3%B3rias-9241fe8f235d">Árvores de decisão e Florestas aleatórias</a> was originally published in <a href="https://medium.com/ufrj-analytica">UFRJ Analytica</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>