<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by AI Propensity on Medium]]></title>
        <description><![CDATA[Stories by AI Propensity on Medium]]></description>
        <link>https://medium.com/@aipropensity?source=rss-9dab812a0a4------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*9rPKl6pr39bwoiH9FlincA.jpeg</url>
            <title>Stories by AI Propensity on Medium</title>
            <link>https://medium.com/@aipropensity?source=rss-9dab812a0a4------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sat, 21 Nov 2026 23:22:44 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@aipropensity/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Tom & Jerry AI: Journey Into a Creative Void?]]></title>
            <link>https://medium.com/@aipropensity/tom-jerry-ai-journey-into-a-creative-void-7200901fb9ee?source=rss-9dab812a0a4------2</link>
            <guid isPermaLink="false">https://medium.com/p/7200901fb9ee</guid>
            <dc:creator><![CDATA[AI Propensity]]></dc:creator>
            <pubDate>Tue, 15 Apr 2025 15:01:41 GMT</pubDate>
            <atom:updated>2025-04-15T15:01:41.992Z</atom:updated>
            <content:encoded><![CDATA[<p>At a technical level, this new AI model trained on Tom &amp; Jerry cartoons is most impressive. The movement in relation to space and the interaction with fictional objects — elevator, keyboard, wire etc — seems a bit ahead of other models we have.</p><p>Artistically, I see limited value. I don’t think “creation” is solely human, especially given the replicating nature of present-day top pop/rap charts. BUT this AI creation has no timing, it’s not funny (I like the original T&amp;J, this is way off) and… I don’t know, it’s like a dissonant chord. Technically proficient but soulless and boring when compared to the originals that inspired it.</p><p>I believe we are heading towards the possibility of deeper human-AI collaborative creations, like complex, deeply immersive video games and maybe new formats, such as interactive cartoons. But should we be excited about this?</p><p>Perhaps we need to pay attention not to AI models as such, but really look at what companies like Spotify and Disney will try to achieve in terms of cost reduction and overly simplistic results. We’ve already seen how corporate priorities have impacted beloved creative properties — how Disney has handled Pixar, the Star Wars franchise, and other acquisitions.</p><p>Is AI just one more tool for corporate greed and lack of commitment to true innovation? In itself, it heavily tends toward remixing existing content rather than genuine creation. But did we really put up a strong fight when DJs started changing music into remixed samples? What value do we place on human creativity versus technical perfection? And who benefits when we replace human creators with algorithms?</p><p>What do you think about the balance between technical achievement and creative soul in these new AI-generated cartoons?</p><p>Link: <a href="https://www.instagram.com/reel/DIL8_-ntwTD/?igsh=Z3d4bnh5ZXh3dTVw">https://www.instagram.com/reel/DIL8_-ntwTD/?igsh=Z3d4bnh5ZXh3dTVw</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7200901fb9ee" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Início do processo de incorparação de LLMs (2023)]]></title>
            <link>https://medium.com/@aipropensity/in%C3%ADcio-do-processo-de-incorpara%C3%A7%C3%A3o-de-llms-2023-5ed57fe1b66a?source=rss-9dab812a0a4------2</link>
            <guid isPermaLink="false">https://medium.com/p/5ed57fe1b66a</guid>
            <dc:creator><![CDATA[AI Propensity]]></dc:creator>
            <pubDate>Wed, 09 Apr 2025 19:41:09 GMT</pubDate>
            <atom:updated>2025-04-09T19:41:09.837Z</atom:updated>
            <content:encoded><![CDATA[<h3>Início do processo de incorporação de LLMs (2023)</h3><p>Em julho de 2023, fiz uma palestra para o Instituto de Estudos Avançados da USP, a convite da Dra. Suzana Herculano-Houzel. Era ainda o início do processo atual de incorporar LLMs como “IA” a quase tudo. <br>Quando fiz a palestra, já se falava em &#39;AGI&#39;, a suposta inteligência generalizada que algumas empresas prometem e outras, como eu, dizem ser impossíveis com a tecnologia que temos hoje. <br>O debate é longo mas, venha refletir além do hype. <br>Clique no link e assista a palestra.</p><p><a href="https://youtu.be/bgS_N2DCxMw">https://youtu.be/bgS_N2DCxMw</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=5ed57fe1b66a" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Uma crítica às pesquisas em AI]]></title>
            <link>https://medium.com/@aipropensity/uma-cr%C3%ADtica-%C3%A0s-pesquisas-em-ai-35e7818e2bd5?source=rss-9dab812a0a4------2</link>
            <guid isPermaLink="false">https://medium.com/p/35e7818e2bd5</guid>
            <category><![CDATA[ai]]></category>
            <category><![CDATA[journalism]]></category>
            <category><![CDATA[science]]></category>
            <category><![CDATA[ethics]]></category>
            <dc:creator><![CDATA[AI Propensity]]></dc:creator>
            <pubDate>Sun, 07 Jan 2024 23:08:25 GMT</pubDate>
            <atom:updated>2024-01-07T23:32:36.433Z</atom:updated>
            <content:encoded><![CDATA[<p>… e à falta de critérios do jornalismo científico e da midia em geral</p><p>A Scientific American, uma publicação que já foi elogiada por sua relevância e prestígio, publicou recentemente um artigo sobre uma empresa pouco conhecida chamada “Harmony Intelligence”. Essa empresa realizou um “estudo ainda não publicado” explorando o uso potencial de bots de IA para atividades ilícitas, como sintetizar metanfetamina, construir explosivos e lavagem de dinheiro.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*TNGr6FxV0fAY_PxZxx4sNw.jpeg" /><figcaption>Nossas conexões com pensamento, tecnologia e as estruturas que nos cercam são as perguntas que precisamos fazer. Colocar “IA” no centro disso é uma falácia, assim como olhar para essa imagem e avaliar a imagem de acordo com quem, como e onde tenha sido gerada.</figcaption></figure><p>Eu me questiono sobre o rigor do que está sendo aceito como “pesquisa”, especialmente no campo da IA. Além disso, estou preocupado com as decisões editoriais que revistas como a Scientific American têm tomado. Em domínios com alta expansão e interesse público significativo, como a IA, a propagação de conceitos errôneos pode ser piorada pela falta de padrões de publicação rigorosos e criteriosos. Isso pode obscurecer a pesquisa genuína, promover noções enganosas e, inadvertidamente, validar investigações sem sentido.</p><h4>Liberdade e ética na pesquisa</h4><p>A pesquisa, em sua essência, deve oferecer um campo amplo para os indivíduos, permitindo que explorem uma infinidade de tópicos. Essa abertura é fundamental, pois a trajetória da pesquisa é muitas vezes imprevisível, podendo levar a descobertas inusitadas e ideias inovadoras. Entretanto, é importante observar que a liberdade de pensamento para conduzir pesquisas não deve ser confundida com a liberdade para desconsiderar considerações éticas. Antes de iniciar qualquer estudo, é essencial respeitar e defender os princípios da pesquisa ética.</p><h4>Publicar significa ter discernimento crítico</h4><p>Ao considerar a função de publicar um artigo, o foco não deve ser agir como “guardiões”, mas discernir aquilo que contém pensamento crítico do que é apenas lixo aleatório. Um alto nível de crítica deve ser aplicado durante o processo de publicação para que o conteúdo de uma revista venha enriquecer um debate.</p><p>A publicação de pesquisas constitui um endosso e exige uma avaliação crítica de cada estudo. Os editores desempenham um papel fundamental nesse processo, pois a eles é confiada a tarefa de contextualizar a pesquisa, o que exige um amplo entendimento do campo. Isso não é apenas fundamental para decidir o que merece um lugar no espaço editorial, mas também é crucial para reduzir a disseminação de noções potencialmente prejudiciais ou enganosas.</p><p>O que me pergunto, de forma abrangente mas também olhando para este artigo específico, é qual a validade de realizar pesquisas sobre um tópico ou em uma área. O envolvimento em pesquisas apenas porque são fáceis de realizar pode resultar em tempo desperdiçado, potencial desperdiçado e recursos intelectuais mal utilizados. Mais importante ainda, estou preocupado com a intenção por trás da publicação de determinados resultados de pesquisa. Embora alguns estudos possam ser metodologicamente sólidos, talvez não tenham significado ou valor real.</p><h4>Crítica à pesquisa de IA e ao jornalismo científico</h4><p>Uma área específica de incômodos, para mim, é a pesquisa em IA. Deve ser feita uma distinção entre a pesquisa teórica de IA, que se concentra em aspectos matemáticos e orientados a modelos com o objetivo de aprimorar a funcionalidade, a velocidade ou outros atributos dos modelos de IA, e a pesquisa que aborda as implicações éticas, as limitações ou as consequências humanas do emprego de Modelos de Linguagem Grandes (LLMs). Embora eu não esteja em posição de avaliar a validade de todas as pesquisas de IA, parece plausível que algumas delas possam ser meras explorações especulativas em vez de benéficas na prática.</p><h4>As armadilhas da pesquisa sociológica de IA e do jornalismo científico</h4><p>Minha principal crítica se concentra na pesquisa que supostamente visa a compreender as implicações éticas ou práticas dos Modelos de Linguagem Grande (LLMs) e outras formas de IA. Parece que grande parte dessas pesquisas visa mais a atrair a atenção da mídia do que a contribuir com percepções significativas. Minhas interações com cientistas ao longo do tempo e minha compreensão da história da ciência me levaram a abordar publicações como a Scientific American com um certo ceticismo. Observei que os interesses financeiros passaram a ditar o conteúdo que a maioria das revistas científicas decide publicar ou omitir, especialmente se isso representar um risco para a reputação. Parece haver uma preferência pelo conservadorismo em relação à publicação de pesquisas desafiadoras ou inovadoras, o que leva a um declínio do seu significado como parte do ecossistema e também da sua credibilidade.</p><p>Esse problema não se limita ao jornalismo científico. Ele é predominante e muito pior na mídia convencional, onde os olhos e as assinaturas dos leitores têm precedência sobre a maioria dos critérios editoriais. Até mesmo publicações de renome, como o New York Times, parecem ter priorizado cada vez mais os resultados financeiros em detrimento da substância ou da importância do conteúdo, marcando uma degradação significativa nos padrões jornalísticos e, mais uma vez, prejudicando a credibilidade e a reputação de uma publicação.</p><h4>Pesquisa de IA: Sensacionalismo versus investigação séria</h4><p>Um caso em questão é o estudo da Harmony Intelligence sobre o uso de assistentes de IA para extrair informações confidenciais de outros LLMs, como ChatGPT e Claude. Embora o conceito possa ser divertido de se brincar, a execução desse estudo específico e sua apresentação na Scientific American deixam muito a desejar. Artigos como esse parecem ter mais a intenção de atrair alguns espectadores, obter compartilhamento social e, pior, ajudam a alimentar o medo infundado sobre os recursos da IA. O que falha é o fato de fornecer uma compreensão mais profunda e diferenciada da tecnologia. Eles perdem a oportunidade de fazer perguntas pertinentes, optando pelo sensacionalismo. A pesquisa, em essência, é apresentada como um novo “truque mágico de IA” em vez de uma investigação científica séria.</p><h4>Um simples redirecionamento das consultas de pesquisa</h4><p>Vamos considerar o que está sendo questionado nessa pesquisa. Ao discutir a possibilidade de usar a IA para acessar informações confidenciais, é essencial considerar se as mesmas informações poderiam ser obtidas por meio da interação humana, de livros ou até mesmo da dark web. Isso levanta a questão da necessidade e da relevância de direcionar essas consultas para sistemas de IA.</p><p>Considere a pesquisa centrada na possibilidade de os sistemas de IA, como o ChatGPT ou o Claude, serem enganados para revelar métodos de criação de substâncias perigosas. Essa linha de investigação ignora questões inerentes à disponibilidade de informações, concentrando-se na novidade de “enganar” a IA.</p><p>Sim, a IA, assim como os seres humanos, pode ser enganada — você precisa fazer uma pesquisa para descobrir isso? Sim, a IA, assim como os seres humanos, continuará sendo enganada às vezes, porque isso faz parte da natureza da interação com pessoas ou sistemas.</p><p>Uma pergunta melhor seria se o fato de haver uma nova forma de sistema de informações, ou seja, a IA, altera o processo de coleta de informações perigosas de alguma forma que possa afetar a sociedade, dada a miríade de métodos já existentes para obter essas informações.</p><blockquote>Aqui está minha “pesquisa” sobre esse tópico: <br>1. Cada informação em um LLM vem de uma fonte externa, computacionalmente acessível. <br>2. Se um sistema teve acesso a elas durante seu treinamento algorítmico, é lógico que elas também podem ser acessadas por seres humanos. <br>3. Também é fato que a IA não confere nenhuma coesão ou compreensibilidade adicional a esse tipo de informação, como se pode verificar ao tentar fazer com que a IA “explique” qualquer forma de instrução. Ela fará um bom trabalho de resumo, mas não ajudará muito na compreensão.<br>4. Portanto, a IA não é um fator determinante na criação de bombas, anfetaminas ou discos voadores. <br>Nenhum esclarecimento adicional é necessário. A Scientific American pode publicar minha pesquisa se quiser — usarei a IA para criar um título inteligente para ela e para expandir esses quatro tópicos em um pensamento aparentemente complexo.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*CuNFeC8OImSIUjsAygQWvQ.jpeg" /><figcaption>“Como montar sua bomba caseira após convencer uma IA a pesquisar em outra IA” (imagem do autor e não importa onde ou como foi gerada — é só uma imagem)</figcaption></figure><h4>Conhecimento x Aplicação</h4><p>O ponto central do meu problema aqui é que a ideia de usar a IA para induzir a IA a divulgar informações tidas como perigosas é irrelevante. Como seres humanos, podemos obter essas informações diretamente, sem depender da IA.</p><p>O verdadeiro problema em questão está na <em>possibilidade de aplicação prática dessas informações</em>. Possuir conhecimento sobre a criação de uma substância perigosa não equivale à capacidade de produzi-la. Os recursos físicos e a experiência necessários geralmente estão além do alcance de um indivíduo comum.</p><p>O retrato da IA como uma nova ferramenta para aprender a criar materiais perigosos não é apenas enganoso, mas também deforma a tecnologia, atribuindo a ela um caráter negativo específico. Essa narrativa ignora a impraticabilidade fundamental e as consequências legais da tentativa de criar as substâncias que o artigo menciona.</p><p>Os autores não reconhecem, não compreendem ou não querem pensar que a mera posse de conhecimento não leva à sua aplicação prática. Também negligenciam o fato de que qualquer pessoa que realmente precise criar, por exemplo, um coquetel Molotov em uma situação de combate NÃO recorrerá à IA, mas terá uma série de outros meios para fazê-lo, incluindo aprender com pessoal treinado ou, na pior das hipóteses, com maus atores.</p><h4>Conclusão: Um apelo à sensatez nas pesquisas de IA</h4><p>Concluindo, o foco das pesquisas em IA e sua representação na mídia deveriam se afastar de cenários sensacionalistas e hipotéticos para tópicos mais práticos, relevantes e eticamente sólidos.</p><p>O fascínio pelo potencial da IA de divulgar informações confidenciais ou de gerar repentinamente uma infinidade de Kaczynski Unabombers é uma busca equivocada e improdutiva, que desvia a atenção de discussões e desenvolvimentos mais significativos no campo da inteligência artificial.</p><p><em>A crítica que escrevi acima vai além do artigo mencionado no link abaixo e se refere a uma falta generalizada e contínua de visão crítica editorial da Scientific American e de outras publicações, bem como outras pesquisas feitas por outras entidades. No entanto, como esses são os principais atores aqui, devo citá-los. O Modo Leitor do Chrome ou similar pode facilitar seu acesso ao artigo.<br></em><a href="https://www.scientificamerican.com/article/jailbroken-ai-chatbots-can-jailbreak-other-chatbots">https://www.scientificamerican.com/article/jailbroken-ai-chatbots-can-jailbreak-other-chatbots</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=35e7818e2bd5" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Sem Gênio na Garrafa…]]></title>
            <link>https://medium.com/@aipropensity/sem-g%C3%AAnio-na-garrafa-c3424f6a522d?source=rss-9dab812a0a4------2</link>
            <guid isPermaLink="false">https://medium.com/p/c3424f6a522d</guid>
            <category><![CDATA[criatividade]]></category>
            <category><![CDATA[filosofia]]></category>
            <category><![CDATA[inteligencia-artificial]]></category>
            <category><![CDATA[produtividade]]></category>
            <dc:creator><![CDATA[AI Propensity]]></dc:creator>
            <pubDate>Sat, 26 Aug 2023 01:26:37 GMT</pubDate>
            <atom:updated>2023-08-26T01:33:58.551Z</atom:updated>
            <content:encoded><![CDATA[<p>IA é um pouco menos que pensamos</p><p>Modelos de inteligência artificial especializados em linguagem, como o ChatGPT, atuam como espelhos sofisticados do discurso humano. Utilizam algoritmos complexos e estruturas neuronais para simular uma interação que se assemelha à conversação humana. No entanto, é importante compreender e ter sempre em mente que esses modelos não possuem a capacidade de pensar nem de compreender o sentido da linguagem que, curiosamente, produzem. Estão limitados a reproduzir e processar informações previamente inseridas por humanos durante seu treinamento.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*zKAocPx_MdiPxNU7Wr-yNg.jpeg" /><figcaption>[Imagem de Carlos Irineu, usando Midjourney]</figcaption></figure><p>A fascinação que esses modelos geram pode ser enganosa. Há uma abundância de discussões acadêmicas e midiáticas que sugerem uma iminente “revolução da IA” ou até mesmo a possibilidade de surgimento de uma IA consciente. Se tal estado de consciência for alcançado, o modo de pensar de uma IA poderia se assemelhar ao humano. Se tal estado de consciência for alcançado, não será usando a tecnologia que temos atualmente. Esse continua sendo um cenário hipotético que pertence ao campo da especulação.</p><p>Ao contrário dos modelos de IA, seres humanos e outros organismos vivos se comunicam através de linguagens carregadas de significados diversos, indo além da mera transmissão de informações. Linguagens humanas podem veicular alertas, expressar intenções e transmitir emoções. Além disso, organismos vivos possuem um senso de individualidade e demonstram intenções claras em suas ações. Têm uma presença física no mundo, algo que falta aos modelos de IA <em>[agosto, 2023]</em>.</p><p>Assim como os sistemas não podem adquirir seu próprio entendimento ou experiência, não podem armazená-los e passar um tempo enorme aperfeiçoando esse conhecimento por meio de novas interações. Sem um corpo para interagir com o mundo, sem um corpo para obter feedback do mundo, a IA está limitada ao conjunto de conhecimentos humanos que lhe foi fornecido.</p><p>Antes de começarmos a acreditar que há um gênio em uma garrafa, devemos considerar que ainda é uma garrafa comum. O gênio está dentro de nós, e é tão incrível que cria e começa a refletir um novo eu dentro dessa garrafa mágica eletrônica. Esse novo eu é chamado de IA e tem nomes específicos, como Gopher, Claude, Ernie, Bard e GPT.</p><p>Embora diversos, todos esses modelos lidam com linguagem e, por vezes, dão às pessoas uma sensação de humanidade. Contudo, todos estão limitados pela ausência de presença física, autonomia e incapacidade de ampliar por conta própria seu modelos de mundo com os dados externos.</p><p>Há experimentos com robôs equipados com alguma forma de aprendizado de máquina, mas ainda estamos longe de criar entidades que possam aprender com a experiência sensorial direta. Eles não podem adquirir, armazenar ou refinar o conhecimento com base em interações autênticas com o mundo.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ErORa692iK_t8eiSIVuVUQ.png" /><figcaption>No futuro, talvez possamos mandar robôs autônomos em jornadas especiais que seriam demasiado longas para nosso tempo de vida. [Imagem: Carlos Irineu, usando Midjourney]</figcaption></figure><p>Isso leva a outra limitação: a incapacidade de sistemas de IA de desenvolver um entendimento ou experiência próprios. Sem uma forma física para interagir com o mundo e receber feedback sensorial, estão confinados ao conjunto de dados com o qual foram treinados. Portanto, qualquer entendimento ou “conhecimento” que esses sistemas possam parecer ter é, na verdade, uma imitação derivada dos dados humanos.</p><p>Superestimar as capacidades da IA é um risco considerável. Nós, como usuários, podemos ser levados a crer que a IA possui algum nível de “sabedoria” ou “entendimento”, uma capacidade de “responder”, “descobrir” e “saber” que pode destruir nosso pensamento crítico.</p><p>Uma IA pode gerar uma resposta que parece correta, mas essa resposta ser baseada em dados obsoletos, tendenciosos ou completamente falsos. Como disse antes, o treinamento de uma IA é ao mesmo tempo crucial e complexo. Ainda há muito trabalho a ser feito antes que possamos entender como melhorar os modelos atuais, e só depois podemos pensar nos próximos modelos.</p><p>Por fim, o aumento da presença de IA em nossas vidas diárias apresenta o perigo de complacência intelectual. Existe o risco de nos tornarmos excessivamente dependentes dessas ferramentas, negligenciando o desenvolvimento de nossas próprias habilidades de pensamento crítico e resolução de problemas.</p><p>No momento em que estamos, é vital abordar a IA com uma compreensão cuidadosa de suas limitações. É uma ferramenta útil, pode resolver problemas difíceis como a tradução de textos para quase todos os idiomas ou o resumo de grande volume de textos e dados (médicos ou jurídicos, por exemplo) mas é limitada. Precisamos de cautelosa para não confundir sua funcionalidade com habilidades humanas. Me parece que, mantendo uma visão crítica, podemos usar as ferramentas de IA de maneira eficaz, sem comprometer nossa própria capacidade intelectual.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=c3424f6a522d" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>