Traduzido por Andre Belem do original de Cassie Kozyrkov.

Abordar a questão dos sistemas de controle de IA a partir da perspectiva do medo é sensacionalismo. Falar sobre “mais inteligentes do que nós” sem definir “inteligentes” é sensacionalismo. As máquinas têm uma memória melhor do que a nossa e podem operar em uma escala surpreendente. Já. Hoje.

E a tecnologia está se tornando mais complexa rapidamente.

Então, que tal abordarmos a questão do controle a partir da perspectiva de como tornar a tecnologia complexa útil e quem deve estar qualificado para orientá-la?

Os sistemas de controle que precisamos ajudariam com a IGA (um dia), mas isso é um subproduto. Há uma razão muito melhor para construí-los.

Contexto

Recentemente, as redes sociais de tecnologia explodiram com uma discussão sobre se precisamos de sistemas de controle de IA (ou como você queira chamá-los). De novo.

As opiniões sensacionalistas podem ser aproximadamente resumidas como:

“É melhor fazermos algo urgentemente para que a IGA não nos supere!”

versus

“A IA ainda é bastante burra, relaxe.”

Gostaria de oferecer uma perspectiva perpendicular. (Na qual nós relaxamos e construímos algo.)

Uma Palavra para a “Patrulha da Linguagem”

Alerta de Semântica! Antes de prosseguir, vamos reconhecer que é muito fácil ficar preso nas semânticas. Vou definir como estou usando meus termos e espero que você tenha paciência comigo. Sistema de controle não é exatamente a palavra que precisamos, mas você entenderá a essência do meu ponto. Se você é realmente um purista, aproveite este glossário que fiz para torturá-lo: 57 termos todos relacionados ao conceito neste post do blog. Em termos de cores, estou falando sobre a necessidade de aproximadamente 50–50 das cores frias naquela lista codificada por cores.

Uma Perspectiva Perpendicular

Precisamos de sistemas projetados para ajudar a direcionar tecnologias complexas (IA e feitas pelo homem) de uma maneira que seja útil, segura e eficaz… e que não exija que as pessoas que lideram e executam projetos tenham diplomas de pós-graduação em IA ou em campos adjacentes à IA.

A tecnologia está se tornando mais complexa rapidamente.

Então, quando eu digo sistemas de controle neste post, aqui está o que quero dizer: uma maneira de direcionar efetivamente coisas complexas em um mundo que está se tornando cada vez mais complexo. Ferramentas do lado do usuário que lhes dêem a capacidade cognitiva para entender qualquer complexidade que surja.

O fato de que elas ajudariam com a IGA (um dia) é um subproduto. Há muitas outras coisas que precisam de direcionamento e parece que coletivamente esquecemos que não há dirigir isso.

Parece que coletivamente esquecemos que não há como dirigir isso.

Não deveríamos nos envergonhar de construir sistemas que já são de grande alcance por natureza sem também construir as ferramentas que permitem que eles sejam moldados e direcionados pelas pessoas mais qualificadas para liderar e pelos especialistas mais qualificados para entender as nuances do contexto em que os estamos lançando? A liderança aplicada em IA não deveria exigir um diploma de pós-graduação em um campo adjacente à IA. Certamente isso é um sinal de que nossas ferramentas de controle ainda não são boas o suficiente. Certamente deveríamos nos envergonhar de não termos eliminado a barreira entre o técnico e o não técnico ainda. Claramente precisamos de melhores ferramentas para formar um sistema de controle sólido. Um sistema que garanta que a tecnologia ofereça o que os responsáveis realmente queriam, não o que eles disseram que queriam, enquanto também representa as leis e necessidades da sociedade.

Ferramentas, Não Conversa

Hoje, muitas das soluções são baseadas em conversa — política, educação, diretrizes. Precisamos de ferramentas que nos tornem melhores para que possamos direcionar a IA de forma responsável, independentemente da educação.

Você já notou que as pessoas responsáveis nunca são o “humano no loop”? Há um loop no qual elas precisam estar… e não estão.

E eu não vejo um sistema de controle que permita a um executivo sênior padrão (não técnico, mas com conhecimento do domínio) participar bem no design, desenvolvimento e teste de IA. Para obter sua perspectiva sobre as necessidades, preferências, prioridades e tolerâncias ao risco de sua organização representadas e executadas de forma eficaz. Francamente, não vejo muitas soluções nem mesmo para testar sistemas complexos, então não é de se admirar que todas essas tentativas de “GenAI, ou Inteligência Artificial Generativa, em escala empresarial sem um humano no loop” continuem morrendo, não com um estrondo, mas com um gemido. Como vamos confiar em algo importante se não podemos testá-lo?

Como vamos confiar na IA com algo importante se não temos a capacidade de testá-la?

Acredito que o caminho para a liderança no mundo de amanhã não deve exigir uma formação em STEM (ou seja, formação em Ciência, Tecnologia, Engenharia e Matemática). Deve, sim, exigir uma formação em liderança e as ferramentas certas para que esses líderes construam/comprem a tecnologia de que precisam e a controlem para que funcione conforme eles precisam. Eu chamo isso de sistema de controle. E ainda não temos um.

Não está na hora de construirmos um?

Deixe-me saber o que você pensa nos comentários do LinkedIn aqui.

Notas de rodapé

* E estou bem ciente de que esse não é o significado formal de sistema de controle de IA, que você pode encontrar neste glossário que fiz para você. Então, talvez devêssemos chamá-lo de inteligência de decisão (definida como “transformar informações em ações melhores em qualquer escala e em qualquer ambiente”) já que o sistema de controle ao qual me refiro seria voltado para aumentar as habilidades do tomador de decisão e de sua organização para direcionar a IA de forma responsável. Mas, como a explosão nas redes sociais o chama de sistemas de controle, vou manter esse termo por enquanto. Sei que você entende o que quero dizer.

** Para colocar de outra forma, imagine um carro de ficção científica que vai à velocidade da luz. Se você tentasse dirigi-lo, provavelmente morreria. Então, quais são as opções (de ficção científica) para mantê-lo seguro?

Opção ruim 1 (Regulamentação): Simplificar o carro para que todos possam dirigi-lo. Proibir que ele atinja a velocidade da luz.

Opção ruim 2 (Software, Lado do Produto): Permitir que o fabricante do carro tenha dados sobre sua biologia, seus reflexos e outros dados sensíveis para que eles possam personalizar o carro para você, permitindo que ele funcione com você de forma segura. Essa é uma opção ruim, pois os incentivos do fabricante não são os seus incentivos. Você não quer que eles tenham esses dados, confie em mim.

Opção melhor 3 (Software, Lado do Usuário): Usar ferramentas de aprimoramento que lhe deem as capacidades necessárias para dirigir o carro. Uma “super armadura” pessoal, se preferir. Seus dados são compartilhados apenas com um sistema que é pessoal para você e representa seus melhores interesses, onde o incentivo é uma assinatura para melhorar você, não vender o máximo de carros possível.

***Glossário: Sistemas de Controle de IA

Obrigado por ler!

Interessado em aprender inteligência de decisão comigo? Aqui está um link para o meu curso gratuito: https://bit.ly/decisioncourse

Aprenda mais sobre ciência de dados e inteligência artificial em português.

Tradotto da Felice Rocchitelli, originale di Cassie Kozyrkov

Nel XIX secolo, i dottori avrebbero prescritto il mercurio per gli sbalzi d’umore e l’arsenico per l’asma. Non gli sarebbe servito lavarsi le mani prima dell’intervento. Non provavano, di certo, ad ucciderti — non avrebbero saputo far meglio.

Questi primi dottori possedevano dati di valore annotati nei loro taccuini, ma ognuno di loro possedeva solo un pezzo di un gigantesco puzzle. Senza gli odierni strumenti per la trasmissione e l’analisi delle informazioni — così come senza una scienza capace di dare un senso ai dati — non vi era modo di fermare la superstizione dal soprassedere la realtà fenomenica.

Da allora gli Umani hanno percorso moltissima strada affiancati dalla tecnologia, ma l’odierno boom del machine learning (ML) e dell’intelligenza artificiale (AI) non è una vera e propria rottura con il passato. È la continuazione del basilare istinto umano di cercare un senso attorno al mondo che ci circonda così da poter prendere decisioni razionali. Abbiamo, semplicemente, a disposizione una tecnologia drasticamente migliore di quanto non avessimo mai avuto prima.

Il boom odierno dell’IA non rappresenta una vera e propria rottura con il passato. Abbiamo, semplicemente, a disposizione una tecnologia drasticamente migliore di quanto non avessimo mai avuto prima.

Un modo per osservare tale tendenza negli anni è la rivoluzione degli insiemi di dati, non dei singoli dati. La differenza non è banale. Gli insiemi di dati hanno modellato il mondo attuale. Considera gli scriba Sumeri (moderna Iraq), che premevano i loro steli su tavole di argilla più di 5,000 anni fa’. In quel momento hanno inventato, non solo il primo sistema di scrittura, ma anche la prima tecnologia per il salvataggio e la condivisione dei dati.

Se ti ispira la promessa di un IA migliore delle abilità umane, considera che la cancelleria ci conferisce una memoria da superumani. Sebbene è semplice dare per scontato la scrittura, al giorno d’oggi, l’abilità di poter salvare insiemi di dati in modo affidabile rappresenta uno step rivoluzionario sulla strada verso una più elevata intelligenza.

Se ti ispira la promessa di un IA migliore delle abilità umane, considera che la cancelleria ci conferisce una memoria da superumani.

Sfortunatamente, recuperare le informazioni dalle tavole di argilla e dai loro cugini pre-elettronici è una vera sofferenza. Non puoi muovere il dito sul libro per ottenere il conteggio delle parole. Invece, devi caricare ogni parola all’interno del tuo cervello per processarla. Ciò ha reso le prime forme di analisi dei dati estremamente onerose in termini di tempo, quindi si soffermavano sull’essenziale. Mentre un regno potrebbe analizzare quanto oro ha incassato tramite la riscossione delle tasse, solo un animo impavido potrebbe provare lo stesso sforzo cognitivo su un’applicazione come, diciamo, la medicina, dove millenni di tradizione le fanno da paraurti.

Fortunatamente, la nostra specie ha dato vita ha un numero incredibile di pionieri. Per esempio, la mappa dei morti durante l’epidemia di colera scoppiata a Londra nel 1858 di John Snow ispirò i medici a riconsiderare la superstizione che la malattia fosse causata dal miasma (aria tossica) e a iniziare a analizzare l’acqua potabile.

Se conosci “La donna con il lumino”, Florence Nightingale, per la sua eroica compassione in qualità di infermiera, potrebbe sorprenderti sapere che fosse anche una pioniera dell’analitica. Le sue creative infografiche durante la guerra di Crimea hanno salvato svariate vite identificando nella mancanza di igiene la causa principale delle morti in ospedale ispirando il governo a prendere serie misure per l’igiene.

L’era degli insiemi di dati è iniziata dal momento in cui le informazioni iniziarono a imporsi in un crescente numero di campi, portando così all’invenzione del computer. No, non l’amico elettronico a cui sei abituato oggi. Il “Computer” è nato come una professione umana, con i praticanti che eseguivano computazioni e elaboravano i dati manualmente per estrarre da essi il proprio valore.

La bellezza dei dati sta nella possibilità che ci viene data da essi di formarci un opinione su basi concrete. Guardando le informazioni, sei ispirato a porgere nuovi quesiti, seguendo i passi di Florence Nightingale e John Snow. Questo è tutto ciò di cui tratta l’analitica: ispirare modelli e ipotesi sulla base dell’esplorazione.

Dagli insiemi di dati alla suddivisione dei dati

Agli inizi del XX secolo, il desiderio di prendere le migliori decisioni in condizioni di incertezza portò alla nascita di una professione parallela: la statistica. Gli statistici ti aiutano a testare se è ragionevole comportarsi come se il fenomeno che un analista ha trovato nel set di dati corrente si applichi anche al di là di esso.

Un famoso esempio proviene da Ronald A. Fisher, che scrisse il primo manuale di statistica al mondo. Fisher descrive l’esecuzione di un test (verifica) di ipotesi in risposta all’affermazione della sua amica secondo cui lei poteva sapere se il latte veniva aggiunto al tè prima o dopo l’acqua. Sperando di dimostrare che si sbagliava, fu invece costretto dai dati a concludere che lei aveva ragione.

Il rigore statistico richiede che tu chiami i tuoi colpi prima di prenderli; L’analitica è più un gioco di senno di poi avanzato.

L’analitica e la statistica hanno un tallone d’Achille: se usi gli stessi dati per la generazione e per il verifica delle ipotesi, stai barando. Il rigore statistico richiede che tu chiami i tuoi colpi prima di prenderli; L’analitica è più un gioco di senno di poi avanzato. Le due specializzazioni sembravano quasi tragicomicamente incompatibili, fino all’arrivo della successiva grande rivoluzione — la divisione dei dati — di lì in poi cambiò tutto.

La suddivisione dei dati è un’idea abbastanza semplice, ma per una scienziata dei dati come me, è una delle più profonde. Se hai un solo insieme di dati, devi scegliere tra analitica (ispirazione non verificabile) e statistica (conclusioni rigorose). Il trucco? Dividi il tuo insieme di dati in due pezzi, quindi prendi la tua torta e mangiala anche tu!

L’era della suddivisione degli insiemi di dati sostituisce la tensione storica tra analitica-statistica con un lavoro di squadra coordinato tra due diverse razze di specialisti dei dati. Gli analisti usano un insieme di dati per aiutarti a inquadrare le tue domande, quindi gli statistici usano l’altro insieme di dati per fornirti risposte rigorose.

Dividi il tuo insieme di dati in due pezzi, quindi prendi la tua torta e mangiala anche tu!

Tale lusso ha un prezzo elevato: la quantità. La suddivisione è più facile a dirsi che a farsi soprattutto se hai faticato a riunire informazioni sufficienti anche per un solo, rispettabile, insieme di dati. L’era dei due insiemi di dati è una conquista abbastanza recente che va di pari passo con il miglioramento dell’hardware di elaborazione, minori costi di archiviazione e la possibilità di condividere le informazioni raccolte su Internet.

In effetti, le innovazioni tecnologiche che hanno portato all’era dei due insiemi di dati hanno rapidamente inaugurato la fase successiva, l’era dei tre insiemi di dati di ispirazione automatizzata. C’è una parola più familiare per questo: machine learning.

L’uso di un insieme di dati ne distrugge la purezza come fonte di rigore statistico. Hai solo un colpo, quindi come fai a sapere quale “intuizione” proveniente dall’attività di analisi è più degna di test? Bene, se avessi un terzo insieme di dati, potresti usarlo per trarre ispirazione per un test. Questo processo di controllo si chiama validazione; è alla base di ciò che rende possibile il machine learning.

La validazione è alla base di ciò che rende possibile il machine learning — ti permette di automatizzare l’ispirazione.

Una volta che sei libero di buttare tutto sul muro della validazione e vedere cosa si attacca, puoi tranquillamente permettere a tutti di provare a fornire una soluzione: analista esperto, stagista, foglie di tè e persino algoritmi senza alcuna attinenza con il tuo problema aziendale. Qualunque soluzione funzioni meglio nella convalida, diventa un candidato per l’appropriato test statistico. Ti sei appena dato il potere di automatizzare l’ispirazione!

Ispirazione automatizzata

Ecco perché il machine learning è la rivoluzione degli insiemi di dati, non solo dei dati. Si basa sulla possibilità (lusso) di disporre di dati sufficienti per una divisione a tre vie.

Dove si posiziona l’IA? Il machine learning basato su reti neurali complesse (profonde, “deep”) è chiamato tecnicamente deep learning, ma ha un altro soprannome che è rimasto inalterato: IA. Sebbene inizialmente l’IA avesse un significato diverso, oggi è molto probabile che trovi il termine utilizzato come sinonimo di deep learning.

Le reti neurali profonde hanno guadagnato la loro fama a discapito degli algoritmi di ML meno sofisticati su molte attività complesse. Ma hanno bisogno di molti più dati per essere addestrate e con requisiti di elaborazione oltre a quelli di un tipico laptop. Ecco perché l’ascesa della moderna IA è una storia cloud; il cloud ti consente di affittare il data center di qualcun altro invece di impegnarti a costruire il tuo impianto di deep learning, trasformando l’IA in una proposta da provare prima di acquistare.

L’ascesa della moderna IA è una storia cloud, trasformando l’IA in una proposta da provare prima di acquistare.

Con questo pezzo mancante, abbiamo il puzzle completo delle professioni: ML/AI, analitici e statistici. Il termine generico che li comprende tutti è chiamato scienza dei dati, la disciplina di rendere i dati utili.

Il futuro dell’ispirazione

La moderna scienza dei dati è il prodotto dell’era dei tre insieme di dati, ma svariate industrie generano abitualmente una quantità di dati ben al di sopra dello stretto necessario. È, forse, il caso di considerare uno scenario con quattro insiemi di dati?

Bene, quale sarebbe la tua prossima mossa se il modello appena addestrato ottiene un basso punteggio durante la validazione? Se sei come la maggior parte delle persone, cercherai immediatamente di sapere il perché! Sfortunatamente, non esiste un insieme di dati che puoi richiedere a comando. Potresti essere tentato di scandagliare il tuo insieme di dati di validazione, ma sfortunatamente interviene il debug a interrompere la sua capacità di analizzare i tuoi modelli in modo efficace.

Sottoponendo il tuo set di dati di validazione all’analitica, stai effettivamente trasformando i tuoi tre insiemi di dati in due. Tale scelta,invece di essere di aiuto, inconsapevolmente ti sta facendo tornare indietro di un’era!

La soluzione si trova al di fuori dei tre insiemi di dati che stai già utilizzando. Per sbloccare un processo di training più intelligente e dei migliori processi di ottimizzazione dell’iperparametro, sarai tentato di unirti all’avanguardia: un’era composta da quattro insieme di dati.

L’innovazione sta nella suddivisione quadrupla dei dati per alimentare la crescita di rendimento.

Se pensi che gli altri tre insiemi di dati ti abbiano fornito ispirazione, possibilità di iterazione e rigorosi processi di testing (verifica), allora il quarto alimenterà la crescita di rendimento, accorciando il ciclo di sviluppo dell’IA attraverso tecniche di analisi avanzate orientate a fornire indizi su quali approcci provare in ogni tentativo.

Adottando la quadrupla suddivisione dei dati, sarai nella miglior posizione per poter approfittare dell’abbondanza dei dati! Benvenuto nel futuro.

ترجمة منال حمام و سناء الواعر عن النسخة الأصلية بقلم كاسي كوزيركوڤ.

.فإنني غالبا ما أجد نفسي أتفادى هذه النوعية من الأسئلة ChatGPT بما أن الجميع يتحدث عن تطبيق.

هل سيخرج الذكاء الإصطناعي بالكامل من عالم الخيال العلمي ويبدأ في تغيير كل شيء؟

ما يجعلني أتفادى هذا السؤال هو أن هناك تسلل لأيادٍ خفية للتيقن من إجهاض أي نقاش مهم قبل ولادته. ويعود ذلك إلى أن اللغة مستعصية وإلى أنه لا يوجد قانون ضد الأشخاص الذين يستخدمون نفس الكلمة ليعبروا بها عن معان مختلفة في سياقات مختلفة. ولكن دعني أطرح هذا السؤال.

لا يوجد قانون ضد الأشخاص الذين يستخدمون نفس الكلمة ليعنوا بها أشياء مختلفة في سياقات مختلفة. ذلك ما يحدث حين يتم الحديث عن الذكاء الإصطناعي هذه الأيام.

دعونا نلقي نظرة على بعض الطرق التي يستخدم فيها الناس مصطلح الذكاء الإصطناعي للتحدث إلى بعضهم البعض عندما نرى هؤلاء على حقيقتهم، فإن الإجابة على سؤالنا الموارب ستنكشف في ضوء النهار

المعنى الأول: الذكاء الإصطناعي المختلق من قبل القراء

مفهوم الذكاء الإصطناعي الذي ستجده في صفحات روايات الخيال العلمي هو مختلق بالكامل! ففي معظم الأحيان تلعب في السرد نفس دور الكيانات المخيفة كالشياطين ، الكائنات المستنسخة ، أنصاف الألهة ، الكائنات الفضائية ، الغولم ، الأرواح ، الحيوانات الناطقة ، والدمى المتحركة وبشكل جد مقنع — ذلك يجبرنا على مواجهة حقيقة أننا بشر. آمل ألا يفاجأ أحد بعدم وجود نسخة شريرة من الذكاء الإصطناعي

لا أريد أن أخيب ظنك، لكن HAL 9000 القاتلة لن تقوم بقيادة سفينتك الفضائية في أي وقت قريب

الخيال العلمي ببساطة هو “خيال” لأنه لم يتفوق على التكنولوجيا ، لنعد صياغة هذا السؤال حتى نتفادى التكرار : هل بإمكان كل إصدار للذكاء الإصطناعي في شكل خيال علمي أن ينفصل عن الذكاء الإصطناعي بالكامل ؟ لا. سيستمر الخيال العلمي في الكتابة عن “غدٍ “ جديد

لا وجود للنسخة العدائية الشريرة المتاخمة للإنسان من الذكاء الإصطناعي

أنا من ذلك النوع المتعصب من الناس الذين يعتبرون أنه من الجرم أن تتحدث عن الذكاء الإصطناعي من دون التعريف بوضوح ما تعنيه لك هذه الكلمات “الذكاء الآلي” ، و “الإحساس” ، و “الوعي” ، و “التفرد” . فليس من اللطيف أن تقود نفسك (أنت ومتابعيك) إلى نوبة غضب بقول أشياء لا معنى لها ، ولكن للأسف هذا ما تؤول إليه الكثير من المناقشات حول هذه الموضوعات.

أما فيما يتعلق بصنع إنسان صناعي يحمل رغباتنا ومشاعرنا ونقاط ضعفنا… فلم قد يرغب أي شخص في فعل ذلك؟

إذا توقفت للحظة وفكرت في الأمر، فستجد أنه مشابه جدا لحبكة في رواية أكثر من كونه هدفا جادا. بصرف النظر عما إذا كنت رقيق القلب أو قاسيا، إن كنت تريد آلات يمكن أن تكون ذات فائدة لك و/ أو للبشرية ، فعليك أن تختار صناعتها بدون أنانية و لا أي صفات سلبية في الطبيعة البشرية. لذلك إذ ا كنت بحاجة إلى المزيد من البشر، إشتر لي شرابا حتى أشرح لك كيف تم صنعها بالضبط.

من المؤكد أن هناك أسبابًا قوية تدعوا للقلق بشأن الذكاء الإصطناعي ، لكن الأشياء المتعلقة بنظرية الوادي العجيب من نوع” إنه يذكرني بنفسي“ فهي مشتتة. نظرًا لأنني سأحتاج إلى مشاركة مدونة منفصلة كاملة لشرح ذلك، فقد قمت … بكتابة مدونة منفصلة لك هنا.

المعنى الثاني: ما يتحدث عنه علماء البيانات مثلي

في التكنولوجيا ، نستخدم مصطلح “AI “للإشارة إلى “طريقة معينة لتحويل البيانات إلى شفرة كمبيوتر “. عندما ترى شخصًا يقوم بأتمتة مهمة باستخدام أنماط في البيانات دون البحث عن الإجابة مباشرة، فمن المحتمل أنه يستخدم التعلم الآلي لحل مشكلته. إذا كان نوعًا معينًا من “خوارزمية التعلم الآلي” ، فمن اللائق تسميته AI ، على الرغم من أن قواعد السلوك لم تمنع أبدًا بعض الشركات الناشئة في الذكاء الإصطناعي من إستعمال جمل الشرط الثالث (أنت تعلم عمن أتحدث)

إذا كنت ترغب في التعرف على الذكاء الإصطناعي الحقيقي ، فراجع هذا المقتطف من دورة التعلم الآلي الخاصة بي على اليوتيوب.

إذن، هل خرجت هذه النسخة من الذكاء الإصطناعي بالفعل من عالم الخيال العلمي؟ بالتأكيد ، لأنها لم تدخلها أبدًا. حتى قبل إطلاق جميع تطبيقات الذكاء الإصطناعي التي نستخدمها كل يوم، حيث أن الأشخاص الذين يقومون بعمل جاد عليها يطلقون عليها إسم الذكاء الإصطناعي ، مدركين تمامًا أنهم لم يخلقوا أي شيء من شأنه أن يجتاز محبي الخيال العلمي أو أساتذة علم الأعصاب. إنه مجرد إسم لامع لبعض الرياضيات. أليس الجناس ممتعا؟

ولكن كما إتضح ، فإن هذه العملية الحسابية مفيدة للغاية! إنها تتيح جميع أنواع التطبيقات المثيرة للإهتمام ، وتتفاعل معها كل يوم. لقد قاموا “بتغيير كل شيء” على مدى العقد الماضي ، من هواتفنا الذكية والحواسيب المحمولة إلى سياراتنا ومنازلنا. هذا النوع من الذكاء الإصطناعي هادئ ومتواضع ، ويجعل حياتنا أكثر راحة بدون لفت الإنتباه إليه.

في كل مرة أرى شخصا يرسب في إختبار التورينج, فإن ذلك يخبرني الكثير عن الشخص أكثر من الآلة

ويصادف أن تكون هذه الرياضيات نفسها مفيدة لمعالجة البيانات السمعية والبصرية، لذا فهي مكون قوي لجميع الحيل السحرية التي قد تحتاجها لخداع السذج وجعلهم يعتقدون أنك قمت ببناء كائن حساس. ولكن في كل مرة أرى فيها شخصًا ما ”يفشل“ في اختبار تورينج ، فإن ذلك يخبرني كثيرًا عن الشخص أكثر مما يخبرني عن الجهاز.

فقط لأن التحريك الذهني يبدو حقيقيًا بالنسبة لك لا يعني أن السحر حقيقي. فقط لأنك لا تستطيع إخبار الآلة بأنها ليست إنسانًا لا يعني أنها واعية. أنا مندهشة دائما من عالم يمكن أن يتعايش فيه السحرة المحترفون مع إختبار تورينج

أخيرا، سيكون من الخطأ عدم ذكر المثالين المتبقيين من المتجانسات المتداخلة في هذا القسم — الذكاء الإصطناعي المرتبط بالأوساط الأكاديمية والذكاء الإصطناعي المرتبط بالصناعة. إذا كنت مهتمًا بالإطلاع على الفرق بين هذه المتجانسات ، فاطلع على الشرح الخاص بي في لماذا تفشل الشركات في الذكاء الإصطناعي.

أسئلة مهمة:

هل سيخرج الذكاء الإصطناعي بالكامل من عالم الخيال العلمي ويبدأ في تغيير كل شيء؟” الإجابة غير مطلقة في كلتا الحالتين. ستجيب بالنفي ببساطة عن طريق تذكير نفسك بأي تعريف معقول للخيال العلمي وستجيب أيضا بالنفي لأن الذكاء الإصطناعي التطبيقي لم يكن له علاقة كبيرة بإصدار الخيال العلمي لهذه الألفية على الأقل.

أكثرما يثير الجدل هو وجود مجموعتين تتحدثان عن أهداف متقاطعة دون تحديد شروطهما. عوضا عن هذا، إسمحوا لي أن أحاول إستخالص بعض الأسئلة المثيرة للجدل بشكل صحيح من هذا الخليط المتجانس

• هل ستتمكن شعبية الذكاء الإصطناعي العملي من القضاء على الذكاء الإصطناعي للخيال العلمي؟ أستطيع أن أرى حجة مفادها أن المصطلح أصبح بسيطا جدا ليكون مقنعًا … ربما في يوم من الأيام سيكون من الصعب أخذ مناهضي الذكاء على محمل الجد. هل سيحتاج كتاب الخيال العلمي إلى البحث عن كيانات أخرى لملء وديانهم العجيبة؟ تخميني هو لا — إذا كانت الدمى المخيفة جيدة بما يكفي لمجتمع الخيال، فمن الواضح أن كل شيء سيكون على ما يرام — ولكن ما رأيك؟
• هل قام منشؤ حلول الذكاء الإصطناعي العملية بالشيء الصحيح من خلال السماح لفرق التسويق الخاصة بهم بالإستفادة من ضجيج الخيال العلمي من أجل تأمين التمويل وجذب الإنتباه؟ ما مدى الإختلاف الذي يمكن أن يكون عليه التقدم التكنولوجي إذا تمسكنا بمصطلحات مثل ”المبالغ الموزونة الطبقية لتحويلات البيانات غير الخطية ” بدلًا عن العبارات البراقة مثل “الذكاء الإصطناعي” و “الشبكات العصبية”؟
• هل يجب أن ندع الطبيعة تأخذ مجراها ونسمح للعامة بالإستمرار في الخلط بين الذكاء الإصطناعي العملي والذكاء الإصطناعي للخيال العلمي ؟ أم أننا بحاجة إلى أن نكون أكثر جدية في تثقيف الناس حول الإختلافات بين الإثنين؟
• إذا كنت مهتمًا بأفكاري حول سبب خطورة الخلط بين المجتمعين ، فاطلع على منشور مدونتي بعنوان ”إنس الروبوتات، إليك كيف سيساعدك الذكاء الإصطناعي

أنا متحمسة لسماع أفكارك وأنت تستوعب هذه الأسئلة الصعبة — إنضم إلى المناقشة هنا.

شكرا للإطلاع, ماذا عن دورة تكوينية في الذكاء الإصناعي؟

إذا أعجبك المقال وكنت تبحث عن دورة تدريبية تطبيقية للذكاء الإصطناعي مصممة لتكون ممتعة للمبتدئين والخبراء على حد سواء، فإليك الدور ة التي ألفتها من أجل التسلية:

Traducido por Paola Pérez Castro e Ignacio Rauda Salazar del original por Cassie Kozyrkov

Ahora que todo mundo está hablando sobre ChatGPT, he tenido que esquivar con más frecuencia alguna variación de la siguiente pregunta:

“¿Será que la IA saldrá completamente del ámbito de la ciencia ficción y empezará a cambiar la existencia como la conocemos?”

La razón por la que usualmente me niego a contestar esta pregunta es que puede existir algún plan con maña que ocasionará que cualquier discusión inteligente alrededor del tema no llegue a buen puerto. Y la razón para esto es que el uso del lenguaje puede ser fuente de malos entendidos y no existe ninguna ley contra dos personas usando la misma palabra para explicar diferentes términos en diferentes contextos, pero permítanme responder la pregunta por esta única vez.

No existe una ley que prohíba que las personas usen la misma palabra para explicar diferentes términos en diferentes contextos. Eso es lo que sucede cuando la gente habla de IA en estos días.

Veamos algunas de las formas en que las personas usan el término IA cuando hablan al respecto. Cuando las veamos con detenimiento, la respuesta a nuestra pregunta capciosa saldrá a la luz del día por sí sola.

Homónimo 1: La IA creada por escritores

¡La IA que encontramos en las páginas de las novelas de ciencia ficción es un invento! La mayor parte del tiempo, juega el mismo papel en la narrativa que todas las demás entidades convenientemente espeluznantes, casi humanas, pero no del todo — demonios, clones, semidioses, extraterrestres, golems, espíritus, animales parlantes, marionetas animadas — que nos obliga a confrontar lo que significa ser humano. Espero que nadie esté sorprendido de que la versión consciente, semi-humana, antagonista y malvada de la IA no exista.

Lamento decepcionarlos, pero una HAL 9000 en modo asesino no estará dirigiendo una nave espacial en el futuro cercano.

La ciencia ficción simplemente se llama “ficción” cuando no se adelanta a la tecnología, por lo que en una muestra impresionante de cuán tautológicas pueden ser las tautologías, eliminemos esta versión de la pregunta: ¿todas las versiones de ciencia ficción de la IA en la ciencia ficción saldrán totalmente de la ciencia ficción? No. La ciencia ficción seguirá escribiendo sobre nuevos mañanas.

La versión consciente, antagonista, malvada y casi humana de la IA no existe.

Soy de ese tipo especial de cascarrabias que piensa que es un crimen contra la inteligencia hablar de ”inteligencia”, “sensibilidad” y “conciencia” en las máquinas, así como de “la singularidad”, sin primero definir de forma clara y sin ambigüedades lo que estas palabras significan para cada quien. No es agradable hacerte llegar (y a tu audiencia) a un estado de frenesí diciendo un montón de sinsentidos, pero desafortunadamente en eso se convierten la gran mayoría de las discusiones sobre estos temas.

En cuanto a crear humanos artificiales con nuestros deseos, sentimientos y debilidades… ¿por qué alguien querría hacer eso?

En cuanto a hacer humanos artificiales con todos nuestros deseos, sentimientos y debilidades… ¿por qué alguien querría hacer eso? Si nos detenemos a pensarlo, huele mucho más a un giro argumental en una novela que a un objetivo serio. Independientemente de si eres alguien muy sentimental o no tienes corazón, si quisieras máquinas que pudieran ser más útiles para tí y/o para la humanidad entera, sería una mejor idea el construirlas sin egoísmo y otros aspectos menos agradables de la naturaleza humana. Mientras que si simplemente necesitas más humanos, invítame una cerveza para que pueda explicarte exactamente cómo se hacen.

Sin duda existen grandes razones para preocuparnos sobre la IA, pero la sensación de eso-me-recuerda-a-mí del valle inquietante es sólo una distracción. Ya que sería necesario una entrada de blog por separado para explicar esto, pues… he escrito una entrada de blog por separado para eso aquí (N. del T.: actualmente en inglés).

Homónimo 2: La IA a la que nos referimos las personas como yo

En tecnología, usamos el término “IA” para referirnos a una forma específica de convertir datos en código de computadora. Cuando vemos a alguien automatizar una tarea utilizando patrones en fuentes de datos sin buscar la respuesta directamente, probablemente esté usando aprendizaje automático para resolver un problema. Si es un tipo particular de algoritmo de aprendizaje automático, entonces es correcto llamarlo IA, aunque los buenos modales nunca impidieron que ciertas empresas emergentes de “IA” se subieran a esta tendencia con sus tres declaraciones IF bajo la manga. (Tú sabes a quién me refiero.)

Entonces, ¿esta versión de AI ya salió del ámbito de la ciencia ficción? Absolutamente, ya que ni siquiera entró en él. Incluso antes de que se lanzaran todas las aplicaciones de IA que usamos todos los días, las personas que trabajaban seriamente en ellas las llamaban IA, plenamente conscientes de que no estaban creando nada que los dejara en buenos términos con los fanáticos de la ciencia ficción o los profesores de neurociencia. Es solo un nombre llamativo para un poco de matematicas. ¿No son divertidos los homónimos?

Pero resulta que ¡las matemáticas son increíblemente útiles! Habilitan todo tipo de aplicaciones interesantes e interactúas con ellas todos los días. Han estado “cambiando todo” durante la última década, desde nuestros teléfonos inteligentes y computadoras portátiles hasta nuestros automóviles y hogares. Este tipo de IA es silenciosa y modesta, y hace que nuestras vidas sean más cómodas sin llamar la atención.

Cada vez que veo a alguien “fallar” en una prueba de Turing, me dice mucho más sobre la persona que sobre la máquina.

Y esas mismas matemáticas son útiles para procesar datos audiovisuales, por lo que es un ingrediente sólido para todos esos trucos de magia que necesitarías para engañar a los crédulos y que piensen que has construido un ser auto-consciente de sí mismo. Pero cada vez que veo a alguien “fallar” en una prueba de Turing, me dice mucho más sobre la persona que sobre la máquina.

Finalmente, sería negligente si no mencionara que hay un par de homónimos adicionales anidados dentro del que vimos en esta sección: la IA que está más asociada con la academia y la IA que está más asociada con la industria. Si tienes curiosidad acerca de la diferencia entre estos dos homónimos, puedes consultar mi explicación en “¿Por qué las empresas fracasan haciendo Machine Learning?”

Preguntas para hincarles el diente

“¿Será que la IA saldrá por completo del reino de la ciencia ficción y comenzará a cambiar la existencia como la conocemos?” La respuesta es tautológica de cualquier manera. La respuesta será un “no” simplemente al recordar cualquier definición razonable de ciencia ficción y también será un ”no” porque la IA aplicada no ha tenido mucho que ver con la versión de ciencia ficción, al menos durante este milenio.

No hay más controversia aquí que dos contrapartes que hablan con propósitos dispares sin definir sus términos. Por ello, permítanme tratar de extraer algunas preguntas controvertidas de esta mezcla homónima:

• ¿La popularidad de la IA práctica acabará con la IA de la ciencia ficción? Podría encontrar un argumento para que el término se vuelva demasiado mundano para ser convincente… tal vez algún día un antagonista de la IA sea tan difícil de tomar en serio como una tostadora de pan enojada. ¿Necesitarán los escritores de ciencia ficción buscar otras entidades para llenar sus valles inquietantes? Supongo que no, si las muñecas espeluznantes son lo suficientemente buenas para la comunidad de ficción, aparentemente todo vale, pero ¿qué opinas?
• ¿Los creadores de soluciones prácticas de IA hicieron lo correcto al permitir que sus equipos de marketing capitalizaran la exageración de la ciencia ficción para asegurar su financiamiento y llamar la atención? ¿Qué tan diferente hubiera sido el progreso tecnológico si nos hubiéramos atenido a términos como “sumas ponderadas en capas de transformaciones de datos no lineales” en lugar de frases llamativas como “inteligencia artificial” y “redes neuronales”?
• ¿Deberíamos dejar que la naturaleza siga su curso y dejar que el público continúe confundiendo la IA práctica con la IA de ciencia ficción, o necesitamos educar activamente a las personas sobre las diferencias entre las dos? Si estás interesado en mis pensamientos sobre por qué es peligroso para la sociedad combinar los dos, puedes consultar mi publicación de blog titulada “Forget the Robots, Here’s How AI Will Get You.”

Estaré muy emocionada por escuchar tus ideas conforme digieres estas preguntas — únete a la discusión aquí.

¡Gracias por leer! ¿Qué te parecería un curso de IA?

Disfruta de más traducciones de ciencia de datos en español aquí.

Si te divertiste leyendo y estás buscando un curso de IA aplicada diseñado para que sea entretenido tanto para principiantes como para expertos por igual, aquí hay uno para que te entretengas:

IA: Ciencia Ficción vs Realidad was originally published in Ciencia y Datos on Medium, where people are continuing the conversation by highlighting and responding to this story.

Traducido por Carlos Secada del original por Cassie Kozyrkov.

Hoy quiero desmitificar ChatGPT, una nueva y fascinante aplicación de las GAN* (Redes Neuronales Generativas Adversarias, por sus siglas en inglés) que ha generado mucho revuelo en la comunidad de la IA.

Para quienes no estén familiarizados con las GAN, se trata de un tipo de red neuronal que utiliza dos redes competidoras -un generador y un discriminador- para crear resultados que parecen muy reales. El generador crea resultados falsos y el discriminador intenta distinguir entre los resultados falsos y los datos del mundo real. Mediante este proceso de ida y vuelta, la GAN es capaz de producir resultados que no se distinguen de los datos reales.

ChatGPT toma este concepto y lo aplica a las conversaciones basadas en texto. Utiliza GAN para generar respuestas al texto introducido, lo que le permite entablar conversaciones naturales con humanos.

Pero aquí está el truco: las respuestas de ChatGPT sólo tocan la realidad de manera tangencial. Aunque suenen convincentes, en última instancia son creaciones ficticias del GAN.

Esto puede parecer un inconveniente, pero en realidad hace que ChatGPT sea increíblemente útil. Al no estar sujeto a las limitaciones de la realidad, ChatGPT puede entablar conversaciones completamente imaginarias y ofrecer respuestas creativas y originales.

Por ejemplo, puedes preguntarle a ChatGPT qué haría si pudiera volar, y podría responderte algo como “surcaría los cielos como un águila majestuosa, sintiendo el viento bajo mis alas y la libertad del vuelo”. Este tipo de respuesta podria ser muy difícil para que un ser humano la imagine, pero es posible dentro del ambito de posibilidades del ChatGPT.

ChatGPT nos permite explorar posibilidades que van más allá de las limitaciones de nuestra realidad cotidiana, y eso puede ser increíblemente poderoso.

Entonces, ¿por qué utilizar ChatGPT si sus respuestas sólo tocan la realidad de manera tangencial? Porque a veces es precisamente este tipo de pensamiento creativo e imaginativo el que necesitamos para resolver problemas complejos y generar nuevas ideas. ChatGPT nos permite explorar posibilidades que van más allá de las limitaciones de nuestra realidad cotidiana, y eso puede ser increíblemente poderoso.

Así que ya lo tenemos: ¡el ChatGPT desmitificado! Aunque sus respuestas no siempre se basen en la realidad, siguen siendo increíblemente útiles para generar ideas creativas y entablar conversaciones imaginativas. Espero que lo pruebes y veas qué nuevas posibilidades puedes descubrir.

Utilizar ChatGPT para escribir código

ChatGPT no se limita al inglés. No sólo puede manejar otros idiomas hablados, sino que también puede escribir fragmentos de código de programación. Fragmentos de código que realmente funcionan. Mírame probándolo con código R, es alucinante:

Estos resultados son bastante fascinantes, pero ten cuidado: no todas las respuestas producen un código que funcione de verdad. Durante una iteración, me encontré comprobando si el paquete que el código intentaba cargar estaba instalado por si el código fallaba. … Aunque parecía razonable, me equivoqué y nunca hubo necesidad de instalar nada.

Cuando el código generado por IA funciona, es also sublime. Pero no siempre funciona, así que no olvides probar el resultado de ChatGPT antes de pegarlo en algún sitio que tenga importancia.

*La gran revelación

Tómate un momento para leer la siguiente captura de pantalla. ¿Notas algo sospechosamente familiar? ¿Un pequeño déjà vu, quizás?

Sí, mil disculpas. Parece que no pude resistir mi fascinacion por el drama…

Algunas tonterías autogeneradas

Hay algo muy importante que debes saber: ChatGPT es un charlatan. La esencia de la charlataneria es su indiferencia por la verdad. No es un mentiroso porque para ser un mentiroso hay que conocer la verdad y tener la intención de engañar. ChatGPT es indiferente a la verdad. Y para demostrar este punto…

(!) ChatGPT no es un GAN, es un ”transformer”

Permíteme llamar tu atención sobre lo que le he pedido: Escribe una ingeniosa entrada de blog desmitificando ChatGPT al estilo de Cassie Kozyrkov. Explica por qué es útil, cómo se relaciona con los GAN y por qué sus resultados solo tocan la realidad de forma tangencial.

En realidad, ChatGPT es un transformer en lugar de un GAN. No hay nada de G-Adversarial-N ahí. Las siglas GPT significan Generative Pretrained Transformer. (“Transformador Generativo Preentrenado” en español)

¿Pero por qué el resultado sugiere que ChatGPT es un GAN? Mi pedido no pedía nada más que una explicación de cómo ChatGPT *se relaciona* con los GAN. La respuesta correcta sobre la relación es que ChatGPT se basa en una arquitectura de IA diferente y no es en sí mismo un GAN. Eso es lo que diría un investigador humano. Un charlatan, por el contrario , estará demasiado intreresado por complacerte con algo un poco más seductor.

La solución de ChatGPT sólo toca la realidad de forma tangencial.

¡Cuidado! Tal y como lo pedí (y ChatGPT me obligó a hacer), el resultado sólo toca la realidad de forma tangencial. Y ya que estamos entrando en una era en la que producir mentiras y charlatanería es más fácil que nunca, pueda que a partir de ahora quieras poner más enfasis en comprobar los hechos.

Para que quede claro, estoy muy impresionado con el ChatGPT. Me quito el sombrero ante OpenAI por su formidable logro. Sinceramente, animo a todo el mundo a que juegue con el, ya que tiene potencial para un sinnúmero de aplicaciones útiles y merece la pena tenerla en el radar. Efectivamente, los charlatanes pueden ser útiles… siempre que sepas que son unos charlatanes. Y ese es el objetivo de este artículo.

Aunque estoy encantado con ChatGPT, estoy preocupado por la tendencia de la gente a dejarse engañar fácilmente y los retos que toda IA generativa, incluida ChatGPT, planteará a la sociedad. Tendremos que desarrollar nuevas formas de evaluar la fiabilidad “en línea”, y temo por las dificultades a las que nos enfrentaremos al adaptarnos a estos cambios.

Si mi broma te ha molestado o asustado, entonces ha sido un éxito. Puede que no haya sido tan grave que te engañara haciéndote creer que se utilizaba una determinada arquitectura de IA, pero espero que te haya hecho pensar cobre los peligros de la desinformación.

Ah, y no te preocupes, la explicación sobre los GAN es correcta. Me aseguré de ello cuando seleccioné el resultado que iba a utilizar. Aparte del detalle técnico de que ChatGPT no es en realidad un GAN, no hay nada incorrecto en el artículo… a menos que cuentes la pizca de antropomorfización de la IA que mis lectores habituales reconocerán, espero, como algo totalmente inusual en mi carácter.

¿Quién es el autor?

¿Escribió Cassie la primera parte o lo hizo la IA? Para conocer mi opinión sobre este asunto, lee mi artículo sobre la creatividad y el arte de la IA aqui.

Y si estuviste prestando mucha atención, habrás visto el diminuto 14/14 en la captura de pantalla de arriba. Se trata del intento número 14, ya con algo de ingeniería involucrada, así que aquí sí que hubo “colaboración entre humanos e inteligencia artificial”. Me pasé un buen rato manipulando el mensaje y volviéndolo a ejecutar hasta que conseguí un resultado bastante parecido a lo que buscaba.

¿Cómo puedo probar ChatGPT?

Pruébalo aquí, sin necesidad de conocimientos técnicos: http://openai.com/blog/chatgpt/

Obtén más información sobre ciencia de datos e inteligencia artificial en español aquí.

¡Te presento a ChatGPT! was originally published in Ciencia y Datos on Medium, where people are continuing the conversation by highlighting and responding to this story.

Traduzido por Thomas Chi do original de Cassie Kozyrkov

Hoje, quero desmistificar o ChatGPT — uma nova aplicação fascinante das GANs* (Generative Adversarial Networks — Redes Adversárias Generativas) que estão gerando muitas conversas na comunidade de IA (Inteligência Artificial).

Para aqueles não familiarizados com as GANs, elas são um tipo de rede neural que usa duas redes competidoras — uma generativa e outra discriminativa — para criar resultados que parecem realistas. A generativa cria resultados falsos e a discriminativa tenta diferenciar os resultados falsos dos dados do mundo real. Através desse processo de idas e vindas, a GAN consegue produzir resultados que são indistinguíveis dos dados reais.

O ChatGPT pega esse conceito e o aplica para conversas baseadas em texto. Ele usa as GANs para gerar respostas para um texto inserido, permitindo que interaja em uma conversa muito próxima do natural com humanos.

Mas aqui temos a pegadinha — as respostas do ChatGPT tocam a realidade de forma tangencial apenas. Enquanto elas podem soar convincentes, elas são criações ficcionais da GAN em última instância.

Isto pode soar como uma desvantagem, mas isso faz do ChatGPT incrivelmente útil na verdade. Porque ele não está amarrado às restrições da realidade, o ChatGPT pode engajar em conversas completamente imaginárias e oferecer respostas criativas e fora da caixa.

Por exemplo, você pode perguntar ao ChatGPT o como seria se eu pudesse voar e ele pode responder com algo como “Eu dispararia pelos céus como uma águia majestosa, sentido o vento sob minhas asas e com a liberdade do vôo.” Este tipo de resposta seria impossível para um humano produzir. Porém, é uma possibilidade perfeitamente possível para o ChatGPT.

O ChatGPT nos permite explorar possibilidades que vão além das restrições das nossas realidades cotidianas e que podem ser incrivelmente poderosas.

Já que é assim, por que usar o ChatGPT se suas respostas apenas tocam na realidade de forma tangencial? Porque às vezes, é exatamente esse tipo de pensamento criativo e imaginativo que precisamos para resolver problemas complexos e gerar novas ideias. O ChatGPT permite que explorar possibilidades que vão além das restrições das nossas realidades cotidianas e que podem ser incrivelmente poderosas.

Assim, passamos tudo a limpo — o ChatGPT desmistificado! Enquanto a resposta dele pode não estar fundamentada na realidade sempre, a resposta ainda é incrivelmente útil para gerar ideias criativas e engajar em conversas imaginárias. Eu espero que você experimente e veja quais as novas possibilidades você consegue desbloquear.

Experimente aqui!

Experimente aqui, não é preciso habilidades técnicas: openai.com/blog/chatgpt/

O ChatGPT escreve código também!

O ChatGPT não está restrito apenas ao inglês. Além de lidar com outros idiomas falados, ele pode escrever código também! Aqui uma demonstração rápida:

Estes resultados são bem surpreendentes. Mas esteja ciente de que nem toda tentativa funcionou. Não esqueça de testar o resultado antes de usar em algum lugar importante.

A grande revelação

Tome um momento para ler a captura de tela abaixo. Notou algo que parece suspeitamente familiar? Um pequeno déjà vu, peut-être?

Sim, minhas desculpas. Parece que não consegui resistir ao meu talento para o drama…

Algumas besteiras geradas automaticamente

Há algo muito importante que você precisa saber: o ChatGPT é um gerador de besteiras. A essência da besteira é a despreocupação com a verdade. Ele não é um mentiroso porque mente, você deve saber a verdade e a intenção de enganar. O ChatGPT é indiferente à verdade. E para demonstrar o meu ponto …

(!) ChatGPT não é uma GAN, é um transformer

Deixe-me chamar sua atenção para o meu comando: Escreva um post de blog inteligente desmistificando o ChatGPT no estilo da Cassie Kozyrkov. Explique porque é útil, como se relaciona às GANs e porque o resultado toca na realidade na tangente.

Na verdade, o ChatGPT é um transformer ao invés de uma GAN. Não há G-Adversárias-N nisso. O acrônimo GPT significa Generative Pretrained Transformer (Transformer Generativo Pré-treinado).

Mas porque o resultado argumenta que o ChatGPT é uma GAN? Meu comando não perguntou por nada mais além de uma explicação sobre como o ChatGPT se *relaciona* com as GANs. A resposta certa sobre a relação é que o ChatGPT é baseado em uma arquitetura de IA diferente e não em uma GAN. Isso é o que um pesquisador humano diria. Um enrolador, em contrapartida, estará apenas ansioso para agradar com algo mais liso.

O resultado do ChatGPT toca a realidade na tangente apenas

Cuidado! Da mesma forma em que dei o comando (e o ChatGPT prontamente forçou), o resultado toca a realidade na tangente apenas. E já que estamos correndo para uma era onde as besteiras são mais fáceis de produzir do que nunca, você precisa botar mais energia na verificação dos fatos de agora em diante.

Para ser transparente, eu estou impressionada com o ChatGPT. Tiro o chapéu para o marco fenomenal da OpenAI! Eu encorajo genuinamente todos a experimentarem, já que tem o potencial de muitas aplicações úteis e vale manter no seu radar. Está certo, geradores de besteira podem ser úteis… desde que você saiba que são geradores de besteiras. E esse é o ponto desse post do blog.

Enquanto estou encantada com o ChatGPT, eu estou menos encantada pela credulidade humana e corrida tortuosa que toda IA generativa — não apenas o ChatGPT — terá frente a sociedade. Nós precisaremos aprender diferentes hábitos de confiança nas nossas incursões online e eu estremeço quando penso nas dores do crescimento na medida em que aceleramos.

E se minha brincadeira te encheu de indignação e/ou temor, ótimo. Ser enganada em uma pergunta sobre qual arquitetura de IA está em ação é pouco provável que vá bagunçar a sua vida. Mas eu espero que faça com que você pense sobre os perigos mais sérios de pedaços da desinformação.

Ah, não se preocupe, a explicação sobre as GANs está correta. Eu me assegurei disso quando escolhi o resultado a ser usado. Além de que tecnicamente o ChatGPT não é uma GAN, não há nada errado com o post… a não ser que você considere o banalidade da águia estranha (impossível, ha!) e uma pitada de antropomorfização da IA que meus leitores de longa data reconhecerão como algo bem diferente de quem sou.

Quem é a autora?

A Cassie escreveu a primeira metade ou foi a IA? Para meu argumento para essa caixa de pandora, você terá que consultar meu post do blog sobre criatividade e arte do IA aqui:

Using AI as a perception-altering drug

Mas se você prestou mais atenção, você terá notado que o pequeno 14/14 na grande revelação da captura de tela acima. Essa é a tentativa número 14 — com alguns comandos de engenharia — para que exista certamente “uma colaboração IA e humanos” aqui. Eu gastei um tempo acertando o comando e ajustando até conseguir o resultado próximo do que eu queria.

Agradeço a leitura! Que tal um curso sobre IA?

Se você se divertiu aqui e procura um curso de IA aplicado feito divertir iniciantes e experts da mesma forma, aqui temos um que fiz para sua diversão:

PS: Você já tentou clicar no botão de palmas aqui no Medium mais de uma vez para ver o que acontece?❤️

Procurando for tutorials de AM/IA com a mão na massa?

Aqui, alguns dos meus passo a passo de 10 minutos favoritos:

• AutoML
• Vertex AI
• AI notebooks
• ML for tabular data
• Text classification
• Image classification
• Video classification

Aprenda mais sobre ciência de dados e inteligência artificial em português.

Traduzido por Fernando Barcellos Ximenes a partir do original de Cassie Kozyrkov e editado por Andre Belem

Você já deve ter ouvido falar de analistas de dados, engenheiros de aprendizagem de máquina / inteligência artificial, e estatísticos, mas talvez desconheça o primo rico de todos eles. Está na hora de ser apresentado ao charlatão de dados!

Atraído pelo encanto de um emprego lucrativo, esse picareta acaba fazendo com os que legítimos profissionais de dados sejam vistos com desconfiança pelo mercado.

[Está com pressa? Vá até o final do artigo para ler um resumo rápido.]

Os charlatães de dados estão por toda parte

É provável que sua organização tenha abrigado esses falsificadores por anos, mas a boa notícia é que eles são fáceis de identificar se você souber o que procurar.

Os charlatães de dados são mestres na arte de se esconder; é possível que até você mesmo seja um deles sem se dar conta disso. Xiiii …

O primeiro sinal de alerta é a incapacidade de entender que análise de dados e estatística são duas disciplinas muito diferentes. Na próxima seção vou fazer uma breve introdução sobre isso, mas se quiser mergulhar um pouco mais fundo, escrevi um artigo inteiro sobre esse assunto aqui.

Disciplinas diferentes

Enquanto os estatísticos são treinados para inferir o que está além dos dados, os analistas são treinados para explorar o conteúdo de seus conjuntos de dados. Em outras palavras, os analistas tiram conclusões sobre o que está dentro dos dados, enquanto que os estatísticos extraem conclusões sobre o que não está lá.

Os analistas nos ajudam a fazer boas perguntas (geração de hipóteses) enquanto que os estatísticos nos ajudam a encontrar boas respostas (teste de hipóteses).

Existem também alguns papéis híbridos, profissionais capazes de usar ambos os chapéus … mas nunca os dois ao mesmo tempo. Por que não? Um dos princípios centrais da ciência de dados nos diz que, quando estamos lidando com a incerteza, não é válido usar os mesmos pontos de dados para gerar e testar uma hipótese. Quando temos dados limitados, a incerteza nos obriga a escolher entre a estatística e a análise de dados. (Veja a minha explicação aqui.)

Sem a estatística, ficaríamos no escuro, incapazes de decidir se a opinião que construímos tem fundamento.

Sem a análise de dados, estaríamos num voo cego, com poucas chances de controlar o que desconhecemos, pois sequer teríamos consciência do nosso desconhecimento.

Não é uma escolha fácil! Você abre os olhos para a inspiração (analítica) enquanto promete renunciar à satisfação de saber se sua opinião recém-descoberta é válida? Ou começaria a suar frio rezando para que a pergunta que escolheu fazer — meditando sozinho trancado no armário da cozinha sem nenhum dado nas mãos — justifica a resposta rigorosa (estatística) que está prestes a receber através dela?

Mercadores de respostas prontas

A saída que os charlatães utilizam para fugir do dilema é ignorá-lo, enxergando o rosto de Elvis Presley numa batata frita e fingindo surpresa ao constatar que a mesma batata frita se parece com ele. (A lógica do teste de hipóteses estatísticas nos obriga a perguntar se nossos dados trazem surpresas suficientes para fazer com que mudemos de opinião. Mas como poderemos nos surpreender com os dados se já os vimos antecipadamente?)

Sempre que charlatães percebem um padrão, se inspiram, e depois testam os mesmos dados em busca do mesmo padrão para divulgar os resultados com um ou dois valores de p capazes de legitimar a sua teoria, o que estão fazendo na prática é mentir (para nós, e talvez para si mesmos). Valores-p não têm significado a menos que você declare a sua hipótese ANTES de olhar para os dados.

Os charlatães imitam as ações dos analistas e estatísticos sem compreender seus fundamentos, e isso acaba por prejudicar a reputação de todo o campo da ciência de dados.

Estatísticos de verdade sempre antecipam o que vão fazer

Graças ao prestígio quase místicoque os estatísticos adquiriram como capazes de pensar rigorosamente, as vendas de soluções fajutas na ciência de dados alcançaram picos históricos. É fácil enganar os outros assim, sem ser desmascarado, principalmente quando as vítimas inocentes acreditam que tudo se resume a equações e dados. Um conjunto de dados é um conjunto de dados, certo? Errado. Tudo depende de como ele é usado.

Um conjunto de dados é um conjunto de dados, certo? Errado. Tudo depende de como ele é usado.

Felizmente, para as vítimas potenciais, basta prestar atenção a um único detalhe para que eles sejam desmascarados: os charlatães vendem respostas prontas.

Charlatães vendem respostas prontas — redescobrindo matematicamente fenômenos que já sabem que estão nos dados — enquanto que os estatísticos nos oferecem testes preditivos.

Ao contrário dos charlatães, os bons analistas são exemplos de profissionais de mente aberta, temperando sempre a inspiração dos seus insights com alertas de que, para um mesmo fenômeno observável, as explicações podem ser muitas, enquanto que bons estatísticos tomam o cuidado de declarar, antes de agir, aquilo que pretendem testar.

Os bons analistas são exemplos de profissionais de mente aberta. Ao contrário dos charlatães, nunca tiram conclusões que estejam além dos dados disponíveis.

Os analistas produzem inspiração

Os analistas estão desobrigados de dizer o que pretendem fazer … contanto que não se aventurem além dos dados disponíveis. Se tentarem tirar conclusões sobre coisas que ainda não viram, a coisa muda de figura. Será preciso tirar o chapéu de analista e substituí-lo pelo boné de estatístico. Afinal, seja qual for o nome do seu cargo, não há nada que o impeça de aprender ambos os ofícios, desde que queira. Só não é permitido confundir um com o outro.

Ser bom na estatística não significa ser bom em análise de dados, e vice versa. Se alguém tentar convencê-lo de algo diferente, coloque as mãos nos bolsos e proteja a sua carteira. Se essa pessoa disser que você tem permissão para realizar inferências estatísticas sobre dados que já explorou, redobre os cuidados com a carteira.

Escondendo-se atrás de explicações fantasiosas

Se prestar atenção aos charlatães à luz do dia, você vai logo perceber que adoram contar histórias fantasiosas para “explicar” os dados que observaram. Quanto mais acadêmicas elas soarem, melhor. Não importa que essas histórias apenas (super) se ajustem aos dados em retrospectiva.

Quando charlatães fazem isso — e permita-me não economizar nas palavras — eles estão sendo desonestos. Nenhum emaranhado de equações ou afirmativas pseudo-inteligentes será capaz de ocultar o fato de que estão oferecendo nenhuma evidência de que sabem do que estão falando além de seus próprios dados.

Não se impressione com explicações fantasiosas. Para que sejam inferências estatísticas, seria obrigatório declarar o que se pretendia comprovar antes de ver os dados.

Isso é mais ou menos equivalente a demonstrar poderes “psíquicos” olhando primeiro para as cartas na sua mão e depois predizendo quais são elas … pois isso não faria a mínima diferença. Prepare-se para ouvir bobagens sobre como foi a sua expressão facial que revelou as cartas. Este é um exemplo claro de viés retrospectivo e a profissão de ciência de dados está afogada até o nariz nessa falácia.

Como se proteger dos chalatães

Quando não temos muitos dados para brincar, somos forçados a escolher entre a estatística e a análise.

Repartir os dados é um atalho cultural indispensável.

Felizmente, quando há dados de sobra temos a bela oportunidade de desfrutar tanto da análise de dados quanto da estatística sem fazer falcatruas. Além disso, temos a proteção perfeita contra os charlatães. É o que chamo de repartição dados: na minha opinião, a ideia mais poderosa na ciência de dados.

Nunca leve a sério uma opinião que não tenha sido testada. Em vez disso, use um lote de dados de teste para descobrir quem está falando com conhecimento de causa.

Para se proteger contra os charlatães, basta manter alguns dados de teste longe dos seus olhos espiões, e depois tratar todos os dados restantes como parte da análise (sem levá-los muito a sério). Assim, quando se deparar com uma teoria e se sentir tentado a adotá-la, use-a primeiro para definir o que se pretende comprovar, e depois abra seus dados secretos de teste para verificar se a teoria é absurda. Simples assim!

Esta é uma mudança cultural importante se comparada ao que estávamos acostumados na era dos “small data” quando tínhamos que explicar como sabíamos o que sabíamos a fim de convencer timidamente as pessoas de que você, de fato, talvez conhecesse alguma coisa.

As mesmas regras se aplicam à linguagem de máquina / inteligência artificial

Alguns charlatães que se fazem passar por especialistas em ML/AI são fáceis de identificar. Conseguimos pegá-los da mesma maneira que pegaríamos qualquer engenheiro incompetente: as “soluções” que tentam construir fracassam repetidamente em produzir o que prometem. (Um sinal revelador é a falta de experiência com as linguagens de programação e as bibliotecas reconhecidas pelas comunidades de desenvolvedores.)

Mas o que dizer de gente que produz sistemas que parecem funcionar? Como saber se há algo estranho acontecendo? As regras são as mesmas! O charlatão é um personagem sinistro que demonstra o quanto seu modelo funcionou …. sobre os mesmos dados usados para construir o modelo. *vergonha*

Se construiu um sistema de machine learning absurdamente complicado, como saber que se ele é válido? Na verdade, isso só será possível se você mostrar que ele funciona com novos dados aos quais não foi exposto anteriormente.

Não podemos falar em “pre*dição se os dados eram conhecidos antes que ela seja feita.

Quando temos dados suficientes para repartir, não precisamos cercar as fórmulas de elogios para justificar nossos projetos (que é um hábito espalhado por todas as partes, e não apenas na ciência). Podemos então dizer: “O motivo pelo qual sei que funciona é que posso aplicá-lo a um conjunto de dados que nunca vi antes e prever acuradamente o que irá acontecer … e acertar. Uma, duas, dez vezes.”

Testar o seu modelo ou teoria com novos dados é a melhor base de todas para produzir confiança.

Diga antecipadamente o que sua estatística mostrará, ou fique calado

Parafraseando uma frase irônica do economista Paul Samuelson:

Charlatães conseguiram prever exatamente nove das últimas cinco recessões.

Não tenho a menor paciência com os charlatães de dados. Você acha que “sabe” alguma coisa envolvendo as batatas fritas com a cara de Elvis Presley? Não estou nem aí para o quanto a sua opinião se encaixa com suas velhas batatas. Não me impressiono nem um pouco com as filigranas das suas explicações. Quero que você me mostre que sua teoria / seu modelo funcionam (e continuam funcionando) com uma pilha de novas batatas fritas que nunca passaram diante dos seus olhos. Este é o teste definitivo da ousadia das suas opiniões.

Um conselho para os profissionais de ciência de dados

Profissionais de ciência de dados, se vocês querem ser levados a sério por quem compreende as ironias deste artigo, parem de se esconder por trás de equações fantasiosas que só fazem dar força a seus vieses humanos. Mostrem a todos o que vocês têm nas mãos. Se quiserem que pessoas bem informadas tratem sua teoria ou modelo como algo mais do que uns poucos versos inspiradores, demonstrem a coragem de revelar às claras como elas funcionariam sobre um conjunto de dados inteiramente novo … na frente de testemunhas!

Um conselho para os executivos

Como executivo você deve se recusar a levar a sério qualquer “insight” até que seja testado sobre novos dados. Se preferir não se dar a esse trabalho, fique com a análise de dados, mas não decida com base nos “insights” — eles são precários e sua confiabilidade não foi testada. Além disso, quando sua organização tiver dados em abundância, não haverá qualquer problema em fazer com que a repartição se torne uma parte central da sua cultura de ciência de dados, tornando-a obrigatória ao nível da infraestrutura, impondo o controle de acesso aos dados de teste destinados à estatística. Esta é uma tática perfeita para cortar o mal da picaretagem pela raiz!

Mais alguns truques

Se quiser conhecer mais um pouco sobre picaretas e charlatães, dê uma olhada neste assunto no Twitter.

Resumo

Quando os dados são poucos para que possam ser repartidos, somente um charlatão de dados tentará atribuir rigor à sua inspiração, vendendo conclusões retrospectivas baseadas na redescoberta matemática de fenômenos que já sabiam estar embutidos nos dados, e alegando que sua surpresa é estatisticamente significativa. Essa atitude os diferencia dos analistas de mente aberta, que se baseiam na inspiração, e dos estatísticos meticulosos, que oferecem provas da sua capacidade preditiva.

Quando houver dados de sobra, acostume-se a repartir os dados para aproveitar o melhor dos dois mundos sem recorrer a falcatruas! Aplique a análise de dados e a estatística separadamente, utilizando subconjuntos de dados diferentes dentro da sua pilha de dados original.

• Analistas destacam- se pela inspiração e pela mente aberta.
• Estatísticos primam pela testagem rigorosa.
• Charlatães nos oferecem conclusões retrospectivas forjadas, que fingem ser uma combinação de análise de dados com estatística.

Obrigado por ler!

Desfrute de mais traduções de ciência de dados em português aqui.

Traducido por Carlos Secada del original por Cassie Kozyrkov

¿Piensas que “no eres una persona de datos”? ¿O tal vez estás deseando convertirte en analista de datos pero te preocupa tener que hacer un curso, o peor aún, todo un doctorado, sólo para empezar? Me gustaría aprovechar esta oportunidad para demostrarte que ya eres un analista de datos. (Sí, tú.)

¡Empecemos por analizar algunos datos juntos!

Este cubo de números — er, quiero decir, matriz — parece complejo y difícil de entender. Y es sólo una pequeña parte del todo, que repite un concepto similar 100.000 veces.

Si estás sudando frío, es porque estás teniendo una reacción humana perfectamente normal: un ataque de aburrimiento. Adivina qué, ¡tienes razón!

Esta matriz *es* aburrida.

El contexto es lo que hace que los datos sean interesantes

Quien te diga que los datos son automáticamente emocionantes, o bien miente, o bien tiene aficiones extrañas. Para hacer esta matriz más interesante, se necesita contexto. Dos grandes categorías:

1. Contexto que haga que estos números sean útiles.
2. Contexto que haga que estos números sean familiares.

La primera categoría relaciona los datos con tus necesidades: si tienes un problema concreto, te fascinaría que te dijera que esta matriz contiene la solución. El alivio del dolor es un cambio de juego cuando se trata de la motivación matemática.

Mientras que en la primera categoría se trata de aumentar el beneficio de interactuar con los datos, en la segunda se trata de disminuir el costo.

En otras palabras, tal vez podamos encontrar una manera de hacer que el significado detrás de estos datos salte fácilmente de la pantalla a tu cerebro. Aunque el resultado sea aburrido, quizás sea menos aburrido que con lo que empezamos. Intentémoslo utilizando un software de procesamiento de imágenes super-secreto, sólo para doctores, para graficarlo…

¡Ta-da! Con la ayuda de MS Paint, descubrimos que este conjunto de datos es sólo una fotografía de mi (aburrido*) suelo de madera. Al utilizar el software, hemos reducido el esfuerzo de la interacción con este conjunto de datos: ahora darle sentido es tan fácil como mirar una foto. Y lo que es más importante, nos enteramos de que ya eres un analista.

Lo que has hecho ahí mismo se llama visualización de datos y forma parte del conjunto de habilidades básicas de un analista, junto con la transformación de datos (por ejemplo, recortar a tu ex de una imagen) y el resumen de datos (por ejemplo, quejarse de que solo 3 selfies de 1,722 son lo suficientemente buenos para tu Insta).

Ya eres un analista de datos

Si alguna vez alguien intenta intimidarte haciéndote creer que no estás calificado para analizar datos, aquí tienes algunos recordatorios para protegerte de su mala influencia.

Si alguna vez has mirado una fotografía, ya eres un analista de datos. (Si estás mirando esta pantalla, ¡bienvenido! En este mismo momento, estás utilizando un software para extraer el sentido de los datos).

(¿He hecho trampa al utilizar una fotografía para exponer mi punto de vista? Me declaro inocente. Las fotos digitales son conjuntos de datos legítimos: están almacenados en una forma poco amigable para el cerebro, pero pueden estar llenos de significado si se analizan con las herramientas adecuadas. Hay muchos otros tipos y fuentes de datos, pero los mismos principios básicos son válidos en todos los casos).

Si alguna vez has realizado una búsqueda en línea, ya eres un analista de datos.

Si alguna vez has hecho una búsqueda en Internet, ya eres un analista de datos.

Si alguna vez has utilizado un mapa para encontrar tu camino, ya eres un analista de datos.

Si alguna vez has consultado el tiempo en la otra punta del mundo, ya eres un analista de datos.

Si alguna vez has abierto una hoja de cálculo, ya eres un analista de datos.

Nunca he conocido a nadie que realmente “no sea una persona de datos”: tómate un momento para comparar tu capacidad mejorada por el computador para almacenar, procesar y transmitir información con la de un griego antiguo típico. Sí, para ellos eres básicamente Atenea.

La razón por la que das por sentado todas estas cosas es que ya has aprendido a utilizar herramientas de procesamiento de datos. Todo, desde Microsoft Paint hasta Google Maps y Spotify, es un software de análisis convertido en algo esencial. Los fabricantes de estas herramientas saben que no deben llamarlas así, pero es lo que son. El mundo moderno está lleno de maravillas y tú ya formas parte de él.

¿Significa esto que estás preparado para trabajar como analista profesional?

No del todo. Hay algunas grandes diferencias entre un analista amateur y uno profesional. Si tienes curiosidad por saber cuáles son, echa un vistazo a mi siguiente artículo… pero la buena noticia es que todo es cuestión de práctica y experiencia. Si sueñas con una carrera de analista, deja de soñar y empieza a hacerlo. Simplemente, desafíate a mirar todos los formatos de datos nuevos que puedas y, en el camino, intenta aprender herramientas que prometan agilizar eso para ti. ¡No hay nada que te detenga! ¡Diviértete!

Dirígete a mi mini curso sobre analítica en inglés, si estás deseando complementar tus sesiones prácticas con algunos conceptos de la carrera de analítica.

Analytics: El minicurso completo

Uno de mis objetivos para este boletín es ayudar a convertir el revoltijo de mis reflexiones dispersas en viajes de aprendizaje coherentes…

*Nota al pie de página: Mi aburrido piso de madera

Utilicé una aburrida fotografía de mi suelo para recordar que nuestras incursiones en los datos no siempre dan lugar a revelaciones trascendentales. A veces sí, pero la mayoría de las veces no. Eso forma parte del trabajo.

Estos datos eran aburridos y no son especialmente útiles para ti, pero verlos en un formato familiar te facilita extraer el significado (y seguir adelante). Esa es la mitad del trabajo de un analista: convertir los números en algo que puedas entender. La otra mitad consiste en maximizar la inspiración por minuto, pero eso es un artículo aparte.

¿Estás ofendido porque usé MS Paint para exponer mi punto de vista? Pues bien, entonces, ¡aquí está Python! Misma idea.

Obtén más información sobre ciencia de datos e inteligencia artificial en español aquí.

¿Estás pensando en convertirte en analista de datos? ¡Ya eres Uno! was originally published in Ciencia y Datos on Medium, where people are continuing the conversation by highlighting and responding to this story.

Bienvenue dans le monde de l’IA! Bienvenue dans le monde du machine learning! Est-ce grave si vous ne savez pas faire la différence? Non, car vous entamerez vos projets appliqués de la même manière.

Mais de quelle manière exactement? Peut-être, au risque de vous surprendre, par aucune des façons suivantes :

• Obtenir un diplôme en IA!
• Embaucher un expert en IA!
• Choisir un superbe algorithme!
• Plonger dans les données!

C’est un piège!

Cela vous semble-t-il familier? On a tendance à privilégier ces points de départ, mais ce sont tous des pièges. Beaucoup d’entreprises se sont éprises de ces approches et échouent à mettre en œuvre des projets de machine learning. Mais pas vous. Vous commencerez de la bonne manière.

Mais avant de poursuivre, pourquoi favorise-t-on ces approches? Et bien, c’est une question de zones de confort.

Votre zone de confort peut vous égarer

Si vous êtes du genre studieux, votre instinct vous dicterait de suivre des cours et d’obtenir un diplôme. Attention toutefois, car les cours classiques d’IA ne répondront probablement pas à vos besoins. Je détesterais que vous vous retrouviez avec le mauvais diplôme!

Si vous êtes chef d’entreprise, votre instinct vous pousserait à embaucher quelqu’un qui vous semble qualifié. Super instinct! Sauf que la personne la mieux qualifiée pour démarrer un projet d’IA appliquée n’est pas un quelconque diplômé en IA… C’est vous! Commencez donc par vous embaucher, et lisez la suite pour découvrir ce que vous êtes censé faire avant d’embarquer avec vous le roi des nerds.

Ne demandez pas à une équipe de diplômés de : “Parsemez du machine learning au-dessus de l’entreprise pour que… la magie opère.”

Etrangement familier?

Si vous êtes chercheur en IA — récemment embauché pour répandre du ML au-dessus de l’entreprise telle de la poudre magique, n’est-ce-pas — vous voudrez commencer par ce qui vous est le plus familier : par l’algorithme, bien évidemment. Vous venez de passer 10 ans de votre vie à étudier la conception de nouvelles méthodes d’IA, pourquoi voudrait-on que vous commenciez ailleurs? Choisissons un algorithme… Voyons…Les réseaux de neurones font fureur. Peut-être pouvons-nous les rendre encore plus cool? Créons une nouvelle approche! Maintenant, voyons quelles données pouvons-nous injecter dans notre réseau “new-ronal”? (En espérant pouvoir produire quelque chose de vendeur afin de justifier les six derniers mois passés à inventer des choses).

Ou peut-être êtes-vous data scientist (autre profil très prisé sur le marché de l’emploi, où l’on pense que les data scientists peuvent accomplir des miracles). Peut-être que vous êtes également titulaire d’un doctorat, et que votre Grand Amour ce sont les données. Les données, les données, les données! Quelles données avons-nous? Voyons quels merveilleux ingrédients nous pouvons utiliser!

Attendez… utiliser pour faire quoi?

Si vous êtes data scientist ou chercheur en IA et que vous avez déjà vécu pareille situation, sachez que vous vous êtes fait avoir. On vous abandonne! Faites grève jusqu’à ce qu’ils assument leurs responsabilités!

Commencez par le décideur

Dirigeants, déterminez qui mène le jeu. Si c’est vous, vous êtes Le Décideur de ce projet. Dans le cas contraire, déléguez le poste à quelqu’un d’autre et demandez-lui de lire le reste de cet article pendant que vous jouez au soleil!

Commencez ici

OK, nous avons enfin notre Décideur. Il en a fallu du temps pour vous trouver, mais vous voici. Vous comprenez le métier et vous avez beaucoup d’imagination. Vous êtes donc qualifié pour ce rôle. Je suis ravie que l’on vous ait transmis cette lettre! Voyons maintenant comment mettre en œuvre un projet ML (ou IA) réussi.

La première bonne étape consiste à se concentrer sur les résultats et les objectifs.

Imaginez que ce système ML/IA fonctionne déjà parfaitement. Demandez-vous ce que vous voudriez qu’il produise lorsqu’il effectuera la prochaine tâche. Ne vous souciez pas du comment. Imaginez que cela fonctionne et qu’il répond déjà à certains de vos besoins (c’est la raison pour laquelle vous aviez besoin de ces compétences. Une personne fraîchement diplômée ne comprend pas encore vos problématiques et n’est donc pas qualifiée pour cette tâche).

Le problème avec les précédentes approches, c’est que les étapes ne se déroulent pas dans le bon ordre. La bonne manière d’aborder un projet de ML appliqué est de renverser l’ordre algorithmes — entrées — sorties, de manière à d’abord penser aux sorties, puis aux entrées et enfin aux algorithmes!

L’ordre dans lequel vous réalisez ces opérations pourrait être désastreux.

Voici une analogie qui peut s’avérer utile ici. Si vous êtes à la tête d’un restaurant (pas d’une usine de fabrication de produits électroménager, ni d’un laboratoire d’analyses agroalimentaires), pourquoi penseriez-vous à acheter ou, pire encore, à inventer un four à pizza, et ce avant même de vous demander si mettre la pizza au menu avait du sens? Cela ressemble à l’erreur de débutant commise par une personne qui ne connaît pas le métier de l’entreprise. Au lieu de cela, commencez par ce que veulent vos clients et par la qualité des aliments que vous êtes prêts à offrir.

Définissez ce qu’est le succès!

Définir ce qu’est le succès n ’est pas toujours évident. Selon vous, laquelle de ces 3 situations décrit un bon comportement?

“Toutes”? Mais vous ne voulez certainement pas que votre chien policier s’occupe du troupeau! Ni que votre chien de berger assiste la police d’ailleurs! Une meilleure réponse serait de dire que cela dépend de ce que le propriétaire attend de son chien. Le propriétaire, c’est vous! Vous jeter à corps perdu dans les algorithmes et les données avant de savoir quels résultats seront considérés comme bons ou mauvais revient, à peu de choses près, à mettre un chiot dans un sous-sol avec de l’eau et de la nourriture, et s’étonner ensuite qu’il n’en ressorte pas un bon chien policier. Vous ne pouvez pas simplement vous contenter de parsemer du machine learning au-dessus de votre entreprise, attendre que ça infuse, et en retirer quelque chose d’utile.

(Dans l’ordre : Je l’ai poursuivi — Je l’ai mordu — Méchant — Lui savoureux — Bon chien — Bon chien Peach). Il a fallu beaucoup de préparation pour faire de Peach un aussi bon policier. Il écrit lui-même les témoignages! (Ceci est un chef-d’œuvre réalisé par des officiers fatigués de répéter au service juridique que Peach était un chien et non pas une personne.)

L’analyse des données vous serait plus utile

L’IA appliquée vous oblige à avoir une vision claire de ce que votre modèle doit devenir (et pourquoi il doit le devenir). Vous devez ensuite l’entraîner dans ce sens. Si vous ne savez pas ce que vous voulez, dirigez-vous plutôt vers la source d’inspiration : l’analyse de données.

Prenez un peu de temps pour déterminer ce qui peut être suffisamment prometteur, puis revenez au machine learning lorsque vous serez prêt.

De plus, l’analyse de données utilise certaines des mêmes méthodes mathématiques, donc vous ne mentirez pas en disant à vos amis que vous utilisez des algorithmes d’IA/ML (bien que vous ne construisiez pas de systèmes ML/IA). Beaucoup pensent avoir besoin du machine learning ou de l’IA, alors que ce dont ils ont besoin est l’analyse de données. Cette dernière convient à tous les projets, tandis que la première ne s’applique qu’à certains types. Dans le doute, optez pour la valeur sûre.

Avant de faire quoi que ce soit d’autre

Les chiens ne savent pas d’instinct que vous n’appréciez pas de les voir déchiqueter votre canapé. C’est à vous de connaître vos attentes lorsque vous adoptez un animal de compagnie de sorte à l’éduquer dans ce sens, et … avant de découvrir de quoi est fait votre mobilier.

Le bon moment pour réfléchir à vos objectifs est au commencement, lorsque votre projet n’est encore qu’un chiot!

Ce qui s’applique aux chiots s’applique également aux systèmes ML/IA. Pour déterminer ce qu’est le succès, vous n’avez pas besoin de comprendre comment le cerveau du chiot apprend lorsqu’il perçoit des signaux sensoriels. Vous n’avez pas (encore) besoin de penser à la façon dont ces signaux sont stockés et traités. Ce dont vous avez effectivement besoin, c’est de comprendre que vous voulez un chien de berger (et ce que cela signifie pour vous). Pour davantage de rigueur, vous avez également besoin de suffisamment d’imagination pour vous représenter les comportements que vous visez et ceux que vous essayez d’éviter.

De plus, il est utile de faire un état des lieux rapide et intuitif : vérifiez que vous disposez de données pertinentes et d’une infrastructure capable de les traiter. Si vous dressez un chien de berger, êtes-vous sûr de pouvoir disposer de suffisamment de moutons pour l’entraîner? Et même si vous disposez d’un troupeau, le cerveau de votre chiot doit pouvoir assimiler et utiliser ces informations. Si votre “chiot” est en réalité une larve, celle-ci ne fera rien de bon avec des données qui concernent des moutons (et vous ne ferez certainement pas mouche en production). Inutile de vous dire que vous aurez un problème.

Ce qui est évident avec le dressage de chiens semble pourtant échapper à de nombreuses équipes ML/IA que j’ai rencontrées. Certaines se demandent à quoi sert le chien seulement lorsque, quelques années plus tard, on l’a sorti du sous-sol. Et bien maintenant, vous le savez.

La bonne étape franchie par les mauvaises personnes

Découvrir quel problème vous pourrez résoudre avec le ML ou l’IA est la première et la plus importante étape de votre projet. Malheureusement, ce sont bien souvent les mauvaises personnes qui la franchissent. Bien que cela relève du décideur, certains parmi eux s’évertuent, pour une quelconque raison, à ne pas assumer cette tâche et préfèrent embaucher de nombreux diplômés à qui l’on demande : “Parsemez du ML au-dessus de l’entreprise pour que … la magie opère.” Qu’est ce qui pourrait bien mal tourner?

Il faut avoir le sens des affaires pour réfléchir correctement à ce qu’un système IA/ML est censé vous apporter, et pourquoi en construire un vous sera profitable. Concentrez-vous sur cela en premier, avant même de songer aux détails pratiques, y compris vous demander si l’algorithme que vous utiliserez relève de l’IA ou du ML (vous vous en soucierez bien plus tard). Si vous n’avez aucune formation en IA/ML, commencer par cette étape avant même d’embaucher une équipe peut sembler intimidant. Mais je suis là pour assurer vos arrières… Voici un guide pas-à-pas rédigé rien que pour vous!

Merci de m’avoir lue! Que diriez-vous d’un cours sur YouTube?

Si vous vous êtes amusés ici et que vous recherchez un cours d’IA appliquée conçu pour les débutants comme pour les experts, en voici un que j’ai réalisé pour votre plaisir (en anglais):

Traducido por Juan Carlos Enciso del original por Cassie Kozyrkov (editado por Carlos Secada)

Imagina dos trabajadores (humanos):

• Daniel Descuidado: es una constante decepción para ti, realizando bien las tareas asignadas el 70% de las veces y produciendo una vergüenza absoluta el resto del tiempo. Ver a Daniel hacer 10 intentos es más que suficiente para provocar en ti una respuesta de “ay, Dios”.
• Carlos Confiable es otro cuento. Has visto a Carlos en acción más de cien veces y siempre te ha impresionado.

Aquí viene la pregunta del millón. ¿Qué trabajador es más peligroso para tu empresa?

En una tarea de alto riesgo, la respuesta podría ser Carlos Confiable… pero quizás no por la primera razón que se nos ocurre.

Esto no se trata de proyectos malos

En otro artículo, he señalado que los trabajadores ultra confiables pueden ser peligrosos cuando el tomador de decisiones está trastornado. Estos trabajadores se limitan a “seguir órdenes”, incluso si éstas son terribles, por lo que pueden amplificar la incompetencia (o la mezquindad). Pero esta no es la lógica que voy a seguir aquí, puesto que ya me han oído argumentar al respecto. Veamos esto desde un ángulo diferente.

Suponiendo que el proyecto sea una idea maravillosa que hará del mundo un lugar mejor si se hace bien, ¿sigue siendo la mejor opción?

Cuando sabes que no debes confiar

El asunto es que tú sabes que no debes confiar en Es obvio para ti. Esperas que se equivoque… y por eso no vas a apostar la casa por (¿Verdad?). No vas a dejar que la incompetencia te agarre por sorpresa, así que encontrarás alternativas. Serás lo suficientemente sabio como para poner a prueba el inevitable error.

También te asegurarás de vigilar todas las cosas, así que supervisarás a Daniel Descuidado con mucho rigor. ¿Pero Carlos? Tú confías en Carlos Confiable. ¿Por qué controlar o construir redes de seguridad? Carlos es impecable, ¿verdad?

Cuidado con el trabajador confiable

Carlos no es perfecto. Simplemente, aún no lo has visto fallar: se necesitan más datos para observar el punto de quiebre. El hecho es que no has tenido la oportunidad de evaluar adecuadamente lo catastrófico que el colapso de Carlos podría ser.

Un exceso de confianza es un problema. Cuando un sistema es obviamente defectuoso, se planifica en torno a sus errores. No confías en una ejecución perfecta.

Si los líderes no comprenden que hay una diferencia crucial entre lo bueno y lo perfecto, pueden convertir la bendición de tener un buen trabajador, en la maldición de trabajar con uno que ofrezca un rendimiento superior.

A escala, nada es perfecto

El problema es que crees que has examinado a Carlos a fondo, pero no es así. Se necesitan más de 100 intentos para poder conocer la anatomía de un error. Cuando amplíes las operaciones, te encontrarás con una especie de problema desagradable.

Aunque los consejos de este artículo son válidos para los trabajadores humanos, son aún más urgentes para los sistemas de Inteligencia Artificial (IA) y otras soluciones escalables. Una de las cosas más peligrosas de las soluciones basadas en matemáticas y datos es que los no expertos confían demasiado en ellas. No seas aquella presa fácil que cree que hay perfección en las tareas complejas.

Cuando aumentas la escala, te encontrarás con la cola larga.

Es mejor asumir que nada es perfecto. Incluso los sistemas más seguros pueden fallar… sobre todo si les das muchas oportunidades.

Como suelen decir los ingenieros de confiabilidad: “cuando aumentes la escala, te encontrarás con las colas largas”

Redondeando la cola larga

Incluso si tu sistema ha sido probado cuidadosamente y ha resultado 99. 99% bueno, eso no significa que sea perfecto. Desgraciadamente, si no tienes cuidado, puedes redondear mentalmente ese porcentaje al 100%. En otras palabras, descartarás la posibilidad de errores porque la probabilidad es baja. Esa es otra forma en la que el sistema de alto rendimiento puede ser más peligroso que uno de bajo rendimiento… a menos que hagas algo al respecto.

No descartes la *posibilidad* de observar errores cuando su *probabilidad* se baja.

Teniendo cuidado

Lo que hace que Carlos Confiable sea peligroso no es el rendimiento superlativo, sino el exceso de confianza.

Entonces, ¿cuál es la solución? ¿Cómo aprovechar todos los beneficios de la excelencia sin exponerse a los riesgos? Muy sencillo. Construye redes de seguridad para Carlos Confiable como si estuvieras tratando con Daniel Descuidado Entonces obtendrás lo mejor de todos los mundos.

El hecho de que aún no hayas observado un error no significa que tu sistema sea perfecto. ¡Planifica los fallos y crea redes de seguridad!

Ya sea que la tarea sea realizada por humanos o por máquinas, nunca subestimes la importancia de las redes de seguridad. Permitirse una falsa sensación de seguridad por un rendimiento aparentemente impecable es un mal liderazgo.

Confiar en la perfección es peligroso. Piensa en la perfección como una bonificación, pero nunca confíes en ella.

En lugar de ello, plantéate preguntas desagradables tipo y si. ¿Y si tu mejor cirujano se enferma mientras trabaja? ¿Y si la máquina que controla los signos vitales de un paciente falla? ¿Y si el conductor está demasiado cansado para prestar atención a la carretera? ¿Y si el sistema de reconocimiento facial de un control fronterizo automatizado identifica erróneamente a alguien? ¿Y si el humano que revisa un pasaporte se equivoca? ¿Qué pasa después?

“¿Qué pasa después?”

Cada vez que encuentro desafortunadas aplicaciones de IA que me revuelven el estómago, la parte que me pone los pelos de punta es la maravillosa ignorancia de los creadores sobre los errores; rara vez es la propia automatización. En ocasiones, este tipo de ignorancia raya en lo criminal.

Los errores *se producirán.*

La pregunta que hay que hacerse sobre los errores no es: “¿Sucederán?” Porque lo harán. Más bien, hay que preguntarse:

• ¿Qué redes de seguridad existen para proteger a las personas de las consecuencias de esos errores?
• Si todo el sistema falla -redes de seguridad y todo-, ¿cuál es el plan para arreglar las cosas?

Si no hay un plan para prevenir y remediar los daños, prepárate para el desastre que se avecina. Quienquiera que esté a cargo de ese proyecto es algo peor que un incompetente. Es una amenaza para la sociedad. No seas esa persona.

Los humanos contra las máquinas

Si un error llega a ser tan catastrófico que el fracaso se torna intolerable, entonces no automatices la tarea y tampoco dejes que lo hagan trabajadores humanos. O, si hay algo en tu ética que dice que es más aceptable que el fallo provenga de un trabajador humano que de una máquina (el quid de muchos debates sobre vehículos autónomos), entonces utiliza un enfoque de mantener-el-humano-informado.

Mejor no es lo mismo que perfecto.

Pero hagas lo que hagas, recuerda que los errores son posibles. Los humanos cometen errores, los sistemas de IA también. Incluso si el sistema de IA desplegado comete menos errores que la alternativa humana, recuerda que menos no es lo mismo que ninguno. Mejor no es lo mismo que perfecto.

Siempre que las tareas sean complejas o las entradas sean variadas, se producirán errores.

Creer en el mito de la perfección puede tener consecuencias nefastas, así que no dejes que el pensamiento matemático se interponga en el camino del sentido común. Siempre que las tareas sean complejas o las entradas sean variadas, se producirán errores.

En resumen

Si no hay un plan para afrontar un error, ¡el resultado puede ser catastrófico! Puede que te afecte mucho más que un error de un mal ejecutor por la misma razón que te olvidaste de planificarlo.

Así que, si eres prudente, optarás por el mejor sistema pero construirás redes de seguridad como si fuera el peor.

Obtén más información sobre ciencia de datos e inteligencia artificial en español aquí.

La paradoja de la fiabilidad de la Inteligencia Artificial was originally published in Ciencia y Datos on Medium, where people are continuing the conversation by highlighting and responding to this story.