# ChatGPT na Ciência/Educação Filipe Fernandes Maio 31, 2023 Uma ferramenta? Uma ameaça? Ou apenas só mais uma modinha? --- ## Sumário - O que são LLM? - Aplicações na Ciência e Educação - Alucinações e outros problemas - Questões Éticas --- <!-- Sessão 1/4 :: O que são LLM? --> ## The Hitchhiker's Guide to the Galaxy Do *Machine Learning* (ML) à inteligência artificial como o aprendizado de máquina já faz parte do nosso dia-a-dia. - Sistema de recomendações - Análise de risco e otimização de sistemas - Diagnósticos médicos - Transcrição de áudio - Classificação de imagens - Assistentes pessoais (Alexa, etc) --- ## ML na Oceanografia - Preencher *gaps* em séries temporais - Previsão de trajetórias de flutuadores - Detecção de objetos por imagens/vídeos - QA/QC automático - Muito mais... Exemplo: [https://news.mit.edu/2023/new-machine-learning-model-ocean-currents-0517](https://news.mit.edu/2023/new-machine-learning-model-ocean-currents-0517) --- ## O que são NLP-s? NLP, do inglês, *Natural Language Processing*, são procedimentos automatizados para "entender" texto. - Identificação de entidades nomeadas (NER) - Classificação - Análise de sentimento - Tradução - Sumarização - Perguntas e respostas - Geração de texto --- ### Fontes Fonte: [http://turicas.info/slides/chatgpt/index.html](http://turicas.info/slides/chatgpt/index.html). [ChatGPT e proteção de dados](https://www.youtube.com/watch?v=qq9XjmjvisY&t=662s) --- ## O que são os Large Language Model (LLM) - Quando o ML encontra com NLP temos os (L)LM - Modelos generalistas - Simulam raciocínio - Escala "(L)arge" - Papagaios estocásticos --- ### Sugestão de leitura - [https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html](https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html) - [https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html](https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html) - [https://www.nytimes.com/interactive/2023/04/26/upshot/gpt-from-scratch.html](https://www.nytimes.com/interactive/2023/04/26/upshot/gpt-from-scratch.html) - [https://arxiv.org/abs/2301.00774](https://arxiv.org/abs/2301.00774) --- ## O tal do chatGPT - Criado e mantido pela OpenAI - Atingiu 1 milhão de usuários em 5 dias! - Interface simples, resultados robustos --- ## Demostração [https://chat.openai.com/](https://chat.openai.com/) --- ## Exemplo 0: procurando informação  --- ## Exemplo 0: Resposta  [https://calcofi.com/index.php?option=com_content&view=article&id=787:1810sr-ctd-processing-notes-3&catid=276&Itemid=1671](https://calcofi.com/index.php?option=com_content&view=article&id=787:1810sr-ctd-processing-notes-3&catid=276&Itemid=1671) --- ## Exemplo 1: Pequena variação na pergunta  --- ## Exemplo 2: Dados ruins?  --- <!-- Sessão 2/4 :: Aplicações na Ciência e Educação --> ## Mostly Harmless Aplicações na Ciência e Educação Alarmismo? Estamos prontos?  --- ### Sensacionalismo 1/4  --- ### Sensacionalismo 2/4  --- ### Sensacionalismo 3/4  --- ## Sensacionalismo 4/4  --- ## Além do alarmismo - AI é uma ferramenta, não a solução - Cursos, aulas, provas, etc terão que se adequar, semelhante à adequação à internet, wikipedia, etc - As dificuldade são treinamento e a velocidade da introdução da AI em nossas vidas --- <!-- Sessão 3/4 :: Alucinações e outros problemas --> ## Life, the Universe and Everything Adaptar e sobreviver  Para isso temos que entender as implicações éticas e os problemas do uso da AI. --- ## Foi mau, tava doidão - Os "erros" do ChatGPT são chamados de "alucinações" - Na busca por uma resposta que satisfaça os NLP o chat "inventa" - Em geral é por falta de dados - Pode ser contido por restrição ou (re-)treinamento com dados específicos [https://exame.com/future-of-money/o-chatgpt-mente-entenda-as-alucinacoes-de-inteligencias-artificiais/](https://exame.com/future-of-money/o-chatgpt-mente-entenda-as-alucinacoes-de-inteligencias-artificiais/) --- ### Demostração 2: O Império Contra ataca [https://chat.openai.com/](https://chat.openai.com/) --- ## The Restaurant at the End of the Universe Ou como fazer seus pedidos ao seu garçon AI. --- ### Exemplo: Delírio que faz sentido  --- ### Exemplo: Dados esparsos? Delírio? Ou falha no NLP?  --- ### Exemplo: Quando o NLP falha, parte 2!  --- <!-- Sessão 4/4 :: Questões Éticas --> ## And Another Thing... Ética, LLM, e os riscos da AI.  --- ### AI Dilemma [https://www.youtube.com/watch?v=xoVJKj8lcNQ](https://www.youtube.com/watch?v=xoVJKj8lcNQ) --- ## Vazamento e uso incorreto da informação  --- ### Referências - [https://securityintelligence.com/articles/chatgpt-confirms-data-breach/](https://securityintelligence.com/articles/chatgpt-confirms-data-breach/) - [https://www.theguardian.com/technology/2023/apr/10/i-didnt-give-permission-do-ais-backers-care-about-data-law-breaches](https://www.theguardian.com/technology/2023/apr/10/i-didnt-give-permission-do-ais-backers-care-about-data-law-breaches) --- ## Uso antiético, inadequado, ou até mesmo errado  --- ## A tentação dos textos rápidos  --- ## Young Zaphod Plays It Safe Aprendizado de máquina, inteligência artificial, e modelos grandes de linguagem podem ser ferramentas/assistentes muito valiosas no dia-a-dia de um pesquisador. - Criar sumários de grandes textos - Ferramenta de tradução - [Tutor personalizado](https://www.youtube.com/watch?v=hJP5GqnTrNo) - [Assistente para criação de código](https://realpython.com/chatgpt-coding-mentor-python/) - [Extração de dados de texto sem formato](https://bdtechtalks.com/2023/05/01/customize-chatgpt-llm-embeddings/) --- ## So Long, and Thanks for All the Fish  --- ## Links extras - [https://github.com/csbl-br/awesome-compbio-chatgpt](https://github.com/csbl-br/awesome-compbio-chatgpt) - [https://www.youtube.com/watch?v=otk2AA6hGgU](https://www.youtube.com/watch?v=otk2AA6hGgU)