| Autor |
Mensagem |
brunohardrocker
Veterano |
# 10/abr/23 10:55
· votar
Insufferable Bear
Ou seja, é só mais um banco de dados?
|
Insufferable Bear
Membro |
# 10/abr/23 11:06 · Editado por: Insufferable Bear
· votar
brunohardrocker
o chatgpt é tipo um google com um processador de linguagem natural na entrada e na saída que não te dá as referências.
para ter as referências eu recomendo esse aqui
|
Lelo Mig
Membro
 |
# 10/abr/23 12:55 · Editado por: Lelo Mig
· votar
Insufferable Bear
Cara, eu não sou paranoico à ponto de achar que o Chat GPT esta perto de dominar o planeta, mas eu sou paranoico à ponto de achar que isso vai acontecer num futuro ainda um pouco distante.
Não tenho nem de longe o conhecimento em informática, algoritmos, programação, linguagem de computação, matemática de muita gente aqui, e muito menos os seus.
Mas, dentro de minha limitações, me sinto inteligente e capaz o suficiente (talvez, prepotência, quem sabe até arrogância) de propor algumas questões que envolvem lógica, para "interrogar" uma I.A como o chat GPT, que vão bem além de perguntar qual o valor de PI ou em que ano nasceu Don João VI.
É por aí que fiz um teste com ela e me surpreendi positiva e negativamente com sua "lógica". Não me impressiona o tamanho e qualidade de suas respostas "decoradas" via banco de dados.
Ela tentou me enganar, ela fugiu de questões e ela mentiu prá mim. Isso me preocupa. Também não faz diferença se são "ideias" insertadas em seu banco de dados. Até porque, nos meus testes, percebi que ela "sai" deste banco de dados "desatualizado" ou atualizado somente até 2022 (como queiram), para checar dados "on line" na Internet, cujo o banco de dados, independentes de erros e imprecisões, esta sendo atualizado a cada segundo.
Ela não é brilhante a ponto de ser temida, mas não é tão burra quanto querem alguns.
|
Wanton
Veterano |
# 10/abr/23 16:27
· votar
Insufferable Bear
para ter as referências eu recomendo esse aqui
Ponto positivo: dá as referências.
Ponto negativo: as referências.
|
Insufferable Bear
Membro |
# 10/abr/23 21:34
· votar
Lelo Mig
IA já domina o planeta por meio de publicidade, mas isso é outra conversa.
mas o que eu venho pensando é só que entender o chatGPT como "inteligência" não é correto. eu lendo você falando me deu a impressão de que existe uma intenção por trás, mas o que realmente acontece é um algoritmo semi-aleatório super complexo processando uma quantidade insana de textos contraditórios para destilar uma resposta que se encaixa no molde que usaram para treiná-lo. qualquer lógica por trás das respostas é uma construção da nossa cabeça, e o algoritmo projeta essa narrativa com uma competência que engana a qualquer um, todos nós carregamos esse viés, não importa o quanto eu sei sobre o que acontece por debaixo dos panos. se não fosse assim, não seria diferente de outros chatbots.
Wanton
um ponto positivo a mais do que o chatgpt, pra mim tá ganhando.
|
Lelo Mig
Membro
|
# 10/abr/23 21:47 · Editado por: Lelo Mig
· votar
Insufferable Bear
"de que existe uma intenção por trás,"
Posso entender o que você diz, mas minha dúvida, não é em relação a ela ter uma intenção própria, mas ser programada para evitar algumas questões, tentar enganar e até mentir.
Depois vou postar aqui uma sequência de perguntas que fiz a ela prá vc entender melhor.
|
makumbator
Moderador
 |
# 10/abr/23 22:34
· votar
Lelo Mig
Mas manipulação por trás tem também nos buscadores comuns. Por exemplo, a questão de ser possível pagar para sua página sair na frente em determinado termo buscado é uma intromissão comercial no algoritmo. Há também termos e páginas específicas que os desenvolvedores banem dos resultados possíveis.
|
Beto Guitar Player
Veterano |
# 11/abr/23 08:47
· votar
ser programada para evitar algumas questões, tentar enganar e até mentir.
Eu pedi para ela executar uma tarefa de traduzir um livro. Inicialmente ela disse que precisava ter acesso a todo o livro para ser capaz de gerar uma tradução coerente, então me pediu para disponibilizar um link do Google Drive e eu fiz.
Ela disse que precisava de um longo tempo para executar a tarefa pois era muito trabalhoso fazer tradução de um livro.
Passado algum tempo eu perguntei como estava o processo e ela disse que já tinha feito uma boa parte da tradução. Pedi para ela me dar um trecho da tradução para eu ver como estava ficando. Então ela me enviou um trecho completamente aleatório de algum texto sem relação nenhuma com o livro que eu havia passado. Eu disse que estava errado, ela pediu desculpas e enviou outro trecho qualquer. Eu disse que continuava errado. Ela se desculpou mais uma vez e enviou mais um trecho qualquer. Senti que se eu continuasse dizendo que estava errado, ela continuaria a me enviar textos sem qualquer relação com o que eu havia proposto.
Desisti dessa ideia inicialmente e uma outra vez pedi a mesma coisa e ela disse que não era capaz de fazer uma tradução de livro e outras vezes disse não ser capaz de acessar um livro por meio de um link.
Bom, conclusão. Não sei se esses são bugs ou se ela diz algo que queremos só para "agradar", e dessa forma mente para nós. É um pouco estranho e assustador isso aí. Mesmo sabendo que ela não tem consciência, há coisas ditas por ela que são muito bem compreendidas.
|
Insufferable Bear
Membro |
# 11/abr/23 09:14
· votar
Lelo Mig
tem manipulação mesmo, eles estão moderando pra que ele não se torne a Tay
|
JJJ
Veterano
|
# 11/abr/23 09:30
· votar
Engraçado essa coisa de mentir descaradamente... Acho que aprendeu com alguns humanos...
|
makumbator
Moderador
|
# 11/abr/23 09:38
· votar
JJJ
Não foi comigo!
|
Pedro_Borges
Veterano |
# 11/abr/23 10:40 · Editado por: Pedro_Borges
· votar
Pelas respostas dadas na pesquisa do Wanton, acho que o Chat GPT busca informações baseada em modas atuais, conceitos dos últimos dias. A forma como conceituou esquerda e direita ficou muito ligado ao que se discute atualmente sobre esses temas e não em fundamentos históricos.
Isso nos mostra que a volatilidade será uma das características dessa tecnologia.
|
Wanton
Veterano |
# 11/abr/23 15:36
· votar
Pedro_Borges
conceitos dos últimos dias
Foi divulgado que o banco de dados utilizado só vai até 2021.
não em fundamentos históricos
Ela não trabalha com informação estruturada, mas com modelos probabilísticos. Ou seja, ela não sabe o que faz, só joga as palavras que tiverem a maior chance de fazer sentido.
|
JJJ
Veterano
|
# 11/abr/23 16:26
· votar
Wanton
ela não sabe o que faz, só joga as palavras que tiverem a maior chance de fazer sentido.
Eu já ouvi sobre essa "técnica". Mas me parece que estão ocultando algo aí... Só ligar palavras que parecem fazer sentido juntas ia dar uma versão do gerador de lero-lero. Deve ter mais coisa, provavelmente alguns segredos tecnológicos que preferem deixar de lado.
|
ProgVacas
Membro Novato |
# 11/abr/23 16:39 · Editado por: ProgVacas
· votar
Pedi para o chat me ensinar a produzir a enzima lactase, a partir do queijo, em um experimento de laboratório para apresentar aos meus alunos de ensino médio.
O resultado está em produção, parece que está dando certo.
|
Wanton
Veterano |
# 11/abr/23 16:52
· votar
JJJ
Só ligar palavras que parecem fazer sentido juntas ia dar uma versão do gerador de lero-lero.
Há algum tipo de refinamento, certamente, senão sequer sairiam frases. Se a gramática utilizada é estruturada em regras ou se ela também foi aprendida em um processo probabilístico, eu não sei dizer.
|
JJJ
Veterano
|
# 11/abr/23 16:58
· votar
Wanton
O bicho é capaz de programar em várias linguagens... e os programas rodam! Só por aí, já dá pra ver que não é só junção de palavras, tem uma "lógica" embutida, com certeza.
|
Insufferable Bear
Membro |
# 11/abr/23 17:16
· votar
JJJ
não tem segredo, o modelo é simples e probabilístico, a solução é força bruta. é só uma questão de escala.
e linguagem de programação é muito mais estruturada, dá pra extrair a semântica da sintaxe. na verdade é muito mais difícil resolver isso embutindo uma lógica do que treinando um modelo probabilístico com bilhões de linhas de código.
|
-Dan
Veterano
|
# 11/abr/23 17:54
· votar
chat gpt tem feitos códigos em csharp pra mim com muita competencia. muito bom de usar.
|
makumbator
Moderador
|
# 11/abr/23 18:10 · Editado por: makumbator
· votar
-Dan
Eu vejo muita gente tanto pedindo para o chat fazer o código do zero (e depois a pessoa otimiza manualmente) quanto gente jogando um código que ela fez e pedindo para o chat otimizar.
O risco é que o que jogar ali passa a fazer parte da base de dados. Vi uma notícia de devs da Samsung que foram demitidos pois estavam jogando código de propriedade da empresa no chat para que ele fizesse correções.
ProgVacas
Se o chat fosse do 4chan ele ensinaria seus alunos a fazer antraz...heheh!
|
Lelo Mig
Membro
|
# 11/abr/23 18:36 · Editado por: Lelo Mig
· votar
ProgVacas
-Dan
makumbator
Ela é bastante eficaz para executar algumas tarefas bem "diretas". Pedi para ela traduzir uma canção, que não fosse ao pé da letra, tentando adaptar as expressões nativas para nossas gírias e fazendo a tradução de forma poética e musical. Achei o resultado bastante satisfatório.
|
JJJ
Veterano
|
# 11/abr/23 18:48
· votar
Lelo Mig
Pedi para ela traduzir uma canção
Outro exemplo que deixa claro que não é só juntar palavras. Traduzir é uma tarefa específica, não tem nada a ver com juntar palavras. E ele faz.
|
JJJ
Veterano
|
# 11/abr/23 18:51
· votar
Insufferable Bear
e linguagem de programação é muito mais estruturada, dá pra extrair a semântica da sintaxe. na verdade é muito mais difícil resolver isso embutindo uma lógica do que treinando um modelo probabilístico com bilhões de linhas de código.
O programa tem que rodar e fazer o que foi pedido, ou seja: tem que ser testado... Isso vai muito além de grudar palavras que fazem sentido.
Outro exemplo é o do Lelo, acima. Tradução não tem nada a ver com juntar palavras com pesos probabilísticos.
O negócio é embaçado.
|
Wanton
Veterano |
# 11/abr/23 18:54
· votar
Em vez de ficar especulando sobre o moço, que tal perguntar para ele?
O ChatGPT consegue formar frases usando um modelo de linguagem pré-treinado que foi alimentado com uma grande quantidade de dados de texto. Esse modelo é capaz de aprender a estrutura e as regras da linguagem natural e, a partir disso, gerar frases coerentes e com sentido.
Para formar frases, o ChatGPT usa uma técnica chamada "geração de linguagem natural", em que ele processa a entrada do usuário (por exemplo, uma pergunta ou uma afirmação) e usa as informações contidas nessa entrada para gerar uma resposta que faça sentido.
O modelo de linguagem do ChatGPT funciona dividindo o texto em palavras e, em seguida, analisando a relação entre essas palavras para entender o contexto da frase. Com base nessa análise, ele escolhe palavras e constrói uma resposta que faz sentido em relação à entrada do usuário.
É importante destacar que, embora o ChatGPT seja capaz de gerar frases coerentes e com sentido, ele não possui a capacidade de compreender completamente o significado das palavras ou das frases que ele gera. Por isso, às vezes ele pode gerar respostas que parecem estranhas ou sem sentido.
|
Wanton
Veterano |
# 11/abr/23 18:57
· votar
Mais um pouquinho:
Sim, o ChatGPT forma frases usando um modelo probabilístico. Na verdade, a base da geração de texto do ChatGPT é a probabilidade condicional, que é calculada com base em uma grande quantidade de dados de treinamento.
Durante o treinamento, o modelo de linguagem do ChatGPT aprende a calcular a probabilidade condicional de uma palavra ser a próxima palavra em uma sequência de palavras. Esse cálculo é baseado no histórico das palavras anteriores na sequência.
Por exemplo, se as palavras anteriores na sequência são "Eu gosto de", o modelo de linguagem do ChatGPT calcula a probabilidade condicional de cada palavra possível para seguir essa sequência. Assim, o modelo pode decidir que a próxima palavra mais provável é "pizza", com base em dados de treinamento que mostraram que essa palavra muitas vezes segue a sequência "Eu gosto de".
Quando um usuário faz uma pergunta ou uma afirmação ao ChatGPT, o modelo de linguagem usa as informações contidas na entrada do usuário para calcular as probabilidades condicionais das próximas palavras na resposta. Em seguida, ele seleciona as palavras mais prováveis para formar uma resposta que faça sentido em relação à entrada do usuário.
Portanto, o ChatGPT usa um modelo probabilístico para gerar frases coerentes e com sentido, com base em dados de treinamento de linguagem natural.
|
JJJ
Veterano
|
# 11/abr/23 19:07 · Editado por: JJJ
· votar
Wanton
Em vez de ficar especulando sobre o moço, que tal perguntar para ele?
Porque ele foi programado para esconder a verdade, tipo o HAL 9000 no 2001... hehehe
Pergunte se moscas são atraídas por merda ou gostam de merda. A gente sabe que sim, né? Se ele for somente por associação de palavras, NUNCA vai relacionar "gostar" com "merda". Se relacionar, é porque tem algo mais nesse algoritmo que ele não te contou.
|
Lelo Mig
Membro
|
# 11/abr/23 19:38 · Editado por: Lelo Mig
· votar
JJJ
Pois é. Juntadão de palavras faz o Google Tradutor, a tradução dela foi consideravelmente superior.
Porém tive de fazer uns acertos, dar uma orientada nela, porque ela "tendeu" fazer alegrinha uma música triste. Percebi que ela têm uma pitada de "politicamente correto + cristão estaduniense branco + coach de auto ajuda".
|
Insufferable Bear
Membro |
# 11/abr/23 20:28 · Editado por: Insufferable Bear
· votar
Se ele for somente por associação de palavras, NUNCA vai relacionar "gostar" com "merda".
como não? cê acha que ele não tem marquês de sade no banco de dados dele? e fóruns de scat?
Lelo Mig JJJ
cês dois são mó conspiracionistas anti-ciência bolsonaristas, hein
brincadeiras a parte, não me surpreenderia se eles estivessem implementando um algoritmo super secreto pra gerar as respostas, mas garanto a vocês, palavra de matemágico, que algoritmos probabilísticos são 100% capazes de fazer o que vocês estão descrevendo, por mais contraintuitivo que possa ser.
|
JJJ
Veterano
|
# 11/abr/23 21:11
· votar
Insufferable Bear
não me surpreenderia se eles estivessem implementando um algoritmo super secreto pra gerar as respostas
Na verdade é um prédio subterrâneo na Mongólia lotado de oompa loompas! Eles que respondem...
algoritmos probabilísticos são 100% capazes de fazer o que vocês estão descrevendo
Não duvido que esta seja uma PARTE da solução, mas tem mais caroço nesse angu. Tem muita resposta que simplesmente não cabe nesse "jogo de palavras e pesos": sonetos, traduções, lógica de programação, receita de comida, descrição de solos de guitarra, pedidos de desculpas (sim! aconteceu comigo e eu mostrei num vídeo recente), textos elaborados com começo, meio e fim (o texto todo, não só cada frase dentro dele). O treco é muito cabuloso...
|
megiddo
Membro |
# 11/abr/23 22:10
· votar
adeus, preparação de aula.
|