O projeto já está no ar (Vnx_Ollama_RAG), o link do Radicle está na minha bio. Lembrando que o projeto não está finalizado e eu testei pouco, pode ser que aconteça um bug que eu não achei ainda. O processamento dos arquivos na pasta de contexto (my_context) pode demorar para criar o index.json dependendo do tamanho dos arquivos, da quantidade de arquivos, da sua máquina e da sua IA instalada no ollama e configurada no config.json, mas esse processamento só acontece uma única vez. Após o processamento, tem como usar a IA sem problemas. A capacidade de arquivos no my_context depende exclusivamente da sua memória ram e do volume de palavras. Tem um pequeno problema que eu ainda tenho que concertar: toda vez que você retira um arquivo do my_context ou coloca um novo, o programa cria um novo processamento do index.json, o que faz o programa ler tudo no my_context novamente para criar um novo index.json, independente do volume de arquivos colocados ou retirados na pasta. View quoted note →

Amanhã eu já subo o projeto pro Radicle. Por enquanto o projeto é quase monolítico, 98% do que acontece é por causa da pasta main e não tem outra pasta com códigos além dela. O resto é o config,json, a pasta de contexto com os arquivos, os arquivos do Cargo e o index.json que é criado para ajustar a janela de contexto da IA. Se você vai colocar um arquivo muito grande na pasta de contexto, pode acabar esperando horas. Varia da IA e do processamento da sua máquina, IAs menores atualizam o contexto mais rápido, mas sua resposta é mais "fraca".

Boa noite, senhores.

Reddit sendo Reddit. View quoted note →

Por incrível que pareça, o início do meu projeto está sendo mais fácil do que eu pensei. Amanhã eu vou focar em tratar erros, como a ausência do ollama ligado, de um model file que não existe mais foi configurado no config.json e etc. Tratar erros é importante porque o usuário tem que saber o que deu errado com o programa, não dá pra esperar que ele vai funcionar sempre e em todas as condições, principalmente um programa que mexe com pastas e arquivos feitos para serem modificados. Poupa o trabalho de olhar milhares de linhas no terminal. Mas, no momento, o programa até que funciona. Curiosamente, ele inicia mais rápido que o chat padrão do ollama, porém demora pra carregar as respostas mesmo com uma IA pequena porque o chat começa verificando cada arquivo, o que gasta tempo e tokens. Isso é outra coisa que eu pretendo resolver também. View quoted note →

Eu estou pensando em criar um programa que vai fazer a IA do ollama conseguir ler os arquivos que estiverem em uma pasta específica, vai facilitar na hora de pedir pra IA traduzir textos ou explicar coisas sem precisar usar um comando de direcionamento, a IA já vai ter uma pasta para consultar livremente. Como as IAs do ollama não tem memória, um programa assim pode ser muito útil para a IA ajudar o usuário sem que ele precise explicar o contexto da tarefa sempre que ele desliga e liga a IA de novo. O usuário pode criar um arquivo com o contexto e pedir para a IA ler. Provavelmente eu vou ter que fazer um mecanismo que interpreta qualquer tipo de arquivo para o TXT, isso evita problemas caso a IA do usuário não saiba ler outros tipos de arquivos. Depois eu teria que criar uma conversão de texto para vetores numéricos, que faria a IA ler trechos do texto sem processar tudo que está na pasta, ou o arquivo em específico, coisa que seria impossível pela falta de tokens. O Rust tem uma lib chamada ollama-rs, ela foi feita pra implementar projetos sobre a API do ollama. Provavelmente ela vai me ajudar.

Se você está aqui há mais de um ano, tenho certeza que metade dos seus seguidores sumiram do mapa. Alguns estão em outras contas e não avisaram ninguém sobre isso, enquanto a maioria saiu de vez. É bizarro pensar que no reddit e no twitter eu sou o cara que sumiu sem explicações pra algumas pessoas. Estas pessoas nunca me conheceram num nível de sinceridade que eu expresso aqui, mas talvez tenham criado algum vínculo, ou no mínimo um lampejo de memória. Eu fico perguntando como estão os 50% de seguidores meus que sumiram e não vão voltar. Não conheço à fundo nenhum deles, mas alguns tem um espaço na minha memória e desejo que eles tenham evoluido como pessoas, assim como eu eu evolui.

Como eu imaginava que ia acontecer: os analog horros estão decaindo como as creepy pastas.

Não tem uma vítima, não tem local do crime e não tem data do ocorrido. Mas tem cadeia e muito pânico moral, coisa que não tem pra muito imigrante criminoso que entrou no país. View quoted note →

Postar essa imagem dessa estando na Inglaterra me renderia uma cadeia, literalmente. Tem uma Vtuber que está em prisão domiciliar por fazer desenho de loli.

Eu fui ver posts muito antigos no reddit sobre cibersegurança e me apareceu um cara reclamando que ele não achava fóruns e grupos de hackers feministas e queer. Normalmente a cultura hacker se volta contra o sistema. Acho que nesses anos que passaram esse cara teve muita coisa pra refletir sobre a vida.