Pular para o conteúdo
Voltar ao Blog
Produto

Por que treinamos nossa própria IA em vez de alugar uma

William Finger4 min

Quando comecei a construir o Geneziz, havia uma receita padrão para adicionar IA a um aplicativo, e todo mundo a seguia: alugar uma inteligência grande e poderosa de um datacenter, enviar os dados dos seus usuários para lá e cobrar um pedágio mensal pelo privilégio.

Eu não queria essa receita. Em parte porque sou teimoso. Mas principalmente porque ela quebra a única promessa que o Geneziz faz: seus arquivos ficam na sua máquina.

Alugar não combinava

O Geneziz é local-first de propósito. Seus favoritos e capturas viram arquivos Markdown simples no seu computador — arquivos que você pode abrir, pesquisar e guardar por vinte anos. Então a receita padrão veio com três custos que ninguém coloca na página de preços:

  • Sua biblioteca sai de casa. Organizar "na nuvem" significa enviar suas páginas salvas para os servidores de outra pessoa, para serem triadas lá. É o oposto exato de local-first.
  • Morre sem internet. Um cérebro alugado mora longe. Se a sua conexão cai, o seu organizador cai junto.
  • O medidor nunca para. Cada item organizado, cada pergunta feita — alguém, em algum lugar, está pagando aluguel. E aluguel sempre acaba sendo repassado.

Nada disso precisava existir. Só existia porque se supunha que treinar a própria era difícil demais.

Então treinamos a nossa

A Geneziz AI é nossa. Não licenciada, não emprestada, não rotulada por terceiros — treinada por nós, no nosso laboratório, em hardware que é nosso. Todas as fases, dos primeiros experimentos à versão que vai ao ar, rodaram em um Mac e um PC. Nunca alugamos uma GPU. Nem uma vez.

Quero ser honesto sobre o que isso significa. É o caminho lento. Grandes laboratórios jogam dinheiro nisso; construímos a nossa em hardware que já possuíamos. Algumas lições levaram semanas que eu não tinha planejado.

Mas o caminho lento comprou algo: como somos donos de cada peça, não há ninguém lá no alto da cadeia para pagar. Sem conta mensal para mim, sem assinatura para você.

Ensinando-a a ser uma boa arquivista

O organizador dentro do Geneziz precisava aprender muito bem uma coisa: o julgamento de um bom arquivista. Não a minha estrutura de pastas, nem a sua — a perícia de decidir onde as coisas pertencem, para que ele se adapte a qualquer biblioteca que encontrar.

Para isso, criamos o nosso próprio material de estudo. Corrigimos o dever de casa dele repetidamente, contra uma régua honesta: ele vai ao ar quando for realmente bom, não quando parecer esperto. E, para deixar claro algo que importa: ele aprendeu com material que criamos para esse fim. Sua biblioteca nunca esteve no plano de aula. A de ninguém esteve.

Quatro coisas fizeram um cérebro minúsculo bater muito acima do seu tamanho:

  • Uma pergunta moldada, não uma redação. Nunca perguntamos "qual pasta e por quê?". Fazemos uma pergunta de múltipla escolha e lemos a confiança do modelo sobre as opções. Uma decisão, um token — discriminação se treina num cérebro pequeno; prosa, não.
  • Os dados certos, na dose certa. Medimos uma lei: material sintético estagna não importa quanto você adicione, e dados de estranhos são ruído. O que moveu o ponteiro foi material real e curado — algumas centenas de exemplos levaram o organizador do chute a acertar a pasta certa entre as três primeiras, 94% das vezes.
  • Uma receita congelada. O método de treino nunca muda entre tentativas — o conjunto de dados é a única variável. Uma geração custa cerca de 55 minutos em uma única GPU de consumo. É assim que um laboratório caseiro ganha mais iterações do que um orçamento compra.
  • Honestidade medida. Toda comparação passa por verificações de vazamento e regras de leitura pré-comprometidas — o que pegou o nosso próprio placar mentindo duas vezes. Doloroso. É exatamente por isso que as vitórias que publicamos são bancáveis.

O placar da nossa própria biblioteca: um modelo que ocupa 0,4 GB em disco venceu um modelo 18 vezes maior por mais de 30 pontos de acerto — respondendo em cerca de 8 milissegundos, offline, de graça.

E essa honestidade não parou no lançamento. O AI Hub mostra a acurácia real do organizador na sua própria biblioteca, contra uma régua de qualidade de 85% — medido na sua máquina, não em algum laboratório.

O que isso compra para você

Aqui está a parte que você realmente sente:

  • Já vem dentro. O organizador vai no instalador — o app inteiro, cérebro incluído, soma cerca de 1,6 GB, menor que um filme em HD. Na primeira abertura, já está trabalhando. Nada para baixar antes, nada para configurar.
  • Funciona offline. Num avião, num wi-fi de hotel instável, daqui a anos. A internet é opcional; a sua biblioteca não fica amarrada à nossa.
  • É grátis. A IA local nunca toca os seus créditos. Organizar a sua biblioteca custa exatamente nada. Não é promoção — é o design.
  • Ela aprende você. Cada pasta que você confirma ensina a sua IA local, na sua máquina, em segundos. E quando ela não tem certeza, diz: três melhores palpites, com números de confiança honestos.
  • Maior, se você quiser. Para o chat, você pode adicionar um cérebro maior de dentro do app: cerca de 2,5 GB para baixar, uns 3,5 GB de memória enquanto roda, pausável a qualquer momento — e adicioná-lo nunca deixa uma pergunta bloqueada: um pequeno assistente embutido responde offline desde o primeiro dia.
  • Sem sobras. As atualizações limpam sozinhas os cérebros antigos, para o seu disco não juntar poeira de gigabytes.

Uma coisinha da qual me orgulho: você nunca verá um nome de modelo em nenhum canto do app. Apenas palavras simples — local, rápido, seu.

O caminho lento, de propósito

O caminho óbvio — alugar — teria chegado ao lançamento mais rápido. Também teria deixado o Geneziz um pouco menos seu, e um pouco menos livre para continuar sendo seu.

Então fizemos do jeito lento. Nossas máquinas, nosso ritmo, nossa régua. Quando o Geneziz sugere discretamente a pasta certa para aquela coisa que você salvou há três semanas, essa sugestão foi conquistada no duro — e custa exatamente nada.

Seus arquivos. Sua máquina. Sua inteligência. Essa é a ideia inteira.

Posts relacionados

Sumário