Pular para o conteúdo
Voltar ao Blog
Produto

Matamos a nossa melhor feature (os números mandaram)

William Finger5 min

Matamos a nossa melhor feature (os números mandaram)

Toda empresa conta sobre as features que lançou. Esta é sobre a que matamos.

Construindo a Geneziz AI — a inteligência local que organiza sua biblioteca — treinamos algo extra: uma voz para o app. Ajustamos no nosso próprio hardware, medimos contra todo resultado de conversa que já tínhamos registrado, e era o melhor que já tínhamos tido. O moral do time dizia: lança.

O nosso portão de qualidade disse não. Custava uns nove pontos de precisão do organizador — e o organizador é o produto. Uma regra que escrevemos antes do experimento — não sobe nada que piore o núcleo — decidiu. A voz virou documento de futuro opt-in, não caixinha no app.

O portão foi escrito antes do experimento

Essa é a parte que todo mundo pula. A gente não discutiu depois de ver os números; registramos a regra de reprovação primeiro e só então rodamos o treino. O resultado veio abaixo da régua e não teve argumento. Testamos também empilhar os dois papéis num modelo só — mesmo trade, mesmo veredito. Dois mundos, negados por medição.

A mesma disciplina pegou algo constrangedor: um número de performance que tínhamos publicado (72ms) estava atribuído ao cenário errado. Corrigimos publicamente e republicamos a tabela honesta — que, por sinal, ficou melhor.

O prêmio: 16× mais rápido, numa CPU

Repensar como o organizador lê o contexto deixou tudo dramaticamente mais rápido: o que levava cerca de 8,5 minutos para mil favoritos agora leva ~32 segundos — num CPU comum, 100% offline, de graça. Com GPU, voa.

E aqui está a descoberta que moldou o produto: dado pessoal é sinal para o dono e ruído para todo o resto. Medimos — dado sintético tem teto não importa o volume, e dado de estranho não move nada. Então a arquitetura é honesta: um modelo universal pequeno e bem treinado que vem dentro do app (~1,6 GB), mais uma camada pessoal minúscula que aprende com suas confirmações — na sua máquina, em segundos, sem nunca sair dela.

Treinado em casa, nas nossas próprias máquinas

Sem GPU alugada. Sem conta de datacenter. O treino rodava de noite, em casa, numa placa gamer que a gente já tinha — cada geração, uns 55 minutos. Quando os números diziam que uma técnica estava atrapalhando, congelamos a receita e não olhamos para trás.

É isso que "local-first com IA" significa pra gente: custo de nuvem zero, nenhum dado saindo de casa, e uma régua de qualidade com coragem de dizer não às nossas próprias ideias favoritas.

Geneziz: geneziz.app — a inteligência que mora na sua máquina, e a honestidade de mantê-la assim.

Posts relacionados

Sumário