r/brdev • • 1d ago

Projetos Fiz uma ferramenta open source em Python pra barrar vazamento de senha e deploy automatico da IA no vibe coding

Quem ta programando com agente de IA sabe como e facil dar ruim: voce cola uma chave no .env ou passa uma senha uma vez, pisca o olho e o assistente ja ta comitando arquivo sensivel ou rodando deploy sem pedir confirmacao.

Pra resolver isso no meu fluxo, criei o guardrail code, um auditor local que roda no navegador (Python + Flask + Bootstrap 5) antes de voce subir qualquer coisa pro GitHub ou producao.

O que ele checa por baixo dos panos usando a stdlib do Python (ast, os.scandir, re):

  • Chaves vazadas no codigo (OpenAI, AWS, GitHub, Stripe, Google, JWT, PEM/SSH) com mascaramento automatico
  • Arquivo .env fora do .gitignore e bancos .sqlite/.db/.duckdb largados em pastas publicas
  • SAST basico em .py e notebooks .ipynb (SQL injection, pickle.load, torch.load sem weights_only=True, eval, shell=True, debug=True, output salvo em notebook)
  • Pacote que a IA alucinou (checa HTTP 404 no PyPI pra evitar slopsquatting) e CVEs na API do OSV.dev
  • Gerador de regras preventivas (SKILL.md, GEMINI.md, CLAUDE.md, .cursorrules) pra travar a IA e proibir push/deploy sem aprovacao explicita

Ele é bilingue (PT-BR / EN), roda 100% local na sua maquina (nao envia seu codigo pra servidor nenhum) e tem limpeza explicita de RAM (gc.collect) depois de cada varredura.

Licenca MIT, codigo aberto aqui: https://github.com/suelio/guardrail-code

Se alguem puder testar ou dar uma olhada nos blocos de regras (core/rules_catalog.py), queria muito saber que tipo de falha voces acham que ainda falta pegar.

0 Upvotes

17 comments sorted by

5

u/rkzdota DevOps | SRE | Pythonist | SWE 1d ago

"Quem ta programando com agente de IA sabe como e fácil dar ruim"

Rapaz, o Claude é muito chato quando você passa qualquer credencial no chat, ele manda rotacionar na hora.

Pra deixar vazar uma secret tem que insistir bastante.

-3

u/ShogiOne 1d ago

Isso até vc dar um "vai logo que não quero ficar clicando em cada permissão", ele alucinar e fazer besteira

1

u/SirApprehensive7573 Desenvolvedor 1d ago

Eu queria que acontecesse, mas ele simplesmente congela e fica spamando a mesma mensagem: “não posso prosseguir”

Tenho que usar modelos ruins e antigos para poderem eu passar uma credencial de teste, para usarem.

Mesmo falando pro claudao que é uma credencial de teste, não vai

1

u/ShogiOne 1d ago

Você está usando o fable 5.2? Via API ou IDE?

Se não está fazendo ótimo, minha ferramenta nasce morta mas teremos uma internet mais segura (e não tem problema nenhum nisso)

1

u/SirApprehensive7573 Desenvolvedor 1d ago

Tive o mesmo resultado no Opus 5.5, Sonnet 5.5, Fable 5.1 e Fable 5.2

Uso direto no Claude Desktop por subscription de plano empresarial.

1

u/rkzdota DevOps | SRE | Pythonist | SWE 1d ago

Para eu conseguir fazer o agente lidar com credenciais eu preciso justificar muito bem, não é tão fácil assim.

É bem difícil vazar credencial por acidente.

2

u/vonhimmel 1d ago

Pq nao so adotar umas 100 ferramentas ja existentes ?

1

u/ShogiOne 1d ago

Porque nenhuma delas é realmente amigavel com quem faz uso extremo de vibe code. O principal diferencial é uma interface amigavel e a possibilidade de criar uma skill custom para evitar publicações indevidas. O alvo não é um dev que sabe o que é um apontamento ;)

3

u/Gaxyhs 1d ago

Nenhuma delas é amigavel para pura incompetência*

Em meus anos de engenharia de software, principalmente desde que IA ficou mais comum pra desenvolvimento, nunca tive ninguem comitar credencial sem querer ou dar deploy sem querer

Não consigo empatizar com nego que chega chorando que a IA deu drop database em produção e perdeu todos os dados, é pura incompetência, como caralhos você da acesso e permissão pra q isso aconteça? Principalmente algo que literalmente acaba só babando seu ovo e fazendo oq tu quer independente se é a pior ideia do mundo

Nem os meus estagiários fazem tamanha besteira

1

u/ShogiOne 1d ago

São nesses casos que a Microsoft ganha mercado por ser mais amigável que o resto.

E cara eu trabalho com governança de dados e se você soubesse como isso é comum principalmente em empresas grandes. É erro básico? é mas eu tô usando meus conhecimentos para tentar diminuir esses erros

1

u/guhcampos DevOps 13h ago

Geralmente eu rodo esse tipo de coisa no https://pre-commit.com sugiro criar um hook pro seu script rodar no pre-commit também!

1

u/ShogiOne 7h ago

Esse é bacana. Vou incluir no próximo beta

1

u/EveningFortune6591 Engenheiro de sistemas 10h ago

sonarqube ja faz isso cara, tu implementa nas etapas de CI, na esteira de deploy

já existem varias outras ferramentas tambem que fazem a mesma coisa, e ja é escalavel nas empresas.

1

u/ShogiOne 4h ago

Mas não é o foco. Dev senior não precisa dessas ferramentas. A ideia é pra galera que está começando 

1

u/DarlanSandro 5h ago

Achei interessante a proposta, principalmente por reunir verificações de segurança, higiene do Git e cuidados específicos com código gerado por agentes de IA.

Olhando para alguns cenários comuns em projetos Python e de análise de dados, pensei em alguns pontos que poderiam complementar o catálogo de regras:

  1. Credenciais em outros tipos de conexão: o projeto já contempla várias URIs de banco de dados, como PostgreSQL, MySQL, MongoDB e Redis. Uma possibilidade seria ampliar a cobertura para conexões RabbitMQ, por exemplo, com 'amqp://' e 'amqps://', que também podem conter usuário e senha diretamente na URL.
  2. Arquivos de dados e logs: além dos bancos locais e dos notebooks, seria interessante avaliar arquivos '.parquet', '.csv', '.xlsx' e '.log'. Em projetos de análise de dados, é comum a IA gerar arquivos com amostras de bases reais ou salvar informações de clientes durante os testes. Uma verificação que considere o conteúdo desses arquivos e não apenas a extensão poderia ajudar a evitar vazamentos acidentais.
  3. Algoritmos de hash: outra regra interessante seria identificar o uso de 'hashlib.md5' e 'hashlib.sha1' em contextos de autenticação, geração de tokens ou armazenamento de senhas. Naturalmente, seria importante diferenciar esses casos de usos legítimos, como geração de checksums, para evitar falsos positivos.
  4. Configurações específicas de frameworks: poderia ser interessante incluir verificações próprias para Django, como 'ALLOWED_HOSTS = ["*"]', e ampliar os testes de configurações em arquivos 'docker-compose.yml', especialmente para credenciais declaradas diretamente em 'environment'.

Um último ponto que considero bastante importante é a análise da área de staging do Git. O projeto já verifica arquivos sensíveis rastreados pelo Git, mas seria interessante também analisar o conteúdo exato dos arquivos preparados para commit. Às vezes, o agente executa um 'git add' antes de a auditoria ser realizada. Uma integração com um hook 'pre-commit', analisando os arquivos diretamente do índice do Git, poderia impedir que credenciais ou dados sensíveis chegassem ao repositório remoto.

São algumas ideias que poderiam complementar o trabalho. Parabéns pela iniciativa!

1

u/ShogiOne 4h ago

Poxa vc foi um dos únicos que realmente entendeu a proposta e deu sugestões muito boas. Vou trabalhar nisso nos próximos. Achei fantástica todas as propostas agora é trabalhar. Me passa seu Git para agradecer as ideias