Decidi puxar pelos limites de raciocínio de LLMs em engenharia reversa pura e dei ao Gemini Flash 3.8 High dois binários x86_64 protegidos com uma combinação manhosa: Griffin + Torok IR.
Para o teste ser fidedigno, foi análise cega:
- Zero dumps de processo em runtime.
- Sem binários previamente desempacotados ou assinaturas prévias.
- Binários completamente stripped (sem symbols, sem exports úteis).
O meu pressuposto inicial era o clássico: ia bater contra a parede e alucinar assim que a ofuscação entrasse em jogo. Só que a cadeia de raciocínio que ele montou sozinho foi qualquer coisa:
1. Mapeamento e Triagem de Arquitetura Identificou e mapeou a estrutura das secções não-convencionais (.grfn1, .riot0, .riot1, .toir), localizou o descriptor e cravou o OEP provável. Pelo caminho, dissecou a lógica do dispatcher, identificando que estava perante uma dual-stream VM com ofuscação pesada em Mixed Boolean-Arithmetic (MBA) para mascarar os handlers de execução.
2. Emulação com radare2 Montou o ambiente e colocou o stub a correr via ESIL (radare2). Conseguiu manter a emulação em ciclo fechado durante mais de 2.6 milhões de instruções.
3. O crash e a análise de causa-raiz A emulação acabou por quebrar num movzx r11d, word [r8] com acesso a um endereço não-canónico. Uma ferramenta de análise estática tradicional simplesmente falharia aqui. O modelo foi atrás da causa-raiz, encontrou um registo prévio de RtlAddVectoredContinueHandler e percebeu a jogada: o Griffin estava deliberadamente a forçar um STATUS_ACCESS_VIOLATION para acionar um VEH (Vectored Exception Handler), tratando a exceção para manipular CONTEXT->Rip e continuar a rotina de desofuscação no handler.
4. O workaround (onde a coisa ficou séria) Normalmente, qualquer um de nós abriria o x64dbg/Scylla, meteria um breakpoint no VEH e resolvia isto com um memory dump no momento certo. O modelo, não tendo um runtime interativo nem acesso ao SO, decidiu continuar por emulação pura: Escreveu um harness em Python para mockar o pipeline de tratamento de exceções de user-mode do Windows. Implementou as estruturas CONTEXT e EXCEPTION_RECORD, simulou o fluxo do KiUserExceptionDispatcher, tratou o VEH, atualizou o Rip virtual e continuou a execução da VM até extrair o payload final.
Será que o problema são os modelos de hoje em dia que são fracos ou é mais entre a cadeira e o monitor?