O GPT-6 Astra lê e edita pesos de redes neurais no post Weight-Space Programming; a correção de matemática no Qwen rodou em um kernel Python

Em um post de 2 de novembro, Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab, do MIT CSAIL, relatam oito experimentos em que o GPT-6 Astra lê ou escreve pesos de redes neurais sem gradiente descendente. Recebendo os pesos brutos em texto, uma descrição do grid e das ações sem o nome de nenhum jogo, e nenhuma ferramenta, ele acertou o jogo para o qual cada uma de quatro políticas PPO de 17.253 pesos foi treinada. O resultado de matemática teve outras condições. O Astra editou o Qwen3.5-0.8B a partir de um kernel Python, e a execução por trás dos números abaixo tinha uma cota de 50 forward passes em problemas de treino. Ele ligou os loops de raciocínio do modelo a uma direção nas camadas 15 e 19 e a removeu de 131.072 pesos (0,016%). O MATH-500 subiu de 7,9% para 48,1% e o IFEval de 21,0% para 62,3%. O Astra não conseguiu melhorar o Gemma 3 270M, que quase não entra em loop. Só pelos pesos, ele também não conseguiu dizer qual de dois modelos Gemma foi treinado para ser bajulador, mas apontou o bajulador nos três pares quando pôde ver os padrões de atenção. Os autores publicaram todos os prompts, respostas e avaliações no repositório RikiyaT/lm_understand-logs. Por que importa: O TL;DR do post diz que o Astra trabalha "using a variety of recent tools and algorithms or even via direct weight editing" (usando várias ferramentas e algoritmos recentes, ou até editando os pesos diretamente) e depois diz que ele descobre para que uma rede foi treinada "just by looking at the raw weights" (só olhando os pesos brutos). Matthew Honnibal argumenta que o leitor vai supor que o resultado de matemática no Qwen foi obtido do mesmo jeito. Não foi. Esse resultado veio de um modelo que escreveu Python e testou as edições em problemas de treino. Honnibal diz que ele mostra o Astra fazendo tarefas que "a human ML engineer could do" (um engenheiro de ML humano conseguiria fazer), e Sean Goedecke diz que o método foi "exactly what a competent human researcher could have and would have done" (exatamente o que um pesquisador humano competente poderia ter feito e faria). A edição tirou um vício de repetição, então o modelo pequeno passou a terminar respostas que já sabia resolver, e os autores dizem que editar pesos "could not add an ability the model lacked" (não conseguiu dar ao modelo uma habilidade que ele não tinha). Simon Willison rodou os prompts sem ferramentas do Experimento 1 com o Qwen 3.8 27B no notebook dele. O modelo acertou Pac-Man, Pong e Breakout, mas errou Freeway. Leia as condições de cada experimento antes de repetir o número de 7,9% para 48,1%.

Para testar: Abra a pasta exp1_which_game no repositório RikiyaT/lm_understand-logs e rode um runs/<jogo>/prompt.txt em um modelo que você usa, sem ferramentas. Compare a resposta com o jogo no nome da pasta e com a resposta registrada do Astra no answer.md da mesma pasta. Conte com uma execução longa. A execução de Simon Willison falhou com o contexto padrão de 8.192 tokens do LM Studio, e o prompt de Pac-Man levou 46 minutos no notebook dele.