Dorsey torna risco catastrófico o teste para restrições a releases de IA

Em “Open the frontier”, Jack Dorsey responde à proposta de desacelerar a fronteira de IA, de Dario Amodei, com um teste de política: releases abertos e escrutínio externo devem continuar como padrão; reter um modelo exige evidência revisável de dano catastrófico relevante e de que controles mais estreitos não bastam. Por que importa: Isso separa a política de publicação do modelo das permissões em runtime. Um release pode ser aberto enquanto agentes continuam sujeitos a sandbox, isolamento de credenciais, limites de ferramentas e interrupção de experimentos inseguros; restrições amplas também podem elevar o custo de conformidade e consolidar os laboratórios ou governos atuais.

Para testar: Revise uma política de release de modelos. Exija que ela registre o dano catastrófico, as evidências, os controles mais estreitos testados, o revisor independente, a via de recurso e a data de reconsideração; salve o resultado como um diff da política.