SandboxIA na Educação
Voltar à página inicial

Governança e salvaguardas

Papéis definidos para supervisionar cada experimento

Cada experimento define quem supervisiona, quem corrige falhas e quem decide sobre o uso. A governança aproveita instâncias e fluxos que o órgão já tem, sem criar uma estrutura de decisão paralela.

Responsabilidades

Quem faz o quê

Cada participante tem responsabilidades definidas para garantir acompanhamento, correção de falhas e decisões dentro de suas competências.

Órgão demandante

define

Equipes e especialistas

avalia
Centro do processo

TESTE

NEES

opera

Responsável pela solução

corrige

Órgão demandante

Define prioridades, indica áreas e participantes e delibera sobre o uso, no âmbito de suas competências.

NEES

Estrutura o protocolo, opera os testes, documenta resultados e recomenda condições de uso.

Equipes e especialistas

Avaliam utilidade, segurança e implicações do domínio da política.

Responsável pela solução

Disponibiliza versão e documentação, responde a falhas e implementa as correções acordadas.

Proteção e responsabilidade

Salvaguardas em cada experimento

Cada experimento deve observar cuidados específicos para proteger as pessoas envolvidas, os dados utilizados e a integridade do processo.

Dados pessoais

Base legal e acesso controlado.

Supervisão humana

Revisão e resposta a incidentes.

Autorizações setoriais

Enquadramento pela autoridade competente quando aplicável (por exemplo, a Anvisa, em saúde).

Pesquisa com pessoas

Análise ética aplicável.

Independência na avaliação

Quando o NEES desenvolve e avalia

Se a solução testada foi desenvolvida pelo próprio NEES, a avaliação é feita por equipe separada, com revisão independente e regras de conflito de interesses.

Critérios de execução

Regras de cada experimento

Cada tipo de atividade possui condições próprias. A participação no sandbox não substitui autorizações nem afasta as regras aplicáveis.

EnquadramentoAplicaçãoCondição de execução
Testagem algorítmica e operacionalAvaliar desempenho, segurança, utilidade e integração da solução nas condições definidas.Protocolo, supervisão e cumprimento das regras aplicáveis. Ingressar no sandbox não autoriza uso em produção.
Sandbox regulatórioExaminar uma barreira normativa específica que impeça um experimento relevante.Autoridade com competência setorial, ato próprio e limites de alcance e duração (LC 182/2021).
Dados pessoaisTratar só os dados necessários, em ambiente com controle e rastreabilidade.Base legal, responsabilidades e salvaguardas da LGPD. Acesso autorizado e avaliação de risco antes dos testes.
Autorizações setoriais e pesquisaVerificar se a finalidade exige autorização do regulador do setor ou análise de ética em pesquisa.Órgãos e instâncias competentes, quando aplicável. O sandbox não substitui essas autorizações.

Em telas menores, deslize horizontalmente para consultar todas as colunas da tabela.

O contrato não flexibiliza normas