--- title: "A Escócia determina que pessoas continuem responsáveis pelas decisões feitas com IA" author: "André Iglesias" date: "2026-09-07 07:30:00-03" category: "Inteligência Artificial & Dados" url: "http://desbugados.scale.press/portal/desbugados/post/2026/09/07/a-escocia-determina-que-pessoas-continuem-responsaveis-pelas-decisoes-feitas-com-ia/md" --- ## Resumo - O governo escocês publicou diretrizes para manter pessoas responsáveis por decisões apoiadas por IA no setor público. - A IA não deve ser usada quando uma decisão não puder ser explicada ou revisada adequadamente. - Gestores precisam garantir que as respostas dos sistemas sejam precisas, confiáveis e apropriadas. - As equipes responsáveis devem conseguir entender, contestar e anular decisões tomadas com auxílio de IA. - A área de planejamento ambiental exige declaração do uso predominante de IA em documentos submetidos. - Saúde e assistência social receberam orientações provisórias em 17 de agosto de 2026. - Uma estrutura completa para o uso de IA na saúde está prevista para o outono de 2026. --- Quando uma decisão pública passa por uma ferramenta de inteligência artificial, surge uma pergunta que nenhum sistema automático consegue responder sozinho: quem será responsável se algo der errado? Entre **agosto e setembro de 2026**, o **Governo Escocês** publicou novas orientações para responder a essa questão, mantendo pessoas, e não sistemas de IA, como responsáveis pelas decisões tomadas no setor público. A diretriz estabelece que a tecnologia não deve ser usada quando sua lógica não puder ser explicada ou revisada de maneira adequada, além de reconhecer que escolher não utilizar IA pode ser a decisão correta em determinadas tarefas. O objetivo deste artigo é desbugar o que essa regra muda na prática e por que ela coloca a supervisão humana no centro da adoção pública da tecnologia. ## Responsabilidade começa antes do algoritmo A partir dessa orientação, a responsabilidade deixa de ser tratada como uma etapa posterior ao uso da ferramenta. A nova diretriz foi publicada pela **Direção Digital do Governo Escocês** e incorporada ao **Manual de Serviços Digitais da Escócia**, conhecido pela sigla DSSM. Na prática, isso significa que o órgão interessado em usar IA precisa avaliar antecipadamente se a decisão poderá ser compreendida, questionada e revisada por pessoas. O sistema pode auxiliar uma análise, organizar informações ou produzir uma recomendação, mas a existência de uma resposta automática não transfere para a máquina a obrigação de explicar o resultado. Os princípios detalhados no [manual oficial de uso responsável de IA](https://servicemanual.gov.scot/using-ai-in-public-services/use-ai-responsibly) transformam essa exigência em uma referência para o desenho de serviços públicos. Essa arquitetura de responsabilidade também se apoia na **estratégia de IA de cinco anos da Escócia**, lançada em março. Segundo a publicação que detalha as orientações, decisões sobre usar ou não uma ferramenta devem envolver equipes de políticas públicas, profissionais responsáveis pelo desenho de serviços e lideranças seniores. A recomendação evita que uma escolha com impacto sobre cidadãos seja deixada exclusivamente para um algoritmo, termo usado para descrever a sequência de regras e cálculos que processa dados e produz um resultado. O ponto prático é que a adoção precisa ser discutida por pessoas que entendam tanto da tarefa quanto das consequências do serviço, criando uma ponte entre a capacidade técnica do sistema e a responsabilidade institucional. ## Explicação e revisão viram requisitos Na etapa seguinte, a supervisão humana ganha uma definição mais concreta. As diretrizes oficiais exigem que gestores de serviços verifiquem se as saídas produzidas pela **IA** são precisas, confiáveis e apropriadas para a finalidade prevista. Além disso, as pessoas responsáveis pelo serviço precisam conseguir entender o resultado, contestá-lo e anulá-lo quando necessário. Anular uma decisão significa impedir que a recomendação automática seja tratada como definitiva, permitindo que um responsável reavalie o caso e assuma a decisão. Essa possibilidade muda a relação com a ferramenta: a equipe não deve apenas acompanhar se o sistema está funcionando, mas também manter autoridade para interromper o efeito de uma resposta inadequada. O mesmo princípio coloca um limite direto sobre o uso de sistemas cuja lógica não possa ser examinada. A orientação afirma que tecnologias de IA não devem ser utilizadas quando as decisões não puderem ser adequadamente explicadas ou revisadas, uma condição que atinge sistemas conhecidos como **caixas-pretas**, nos quais o usuário recebe um resultado sem conseguir compreender os fatores que levaram a ele. A regra também reconhece que não usar IA pode ser a decisão correta dependendo da tarefa. Para o setor público, essa escolha funciona como um teste simples: se a equipe não consegue explicar o caminho até o resultado, contestar a resposta ou corrigi-la, a ferramenta não atende ao padrão definido pelo governo escocês. ## Regras específicas chegam a planejamento e saúde Quando essa lógica chega ao planejamento e ao meio ambiente, ela ganha uma aplicação ainda mais explícita. A **Divisão de Recursos de Planejamento e Meio Ambiente** determinou que a IA não substituirá o julgamento profissional em decisões, relatórios ou pareceres. A unidade também estabeleceu que qualquer submissão produzida predominantemente por IA deve declarar essa utilização e identificar a ferramenta usada. A falta dessa informação pode afetar a credibilidade do material enviado, o que cria uma responsabilidade adicional para quem apresenta documentos ao órgão. O recado é direto para profissionais e organizações: usar uma ferramenta automática na preparação de um conteúdo não elimina a necessidade de revisar o material nem permite ocultar como ele foi produzido. A mesma preocupação aparece na saúde e na assistência social, embora com um cronograma próprio. Em **17 de agosto de 2026**, foram emitidas diretrizes provisórias para orientar a adoção de IA nesses setores, com o objetivo de apoiar a tomada de decisões por meio de salvaguardas apropriadas. Salvaguardas são controles criados para reduzir riscos e manter a intervenção humana quando uma decisão puder afetar um serviço ou uma pessoa. A estrutura completa está prevista para ser publicada no **outono de 2026**, enquanto as regras provisórias oferecem uma referência para o período de transição. Assim, a Escócia aplica a mesma ideia geral em áreas diferentes, mas reconhece que cada serviço precisa de controles compatíveis com sua responsabilidade. ## O que muda para quem cria serviços públicos Fora dessas áreas específicas, o novo conjunto de orientações anunciado pelo governo organiza quatro preocupações para o setor público: uso responsável, transparência, supervisão humana e responsabilidade institucional. Stewart Hamilton, do **Governo Escocês**, confirmou a publicação dos recursos no Manual de Serviços Digitais da Escócia, cujo conteúdo inicial se concentra nesses pontos. Transparência, nesse contexto, significa informar ao público quando e por que uma ferramenta de IA está sendo utilizada, em vez de deixar a presença do sistema escondida atrás do serviço final. Essa exigência muda o planejamento de um projeto desde o início, porque a equipe precisa definir quem acompanha a ferramenta, como uma resposta será questionada e em que momento uma pessoa poderá substituir o resultado automático. Lidas em conjunto, as regras mostram que a avaliação de uma IA pública não depende apenas da capacidade de gerar respostas rapidamente. A equipe precisa saber se o resultado é adequado para a tarefa, se pode ser explicado para quem foi afetado e se existe um responsável capaz de contestá-lo e anulá-lo. A transparência completa esse circuito ao exigir que o público saiba quando a tecnologia participa do atendimento ou da decisão. Essa combinação também evita que a expressão supervisão humana vire apenas um rótulo: a pessoa responsável precisa ter acesso ao processo, autoridade para discordar e condições para corrigir o resultado. O modelo escocês, portanto, coloca a governança, ou seja, o conjunto de regras que organiza decisões e responsabilidades, no mesmo nível da escolha tecnológica. ## A caixa de ferramentas para decidir com IA Para quem precisa avaliar uma ferramenta antes de colocá-la em um serviço público, a orientação escocesa oferece um roteiro prático. Primeiro, é preciso verificar se as respostas são precisas, confiáveis e apropriadas para a tarefa. Depois, a equipe deve confirmar se consegue entender o resultado, contestá-lo e anulá-lo. Em seguida, precisa definir como informará ao público quando e por que a IA está sendo usada. Se a decisão não puder ser explicada ou revisada, a própria diretriz indica que não utilizar a tecnologia pode ser a escolha correta. No planejamento ambiental, essa verificação inclui declarar o uso predominante de IA e identificar a ferramenta, enquanto na saúde e na assistência social deve considerar as salvaguardas previstas nas orientações provisórias. O próximo passo já está indicado pelas próprias medidas publicadas: a **estrutura completa para saúde e assistência social** está prevista para o outono de 2026, enquanto os recursos do Manual de Serviços Digitais ampliam a referência para o restante do setor público. Até lá, a regra central permanece simples de explicar, embora exija disciplina para ser aplicada: uma IA pode participar do processo, mas a pessoa responsável precisa continuar capaz de compreender, revisar e, se necessário, rejeitar sua recomendação. É essa autoridade humana que impede que uma resposta automática vire uma decisão sem dono, mantendo a responsabilidade ligada a quem desenha, administra e oferece o serviço ao público.