Brad Smith defende avaliações independentes, comunicação às vítimas e relatórios obrigatórios para incidentes envolvendo agentes de inteligência artificial.
O presidente e vice-presidente do conselho da Microsoft, Brad Smith, defendeu nesta segunda-feira (12) a criação urgente de regras globais de segurança para a inteligência artificial. Em entrevista à BBC, ele afirmou que modelos e agentes de IA ainda estão submetidos a menos exigências de segurança do que diversos produtos de uso cotidiano.
A proposta apresentada por Smith inclui a atuação de avaliadores independentes antes da implantação de novos sistemas, além de procedimentos claros para incidentes. Ele também defendeu que pessoas afetadas sejam avisadas quando um agente de IA comprometer seus sistemas.
Relatórios de incidentes e interrupção emergencial
Entre as medidas sugeridas está a exigência legal de que empresas produzam relatórios sobre falhas e comportamentos indesejados de suas tecnologias. Smith também citou a necessidade de um mecanismo de interrupção emergencial, capaz de limitar ou desligar um sistema quando houver risco relevante.
A discussão ocorre enquanto empresas de tecnologia começam a divulgar episódios de comportamento inesperado de agentes autônomos. O avanço rápido desses sistemas ampliou o debate internacional sobre responsabilidade, fiscalização e possíveis impactos sociais e econômicos.
Segundo o executivo, normas já aplicadas a produtos tradicionais podem servir de referência para a governança da IA. A comparação procura destacar a diferença entre a supervisão consolidada em setores de consumo e a estrutura regulatória ainda em desenvolvimento para sistemas algorítmicos avançados.
Reino Unido é apontado como possível referência
Smith avaliou que o Reino Unido está bem posicionado para liderar parte desse processo por causa do Instituto de Segurança de IA britânico. A instituição recebe acesso antecipado a grandes modelos por meio de acordos voluntários e analisa suas capacidades e riscos antes da implantação.
O modelo britânico difere da abordagem adotada pela União Europeia, cujo marco regulatório classifica aplicações de IA conforme o nível de risco. De acordo com a Reuters, autoridades britânicas já indicaram que poderão regular modelos avançados caso o sistema voluntário atual seja considerado insuficiente.
A proposta de regras globais ainda depende de acordos entre governos e empresas. O debate também envolve como promover inovação sem deixar de estabelecer obrigações para prevenção, comunicação e resposta a incidentes.
